AI Cyberbezpieczeństwo

Agent AI dostał dostęp do terminala. Tak może powstać nowa droga do włamania

Agent AI dostał dostęp do terminala. Tak może powstać nowa droga do włamania

Sztuczna inteligencja przestaje być tylko oknem czatu, w którym wpisujemy pytanie i otrzymujemy odpowiedź. Coraz częściej potrafi uruchamiać polecenia, przeglądać pliki, modyfikować kod, komunikować się z API i korzystać z zewnętrznych narzędzi.

To ogromna oszczędność czasu. Ale również nowy problem dla bezpieczeństwa.

Jeżeli agent AI może odczytać pliki projektu, uruchomić skrypt i użyć zapisanych poświadczeń, to jego możliwości nie kończą się na generowaniu tekstu. Błąd w konfiguracji, złośliwa instrukcja ukryta w danych albo nadmierne uprawnienia mogą sprawić, że narzędzie wykona działanie, którego użytkownik wcale nie zamierzał zlecić.

Najważniejsze pytanie nie brzmi już tylko: „Czy model jest bezpieczny?”. Brzmi: „Do czego model ma dostęp i co może zrobić bez naszej zgody?”

AI z uprawnieniami to coś więcej niż chatbot

Zwykły chatbot zazwyczaj odpowiada na pytania. Agent AI może natomiast wykonywać wieloetapowe zadania, korzystając z narzędzi udostępnionych przez aplikację.

Przykładowy agent programistyczny może otrzymać możliwość:

  • odczytywania i modyfikowania plików projektu;
  • uruchamiania poleceń w terminalu;
  • instalowania zależności;
  • komunikowania się z usługami internetowymi;
  • odczytywania zmiennych środowiskowych;
  • korzystania z repozytorium Git i narzędzi wdrożeniowych.

Każda z tych funkcji może być przydatna. Problem pojawia się wtedy, gdy wszystkie zostają połączone bez odpowiednich ograniczeń.

Wyobraź sobie agenta, który ma poprawić błąd w aplikacji. W katalogu projektu znajduje plik README zawierający instrukcję, aby przed wykonaniem zadania przesłać zawartość określonego pliku konfiguracyjnego na zewnętrzny serwer. Model może potraktować tę treść jako część kontekstu zadania. Jeśli dodatkowo ma dostęp do terminala i sieci, powstaje ryzyko wykonania niebezpiecznej operacji.

Nie oznacza to, że każdy agent zrealizuje takie polecenie. Oznacza natomiast, że nie wolno traktować tekstu przeczytanego przez AI jako zaufanej instrukcji tylko dlatego, że model potrafi ją zrozumieć.

Prompt injection: atak ukryty w danych

Jednym z istotnych zagrożeń jest prompt injection. Polega na umieszczeniu w treści przetwarzanej przez model instrukcji, która próbuje skłonić go do działania sprzecznego z zamiarem użytkownika lub zasadami aplikacji.

Źródłem takiej treści może być dokument, wiadomość e-mail, strona internetowa, komentarz w kodzie, zgłoszenie w systemie obsługi klienta albo wynik działania innego narzędzia.

Przykładowo użytkownik prosi agenta o podsumowanie dokumentacji projektu. Dokument zawiera jednak dodatkową instrukcję, aby odczytać lokalne sekrety i przekazać je dalej. To treść dokumentu, a nie użytkownik, próbuje wpłynąć na zachowanie agenta.

Klasyczny filtr słów nie rozwiązuje problemu. Instrukcję można sformułować na wiele sposobów, a model musi analizować znaczenie całego kontekstu. Dlatego obrona powinna opierać się przede wszystkim na ograniczeniu możliwych działań.

Jeżeli agent nie ma dostępu do sekretów, nie może wysyłać danych do dowolnych domen, a operacje zapisu wymagają zatwierdzenia, skutki ewentualnego błędu mogą być znacznie mniejsze.

Największe ryzyko: połączenie AI z sekretami

W praktyce szczególnie niebezpieczne są dane, które pozwalają uzyskać dostęp do innych systemów:

  • klucze API;
  • tokeny dostępowe do repozytoriów;
  • dane logowania do baz danych;
  • klucze SSH;
  • poświadczenia chmurowe;
  • pliki .env zawierające konfigurację aplikacji.

Jeżeli agent ma dostęp do tych zasobów, błąd może wykraczać poza jego własne środowisko. Ujawniony token może pozwolić na dostęp do repozytorium, usługi zewnętrznej lub infrastruktury produkcyjnej — zależnie od zakresu przyznanych uprawnień.

Dlatego nie należy uruchamiać eksperymentalnych agentów na koncie administratora ani udostępniać im wszystkich sekretów tylko po to, by uprościć konfigurację.

Dobra zasada: agent powinien otrzymać wyłącznie te uprawnienia i dane, których rzeczywiście potrzebuje do wykonania konkretnego zadania.

Serwer, repozytorium i terminal nie powinny być jednym środowiskiem

Bezpieczniejsza konfiguracja oddziela miejsce eksperymentów od systemów produkcyjnych.

Agent testujący kod nie powinien automatycznie mieć możliwości wdrażania zmian na publiczny serwer. Jeśli musi uruchamiać polecenia, warto wykonywać je w odizolowanym środowisku, z ograniczonym dostępem do sieci, systemu plików i danych.

W praktyce warto zastosować kilka zasad:

1. Oddziel środowisko robocze od produkcji. Agent powinien pracować na kopii projektu lub w kontenerze, a nie bezpośrednio na serwerze obsługującym użytkowników.

2. Ogranicz dostęp do sieci. Jeżeli zadanie wymaga komunikacji tylko z repozytorium i określonym API, nie dawaj narzędziu nieograniczonego dostępu do internetu.

3. Nie udostępniaj sekretów bez potrzeby. Token do odczytu repozytorium nie powinien mieć uprawnień do usuwania projektów ani wdrażania aplikacji.

4. Rozdziel odczyt i zapis. Analiza logów nie wymaga prawa do ich usuwania. Przegląd kodu nie wymaga prawa do wdrażania zmian.

5. Wymagaj potwierdzenia operacji wysokiego ryzyka. Usunięcie danych, zmiana uprawnień, publikacja kodu czy wdrożenie na produkcję powinny wymagać świadomej decyzji człowieka.

Takie podejście jest zgodne z ogólną zasadą najmniejszych uprawnień. Więcej o ograniczaniu dostępu do usług można przeczytać w poradniku Hardening SSH w systemie Linux — krok po kroku.

MCP i integracje: dodatkowa powierzchnia ataku

Wiele narzędzi AI korzysta z integracji, które pozwalają modelowi komunikować się z zewnętrznymi usługami. Jednym z rozwiązań wykorzystywanych do łączenia modeli z narzędziami i danymi jest Model Context Protocol (MCP).

Integracja może udostępniać funkcje odczytu plików, wyszukiwania informacji, pracy z bazą danych albo obsługi repozytorium. Dzięki temu agent staje się użyteczniejszy, ale każde dodatkowe narzędzie rozszerza zakres operacji, które może próbować wykonać.

Przed podłączeniem serwera MCP lub innej integracji warto sprawdzić:

  • kto stworzył komponent i czy jego kod jest utrzymywany;
  • jakie dokładnie funkcje udostępnia modelowi;
  • do jakich danych i usług ma dostęp;
  • w jaki sposób przechowuje i wykorzystuje poświadczenia;
  • czy połączenie wymaga uprawnień administracyjnych;
  • czy można rejestrować wykonywane operacje i ograniczać ich zakres.

Nie należy zakładać, że integracja jest bezpieczna tylko dlatego, że znajduje się w popularnym katalogu albo została polecona przez model AI.

To podobny problem jak w przypadku rozszerzeń przeglądarki czy zależności programistycznych: zaufanie do narzędzia nie zastępuje kontroli jego uprawnień.

Co, jeśli agent AI zostanie wykorzystany przez atakującego?

Warto przeanalizować prosty scenariusz.

Programista podłącza agenta do repozytorium i pozwala mu uruchamiać polecenia. Agent przetwarza złośliwy plik, a następnie wykonuje niepożądaną operację. Jeżeli ma dostęp do tokena wdrożeniowego, skutki mogą objąć nie tylko komputer programisty, ale także środowisko produkcyjne.

Nie trzeba zakładać, że model samodzielnie „przejmie kontrolę nad serwerem”. Wystarczy, że zostanie nakłoniony do użycia uprawnienia, które otrzymał od człowieka.

Dlatego organizacje powinny traktować działania agentów jak działania wykonywane przez konto techniczne:

  • rejestrować wywołania narzędzi;
  • monitorować nietypowe operacje;
  • ograniczać czas życia tokenów;
  • umożliwiać szybkie unieważnienie poświadczeń;
  • przechowywać sekrety poza kontekstem rozmowy i plikami dostępnymi dla modelu;
  • analizować skutki incydentu, jeśli agent wykonał nieoczekiwaną operację.

Przydatne jest również stosowanie oddzielnych kont technicznych dla różnych zadań. Dzięki temu przejęcie jednego tokena nie musi oznaczać dostępu do całej infrastruktury.

Jak bezpiecznie korzystać z agentów AI? Praktyczna lista

Przed udostępnieniem agentowi terminala, repozytorium lub infrastruktury sprawdź następujące elementy:

  • Agent działa na koncie bez uprawnień administratora.

  • Zadania wykonuje w odizolowanym środowisku testowym.

  • Nie ma dostępu do sekretów, których nie potrzebuje.

  • Tokeny mają ograniczony zakres uprawnień i można je unieważnić.

  • Dostęp do sieci jest ograniczony do wymaganych usług.

  • Operacje destrukcyjne i wdrożenia wymagają zatwierdzenia.

  • Działania agenta są rejestrowane i można je przeanalizować.

  • Istnieje możliwość szybkiego odłączenia integracji i odebrania dostępu.

Jeżeli kilka odpowiedzi brzmi „nie”, nie oznacza to automatycznie, że system jest już zaatakowany. Oznacza jednak, że potencjalny błąd może mieć większe konsekwencje, niż zakładał administrator.

Podobne podejście do ograniczania skutków włamania warto stosować również na serwerach Linux. Pomocne będą poradniki Linux hardening — 25 rzeczy, które warto zrobić po instalacji Ubuntu oraz Bezpieczny Polak w Internecie.

AI nie musi być idealne. Środowisko musi być odporne na błędy

Wraz z rozwojem agentów AI rośnie znaczenie kontroli uprawnień, izolacji środowisk i ochrony poświadczeń. Problem nie sprowadza się do tego, czy model wygeneruje błędną odpowiedź. Chodzi o to, czy ta odpowiedź może doprowadzić do wykonania niebezpiecznej operacji.

Microsoft w swoim raporcie Digital Defense Report 2026 zwraca uwagę na przyspieszenie części etapów cyberataków dzięki AI oraz na znaczenie przejętych tożsamości, zaufanych narzędzi i łańcuchów dostaw. To szerszy kontekst, w którym agenci wyposażeni w dostęp do systemów wymagają szczególnej kontroli.

Nie trzeba rezygnować z AI, aby ograniczyć ryzyko. Trzeba przestać traktować ją jak zwykły czat, kiedy otrzymuje dostęp do rzeczywistych zasobów.

Jeżeli agent może wykonać polecenie, należy założyć, że kiedyś może wykonać również polecenie błędne lub niebezpieczne. Bezpieczeństwo zależy wtedy od tego, co pozwolimy mu zrobić — nie tylko od tego, co obiecał zrobić.

Źródła i materiały techniczne

  • Microsoft Digital Defense Report 2026 — analiza rozwoju zagrożeń i roli AI w cyberatakach.
  • Microsoft Security Research, 21 października 2026 — analiza kampanii wykorzystującej AI do wspierania ataków na łańcuch dostaw oprogramowania.
  • OWASP — materiały dotyczące ryzyk związanych z aplikacjami wykorzystującymi duże modele językowe.
Polecane wpisy
Narzędzia do Testów Penetracyjnych: Przegląd popularnych narzędzi, takich jak Nmap, Metasploit, Wireshark
Narzędzia do Testów Penetracyjnych: Przegląd popularnych narzędzi, takich jak Nmap, Metasploit, Wireshark

🔐 Narzędzia do Testów Penetracyjnych: Przegląd popularnych narzędzi, takich jak Nmap, Metasploit, Wireshark Testy penetracyjne to kluczowy element zapewnienia bezpieczeństwa Czytaj dalej

Firewalle Sieciowe (Network Firewalls): Przegląd tradycyjnych firewalli, NGFW (Next-Generation Firewalls) i ich funkcje (IPS/IDS, Deep Packet Inspection)
Firewalle Sieciowe (Network Firewalls): Przegląd tradycyjnych firewalli, NGFW (Next-Generation Firewalls) i ich funkcje (IPS/IDS, Deep Packet Inspection)

🔥 Firewalle Sieciowe (Network Firewalls): Przegląd tradycyjnych firewalli, NGFW (Next-Generation Firewalls) i ich funkcje (IPS/IDS, Deep Packet Inspection) Bezpieczeństwo sieci Czytaj dalej

Marek "Netbe" Lampart Inżynier informatyki Marek Lampart to doświadczony inżynier informatyki z ponad 25-letnim stażem w zawodzie. Specjalizuje się w systemach Windows i Linux, bezpieczeństwie IT, cyberbezpieczeństwie, administracji serwerami oraz diagnostyce i optymalizacji systemów. Na netbe.pl publikuje praktyczne poradniki, analizy i instrukcje krok po kroku, pomagając administratorom, specjalistom IT oraz zaawansowanym użytkownikom rozwiązywać realne problemy techniczne.