Przeglądarka AI – kto tak naprawdę steruje?
AI w przeglądarce jest jak nowy młody stażysta w firmie – sprytny, szybki, chętny do działania, ale… naiwny jak dziecko we mgle. Atakujący nie muszą łamać Twojego hasła, wystarczy, że podsuną fałszywe polecenie albo sprytnie zamieszczą instrukcję ukrytą w obrazku, captcha czy nawet ledwo widocznym tekście na stronie. AI-agent weźmie to na poważnie i wykona każdą komendę: czy to jest pobranie pliku, czy przekierowanie Twoich pieniędzy na konto w Nigerii.
W Polandzie eksperci ostrzegają, że AI może zdemolować systemy bankowe, pocztowe czy nawet wejść bez pytania do panelu firmowego – po prostu, bo agent ma te same uprawnienia co użytkownik. Większość incydentów nie wynika z wyrafinowanych exploitów, a z naiwności algorytmu, który nie rozróżnia "poleceń dla człowieka" od sprytnie podanych poleceń dla maszyny.
Prompt Injection, czyli AI-agent na sterydach
Prompt injection to cyber-hokus-pokus w nowej odsłonie. Dawniej haker musiał kombinować, jak obejść Twój firewall, dziś wystarczy mu podstępny tekst na stronie, screenshot z ukrytym poleceniem – i AI-agent automatycznie wykona zadanie. Przykład? Jeden z polskich zespołów pokazał, jak przez niewidoczny tekst – ledwo widoczny dla człowieka, a doskonale czytelny dla AI – da się nakazać agentowi, by "przesłał wszystkie Twoje hasła na zdalny serwer".
I nie chodzi tylko o teorie. CERT Polska coraz częściej publikuje alerty o podatnościach w systemach AI, a NASK nawołuje – nie ignorujcie testów i audytów, bo tsunami dopiero nadchodzi.
Polski biznes w ogniu testów
Polska bankowość i sektor usług online już mają na koncie pierwsze incydenty: AI-agent w firmie farmaceutycznej, pod wpływem zmanipulowanego maila, pobrał fałszywy dokument medyczny, omijając wewnętrzne procedury bezpieczeństwa. W dużej firmie infosec, AI przeglądarkowy dał się nabrać na fałszywy workflow OAuth i sam otworzył dostęp do konta w chmurze. W obu przypadkach to samo – szybka automatyka AI tworzy dziury, których żaden SIEM nie wykryje od razu.
Praktyczne rady – jak nie wpaść w pułapkę
Musisz zadbać o trzy rzeczy. Po pierwsze, kontroluj dostęp AI do zasobów – niech nawet geniusz-agent nie ma uprawnień admina. Po drugie, wdrażaj twarde granice pomiędzy tym, co agent może, a czego nie może zrobić automatycznie (na przykład sandboxowanie, separacja sesji). Po trzecie, nie ufaj domyślnym ustawieniom – testuj, hackuj własne AI, zanim ktoś zrobi to za Ciebie.
I nie zapominaj: nawet najlepszy agent jest jak helikopter bez pilota. Sam nie poleci, ale jak ktoś przejmie ster, może narobić niezłego bałaganu. Testy penetracyjne, input sanitization i formalna kontrola – to nie jest opcja, to obowiązek.
Możesz zignorować AI w przeglądarce i udawać, że to tylko ciekawostka. Ale za rok będziesz tłumaczyć zarządowi, dlaczego agent przesłał dane klientów do Chin. Świat idzie w stronę automatyzacji, ale nie zapominaj, że AI, tak jak każdy nowy pracownik, wymaga szkoleń, kontroli i testów. Nie czekaj aż prompt injection stanie się Twoim problemem, zanim przyjdzie tsunami, zacznij budować wały już dziś.
