Pierwsze zagrożenie. Rozwój seksszantażu dzieci z wykorzystaniem AI
Raport SANS Institute uwypukla zagrożenie związane z wykorzystaniem sztucznej inteligencji do seksszantażu dzieci, co jest jednym z najszybciej rozwijających się rodzajów cyberprzestępstw. Nowe narzędzia deepfake AI pozwalają cyberprzestępcom tworzyć realistyczne, choć fikcyjne obrazy lub filmy, które przypominają materiały kompromitujące.
Mechanizm ten jest niezwykle niebezpieczny, gdyż ofiary, szczególnie najmłodsze, często nie zdają sobie sprawy, że stworzony materiał jest spreparowany. Dla przestępców oznacza to łatwą drogę do szantażu i wywierania psychologicznej presji na ofiarach, które w strachu przed upublicznieniem materiałów mogą ulegać żądaniom.
Ekspertka z SANS, Heather Mahalik Barnhart, podkreśla znaczenie świadomości zagrożeń oraz edukacji zarówno dzieci, jak i dorosłych w zakresie ochrony prywatności w sieci.
Programy takie jak „Take It Down” oferują wsparcie w sytuacjach kryzysowych, umożliwiając ofiarom usunięcie kompromitujących treści oraz uzyskanie pomocy psychologicznej. Barnhart zaleca, aby rodzice i opiekunowie regularnie przypominali dzieciom o zasadach bezpieczeństwa online, uczulając je na zagrożenia związane z nieznajomymi w sieci i znaczenie odpowiednich ustawień prywatności.
Drugie zagrożenie. Generatywna AI w służbie dezinformacji politycznej
Kolejnym zjawiskiem przedstawionym przez SANS jest wykorzystanie generatywnej sztucznej inteligencji do szerzenia dezinformacji, szczególnie w kontekście politycznym.
Terrence Williams, specjalista ds. bezpieczeństwa SANS DFIR, omówił, jak rozwój AI umożliwia tworzenie przekonujących deepfake'ów oraz szeroko zakrojonych kampanii dezinformacyjnych.
W roku wyborczym 2024 wykorzystanie takich narzędzi wpływało na opinię publiczną, zagrażając stabilności procesów demokratycznych. AI umożliwia tworzenie fałszywych materiałów, które w dużym stopniu przypominają rzeczywistość, co może prowadzić do manipulacji nastrojami społecznymi i wprowadzania odbiorców w błąd.
Williams podkreśla, że cyberprzestępcy skutecznie wykorzystują luki technologiczne, by realizować swoje cele. W odpowiedzi zaleca on ścisłą współpracę pomiędzy organizacjami rządowymi, firmami technologicznymi, partiami politycznymi i innymi instytucjami społecznymi, aby stworzyć mechanizmy monitorowania treści w sieci. Jest to istotne, bo może zapewnić przejrzystość i przeciwdziałać manipulacjom, które mogą wpływać na decyzje społeczne na masową skalę.
Trzecie zagrożenie. Automatyzacja ataków przy użyciu AI i LLM
Steve Sims, specjalista w dziedzinie cyberoperacji ofensywnych, zwraca uwagę na to, jak sztuczna inteligencja wpływa na dynamikę działań cyberprzestępczych, zwłaszcza w zakresie automatyzacji ataków.
Narzędzia takie jak Shell GPT, które łączą elementy AI z popularnymi interfejsami wiersza poleceń, umożliwiają atakującym szybsze i bardziej skuteczne przeprowadzanie operacji. W wyniku tego cyberprzestępcy zyskują możliwość zautomatyzowanego wykorzystywania luk w zabezpieczeniach, nawet jeśli nie mają szerokiej wiedzy technicznej w tym zakresie.
Dzięki rozwojowi modeli LLM (Large Language Models) cyberprzestępcy mogą opracowywać bardziej skomplikowane ataki w krótszym czasie, co znacznie zwiększa ryzyko.
Sims wskazuje na rosnące niebezpieczeństwo związane z systemami wieloagentowymi, które mogą autonomicznie przeprowadzać różne etapy cyklu ataku, generując nie tylko kod, ale i podejmując decyzje w oparciu o analizę danych. W odpowiedzi na te zagrożenia Sims sugeruje wdrożenie automatycznych narzędzi obronnych, które będą działać równie szybko, jak narzędzia ofensywne.
Czwarte zagrożenie. Zagrożenia związane z długiem technologicznym
Johannes Ullrich z SANS Technology Institute przedstawił zagrożenie związane z długiem technologicznym, które staje się poważnym problemem dla bezpieczeństwa organizacji.
Dług technologiczny odnosi się do przestarzałych systemów i aplikacji, które ze względu na swoją wiekowość stanowią otwarte drzwi dla cyberprzestępców. Im starszy system, tym większe ryzyko, że nie będzie on aktualizowany ani obsługiwany przez współczesnych programistów.
Brak specjalistów obsługujących starsze technologie sprawia, że coraz trudniej jest zabezpieczyć takie systemy. Ullrich podkreśla, że organizacje muszą podejmować szybkie kroki w celu modernizacji infrastruktury oraz wprowadzać regularne aktualizacje i poprawki bezpieczeństwa.
Dług technologiczny generuje ryzyko, które z czasem kumuluje się i prowadzi do poważnych problemów, gdy pojawiają się nowe luki w zabezpieczeniach. Warto również pamiętać, że nowoczesne aplikacje mogą wymagać współpracy z nowymi systemami, co w przypadku długu technologicznego może być trudne do zrealizowania.
Piąte zagrożenie. Deepfake’i a trudności w weryfikacji tożsamości
Ostatnim istotnym zagrożeniem, jakie opisuje raport, jest wzrost liczby deepfake'ów, które zagrażają procesom weryfikacji tożsamości online. Koszty tworzenia fałszywych materiałów wideo i audio są coraz niższe, a dostęp do technologii staje się bardziej powszechny, co sprawia, że tradycyjne metody weryfikacji, takie jak CAPTCHA, są już niewystarczające. Johannes Ullrich z SANS Institute wyjaśnia, że w odpowiedzi na te zagrożenia niezbędne jest wprowadzenie bardziej złożonych metod weryfikacji tożsamości.
Ważnym elementem przeciwdziałania oszustwom jest zastosowanie procedur KYC (Know Your Customer), które wymagają rygorystycznej weryfikacji tożsamości użytkowników, szczególnie w branży finansowej. Procedury te nie tylko pozwalają na zwiększenie bezpieczeństwa, ale także przeciwdziałają praniu pieniędzy oraz finansowaniu nielegalnych działań. Ullrich wskazuje na konieczność wdrożenia wieloetapowego procesu uwierzytelniania, który będzie opierał się na ocenie ryzyka oraz analizie krytyczności danych.
Na zakończenie
Zastanawiasz się, czym jest Instytut SANS (Escal Institute of Advanced Technologies)? To prywatna amerykańska firma specjalizująca się w bezpieczeństwie informacji, szkoleniach z zakresu cyberbezpieczeństwa. Według danych z 2021 roku SANS jest największą na świecie organizacją zajmującą się badaniami i szkoleniami w zakresie cyberbezpieczeństwa.
Raport SANS Institute z 2024 roku wyraźnie pokazuje, że tylko poprzez zrozumienie aktualnych zagrożeń i aktywne reagowanie na pojawiające się ryzyka można zabezpieczyć się przed potencjalnymi atakami. Współpraca między sektorami, wymiana informacji oraz wprowadzanie najnowszych rozwiązań zabezpieczających stają się niezbędne, aby skutecznie chronić dane oraz zasoby każdej organizacji.
