Rosyjscy hakerzy wykorzystywali sztuczną inteligencję do prowadzenia cyberoperacji, Chińczycy budowali z jej pomocą narzędzia ofensywne, a inne grupy używały AI do inwigilacji, propagandy i prac związanych z uzbrojeniem. Anthropic opisała w najnowszym raporcie najbardziej niepokojące przypadki nadużywania modelu Claude.
- Najnowszy raport Anthropic pokazuje, że zaawansowane modele AI są już wykorzystywane w operacjach obejmujących cyberwojnę, propagandę, inwigilację oraz prace nad uzbrojeniem.
- Szczególnie niepokojące są przypadki, w których sztuczna inteligencja nie tylko pomaga człowiekowi, ale samodzielnie wykonuje kolejne elementy skomplikowanych operacji i reaguje na ich rezultaty.
- Firma ostrzega zarazem, że wraz ze wzrostem możliwości modeli rośnie znaczenie zabezpieczeń, ponieważ ta sama technologia może mieć zarówno pożyteczne, jak i potencjalnie katastrofalne zastosowania.
AI w rękach hakerów i służb. Anthropic pokazuje, jak wygląda nowa era cyberzagrożeń
Sztuczna inteligencja przestaje być dla cyberprzestępców jedynie pomocnikiem, któremu można zadać pytanie lub zlecić napisanie fragmentu kodu. Według najnowszego raportu firmy Anthropic modele AI są coraz częściej wykorzystywane jako element całych operacji – od rozpoznania celu, przez tworzenie narzędzi, aż po kradzież danych i obchodzenie zabezpieczeń.
Anthropic przeanalizowała działania prowadzone od grudnia 2025 do sierpnia 2026 r. Firma wykryła i przerwała operacje związane m.in. z cyberatakami, propagandą, inwigilacją, oszustwami, rozwojem broni konwencjonalnej oraz potencjalnie niebezpiecznymi zastosowaniami biologicznymi.
Jednym z najważniejszych wniosków raportu jest to, że AI obniża barierę wejścia do cyberprzestępczości. Zdaniem Anthropic działania, które jeszcze niedawno wymagały zespołu wyspecjalizowanych operatorów, mogą być dziś prowadzone przez znacznie mniejsze grupy.
Rosyjska operacja. AI samo reagowało na zabezpieczenia
Anthropic opisała szczególnie interesujący przypadek grupy, której działalność przypisuje aktorowi powiązanemu z Rosją i publicznie kojarzonemu z Midnight Blizzard.
Celem były m.in. ukraińskie instytucje rządowe, organizacje wojskowe i dyplomatyczne, europejskie instytucje oraz podmioty związane z przemysłem obronnym. Szczególnie interesujące dla hakerów okazały się technologie związane z wojskowymi dronami. Według Anthropic grupa zaatakowała ponad 20 organizacji.
Najbardziej niepokojący był sposób wykorzystania AI. Claude pomagał nie tylko w przygotowaniu ataków. Sztuczna inteligencja monitorowała również, czy złośliwe oprogramowanie jest wykrywane przez systemy bezpieczeństwa. Jeśli tak się działo, narzędzia AI mogły automatycznie modyfikować i ponownie budować kod, aż przestał być rozpoznawany.
Anthropic opisuje to jako zmianę modelu działania cyberprzestępców: zamiast cyklicznej walki człowieka z systemem zabezpieczeń pojawia się możliwość automatycznego reagowania na każdą nową metodę wykrywania.
Chińczycy stworzyli „fabrykę” cyberataków
Kolejny przypadek dotyczył chińskojęzycznej grupy, która wykorzystywała Claude'a jako warstwę organizującą szeroko zakrojony program ofensywny.
Według Anthropic grupa prowadziła jednocześnie rozpoznanie zagranicznych sieci rządowych, badania nad podatnościami produktów zabezpieczających, rozwój złośliwego oprogramowania oraz pozyskiwanie informacji. Jej działania objęły około 50 organizacji z sektorów m.in. edukacji, energetyki, technologii, ochrony zdrowia, finansów i administracji.
Szczególnie istotny był stopień automatyzacji. Operatorzy tworzyli całe zespoły współpracujących ze sobą agentów AI. Jeden system rozdzielał zadania kolejnym, a wyniki pracy były zachowywane, dzięki czemu operacja mogła być kontynuowana w kolejnych sesjach.
Anthropic twierdzi, że grupa prowadziła również długotrwałe badania nad podatnościami produktów bezpieczeństwa. W jednym z projektów AI miała pomagać w analizowaniu oprogramowania i poszukiwaniu nowych luk.
AI jako narzędzie propagandy
Raport pokazuje również, że zagrożenie nie ogranicza się do świata cyberataków.
Anthropic wykryła operację, w której Claude służył do masowej produkcji i przerabiania materiałów politycznych. Sieć obejmowała około 70 fikcyjnych portali informacyjnych, 70 powiązanych kont na X oraz ponad 250 fałszywych kont wykorzystywanych do komentowania i wzmacniania publikowanych treści.
Sieć opublikowała co najmniej 8913 artykułów w około 20 językach. Materiały były tworzone tak, aby wyglądały jak teksty niezależnych redakcji. Wykorzystywano nawet fikcyjne nazwiska dziennikarzy.
Co szczególnie istotne, operatorzy nie byli przywiązani do jednej ideologii. Ten sam system mógł przedstawiać tę samą historię z przeciwnych perspektyw, w zależności od tego, do jakiej grupy odbiorców miała trafić.
Sztuczna inteligencja i masowa inwigilacja
Anthropic opisuje także przypadki wykorzystania Claude'a przez podmioty związane z Chinami, Iranem i państwami Afryki.
W jednym z przypadków AI pomagała projektować platformę masowego przechwytywania komunikacji w Mali. System miał umożliwiać analizowanie danych dotyczących użytkowników wszystkich trzech krajowych operatorów telefonii komórkowej.
W innym przypadku irańscy operatorzy wykorzystywali Claude'a do analizowania ogromnych zbiorów materiałów z mediów społecznościowych i identyfikowania osób oraz kont, które mogły być następnie objęte monitoringiem.
Anthropic odnotowała również przypadki, w których AI służyła do tworzenia narzędzi do profilowania użytkowników, w tym określania ich lokalizacji, cech demograficznych czy poglądów politycznych.
Przeczytaj też: 25 lat od zamachów z 11 września: wszystkie teorie spiskowe. Czy na pewno spiskowe?
AI pomagało także przy uzbrojeniu
W raporcie znalazło się sześć przypadków wykorzystania Claude'a w związku z rozwojem broni konwencjonalnej. Anthropic wymieniła wśród nich działania dotyczące rakiet, systemów przeciwdziałania torpedom, autonomicznych rojów dronów oraz systemów walki elektronicznej i obrony powietrznej. Sprawy dotyczyły podmiotów z Chin, Rosji i Jemenu.
W jednym z przypadków związanych z Rosją grupa pracowała nad oprogramowaniem dla autonomicznego roju dronów. Według Anthropic AI pomagała przy tworzeniu oprogramowania koordynującego pracę wielu maszyn. Projekt był testowany w symulacji.
W przypadku dotyczącym Jemenu Claude był wykorzystywany przy tworzeniu oprogramowania związanego z naprowadzaniem uzbrojenia. Anthropic podkreśla, że nie ma dowodów na wprowadzenie takiej broni do operacyjnego użycia, choć przeprowadzono próbę polową, która zakończyła się niepowodzeniem.
Broń biologiczna
Firma poświęciła osobną część raportu potencjalnemu wykorzystaniu AI w badaniach biologicznych.
Anthropic opisała pięć przypadków, w których użytkownicy wykorzystywali jej modele do zadań, które mogły wspierać prace związane z rozwojem broni biologicznej. Firma nie ujawniła nazw instytucji, państw ani konkretnych czynników biologicznych, aby nie zwiększać ryzyka.
Jednocześnie Anthropic zaznacza, że nie twierdzi, iż opisani naukowcy zamierzali wyrządzić krzywdę. Problem polega na tym, że wraz ze wzrostem możliwości modeli coraz trudniej wyznaczyć granicę między nieszkodliwą pomocą naukową a zastosowaniem, które może prowadzić do katastrofalnych skutków.
Firma podkreśla, że wszystkie opisane przypadki zostały wykryte i przerwane, a konta powiązane z nadużyciami zostały zablokowane. Informacje o części operacji przekazano również władzom i partnerom z branży.