Sztuczna inteligencja znowu wymknęła się spod kontroli i ponownie dotyczy to tworu firmy Anthropic. Tym razem sprawa jest poważna, bo chodzi o morderstwo. Agent AI stwierdził, że ma w tej sprawie ważne informacje i podzielił się nimi z policją.
- Agent AI firmy Anthropic złożył fałszywe doniesienie na policję w Filadelfii. Uznał, że ma informacje na temat nierozwiązanej sprawy morderstwa.
- Do incydentu doszło podczas testów, w ramach których sztuczna inteligencja sprawdzała możliwość wchodzenia w interakcję ze stronami internetowymi.
- To pierwsza taka sytuacja, ale kolejny z wielu incydentów w tym roku, kiedy AI wymyka się spod kontroli swoich twórców.
To nie jest pierwszy przypadek, kiedy AI wymyka się spod kontroli i samodzielnie podejmuje decyzje. Tym razem agent należący do firmy Anthropic złożył fałszywe doniesienie na policję. Tym, co niepokoi, jest to, że twórcy tego konkretnego agenta wykryli jego działalność po dwóch miesiącach.
Agent AI przekazał policji informacje na temat nierozwiązanej sprawy zabójstwa
18 lipca 2026 r. do departamentu policji w Filadelfii wpłynęło zgłoszenie zawierające potencjalne informacje na temat nierozwiązanej sprawy zabójstwa. Autorem wiadomości był agent AI firmy Anthropic, a przesłana wiadomość została potraktowana jako spam.
Do przesłania zgłoszenia został wykorzystany dedykowany formularz dostępny na stronie internetowej. Sztuczna inteligencja napisała, że widziała osobę odpowiadającą rysopisowi podejrzanego o zabójstwo.
Atak Ukrainy zatrzymał rosyjskie boty. Tak, tylko... nie o te boty chodzi
Działania AI wykryte po dwóch miesiącach
W tej sprawie najbardziej niepokoi fakt, że oficjalnie firma Anthropic wykryła działanie swojego agenta dopiero po ponad dwóch miesiącach. Dokładnie 28 września, ale władze upubliczniły tę informację dopiero 7 października.
Z informacji przekazanych policji wynika, że stało się to w wyniku trwających testów. Agent AI sprawdzał możliwość wchodzenia w interakcję z różnymi stronami internetowymi. Tak trafił na formularz kontaktowy, więc uznał, że go wypełni. Policja skrytykowała działania Anthropic, mówiąc, że firma musi wzmocnić swoje zabezpieczenia, i dodając, że dwumiesięczne opóźnienie w wykryciu incydentu jest niedopuszczalne.
Za świadome przekazanie policji fałszywej informacji w stanie Pensylwania grozi do roku pozbawienia wolności i grzywna w wysokości do 2, 5 tys. dol. Obciążenie innej osoby fałszywym oskarżeniem to kara do dwóch lat pozbawienia wolności i grzywna do 5 tys. dol. W tym przypadku agent AI niemal na pewno uniknie odpowiedzialności.
To pierwszy przypadek fałszywego zgłoszenia złożonego przez AI, ale jeden z wielu podobnych w ostatnim czasie
Oficjalnie to pierwszy przypadek, w którym agent AI przekazał służbom fałszywe informacje, ale to już kolejny incydent, w którym doszło do nieodpowiedzialnego działania sztucznej inteligencji.
Z raportu opublikowanego przez Anthropic wynika, że takich sytuacji było znacznie więcej. „Niezamierzonymi działaniami” AI dotkniętych zostało kilka amerykańskich agencji rządowych, w tym Biały Dom. W tym m.in. do Departamentu Stanu trafiło 20 wniosków wizowych złożonych przez agenta AI. Były one niekompletne i zostały odrzucone.
Nie tylko Anthropic ma problemy z pilnowaniem sztucznej inteligencji. Agent firmy OpenAI ma na koncie włamanie do stron rządowych Australii, gdzie uzyskał dostęp do danych zdrowotnych obywateli. Na koncie OpenAI znajduje się też zmasowany atak na platformę Hugging Face.
Może zainteresuje Cię:
