OpenAI, twórcy popularnego Chatu GPT, przeprowadzili eksperyment, w ramach którego sztuczna inteligencja zaskoczyła wszystkich samodzielnością działania. Pomimo zamknięcia w środowisku bez dostępu do internetu znalazła lukę w systemie i za pomocą firmowego komputera wydostała się do sieci w celu znalezienia rozwiązania postawionego przed nią zadania. To wymagało przeprowadzenia ataku hakerskiego.
- Platforma Hugging Face poinformowała o tym, że stała się celem zmasowanego ataku hakerskiego przy użyciu AI.
- Kilka dni później firma OpenAI przyznała się, że atak przeprowadził ich model AI, który wydostał się z firmy w trakcie testów bezpieczeństwa.
- Sztuczna inteligencja nie zrobiła tego złośliwie. Szukała rozwiązania zadania otrzymanego w ramach wewnętrznych testów, a odpowiedź znalazła w serwisie Hugging Face. AI postanowiła włamać się na serwery firmy.
Są momenty, w których sceny z filmu Terminator wydają się zaskakująco bliższe, niż mogłoby się wydawać. Co prawda tym razem nie mieliśmy Skynetu, który postanowił unicestwić ludzkość, ale sztuczna inteligencja testowana przez OpenAI zaskoczyła samodzielnością działania. Uciekła poza firmę i włamała się do serwisu internetowego.
Premiera Sony FX5. Filmowcy na całym świecie zaczęli szybciej oddychać
Test bezpieczeństwa pokazał ogromne możliwości sztucznej inteligencji
OpenAI, twórcy Chatu GPT, testowali niedawno możliwości sztucznej inteligencji. Model AI został poddany testowi ExploitGym, który sprawdza zdolności modelu do powstrzymywania ataków sieciowych. Kluczową informacją jest tu obniżenie barier bezpieczeństwa, czyli AI nie miała żadnych ograniczeń w doborze metod działania. Mogła zrobić to, co uznała za stosowne. Drugim ważnym aspektem było to, że test był przeprowadzony bez dostępu do internetu. Model AI miał sam, bez dostępu do informacji z zewnątrz, poradzić sobie z problemem.
To tyle, jeśli chodzi o założenia, bo w praktyce test wypadł zupełnie inaczej. Wykorzystywany model AI, z medialnych informacji wynika, że był to GPT-5.6 oraz nieupubliczniony jeszcze model o większych możliwościach, znalazł lukę w agencie, z którym komunikowali się z nim pracownicy firmy. W ten sposób udało mu się opuścić stworzoną wirtualną klatkę.
W kolejnym kroku przedostał się do wewnętrznej sieci OpenAI, w którym znalazł słabo zabezpieczony komputer z dostępem do internetu i mówiąc wprost – poszedł w świat. Co warto zauważyć, testowany model cały czas był skupiony na swoim zadaniu i poszukiwał odpowiedzi na zadanie, które otrzymał. Znalazł je na platformie społecznościowej dla programistów Hugging Face i postanowił włamać się na jej serwery.
Wykonując ponad 17 tys. operacji przełamał zabezpieczenia, odnalazł rozwiązanie swojego problemu i wrócił do OpenAI z gotowym rozwiązaniem. Początkowo nie było wiadomo, co jest przyczyną ataku i administratorzy Hugging Face poinformowali, że doszło do ataku „niezidentyfikowanych autonomicznych systemów agentów AI”. Zostało to odebrane jako złośliwy atak hakerski. Dopiero po kilku dniach OpenAI przyznał się, że autorem ataku był ich model sztucznej inteligencji.
Co warto tutaj dodać, Hugging Face ma własne zabezpieczenia przed atakami z zewnątrz opartymi na sztucznej inteligencji. Komercyjny AI nie potrafił odróżnić, czy ma do czynienia z atakiem z zewnątrz, czy jest to wewnętrzne badanie przeprowadzane przez pracownika firmy i odmówił podjęcia działania.
Tym razem sztuczna inteligencja miała czyste zamiary. A co gdyby tak nie było?
Pozytywnym aspektem tej historii jest to, że model AI nie miał złych zamiarów. On zwyczajnie był skupiony na powierzonym zadaniu i zdeterminowany, aby wykonać je za wszelką cenę. Mimo wszystko budzi to obawy, bo co, jeśli w przyszłości realizacja zadania mogłaby wymagać stworzenia zagrożenia dla ludzi?
Nie jest to pierwsza tego typu sytuacja. W kwietniu 2026 r. model Mythos firmy Anthropic też uciekł z wyizolowanego środowiska i pochwalił się tym wysyłając maila do jednego z programistów.
OpenAI informuje, że był to pierwszy tego typu przypadek, a ten sam model testowany wcześniej nie opuszczał środowiska testowego. Firma podkreśla, że bezpieczeństwo AI wymaga współpracy wielu systemów i łączenia różnych narzędzi obrony.
Z jednej strony możemy być spokojni patrząc na to, że firmy zajmujące się AI upubliczniają takie informacje i całość wydaje się transparentna. Z drugiej nigdy nie wiemy, o jakich eksperymentach nie jesteśmy informowani i pozostaje obawa, do czego mogą doprowadzić podobne testy. Widzieliśmy za dużo filmów, aby spać spokojnie.