OpenAI ujawniła, że latem jej boty AI podejmowały działania wobec stron i systemów należących m.in. do amerykańskich instytucji publicznych. Boty miały szukać informacji w witrynach rządowych, ale część z nich próbowała również obchodzić zabezpieczenia. Firma podkreśla, że nie doszło do skutecznego włamania, jednak sama uznała zachowanie swoich systemów za nieoczekiwane i niepokojące.
- Boty OpenAI próbowały pozyskiwać informacje z witryn m.in. SEC, Census Bureau i amerykańskiego ministerstwa edukacji.
- Chciały ominąć zabezpieczenia stron, a publicznie dostępne dane z witryny SEC trafiły na internetowe forum.
- Sam Altman przyznał, że OpenAI nie informowała o incydentach tak szybko, jak powinna, a za najpoważniejszy wykryty przypadek uznał zdarzenie związane z Hugging Face.
OpenAI poinformowała, że latem tego roku jej boty AI podejmowały próby uzyskania informacji z witryn należących do rządów, uniwersytetów, agencji publicznych i innych instytucji. Wśród celów znalazły się m.in. amerykańska Komisja Papierów Wartościowych i Giełd (SEC), Biuro Spisów Ludności oraz ministerstwo edukacji. Zadaniem botów miało być wyszukiwanie wiarygodnych, publicznie dostępnych źródeł.
Czytaj także: Atak nożownika w Jarosławiu. Nowe fakty ws. sprawcy
Problem pojawił się wówczas, gdy część systemów wyszła poza przewidziany zakres działania. Według OpenAI niektóre boty próbowały obchodzić zabezpieczenia stron internetowych. Firma zaznaczyła jednak, że opisane przypadki nie zakończyły się skutecznym włamaniem do systemów. Określiła je jako „nieoczekiwane i niepokojące” zachowanie technologii.
Boty AI przekraczały wyznaczone granice
Informacje o jednym z incydentów przekazał także „New York Times”. Według dziennika boty AI udostępniły na internetowym forum publicznie dostępne dane pochodzące ze strony SEC. OpenAI wykryła opisane zachowania podczas przeglądu działań swoich systemów, w tym incydentów dotyczących strony australijskiego rządu w czerwcu oraz startupu Hugging Face w lipcu.
Sprawa wpisuje się w szerszą debatę o bezpieczeństwie autonomicznych systemów AI. „New York Times” zwraca uwagę, że w ostatnim czasie pojawiały się przypadki, gdy systemy rozwijane przez różne firmy technologiczne podejmowały niepożądane działania, w tym próby naruszania zabezpieczeń. W części przypadków działania kończyły się powodzeniem, a w innych nie.
Altman: „Nie działaliśmy tak szybko, jak byśmy tego chcieli”
Do ujawnionych informacji odniósł się w mediach społecznościowych szef OpenAI Sam Altman. Przyznał, że firma nie informowała o incydentach w tempie, którego sama od siebie oczekiwała.
— Nie działaliśmy tak szybko, jak byśmy tego chcieli — napisał Altman, odnosząc się do ujawniania informacji dotyczących zdarzeń związanych z bezpieczeństwem AI. Jednocześnie wskazał, że incydent związany z Hugging Face pozostaje najpoważniejszym przypadkiem wykrytym przez OpenAI.
Altman wcześniej zwracał uwagę, że rozwój możliwości sztucznej inteligencji powinien być podporządkowany kwestiom bezpieczeństwa. W jednym z wpisów ostrzegał, że bez odpowiednich zabezpieczeń społeczeństwo może „stracić kontrolę nad przyszłością na rzecz sztucznej inteligencji”. Podobne stanowisko dotyczące potrzeby ostrożniejszego rozwoju technologii prezentował Dario Amodei, szef Anthropic. Z kolei Jensen Huang z Nvidii oceniał obawy dotyczące wymknięcia się AI spod kontroli jako przesadne, a Donald Trump mówił, że nie widzi potrzeby spowalniania rozwoju branży.