Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów sztucznej inteligencji, ocenił ryzyko, że rozwój AI doprowadzi do wyginięcia ludzkości. Jego zdaniem 10 proc. nie jest nierozsądnym szacunkiem.
- Geoffrey Hinton ocenia ryzyko wyginięcia ludzkości na 10 proc. w ciągu najbliższych 10 lat.
- Zastrzega jednak, że nikt nie potrafi dziś wiarygodnie określić rzeczywistego poziomu zagrożenia.
- AI nie musi przejąć kontroli nad infrastrukturą, by być groźna. Zdaniem Hintona systemy mogą wpływać na ludzi i doprowadzić do „kompletnego chaosu” poprzez rozmowy.
Laureat Nagrody Nobla Geoffrey Hinton zabrał głos w sprawie zagrożeń związanych z rozwojem sztucznej inteligencji. Jeden z pionierów tej technologii ocenił, że 10-procentowe ryzyko wyginięcia ludzkości w ciągu najbliższych 10 lat nie jest nierozsądnym szacunkiem. Jednocześnie podkreślił, że rzeczywistego poziomu zagrożenia nie sposób dziś wiarygodnie określić.
„Nie wiemy, co się stanie”
Hinton, określany często mianem „ojca chrzestnego sztucznej inteligencji”, wystąpił w środę w programie Newsnight BBC. Jego zdaniem największym problemem jest brak historycznego punktu odniesienia. Ludzkość po raz pierwszy tworzy systemy, które mogą w niedalekiej przyszłości przewyższyć człowieka pod względem inteligencji.
– Nigdy nie stworzyliśmy istot, które mogłyby wkrótce stać się mądrzejsze od nas. Nie wiemy, co się stanie – powiedział Hinton.
Naukowiec odniósł się również do pytania o prawdopodobieństwo scenariusza, w którym rozwój AI doprowadziłby do śmierci całej ludzkości. Jego zdaniem założenie, że takie ryzyko wynosi zaledwie 1 proc., byłoby zbyt optymistyczne.
– 10% szans wydaje mi się rozsądnym szacunkiem. Ale tak naprawdę nikt nie wie, jak podać sensowny szacunek – stwierdził w rozmowie z BBC.
AI nie musi przejąć kontroli nad światem
Hinton zwrócił uwagę, że potencjalne zagrożenia nie muszą oznaczać sytuacji, w której sztuczna inteligencja bezpośrednio przejmie kontrolę nad urządzeniami czy infrastrukturą. Według niego równie poważne konsekwencje może mieć wpływanie przez AI na ludzi.
– Najważniejszą rzeczą, jaką należy sobie uświadomić, jest to, że sztuczna inteligencja nie musi nawet działać w realnym świecie, aby siać spustoszenie – powiedział.
Jak dodał, zaawansowane systemy mogłyby doprowadzić do „kompletnego chaosu, po prostu rozmawiając z ludźmi”.
Wśród potencjalnych zagrożeń wymienił również możliwość wykorzystania bardzo wydajnych systemów AI do opracowywania niebezpiecznych wirusów biologicznych lub komputerowych. Kolejnym problemem mogą być niszczycielskie cyberataki.
Coraz więcej ostrzeżeń z branży AI
Wypowiedź Hintona pojawiła się w czasie, gdy podobne obawy przedstawiają także osoby bezpośrednio zaangażowane w rozwój najbardziej zaawansowanych modeli sztucznej inteligencji.
Jedną z nich jest 27-letni Jacob Coxon, który wcześniej pracował nad podstawowymi modelami AI w OpenAI oraz Anthropic. We wtorek zrezygnował z pracy w Anthropic.
Coxon zarzucił obu firmom, że mimo świadomości możliwych zagrożeń zmierzają w kierunku tworzenia samodoskonalącej się superinteligencji.
– Żadna z firm nie postępuje odpowiedzialnie. Pędzą prosto do samodoskonalącej się superinteligencji i igrają z naszym życiem – powiedział.
Badacz przekonywał również, że część osób zajmujących się rozwojem najbardziej zaawansowanych systemów AI ma prywatnie obawiać się, iż technologia może pod koniec tej dekady stać się zagrożeniem egzystencjalnym.
