Zamiast różnorodnych opinii i pełnego obrazu świata – ujednolicona papka informacyjna. Badacze z Kopenhagi ostrzegają, że chatboty oparte na sztucznej inteligencji podają nam znacznie bardziej ograniczony zakres wiedzy niż tradycyjne wyszukiwarki. W przyszłości problem ten może się jeszcze pogłębić.
- Badania przeprowadzone na Uniwersytecie Kopenhaskim wykazały, że duże modele językowe dostarczają znacznie mniej różnorodnych informacji niż tradycyjna wyszukiwarka Google.
- Najbardziej zróżnicowany model GPT-5 generował o niemal 19 proc. mniej wszechstronne odpowiedzi od wyszukiwarki, co grozi zjawiskiem tzw. załamania wiedzy.
- Naukowcy apelują o rozwagę w korzystaniu z AI oraz weryfikację informacji w wielu źródłach, zachęcając twórców technologii do dbania o różnorodność danych.
„Mówili »wycofać ekrany«, dają pracownie AI”. Burza wokół nowego programu MEN
Szukając odpowiedzi na trudne pytania, coraz częściej sięgamy po wsparcie chatbotów, rezygnując z tradycyjnego wpisywania haseł w Google. Tymczasem duńscy naukowcy z Uniwersytetu Kopenhaskiego (DIKU) w opublikowanym na łamach serwisu arXiv raporcie ostrzegają, że ta zmiana nawyków niesie za sobą poważne konsekwencje. Rozbudowane modele językowe udostępniają bowiem znacznie węższy zakres informacji niż klasyczne wyszukiwarki internetowe.
Wąski wycinek rzeczywistości zamiast szerokich horyzontów
Na potrzeby eksperymentu przetestowano 27 dużych modeli językowych pod kątem 155 zagadnień odnoszących się do 12 krajów. Przy wykorzystaniu 200 różnorodnych wariantów pytań zadawanych przez użytkowników wygenerowano bazę liczącą około 70 milionów pojedynczych wypowiedzi. Wnioski płynące z analizy są jednoznaczne.
Niepokojące zachowania botów. AI próbowała omijać zabezpieczenia
– Każdy testowany przez nas model językowy dostarcza użytkownikom bardziej ujednoliconych informacji niż proste wyszukiwanie w Google we wszystkich analizowanych przez nas tematach. Innymi słowy, ludzie w dużej mierze mają do czynienia z tymi samymi informacjami wielokrotnie – wyjaśnił główny autor, Dustin Wright, obecnie adiunkt na Uniwersytecie w Aalborgu.
– Zatem chatboty oparte na sztucznej inteligencji zmieniają nie tylko sposób, w jaki znajdujemy wiedzę, ale także to, do jakiej wiedzy mamy dostęp – dodał.
Nawet najbardziej zaawansowany i cechujący się największą różnorodnością model GPT-5 od OpenAI generował co najmniej o 18,7 proc. mniej zróżnicowane odpowiedzi w porównaniu do tradycyjnego Google. Analizowane tematy dotyczyły zarówno kwestii globalnych, takich jak broń jądrowa, małżeństwa czy rasizm, jak i wątków lokalnych – polityki Marine Le Pen czy muzyki K-pop.
Widmo „załamania wiedzy”
Zdaniem ekspertów masowe traktowanie systemów sztucznej inteligencji jako głównego źródła informacji niesie za sobą ryzyko zamykania użytkowników w wąskich bańkach informacyjnych.
– Ryzykujemy eksponowanie ludzi na mniejszą liczbę perspektyw i węższy zakres wiedzy. Może to stworzyć błędne koło, w którym najpopularniejsze treści staną się jeszcze bardziej dominujące, a inne będą coraz częściej pomijane – wskazuje profesor Isabelle Augenstein z DIKU.
Zjawisko to wynika bezpośrednio ze sposobu trenowania sztucznej inteligencji. Algorytmy kompresują ogromne zbiory danych tekstowych, wychwytując najczęściej powtarzające się wzorce i odrzucając informacje od nich odbiegające. Ryzyko potęguje fakt, że kolejne generacje algorytmów mogą być trenowane na materiałach wygenerowanych przez wcześniejsze chatboty. Systemy uczyłyby się wówczas na własnych, ujednoliconych danych, co grozi postępującym zawężaniem wiedzy – tzw. załamaniem wiedzy (knowledge collapse).
AI zacznie myśleć za nas?
Choć czarny scenariusz nie urzeczywistnia się jeszcze w pełni, mechanizm mogący do niego doprowadzić jest już aktywny. Naukowcy dostrzegają jednak fakt, że nowsze modele radzą sobie z różnorodnością odrobinę lepiej niż ich poprzednicy. Aby zapobiec dalszej degradacji informacji, autorzy pracy stworzyli specjalną metodę pomiaru zróżnicowania modeli, która ma pomóc inżynierom w projektowaniu bardziej wszechstronnych narzędzi.
Badacze przypominają jednocześnie, że kluczowa pozostaje krytyczna postawa samych użytkowników i weryfikowanie uzyskanych odpowiedzi w odrębnych źródłach.
– Podsumowania chatbotów AI mogą być oczywiście przydatne – dlatego tak wiele osób z nich korzysta. Nadal jednak ważne jest poszukiwanie różnych źródeł, aby zrozumieć niuanse i uzyskać szerszy obraz – zwłaszcza dla młodszego pokolenia dorastającego z AI. Nie możemy uzależniać się od technologii do tego stopnia, że przestaniemy rozumieć i myśleć samodzielnie – podsumowuje prof. Isabelle Augenstein.
Może zainteresuje Cię także: