OpenAI ogłosiło rozwiązanie jednego z najważniejszych problemów współczesnej matematyki. Niemal natychmiast wokół wyniku wybuchł spór o pierwszeństwo, dane i granice korzystania z narzędzi AI. O tym, co w tej historii jest przełomem, co budzi wątpliwości i dokąd może prowadzić symbioza człowieka z maszyną, rozmawiamy z Andrzejem Draganem, fizykiem teoretycznym, profesorem, fotografem i popularyzatorem nauki.
Jakub Szymczuk, Kanał Zero: Czy pana zdaniem to, co pokazała OpenAI, jest rzeczywiście wydarzeniem historycznym?
Andrzej Dragan, fizyk, fotograf, popularyzator nauki: Znaczy, wydarzeniem historycznym jest udowodnienie problemu milenijnego (to jeden z siedmiu wyjątkowo trudnych problemów matematycznych wskazanych w 2000 roku przez Clay Mathematics Institute – red.). To jest zawsze wydarzenie na zawsze. Coś takiego zdarzyło się dotąd tylko raz. Za rozwiązanie tego problemu była ogłoszona nagroda miliona dolarów.
Natomiast to trochę chowa się w cieniu awantury, która teraz wokół tego nabrzmiewa, dlatego że OpenAI ogłosiło, że rękami swoich naukowców, wspomaganych niezwykle potężnym systemem agentowym, udało się pokazać rozwiązanie problemu Naviera–Stokesa.
Jednocześnie pojawiły się głosy, że było to zbudowane na pracy ich konkurencji, a dokładnie matematyków współpracujących z Anthropic i pracujących też przy pomocy innych systemów agentowych nad tym problemem od dłuższego czasu, rozważających prostszą wersję tego problemu, tak zwany problem Eulera.
W skrócie chodzi o przepływ płynu w bardzo skomplikowanym przypadku, co opisują równania Naviera–Stokesa. To bardzo skomplikowane, nieliniowe równanie, którego zasadniczo prawie nie da się rozwiązać, tylko w pewnych szczególnych przypadkach. Przynajmniej ja, jako student, rozwiązywałem je tylko w szczególnych przypadkach, dawno temu.
Problem Eulera to uproszczone zagadnienie, gdzie zaniedbuje się pewną właściwość płynu. Wchodzi taki rodzaj „suchej wody", która nie ma lepkości. No i matematycy związani z Anthropic atakowali ten problem od dawna. Rzeczywiście mieli bardzo obiecujące rozwiązania i wydaje się, że w ostatniej chwili OpenAI sprzątnęło im sprzed nosa odpowiedni dowód ogólniejszej postaci.
Nie wiadomo do końca, kto w OpenAI za tym stoi, bo praca nie została podpisana nazwiskami, tylko wyłącznie afiliacją. Natomiast jest to z całą pewnością coś bardzo ważnego, ale za kulisami toczy się też jakaś brudna walka i jest oburzenie w świecie matematyków.
Gdzie można postawić tę granicę w tym kontekście? Wiele osób niezwiązanych głęboko z tymi tematami pyta, co jest inspiracją, a co jest pracą człowieka. Czy w momencie, kiedy powstał ten nowy model Astra, który nagle rozwiązał taki problem tak szybko, da się w ogóle stawiać jakieś granice?
Granica pewnie mogłaby być jakoś wyznaczona, ale to dosyć indywidualna kwestia. Każdy może ją postawić gdzie indziej, więc wolałbym tego nie robić. Natomiast to, co można powiedzieć niewątpliwie, to po pierwsze, że OpenAI wpakowało, o ile rozumiem, 15 milionów dolarów w obliczenia, tylko w moce obliczeniowe, żeby w ogóle ten problem gigantycznymi mocami obliczeniowymi sformalizować. To jest pierwsza ważna rzecz.
Drugą jest to, że ludzcy matematycy mieli rzeczywiście oryginalne i przełomowe pomysły, jak problem zaatakować. Bez ich udziału zapewne nie udałoby się tego zrobić, bez naprowadzenia modeli na techniki zaproponowane przez ludzi. Więc to nie jest taki przykład, w którym model sam wymyślił rozwiązanie i tyle. To nie jest jeszcze ta sytuacja.
Z drugiej strony można też zauważyć, że matematycy sami, bez wspomagania się tymi potężnymi systemami agentowymi, nie byli w stanie tego dowodu przeprowadzić do końca. Więc jest to ewidentny przykład współpracy dwóch rodzajów twórców. Stawianie granicy zawsze można sobie w dowolny sposób określać, ale nie wiem, czy to ma duży sens. Jest to pewna forma symbiozy, w której jesteśmy, i to bardzo ciekawy etap w matematyce, w którym rzeczywiście wiele ważnych dowodów i wyników będzie uzyskiwanych w podobny sposób.
Warto przeczytać: „Po co mi Kłeczek, skoro mam AI”? Internetowa papka w Telewizji Republika
Tutaj jeszcze niepokoi mnie wątek Codexa. Codex należy do OpenAI. Na nim pracowali ci matematycy, a także ludzie związani z Anthropic. Czy normalny człowiek, który pracuje nad czymś wielkim przy pomocy LLM-ów, może się na podstawie tego przypadku obawiać w przyszłości, że gdy duża firma się dowie, to wykorzysta jego pracę z tych czatów, z tych rzeczy, które, wydawałoby się, powinny być prywatne?
To jest bardzo ciekawe pytanie, dlatego że są podejrzenia, zapewne słuszne. OpenAI bardzo zdecydowanie się broni. Matematycy, którzy pierwotnie pracowali właśnie z systemem Codexowym, ale też Anthropicowym, część swoich wyliczeń i analiz przeprowadzali w oparciu o Codex, czyli system OpenAI.
I są podejrzenia, że materiały, które tam były wykorzystywane, zostały użyte do trenowania modelu OpenAI, który ten problem rozwiązał. To byłaby jedna możliwość i jeszcze ta bardziej łagodna. Jest też druga, mniej łagodna wersja: że po prostu prompty bezpośrednio wykorzystywane przez matematyków zaczerpnięto i w sposób bardziej bezpośredni ukradziono tę pracę.
W tym momencie nie wiadomo do końca, jak było. Pytani wprost o to ludzie z OpenAI, Sébastien Bubeck, matematyk z OpenAI, bronią się, że do niczego takiego nie doszło. Natomiast czy można tym ludziom ufać? To pytanie nie do mnie. Ja niestety nie jestem w stanie się zorientować.
Matematycy są oburzeni i wydaje się, że w każdym wariancie, nawet najbardziej korzystnym dla OpenAI, sprawa wygląda brudno. To bardzo przykra sytuacja, że coś, co powinno być świętem matematyki i niezwykle ważnym momentem, w którym człowiek jest w stanie w istotny sposób wspomagać się technologicznymi rozwiązaniami, których dotąd nie mieliśmy i które rzeczywiście zrewolucjonizują, i już rewolucjonizują, matematykę i inne nauki, zamiast być powodem do radości, prowadzi do dyskusji orbitującej wokół pytań o etyczność i kradzież.
To nie jest pierwsza taka sytuacja w nauce. Takich awantur zawsze było mnóstwo. Tylko że dotąd uczestniczyli w nich wybitni naukowcy, którzy nawzajem oskarżali się o to, że ktoś komuś coś ukradł. A tym razem w tej awanturze uczestniczą big techy i technologia. Naturalna niechęć wielu ludzi do dużych firm technologicznych też napędza dużą część tych złych emocji i trudno się temu dziwić.
Polecamy także: Bill Gates ostrzega przed erą AI. Proponuje listę zawodów tylko dla ludzi
Być może ten przykład będzie jakąś lekcją na przyszłość. Wracając do pana pytania: czy można ufać poufności danych, które zostawiamy, korespondując z modelami? Zasadniczo, jeżeli coś jest za darmo, to znaczy, że to ty jesteś w menu i to ty jesteś produktem.
Natomiast być może wszystko sprowadza się do pytania, czy ci matematycy gdzieś tam odkliknęli jakieś okienko, które pozwala modelom korzystać z tych danych albo nie pozwala. Byłaby to bardzo kuriozalna sytuacja, że taki szczegół techniczny może zaważyć na tak ważnej sprawie.
Słusznie krytykują tę sytuację także osoby źle nastawione do gigantów technologicznych, bo rzeczywiście na plecach matematyków i ludzi, którzy poświęcają dużą część swojego życia, żeby jakiś ważny dla siebie problem rozwiązać, firma zbija kapitał. Cała ta sytuacja nie dzieje się przypadkowo. O ile rozumiem, w tym momencie toczą się dyskusje na temat wejścia na giełdę tych dużych firm technologicznych, więc ten moment zapewne też nie jest przypadkowy.
Jeszcze ostatnie krótkie pytanie, bardziej meta. Wspomniał pan, że jesteśmy na etapie symbiozy. Ale wielu mówi, że w końcu wejdziemy w wyższy etap. Czy może dojść do takiej sytuacji, że sztuczna inteligencja, czy te wielkie modele, nazywane przez niektórych AGI albo nie, będą mogły samodzielnie korzystać z tych danych i właściwie nikt, nawet właściciele modeli, nie będzie w stanie stwierdzić, czy coś zostało zabrane, czy nie, bo będzie o tym decydowało coś inteligentniejszego od nas?
Nie przepadam za pojęciem AGI i raczej go nie używam, bo nawet nie chodzi o to, że jest trudne do zdefiniowania. Może nawet da się je zdefiniować, tylko każdy ma inną definicję, więc ta dyskusja byłaby zbyt długa, żeby w ogóle ustalić, o czym mówimy.
Prawda jest taka, że nauka przechodzi metamorfozę, i powtarzam to od wielu lat. Staram się z pewnym niepokojem na to patrzeć, bo dotyczy to też mnie. Wielu moich kolegów naukowców od dawna zauważa tę samą sytuację i mówimy o tym, że nauka rzeczywiście podlega wielkiemu przeobrażeniu.
Sprawdź również: Chlebowość, schabowość i inne dobra narodowe. Raport, który napisał się sam
Jesteśmy na początku tej drogi. To etap przejściowy. To nie jest koniec tego rozwoju. Należy się spodziewać dalszych, jeszcze poważniejszych zmian. Ponieważ przewidywanie przyszłości jeszcze nikomu się nie udało, zgadywanie, co się wydarzy, nie jest zbyt poważne. Niespecjalnie wierzę komukolwiek, kto cokolwiek z jakąkolwiek pewnością przewiduje.
To, czym możemy się posłużyć, żeby wyobrazić sobie, co mogłoby się wydarzyć, to podobny, choć nieidentyczny, przykład ze świata szachów. Ludzie grali w prostą z punktu widzenia reguł grę, posługując się swoim intelektem, choć oczywiście nie jest ona prosta, jeśli chodzi o wszystkie warianty i subtelności.
Doszło tam do sytuacji, w której technologia okazała się od ludzi skuteczniejsza. Nie tylko silniki szachowe zaczęły ogrywać ludzi, ale silniki oparte na sieciach neuronowych, trenowane przez wzmocnienie, są od dawna w stanie ogrywać najlepsze silniki szachowe programowane przez ludzi klasycznymi technikami programistycznymi.
Czytaj też: Norwegia tworzy własne AI. Biblioteka Narodowa stawia na ochronę języka
Czyli nie tylko ludzie dostają baty od silników szachowych, ale też nasze programy, programowane klasycznymi mechanizmami, przegrywają z silnikami opartymi na sieciach neuronowych, które trenują się w zupełnie inny sposób. Obecne silniki szachowe są w dużej mierze oparte na sieciach neuronowych. Stockfish, o ile pamiętam, od 16. wersji w górę nie ma już jakichkolwiek elementów w swoim kodzie zaprogramowanych klasycznie przez człowieka. To są raczej sieci neuronowe.
No i teraz analogia jest taka, że ludzie nie wiedzą, co się stanie z matematyką czy innymi naukami, więc wygadują różne rzeczy. Na przykład, że matematyka się skończy albo się nie skończy. Nie wiadomo, co się stanie. Można myśleć o różnych scenariuszach. Natomiast w przypadku szachów wiemy, że szachy się nie skończyły.
Efektywnie w świecie szachów istnieje już coś, co można by nazwać, w ograniczeniu do tej prostej gry, superinteligencją przekraczającą w pewnym sensie umiejętności najlepszych szachistów. Należałoby dopracować, co znaczy, że to jest inteligencja, ale to inna dyskusja.
Ważne jest to, że szachiści nadal grają w szachy i szachy nigdy nie były tak popularne jak dzisiaj. Co więcej, najlepsi gracze nie grali tak dobrze jak dzisiaj. Są ciekawe badania pokazujące to szczególnie w przypadku Go. Są dane pokazujące, na jakim poziomie najlepsi gracze w Go grali przez ostatnie kilkadziesiąt lat. Jakość decyzji w najlepszych pojedynkach była zasadniczo ustabilizowana przez wiele lat. Ludzie nie robili dużego postępu w tej grze.
To zaczęło się zmieniać w 2016 roku, kiedy ludzie nagle zaczęli grać coraz lepiej. To oczywiście nie jest przypadek, bo wtedy pojawiły się silniki do gry w Go, które były już lepsze od najlepszych graczy. Ludzie zaczęli po prostu uczyć się od tych silników, jak się gra.
Zapewne jesteśmy teraz w podobnej fazie, kiedy matematycy mogą uczyć się niektórych rzeczy od systemów agentowych czy sztucznej inteligencji w ogólności, zadając jej różne pytania i uzyskując rozwiązania, które potem mogą przeanalizować. Natomiast to jest etap przejściowy, w którym rzeczywiście mamy do czynienia ze współpracą i nie mamy jeszcze takich przełomów na miarę problemu milenijnego, gdzie model sam coś od początku do końca wymyślił.
Polecamy także: Czy gigafabryka AI powstanie w Polsce? „Nie wystarczy kupić sprzęt i go używać”
Takie przykłady są w przypadku prostszych problemów matematycznych. Jest wiele prostych twierdzeń matematycznych, z którymi ludzie mieli kłopot, a które zostały udowodnione jednym promptem przez modele. Ale to są mimo wszystko o wiele prostsze problemy i często wiążą się z tym, że modele łączą kropki. Nie ma tam jakichś zupełnie nowych, przełomowych rozwiązań, tylko raczej łączenie kropek znanych z literatury.
Z trzeciej strony, w przypadku szachów Garri Kasparow miał dawno temu słynne wypowiedzi, że najlepszym szachistą będzie szachista współpracujący z silnikiem szachowym, że taki gracz zawsze będzie lepszy od każdego innego i to będzie przyszłość. Ta przepowiednia, jak większość przepowiedni, też trochę źle się zestarzała, dlatego że obecni najlepsi gracze na świecie nie mają w zasadzie nic do zaoferowania we współpracy z silnikiem szachowym. Silnik szachowy ogrywa mistrza świata sto do zera, może z jakimiś rzadkimi wyjątkami. W takiej współpracy mistrz świata nie ma nic do zaoferowania w tym sensie, że silnik nie potrzebuje niczego od człowieka.
Sprawdź również: Google rezygnuje z mobilnego AI Studio. Na aplikację czekało 800 tys. osób
I teraz pojawia się ciekawe pytanie: czy z matematyką będzie tak, że zachowamy tę współpracę, którą mamy teraz, i modele AI zawsze będą tylko narzędziem w rękach matematyków? Czy też może będzie tak jak w szachach, że dojdziemy do etapu, w którym matematyczne silniki będą na tyle silne, że człowiek w zasadzie nie będzie miał zbyt wiele do wniesienia?
Tego nie wiemy. To bardzo ciekawe pytanie i matematycy prowadzą teraz na ten temat poważną dyskusję. W pewnym sensie dobrze, że dzieje się to właśnie u matematyków, bo to bardzo mądrzy ludzie, jedni z najinteligentniejszych, jakich mamy na Ziemi. I być może, jeśli uda im się ten problem rozstrzygnąć, rozwiązać i jakoś ułożyć sobie życie w nowym świecie, w obecności technologii, która przeobraża naukę, będzie to też wskazówka dla pozostałych, jak w przyszłości układać sobie życie w innych dziedzinach.
Byłem fotografem. Pan też fotografuje. Dużo się nad tym zastanawiam, ale to bardzo ciekawe zdanie.
Właśnie w tym momencie wydałem album fotograficzny. Zajmowałem się fotografią od dwóch dekad i to były czasy, kiedy nie istniała technologia pozwalająca na generowanie obrazów. A więc w pewnym sensie jest to już takie odległe w czasie rękodzielnictwo. Mimo wszystko zdecydowałem się ten album wydać i pokazać po dwóch dekadach, że te zdjęcia się tego doczekały. Mimo że żyjemy w świecie, w którym zrobienie czegoś, co ja kiedyś robiłem przez wiele tygodni ciężkiej pracy, robi się teraz jednym kliknięciem, liczę na to, że to jeszcze ciągle ma jakąś wartość.
