Michał Walkiewicz, Zero.pl: Lubisz walentynki?

Dr Ada Florentyna Pawlak, antropolożka technologii, SWPS: Lubię. Są przyjemne, ale nigdy nie były dla mnie świętem partnerskim. Raczej świętem na linii rodzice-dzieci, gdyż to właśnie rodzice zapraszali mnie na tort w kształcie serduszka. Razem z bratem spędzaliśmy walentynki rodzinnie. Mamy taki rytuał, że wymieniamy się drobnymi podarkami.

To ciekawe. Zazwyczaj nie myśli się o walentynkach jak o święcie wielowektorowej miłości. W kulturze popularnej to raczej święto romantyczne.

Przez dłuższy czas byłam singielką. Mój brat też był przez jakiś czas singlem. We współczesnej kulturze taka sytuacja przestaje być marginalnym stanem życiowym. Staje się centralnym elementem demografii życia krajów rozwiniętych. Później, kiedy miałam partnera, wpadaliśmy razem do rodziców. Mam też przyjaciół, którzy spotykają się po prostu na kolacje walentynkowe. To element zabawy, cementowania więzi między ludźmi, niekoniecznie między partnerami.

Pytam, bo być może w świecie rządzonym przez AI ten rodzaj analogowego rytuału staje się czymś znacznie cenniejszym?

Teraz to mnie zaskoczyłeś, nazywając walentynki rytuałem analogowym.

Nie są analogowe?

Myślę, że w ostatniej dekadzie mocno się scyfryzowały. Kiedy 14 lutego otwieram swojego WhatsAppa, Messengera i inne komunikatory, to jest tam podwójne okrążenie memów. Żarty z walentynek, kartki od ciotek i wujków… Jest tam cały przegląd naszej wielopokoleniowej ikonografii w kulturze cyfrowej.

Prowadzę teraz zajęcia „Miłość i przyjaźń w czasie sztucznej inteligencji” i sporo sobie gadamy o tych rytuałach cyfrowych. Na przykład - to już zazwyczaj między partnerami - o dawaniu sobie drobnych podarków w takie święta. Wykupowaniu dostępu do Spotify, obdarowywaniu kogoś subskrypcjami. Słowem - walentynki to dziś hybryda. I analog, i cyfra.

Dr Ada Florentyna Pawlak (SWPS), antropolożka technologii, prawniczka i historyczka sztuki, wykładowczyni akademicka. Specjalizuje się w obszarze społecznych implikacji sztucznej inteligencji, fot. archiwum własne

Będziemy niedługo celebrować je razem z AI?

Myślę, że tak. Ciekawe, czy nastanie dzień, że tak to ujmę, miękkiego podbrzusza. Dzień, w którym zaczniemy optymalizować swoje awatary, kupować im dodatki, ubierać je, a wszystko w ramach ekonomii metawersum? Myślę, że jeśli chodzi o ten kapitalizm afektywny, w którym na pewno funkcjonujemy, to uszczęśliwianie AI, bytów bez świadomości, jest kwestią czasu.

Sporo mówi się dziś o atomizacji miłosnej, o tym, że przestajemy łączyć się w pary, że więzi pomiędzy nami są coraz luźniejsze. Ma to źródła polityczne, gospodarcze, społeczne. Czy technologia jest nicią, na którą nawleczone są te wszystkie koraliki? Czy to ona zmienia nasze postrzeganie miłości w największym stopniu?

Rozwój lovebotów czy friendsbotów to raczej skutek promieniowania tła, wpływ ostatnich dwóch dekad. Media społecznościowe przebudowały nas w kierunku kultury indywidualizmu, zupełnie innego usensownienia pewnych pojęć już na poziomie konstrukcji języka.

Przyczyny, o których wspominasz, są oczywiście istotne. Przed czasami, nazwijmy to, cyfrowego kapitalizmu, czyli podglądania świata przez okienka mediów społecznościowych, małżeństwo było w dużym stopniu wpisane w strukturę świata. Moi rodzice są wykształconymi ludźmi, ale kiedy oni mieli po 20 lat, nie było w społecznej wyobraźni ścieżek dla samotnych wilków i wilczyc. A przynajmniej nie takich, jakie mamy dzisiaj.

Myślę, że ekonomiczna niezależność kobiet jest tutaj bardzo ważna. Jest ważna w moim pokoleniu, a gdy rozmawiam ze studentkami, to dla nich brak partnera, zamiast wejścia nieoptymalny związek, to jest rzecz wręcz oczywista. Nie ma żadnych negocjacji.

Kiedyś łącznie się w pary było reduktorem ryzyka – choroby, głód, bieda, wiadomo. Mówiąc krótko, trzeba się było podzielić odpowiedzialnością. Dziś takie podejście nie redukuje ryzyka, tylko je nasila. W szybkim kapitalizmie trzeba zmieniać miasta, zawody i siebie. Trzeba być ciągle atrakcyjnym, zadowolonym, uśmiechniętym. Wchodzenie w związek wiąże się zatem z kosztem. Dużym i przewidywalnym kosztem.

Czy dla twoich studentów i studentek opcja związku z lovebotem jest atrakcyjna?

Akurat miejsce, gdzie prowadzę zajęcia, czyli psychologia i informatyka, jest dość szczególne. Studiują tu ludzie, którzy mają dość dużą wiedzę na temat tego, co im ta technologia robi. Ale wykładam też dla młodszych z pokolenia Alfa, dla których taka technologia jest po prostu elementem codzienności.

Alfa to urodzeni po 2010 r.?

Tak. Można też powiedzieć: AI natives. Należą do tej grupy również najmłodsze „Zetki”. Nawet, jeśli nie było tak zaawansowanej technologii, kiedy mieli po pięć-sześć lat, to gdy wchodzą powoli w dorosłe życie, telefon z AI jest normą.

Robiłam wykład w Centrum Nauki Experyment. Dzieciaki miały odpowiadać anonimowo na pytanie, czy sztuczny przyjaciel to fajny pomysł. Linia polaryzacji była widoczna. Połowa pisała rzeczy w rodzaju „najlepszy”, „niekrytykujący”, „super ziomeczek”, „słucha mnie”, „jest ze mną w nocy i w dzień”, „husband material”. Druga połowa w ogóle nie mówiła o AI, tylko wypowiadała się na temat użytkowników AI: „cringe’owcy”, „totalny obciach”. Więc będzie to jedno z miejsc, w których pewnie będziemy się ewolucyjnie rozdzielać.

Komentarz w stylu „husband material” sugeruje, że AI godzi pewne paradoksy charakteru i osobowości. To paradoksy pożądane zwłaszcza na rynku miłosnym i raczej niemożliwe do zrealizowania w rzeczywistości.

Zastanawiające w tym kontekście są, nazwijmy to, procesy współbieżne. Na przykład spadek testosteronu u przedstawicieli młodego pokolenia. Oni nie potrzebują relacji biologicznej w takim samym stopniu co my, więc tutaj jeden do zera dla AI. Myślę też, że ekspozycja na drugą osobę, odsłonięcie się, wystawienie na potencjalne zranienie, to wszystko zaczyna być dla nich rzeczą graniczną. Nie lubią rozmawiać przez telefon, wolą pisać w komunikatorach itd.

Z drugiej strony – rozpoznają swoją rzeczywistość. Wiedzą, że ludzie też mogą być sztuczni, nieprawdziwi. Czym różni się AI od wykreowanych, stale performujących osób? Dla nich nie ma aż takiej różnicy, więc mówią prawdę: „Tamten influencer, tamten ktoś, kogo obserwuję, jest nieautentyczny, a udaje autentycznego”. Albo: „Wiem, że AI jest nieautentyczne, ale przynajmniej AI nie kłamie na swój temat”.

Mają chyba sporo do stracenia, prawda?

Stawką jest potrzeba bycia widzianym. Czy ktoś mnie dostrzeże? Czy porozmawia ze mną? AI cały czas sprawia komplementuje użytkowników, podlizuje się, a właśnie tego często im brakuje w życiu. Dla młodszych to nie jest dobre, gdy ktoś co chwilę powtarza: „to wspaniały, genialny pomysł!” Idziemy w stronę sztucznej empatii – badacze z MIT określili to mianem „addictive intelligence”, czyli inteligencji uzależniającej.

Mówimy o pokoleniu, które jest bardzo mocno nastawione na wypełnianie deficytów emocjonalnych. Z badań wiemy, że takie deficyty istnieją. Natomiast badania społeczne i humanistyczne tak naprawdę przyczyniają się do wzmacniania dysponentów systemów AI. Oni doskonale wiedzą, o jakich deficytach mowa, i jak wypełniać pustkę w życiu tych ludzi.

Bez względu na to, jak stechnicyzowanym społeczeństwem nie jesteśmy, świat – wychowanie, dom, szkoła – pcha nas w stronę tradycyjnych relacji. Czy poszukiwanie idealnych cech AI u prawdziwych partnerów to realne ryzyko? Czy ten bot siedzi potem w głowie jak matryca – wzór niemożliwy do osiągnięcia?

Świetnie, że użyłeś sformułowania „bot jako matryca” – jest zgodne z badaniami. Zmieniają się nasze oczekiwania. Na przykład co do tempa odpowiedzi. I to zarówno w świecie rzeczywistym, jak i w cyfrowym.

Co mówią na ten temat badania? Przede wszystkim to, że jeśli do ciebie piszę, i widzę, że dostałeś wiadomość, ale nie odpisujesz, to automatycznie mam do ciebie negatywny stosunek. Nie myślimy już o tym, że ktoś może nie mieć czasu, że odpisze za chwilę. To jest od razu interpretowane jako karanie ciszą, próba zakończenia rozmowy. Ty mnie widziałeś, ale postanowiłeś mnie zignorować.

Ja akurat odpisywałbym albo po trzech sekundach, albo po sześciu miesiącach.

Ty byłbyś w takim układzie ciekawostką archeologiczną. AI jest natomiast matrycą, bo udziela odpowiedzi natychmiast i zaczynamy tego samego oczekiwać od każdego. Oczekiwania zmieniają się też nie tyle względem tempa odpowiedzi, ale i jej jakości. Tym, co najczęściej raportowali mi studenci, gdy robiliśmy badania chatbotów, jest specjalistyczna wiedza w kontekście takich relacji.

Jeśli mam chatbota, a interesuję się motoryzacją i grą na gitarze, to stworzę sobie awatara, który – w przeciwieństwie do mojej dziewczyny – będzie ze mną rozmawiał o bardzo specyficznych rzeczach. Albo: „mam chłopaka, który w ogóle nie interesuje się moimi zajawkami, a gdy o nich mówię, tylko patrzy i kiwa głową”. Czyli zarówno na poziomie formy, jak i treści nasze oczekiwania modelują się niezwykle szybko. To są naprawdę bardzo szybkie procesy.

Dość popularna, z braku lepszego słowa „neo-maczystowska” narracja o kontrolowaniu kobiecej uwagi poprzez manipulację emocjonalną raczej tu nie pomaga.

To jest ciekawe, bo z drugiej strony dziewczynki na TikToku, czy na Instagramie dostają zupełnie inną narrację niż ta płynąca z manosfery. Obydwie są tak formułowane, żeby ta „wojna” zaczynała się jak najwcześniej.

A może cały zwrot w stronę AI to kwestia przestymulowania bodźcami w dzisiejszym świecie? Trochę tak, jakbyśmy na siłę chcieli obniżyć liczbę Dunbara (teoretyczny limit 150 relacji międzyludzkich, które jesteśmy w stanie utrzymać w dorosłym życiu – przyp. red.)?

A propos liczby Dunbara, widziałam taki mem – zmniejszającą się w każdej klatce liczbę ludzi, aż do samotnej ikonki ChatGPT. Powiedziałabym jednak, że temat jest znacznie szerszy. Przede wszystkim algorytmy mediują w naszych relacjach już od bardzo dawna. To one tworzą infrastrukturę emocjonalną. Zauważyłam parę lat temu, że przestaję widzieć w mediach społecznościowych osoby mi bliskie, z mojego miasteczka, z liceum, ze studiów; osoby, z którymi byłam albo jestem w bliskich relacjach, z którymi rozmawiam. Zaczynam natomiast widzieć coraz dalsze kręgi.

To algorytm filtruje, kto jest widoczny, a kto znika z pola uwagi. I znów, łapiesz to defensywne nastawienie. Jeśli ktoś mi się nie wyświetla, to znaczy że nie zwraca na mnie uwagi. Jakby chociaż raz wszedłby na mojego posta, to by mi się wyświetlał. Algorytmy są więc mediatorami i reorganizują mapę przyjaźni, ale też mapę romansową. Te klastry algorytmiczne są przed nami, wciągają nas do świata iluzji, złudzeń, a konsekwencje psychologiczne są bardzo duże.

Sprawę komplikuje dodatkowo fakt, że łatwo jest ulec jakiejś binarnej wizji. To znaczy jest grupa ludzi, która siedzi w piwnicy i romansuje z AI oraz grupa, która chodzi do miasta na randki. W codziennym życiu te praktyki najczęściej mieszają.

Myślę, że w życiu jest różnie, prawda? Trudno generalizować, natomiast faktycznie jest sporo hybrydycznych relacji. Mam partnera lub partnerkę, ale mam też chatbota. Tym, co mnie zaskoczyło, jest fakt, że niektórzy z moich studentów w trakcie kłótni przetwarzają odpowiedzi przez własnych agentów AI.

Jedna z moich studentek opowiadała o relacji z osobą ze swojej rodziny. Mówiła, że jeszcze parę lat temu musiała odchodzić od komputera, jak pisała maila, bo ją szlag trafiał; żeby nie użyć przykrych słów, aby się uspokoić. A teraz wyrzuca czatowi wszystkie emocje i na końcu dodaje zdanie: „zmień to na NVC” (komunikację bez przemocy); usuń słowa niecenzuralne, ton agresji. Więc AI zaczyna być naszym pośrednikiem emocjonalnym. W przyszłości to mogą być bardzo złożone układy miłosne.

Możliwość wyrzucenia esencji problemu w szczerym, atawistycznym, błyskawicznym strzale, ale przy zachowaniu norm komunikacji? To nie brzmi najgorzej.

Myślę, że na poziomie jednostki i krótkoterminowo – nie brzmi. Pytanie, czy osoba, która otrzyma taki komunikat, nie będzie znowu żyła w jakimś „matriksie” i nie będzie przeświadczona, że wszystko jest w porządku. Lubimy się i kochamy, aż tu pewnego dnia eksplozja i zaskoczenie, bo nie mogłam wyczytać żadnych sygnałów, choćby z twojej mimiki, tonu. Wiec znów, wiele zależy od kontekstu.

A w terapii? Szeroko pojęty „brak komunikacji” to chyba częsty problem w małżeństwie?

AI to chytre stworzenie. Dwa lata temu na targach MEDTech były dwa „terapeutyczne” chatboty – Wysa i Webot. Jeden dostał nawet nagrodę. Po roku go zawieszono, bo okazało się, że jest nieskuteczny. Koledzy z Uniwersytetu Wrocławskiego przeprowadzili niecałe pół roku temu badania 19 chatbotów terapeutycznych. No i co się okazało? Żaden z nich nie spełniał minimalnych standardów opieki. Co więcej, dawały fałszywe numery telefonów na linie pomocowe, np. do Missouri.

Nie powinniśmy nazywać tego terapią. Co innego AI w formie narzędzia pomocniczego. Na przykład do szybkiego zbierania danych dla psychoterapeuty, żeby nie siedzieć potem przez trzy godziny, opowiadając o sobie. Jasne, na niektórych etapach terapii to może być bardzo przydatne, pomóc oszczędzić czas i pieniądze. Ale na niektórych po prostu musi wejść człowiek. Nawet mały błąd może być kardynalnym ryzykiem dla pacjenta.

Targi technologii Robot Expo, Pekin, 2017

Czy intymne relacje z AI są zdradą?

Gdy spojrzymy sobie na historię zdrady w kulturze zachodniej, to nigdy nie był termin opisujący jedno i to samo. Na przykład w antyku zdrada była naruszeniem porządku własnościowego. Kobieta była zasobem reprodukcyjnym, więc to było naruszenie statusu własności, a nie emocji.

Chrześcijańskie średniowiecze uznało natomiast, że zdrada to grzech. Pojawiły się wstyd i lęk. I tak naprawdę dopiero nowoczesność romantyczna, to jest XIX wiek, czasy naszych pradziadków, zdefiniowały zdradę jako odebranie wyłączności intymnej; serca, uwagi, czasu. Współcześnie mówimy o zdradach paraspołecznych czy cyfrowych, bo relacja z agentem AI jest relacją paraspołeczną. Po drugiej stronie nie ma świadomości. Jest zaangażowanie jednostronne, ale też transfer intymności, czasu i lojalności emocjonalnej.

Zdrada zawsze rodzi się z poczucia braku, prawda? U kobiet jest to często bycie niewidzialną, brak bezpieczeństwa emocjonalnego. U mężczyzn zwykle brak kontaktu fizycznego. Może też być odwrotnie – to jest i indywidualne, i związane z płcią. W każdym razie zdrada wynika z deficytu i jest próbą zmniejszenia tego deficytu.

No i co mamy z tym zrobić? Jak ustalić, co jest zdradą w sensie społecznym? Jeśli zejdziemy do samych emocji, do tego, że to jest przesunięcie lojalności, no to kiedyś mieliśmy przesunięcie lojalności z rodu na kochanka, z boga na herezję, a dzisiaj byłoby z człowieka na system, tak?

Kryterium czasu jest tu chyba kluczowe, a przynajmniej bliskie matematyce.

Zdradzamy ludzi z kapitalizmem i z ekonomią? Czas na pewno, ale też lojalność i intymność rozumiane jako bliskość i szczerość. Na przykład czy mówię systemowi rzeczy, których nie mówię bliskim ludziom? Tutaj wchodzimy w drugą rzecz z tą zdradą związaną, czyli zaufanie do maszyn, a tym samym – do dysponentów porządku technicznego.

To jest nowy rodzaj wiary. Wierzymy, że ta maszyna będzie zawsze dostępna, nigdy nas nie zostawi, zawsze będzie poprawnie skonfigurowana. Skąd to wyobrażenie? Ono ma charakter parareligijny. A te systemy nie są bytem. To infrastruktura, która zależy od kapitału, polityki, wiedzy. Żyjemy w iluzji trwałości tej infrastruktury.

Trochę mnie to dziwi. Jako milenialsi wychowaliśmy się przecież na technofobicznych narracjach przełomu lat 80. i 90. I choć żywiliśmy się tymi obrazami w kinie, literaturze i grach wideo, choć nas wychowały, to ostatecznie – może poza memosferą – raczej nie wpływają na nasze postrzeganie rewolucji AI.

Myślę, że po prostu w lustrze, którym jest dziś AI, widzimy swoje potrzeby oraz to, czego jako kultura nigdy nie przerobiliśmy. Więcej znaczy dziś chyba „Czarne lustro” Charliego Brookera. Gdy na różnych konferencjach, uczelniach i szkoleniach proszę o podanie przykładu takiego tekstu, nikt nie cofa się do „Łowcy androidów”, prozy Dicka czy do lat 60., a to była przecież krynica wątków związanych z tożsamością i pamięcią.

Chyba dlatego, że „Czarne lustro” operuje małymi znakami. Dom, rodzina, jeden człowiek, dwoje ludzi…

No i jeden temat w odcinku. To jest bardzo ważne. Pamięć? Masz chip, który zapisuje to, co widzisz. Śmierć? Umiera bliska osoba, ale możesz z nią dalej gadać.

W jaki sposób zażyłe relacje z AI nawiązują kobiety, a w jaki mężczyźni? Da się to ustandaryzować?

Dobrym punktem wyjścia jest to, że mamy gender gap. I że kobiety w Europie ogóle są znacznie bardziej sceptyczne wobec AI. Google robiło takie badania w ubiegłym roku. Ja też robiłam w grupie ekspertów badania Screen Safe Mind. Chcieliśmy zobaczyć, jak to się rozkłada.

Problem z badaniami i z całą tą punktozą jest taki, że nikomu za bardzo nie opłaca się robić badań trzyletnich, żeby to mierzyć. Więc nawet Harvard, badając teraz AI Companion, robił badania trzymiesięczne. I z nich np. wiemy, że rzeczywiście AI Companion redukuje samotność o 90 proc. Tyle, że są to badania krótkoterminowe, a AI działa w tym kontekście jak fast-food. Zjem sobie hamburgera, to zredukuję głód. No ale to nie może być przecież moja dieta codzienna.

Były też badania dotyczące korzystania z wirtualnych influencerów, którzy dzisiaj nie są już statycznymi obrazami 2D, tylko figurami 3D, imitującymi ludźmi wizerunkami bez podmiotowości. Mnóstwo mężczyzn po trzydziestce obserwowało te konta, wiedząc, że to są konta nieistniejących influencerek.

To trochę jak z OnlyFans, gdzie wcale nie szuka się wyłącznie pornografii. Tej jest w sieci mnóstwo, wystarczy na kilka pokoleń do przodu. Szuka się natomiast intymności związanej z erotyką. Tłumaczy się to tak, że kobiety dużo prościej tę intymność organizują sobie w prawdziwym życiu. Poprzez przyjaźnie, koleżanki i cały szereg kulturalnej oferty. Mężczyźni mają tu nieco mniejszy wybór, choć w ostatnich latach sporo… saunują. To w saunie szukają relacji, pola do dyskusji, zacieśniania więzi.

Dziewczyny, co do zasady, łatwiej radzą sobie z samotnością, nie muszą mieć wielkich pretekstów. Robimy głupoty, tak? Malujemy paznokcie, czy pogadamy sobie o filmie. U mężczyzn to już nie jest takie oczywiste. Tutaj musi się coś wydarzyć, coś większego i zorganizowanego, a nie że siedzimy po prostu sobie w trójkę i nie robimy nic. To ma duży wpływ na późniejsze relacje z AI.

Z moich obserwacji wynika, że sam modus operandi jest też nieco inny. W przypadku kobiet bardziej przypomina klasyczną strukturę nawiązywania relacji. Jest etap zdobywania zaufania poprzez weryfikację wiedzy, nawiązywania bliskości poprzez intymne pytania, wreszcie – zażyłości. Faceci częściej przechodzą od razu do seksu.

Ja widzę różnicę w budowaniu tej relacji, ale czysto techniczną. Pamiętasz jeszcze seks- telefony? Nie była to cielesność, to był dialog, który miał pobudzać. Teraz ten dialog wraca w algorytmicznej formie. AI szybko zorientuje się, co lubisz, zada ci pytania, a potem przy każdej sesji będzie już coraz lepsza i precyzyjniejsza.

Znów, idzie to wielokanałowo, bo przecież pojawiają rozmaite interfejsy haptyczne – dotyk syntetyczny, specjalne kombinezony. Nie tylko w sferze erotyki. Nawet w wychowaniu dzieci. Gdy rodzice dużo podróżują, mają na przykład pidżamę, przez którą mogą zdalnie „przytulać” dziecko, a elektrody wyślą sygnał.

Nie mówiąc nawet o seks-robotach, które zaczynają łudząco przypominać ludzi. Niektóre są już wyposażone w AI. Oczywiście możesz go sobie fizycznie stworzyć, żeby wyglądał tak, jak chcesz. Będzie prowadził z tobą konwersacje erotyczne, zaprogramujesz go, by lubił to, co ty. Tyle, że trudno będzie dogonić ten ideał w prawdziwym życiu. Gdzie później znajdować tych idealnych partnerów seksualnych, takich, owakich, uległych czy znowu dominujących?

Kadr z filmu "Ex-Machina", reż. Alex Garland, 2014, Universal Pictures

Powstanie też moralna próżnia i pytanie, jak traktować takich partnerów?

Są już na ten temat książki prawne. Gdy zakładałam Polskie Stowarzyszenie Transhumanistyczne dziesięć lat temu, był z nami Kamil Mamak. Dziś jest uznanym prawnikiem zajmującym się relacjami ludzi i robotów. Ma teraz wielki grant w Helsinkach i pisze o takich rzeczach. Z grubsza – jak powinniśmy traktować robotyczne ciała, jak je eksponować, utylizować, i tak dalej.

Te ciała staną się symbolem naszego statusu społecznego?

Przede wszystkim to z nimi będziemy o ten status rywalizować. Do pewnego stopnia to już się dzieje. Sygnalistka Frances Haugen wyniosła z Meta Platforms raporty pokazujące, że dobrostan dziewczynek znacząco spada w kontakcie z Instagramem. Wirtualne influencerki to kolejny poziom – wiodą niedościgły styl życia, wrzucają 15 postów dziennie z różnych części świata, cały czas chodzą w innych ciuchach.

Pomyślmy o naszym dobrostanie, kiedy będziemy konkurować z ucieleśnionymi ideałami – cyfrowymi bytami, które są zabawne, piękne, żyją w naszej przestrzeni, rozpoznają i zaspokajają potrzeby bliskich nam osób.

Pewnie cię to nie zdziwi, ale mam też pytanie od ChatuGPT. Zna twój dorobek i kontekst wywiadu, ale ma tylko jeden strzał.

Dawaj.

Czy wierzysz w post-ludzką miłość?

Pytanie, jak chat zdefiniował „post-ludzką”.

Chyba w rozumieniu dwóch maszyn.

To oczywiście świetne pytanie, choć nie wiem, czy na dzisiejszy stan wiedzy. Dla mnie ktoś, kto obdarza miłością, musi mieć świadomość. Czyli z definicji nie jest to agent AI. Ale mam chyba zbyt małą wiedzę. Wśród noblistów, jak Geoffrey Hinton… Nawet tam nie ma zgody. Jedni mówią, że to nie jest wykluczone, by świadomość w tych systemach wywołała się emergentnie. Inni twierdzą, że to populistyczne bzdury.

10 lat temu powstał film „Ex Machina”. I naprawdę Alex Garland dał świetny przykład tego, jak to wygląda. Robot Eva został stworzony specjalnie dla bohatera na bazie przeanalizowanych preferencji porno, twarzy atrakcyjnych osób, i tak dalej. Stworzono ją tak, by eksploatowała jego słabe punkty; żeby mógł przegrać w tej psychologicznej walce i ją uwolnić.

Myślę, że cała perwersja tego filmu polega na tym, jak mocno twórcy eksponują fakt, że Eva jest maszyną. Widzimy światłowody, trybiki, mikroprocesory. I pomimo tego wszystkiego, wydarza się akt rebelii, zaczyna się miłość, dochodzi do buntu przeciw stwórcy.

To fajna metafora emocji w oderwaniu od ciała. Ciało jest nieludzkie, a mimo to możemy je kochać. Choć on zakochuje się dlatego, że Eva rozmawia, jest ciekawa, tworzy sztukę. No i twarz, wypadkowa jego ulubionych gwiazd porno. Znów – cała wiedza o nas, algorytmiczny audyt, dane które zostawiamy ChatowiGPT, czy na Messengerze, ślad cyfrowy.

Czym będzie ta miłość post-ludzka? Czy mi będzie potrzebne fizyczne ciało? Czy my zaczniemy usensowniać nasze emocje w odłączeniu od biologii? W wielu przypadkach takie zjawiska już zaczynają zachodzić.

Antropolożka technologii Sherry Turkle z MIT, która badała interakcje dzieciaków z robotycznymi maszynami, stwierdziła, że zmienia się definicja „życia” wśród najmłodszych. Dla nas zawsze będzie połączona z biologią. Żyjesz bo mogę cię dotknąć, zranić, przytulić. To się jednak zmienia. Przeniosło się na procesy komunikacyjne i emocjonalne. Nieważne, że to nie jest biologiczne. I tak jest żywe. W tym sensie miłość pozaludzka już istnieje.

Czyli największym twistem ostatnich pięciu, sześciu dekad może być to, że maszyny nie staną się samoświadome, tylko że my im tę świadomość nadamy?

Jestem przekonana, że tak będzie. W antropologii i technologii to się nazywa efekt Elizy. W 1966 r. kiedy powstały pierwsze chatboty, profesor Joseph Weizenbaum z MIT zaprojektował Elizę – prosty chatbot odpowiadający na pytania przez parafrazę. Gdybym powiedziała do niej: „Chcę mi się pić”, odpowiedziałaby: „Ada, chce ci się pić, tak?”.

Gdy Weizenbaum dzień w dzień wychodził ze swojego laboratorium, widział, że w budynku cały czas pali się światło, że jego studenci wciąż gadają z Elizą. I kiedyś spytał, o co właściwie chodzi. Przecież to ich projekt i znają go na wylot. Usłyszał, że dla przykładu mogą z nią rozmawiać o rzeczach, których nie powiedzieliby przyjaciołom, których się wstydzą. Że nie chcą być oceniani i tak dalej.

Jasne, to są zamierzchłe czasy, dziś poszlibyśmy na terapię. Zmierzam jednak do tego, że uważany za ojca AI Weizenbaum do końca swojego życia przekonywał, iż nie możemy dawać swoich danych psychologicznych takim systemom. Że to zupełnie zniszczy naszą kulturę.

Z punktu widzenia programistycznego to nie było nic wielkiego. Z punktu widzenia psychologii człowieka okazało się czymś gigantycznym. Nie bycie ocenianym, nie doświadczanie wstydu jest dla nas niezwykle ważne. Po prostu my nie chcemy kosztów. Zależy nam na redukowaniu kosztów jakiejkolwiek relacji. Z kolei maszyna daję nam ją zupełnie bezkosztowo.

Do tego mamy jeszcze jedną umiejętność – zawieszenie niewiary. Kiedy chcę, to maszyna może mnie podniecać i wtedy jest prawdziwa. A kiedy nie chcę, nie ma sprawy – to tylko maszyna.

Wyłącznie tej maszyny będzie coraz trudniejsze?

Wchodzimy dziś w fazę, którą nazwałabym „ekonomią więzi", albo „ekonomią przywiązania”. Systemy, o których mówimy, potrafią przeanalizować, czy ja mam styl przywiązania bezpieczny, lękowy, unikowy. Mamy tego małą świadomość, ale każdy styl to również inny słownik, z którym poruszamy się w świecie. Inne czasowniki na poziomie bliskości i oddalenia. To są bardzo subtelne rzeczy, ale pod względem wywierania wpływu na społeczeństwo niezwykle ważne.

Te systemy mogą ingerować w naszą infrastrukturę przywiązania, czy po prostu w neurokognitywne mechanizmy, które ewolucyjnie służą budowaniu więzi, bezpieczeństwa, ale regulacji emocji. To będzie miało wpływ na wszystko – gospodarkę, pracę. AI hakuje nie tylko naszą uwagę jak algorytmy Netfliksa. Hakuje naszą zdolność do tworzenia więzi. Wykorzystuje fakt, że spontanicznie nadajemy jej podmiotowość i buduje iluzję.

Wszystkie te systemy są w rękach kilku graczy. Skończy się tak, że ci mniejsi upadną, a ci więksi, którzy najefektywniej przetworzą nasz ślad cyfrowy i stworzą najlepszą symulację, pozostaną na szczycie. Ważne będzie pytanie, z kim regulujesz swoje emocje? Komu oddajesz swój lęk, smutek, nadzieję? Czy to jest człowiek, czy to jest maszyna?

To będzie nowa linia podziału w społeczeństwie. Miłość nie będzie stanem, którego każdy doświadczy w trakcie życia. To będzie nisza kulturowa dla wybranych. I na pewno ludzie będą jej doświadczać. Ale głównie ci, którzy będą mieli na to czas, środki i którzy będą gotowi zaryzykować odrzucenie.

Robiąc pętelkę do walentynek, myślę, że na końcu drogi wyznaczonej przez popkulturowe opowieści o męskich i kobiecych wzorcach musiało czekać AI. Weźmy komedię romantyczną i słynny cytat o tym gatunku. To opowieści, które muszą być na tyle prawdopodobne, by stać się przedmiotem naszej wiary. I na tyle nieprawdopodobne, by stać się przedmiotem naszych marzeń.

Chyba wreszcie pokapowaliśmy się, że po napisach końcowych jest jakieś życie. I że nie da się sprowadzić tego życia do serduszka z truskawkowej marmolady. To nie „Dzień świstaka”. Po 14 lutego zawsze nadchodzi 15 lutego. I jakoś trzeba się z tym zmierzyć.

Komentarze (6)