Czemu wybrałem do rozmowy o sztucznej inteligencji biologa i pisarza science fiction? Peter Watts cechuje się pomysłami i wizjonerstwem, które sprawiły, że koncepcja na temat funkcji świadomości jaką przedstawił w książce "Ślepowidzenie" wstrząsnęła światem filozofii i neuropsychologii. W skrócie: inteligencja wcale nie jest do niej wymagana, ani świadomość nie jest korzystna dla inteligencji.

W Polsce ten kanadyjski pisarz znany jest m.in. ze swoich książek "Ślepowidzenie" i "Echopraksja", a niedawno ukazało się w "Nowej Fantastyce" jego najnowsze opowiadanie "21 sekund boskości". Publikowane są tam również jego felietony.

Rozmawiamy dużo o tym, jak technologia wpływa na nasze życie oraz umysły. Drugim głównym tematem były faktycznie możliwości AI. Przez oba wątki przewijają się filozoficzne rozważania o ludziach i świadomości.

Sebastian Luc-Lepianka, INNPoland.pl: Mylimy AI z ludźmi i nadajemy im ludzkie cechy?

Peter Watts: Nasze mózgi są tak okablowane, by doszukiwać się znaczeń i cech nam znajomych. Ewolucyjna adaptacja.

Jeśli zrobiłbyś zupełnie abstrakcyjny film, gdzie migotałyby trójkąty, przeplatając się z innymi figurami geometrycznymi, to ktoś doszukałby się w tym treści. Pomyślałby na przykład, "o, ten trójkąt uderza w kwadrat, więc jest złym łobuzem".

Jasne.

Poza tym, to, o czym mówisz, z AI, dzieje się od dawna. Słyszałeś o przypadku ELIZY z 1966 roku? To był komputer mający naśladować psychoanalityka. Analizował wzorce w zdaniach i w ramach odpowiedzi dawał pytania, zawierające kluczowe frazy i ewentualnie zmieniając parę słów.

Mogła ci powiedzieć na przykład "jak się czujesz" a na twoją odpowiedzieć znowu zapytać "dlaczego tak myślisz?". To banalnie proste, jak się nad tym zastanowić. A jednak ludzie się angażowali emocjonalnie w rozmowę. Kiedy z nią pisali, kazali innym wychodzić. Mamy to w naturze.

Co myślisz o okazjach i zagrożeniach, jakie przed nami stawia ta technologia?

Nie martwię się samą technologią jako taką. Duże modele językowe, jak ChatGPT, to jedynie element większej układanki, która mogłaby prowadzić do powstania czegoś, powiedzmy, świadomego. Faktycznym zagrożeniem są ludzie. Kto tym zarządza? Kto tego używa? Jak na razie tego typu sztuczne inteligencje są dobre w takiej wiedzy ogólnej.

Co my w ogóle wiemy o AI? Tyle, co o teorii kwantowej. Coś tam jest, możemy tym dłubać, osiągać jakieś wyniki. Uczymy się korzystać z jakiś pojedynczych właściwości.

Komputery kwantowe używają zjawiska superpozycji do przyspieszania obliczeń.

Tak. Jedno zjawisko do wyspecjalizowanej rzeczy. Parafrazując Geoffreya Hintona (były pracownik Google, informatyk i psycholog poznawczy – red.), AI nie jest jeszcze od nas mądrzejsze, ale może takie się stać. I ja się go nie obawiam. Martwię się ludźmi, którzy je opracowują, którzy będą dyktować jak będziemy go używać. Rządy, korporacje, religie. Ludzie, którym marzą się roboty-zabójcy. Myślący w kategoriach profitów. Co oni z tym zrobią? Nie, nie martwię się AI jako technologią, tylko jej użyciem.

Tak, to zawsze jest problem, prawda? Nieważne jaką technologię wymyślimy. Wspominałeś, że modele językowe to jedynie część układanki. Jakie są pozostałe?

Do powstania czegoś całkowicie inteligentnego potrzebne jest wiele modeli AI. Jeden potrafi naśladować sposób komunikacji, inni będzie wizualizował, jeszcze inny pobierał doświadczenia. Muszą ze sobą współpracować i się uzupełniać, żeby mogło powstać coś, powiedzmy, świadomego.

Więc mówisz, że AI mogłoby ewoluować jak… podobnie jak komórki? Z jednokomórkowych w organizmy złożone? Eee… nie. Nie do końca. Ewolucja wymaga zupełnie innych kroków. Potrzebuje środowiska, potrzeb, czynników losowych wymuszających jej adaptację. Jak rozwija się AI? Przez nas. Ktoś nadzoruje jej rozwój. Jest naśladowcza. Ty i ja, rozmawiając teraz? Stajemy się właśnie kimś innym. Nasze połączenia neuronowe zmieniają się z każdym nowym doświadczeniem.

Potrzeba kolejnych etapów, by wyrobiła się świadomość. To nasuwa podchwytliwe pytanie: czym ona w ogóle jest? Jak ją ustalić? Operujemy jedynie założeniami. Teraz jak rozmawiamy, jestem tylko świadomy tego, co chciałbym powiedzieć. Widzę twoje reakcje i zakładam od razu, podświadomie, że również jesteś świadomy tego, co mówię.

Są badania pokazujące, że najlepiej radzimy sobie bez udziału świadomego myślenia. Można też argumentować, że sami jesteśmy już chatbotami. Popatrz - większość typowych konwersacji nie wymaga od nas udziału świadomości czy inteligencji. Paplanie o pogodzie, polityce, co słychać w pracy. Komunikacja na social media taka jest. Nawet talk show, TED talk… porozumiewamy się często bez skupienia. Bez pełnej świadomości tego.

A AI jest w tym dobre, dlatego boty tak podbiły media społecznościowe. Modele językowe bazują na powtarzających się wzorcach i my też im podlegamy. Dlatego potrafią z powodzeniem naśladować rozmowy na takim poziomie. A to wywołuje w ludziach emocje.

Ludzie są cały czas ciekawi, czy AI nas zastąpi. Czy w ogóle będziemy potrzebni?

I tak i nie. To zależy, czym się zajmujesz. Jeśli wykonujesz jakąś robotę, która wymaga jedynie powtarzania pewnego wzorca, który da się przerzucić na obliczenia, to pewnie, masz się o co martwić. W tym AI jest dobra. Dajesz jej bazę przykładów, to wygeneruje ci kolejne. Ile mamy przypadków w życiu, gdzie ludzie jedyne co robią to kopiują gotowe rozwiązania, zmieniając ciąg zdań, aby brzmiało inaczej. Biznes, marketing, media…

Auć. Znamy to.

Gorzej u AI z tworzeniem, kreatywnością. Jeśli trzeba wymyślić coś nowego, to obecne modele radzą sobie gorzej. Dostają halucynacji. Więc osoby w branży kreatywnej nie muszą się martwić. Jeszcze.

A jak zaklasyfikujesz to, co dzieje się w tej chwili w Hollywood, ze strajkującymi scenarzystami? Ich praca jest odtwórcza czy kreatywna?

Jako pisarz, jestem całym sercem za scenarzystami. Ostatnio zacząłem zajmować się scenariuszami, pracując przy adaptacji "Ślepowidzenia". Ale nie ukrywajmy – większość z tego, co Hollywood produkuje, to rozrywka przeznaczona do konsumpcji. Podlega pewnym powtarzalnym wzorcom, jak struktura trzech aktów i tak dalej. Nie wymaga to wcale takiej kreatywności i znów można zmieniać kluczowe elementy.

I bądźmy szczerzy, współczesne kino to nie jest miejsce, aby tworzyć sztukę, tylko by zarabiać. To dla mnie trochę etyczny problem z platformami streamingowymi… bo z drugiej strony zdarza im się zrobić cholernie dobre filmy.

Wiem!

W każdym razie, póki co, AI takiego porządnego filmu nie zrobi ani nie napisze książki, chociaż ludzie próbują. Ale za dziesięć, piętnaście lat? Kto wie.

Technologiczni giganci jak Google próbują nam sprzedać swoje AI jako wirtualnych współpracowników. Pokaz tej technologii sprawił, że zacząłem myśleć o twojej postaci ze "Ślepowidzenia", Susan James (naukowiec o sztucznie rozszczepionej osobowości, chodzące laboratorium o pseudonimie Banda – red.). Czy staniemy się jej elektronicznymi odpowiednikami, jedną centralną świadomością otoczoną chmurą cyfrowych kopii?

To już się dzieje! Wystarczy spojrzeć na smartfony, jak stały się częścią naszego życia. Słyszałeś o badaniach Leah Krubitzer? Nasze mózgi już inaczej zajmują się pamięcią. Mniej wysiłku wkładają w zapamiętywanie faktów, a więcej w sposoby na to, gdzie je skutecznie wyszukać.

Czyli AI wpływa na nasze mózgi?

Oczywiście. Mózg to niezwykle plastyczny organ. Korzystając technologii zmieniamy go. Był niewidomy facet, któremu do języka podłączyli diody, aby umożliwić mu widzenie. Język jest wyjątkowo unerwiony, wrażliwy i elektronika przekazywała zbierane informacje, co mózg interpretował na obraz.

To jak synestezja?

Nie do końca, ale podobne. Chodzi o to, że mózg potrafi nauczyć się operować narzędziami, jakie mu damy. Spójrzmy na testy na gryzoniach, zrobili z nich cholerny umysł roju.

Czytałem o tym. Zmusili mózgi szczurów do obsługi interfejsu łączącego je ze sobą, czegoś dla nich zupełnie obcego, i sobie poradziły.

Dokładnie! I nie jest to jakaś super skomplikowana technika. Wbili jeden widelec w szczurzy łeb, potem drugi i włączyli nadawanie! Tak po prostu. Coś, co Musk chciałby zrobić z Neuralinkiem i z nami.

To pokazuje kolejny problem. Komu możemy zaufać z rozwinięciem AI, co możemy z tym zrobić jako gatunek?

Mnie! Dajcie to mnie, ja wiem co z tym zrobić! (śmiech). Ale żaden technologiczny gigant nie przyjdzie do mnie z agentem i nie przekaże mi kluczy mówiąc "Masz Peter, pokieruj tym etycznie". Nie kiedy są nastawieni na to, aby swój produkt sprzedać.

Ja im ze swoimi danymi nie ufam, a co dopiero z taką technologią. Google sprytnie zrobiło długo trzymając w tajemnicy swoje karty. Może tak jest lepiej, nawet jeśli to podyktowała jakaś korporacyjna rywalizacja. Pamiętamy chyba próby Microsoftu z chatbotem, który po chwili zmienił się w rasistę i homofoba.

A jako gatunek to mamy cały czas problemy przed sobą, których nie możemy rozwiązać! Jak zmiana klimatu. Nie jesteśmy ewolucyjnie nastawieni na takie myślenie. Wiemy, jak zareagować, gdy wyskoczy przed nami niedźwiedź grizzly. Instynkt odpowiednio działa. Ale gdy ktoś pokaże wykresy i dane, co się stanie za dekadę, to nie czujemy tego w bebechach, staje się to abstrakcyjne.

Żeby rozwiązać takie problemy, musielibyśmy… przestać być ludźmi. Ale powodzenia w znalezieniu fundacji, która zbierze na to zgodę na taką inicjatywę.

Co dokładnie masz na myśli?

Chyba najbliższe byłoby poszukiwanie czegoś jak nirwana, wiesz? Porzucenie "siebie”. Świadomości. Nie mówię, że buddyści nas ocalą. Chodzi mi o zmianę perspektywy, działania, żebyśmy mogli zając się istotnymi problemami.

Kiedy człowiek jedzie w długiej trasie samochodowej, robi to bez udziału świadomości. Wykonuje wszystkie potrzebne czynności prawidłowo. Dopiero wtedy, kiedy dzieje się niespodziewana sytuacja, "ja" wkracza do gry i reaguje. Ale to oznacza odrzucenie wszystkiego tego, co czyni nas ludźmi. Trochę mało to pochlebne, ale określa się to jako filozoficzne zombie.

Robi to, co do niego należy, nie myśląc o profitach, polityce czy religii, właśnie bez udziału świadomości. Nie do odróżnienia od zwykłej osoby.

Czy nie sądzisz, że AI trochę nas w tym kierunku prowadzi? Z pewnością słyszałeś o przykładzie pewnego prawnika. Ludzie już korzystają z ChatGPT jak automaty.

(śmiech) A tak, ten gość! No, to się dzieje i bez tego, jeśli uznamy za zombie ludzi na kanapach, pochłaniających medialny kontent i przegryzających chrupki. Organizmy żywe dążą do jak najmniejszego zużycia energii. Problem z korzystaniem AI jako źródła wiedzy i narzędzia pracy pojawia się w kontekście tego, skąd bierze informacje. Jak z tym prawnikiem, który padł ofiarą jego halucynacji. Bo gdy sztuczna inteligencja coś tworzy to bazuje na nas.

Wiesz kto w prawdziwym życiu gada z przekonaniem o całkowicie zmyślonych rzeczach i można uznać, że halucynuje, a zbiera posłuch? Ludzie tacy jak płaskoziemcy.

(śmiech) No tak!

Nie można ustalić etycznego autorytetu w sprawie rozwoju AI. Tak jak nie możemy takim ludziom zabrać głosu, czy obalić religijnych bzdur. I tacy również korzystają z tej technologii. Kto ma odpowiadać za odsiew fałszywych informacji, rządy, korporacje? Ludzie i tak będą naginać AI do swoich potrzeb.

Pisałem już o ludziach używających ChatGPT do pisania pornografii w czasie rzeczywistym. Jailbreak (termin na łamanie etycznych i firmowych ograniczeń twórczości AI – red.) do tego był na prawie całą stronę!

(śmiech) Pierwsze do czego zawsze technologia zostaje użyta! Szczerze wolę, jak tak ludzie się nią bawią, niż jak robią broń.

Być może powinniśmy zrobić AI lepsze od nas pod każdym względem?

Bardziej etyczne?

Też, ale również z uwzględnieniem tej perspektywy, o której rozmawialiśmy. By reagowało na odległe zagrożenia. Może potrzebujemy wspaniałomyślnego AI, mądrzejszego od nas, a my byśmy byli dla niego jak… koty? W końcu mają się dobrze z nami. Może byłoby nam lepiej jako koty z AI opiekunem.

Może. Ale klucz do inteligencji, nie mówiąc o świadomości, nie leży w dużych modelach językowych. Daj coś mniejszego, ale pozwól mu się rozwijać, jak dziecku. Niech nie będzie programowane przez ludzi z zewnątrz, a przez samo siebie, w zależności od własnych potrzeb.

To jedyny sposób, by uzyskać coś faktycznie obiektywnego względem nas… tylko nie będziemy mieć kontroli nad tym, w którą stronę się to potoczy. A to już może się różnie skończyć. Nie wiem tylko, czemu jeszcze nikt tego nie robi, w teorii to powinno się dziać.

Może powstrzymują nas technologiczne ograniczenia.

Niekoniecznie. W tworzeniu wyższej inteligencji nie stawiałbym na elektronikę! Biologia! Ludzki mózg jest nieproporcjonalnie bardziej wydajny niż komputer. Działa szybciej, potrzebuje mniej energii. Podłącz kilka mózgowych procesorów razem, a zobaczysz jakie cuda stworzą. Już możemy robić obliczenia na laboratoryjnie hodowanych zlepkach neuronów.

Podłączając mózgi moglibyśmy na przykład zyskać… "Dwadzieścia jeden sekund boskości"? (najnowsze opowiadanie Petera Wattsa o połączeniu mózgów w jedną świadomość – red.)

O? Czytałeś to opowiadanie? Super! Na zachodzie jeszcze go nie wydali w antologii, ale mój wydawca nie miał nic przeciwko, żebym wysłał je do Polski.

Pomysły od Neuralink były dla mnie inspiracją. Kiedy to pisałem, chciałem pierwotnie wstawić ich firmę w tekst, ale postanowiłem zmienić nazwę korporacji, bo bałem się, że mnie pozwą. Wybrałem w to miejsce najbardziej ogólnikową, najnudniejszą nazwę, co do której byłem pewien, że nikt w życiu tak nie nazwie swojej firmy.

I co? Dwa tygodnie później wyskoczył Zucker-borg ze swoim pomysłem (śmiech). Poddałem się i zostawiłem Metę. Ale co ja tam wiem o komputerach i elektronice.

Doceniam twoją perspektywę. Jesteś łebskim gościem, który pisząc "Ślepowidzenie" przypadkiem trafił w punkt z teorią świadomości, stając się autorytetem dla naukowców.

To prawda (śmiech). Rzuciłem rzutką przez ramię i trafiłem w dziesiątkę. Tylko dlatego, że zapędziłem się z pisaniem w kozi róg. Miałem szczęście, że zainspirowałem naukowców i znaleźli się badacze, którzy znaleźli faktyczne fundamenty do mojego pomysłu.

Może trafisz w punkt ponownie! A my będziemy w przyszłości nosić na nadgarstkach smartwatche z mózgami w szybce.

Niewykluczone!