Grzegorz Szymanik: Panie profesorze – no i co to będzie?
Dariusz Jemielniak: Czy idziemy w stronę utopii, czy dystopii? Trudno powiedzieć. Różowo nie jest. Mamy narastające rozwarstwienie. Rośnie prawdopodobieństwo kolejnych pandemii, zwłaszcza w obliczu zmian klimatycznych – zaczęła przedostawać się do Polski gorączka krwotoczna. Czy AI nas uratuje, czy pogrzebie? Też nie wiadomo. Symptomy mamy dwuznaczne. Rozwój technologii jest bardzo trudny do przewidzenia. Ponieważ jest jednocześnie szybki i wolny.
Co to znaczy?
Po trzech latach ChataGPT widzimy, jak ogromny jest jego postęp. Z drugiej jednak strony minęło już ćwierć wieku od kiedy komputer Deep Blue pokonał w szachach Garriego Kasparowa. Wydaje się, że oczekiwania w stosunku do technologii i tempa rozwoju są duże większe niż możliwości.
Mam obawę, że długo będziemy jeszcze czekać na realizację tego potencjału, który nam się marzy. A jednak nadal – wszystko zmienia się tak szybko, że nie jesteśmy w stanie nadążyć. A czasem także zrozumieć. Zwłaszcza że liczba dezinformacji rośnie. Na przykład na temat zmian klimatu, w ostatnich latach wzrosła dwudziestokrotnie. Dodatkowo sztuczna inteligencja pogłębia powielanie nonsensów. Może się to skończyć tak, że będziemy mieli fragmentację prawdy.
Że ludzie będą sobie wierzyć lokalnie w różne rzeczy? Jak przed wiekami i tysiącleciami w plemionach?
Tak. I nie będą mieli pojęcia o całości obrazu.
Jakieś dobre wiadomości?
Na przykład taka, że przyrost naturalny na świecie będzie hamował. Poza tym powstają już technologie, które mogą pomóc pochłaniać CO2. Pojawił się też pomysł zbudowania bariery między lodowcem a resztą oceanu, by zwolnić tempo roztapiania.
Na czym miałoby to polegać?
Woda wolniej się miesza, więc wolniej się ogrzewa. Zakładany koszt tej bariery to kilkadziesiąt miliardów dolarów. Niby nie tak dużo – a jednak na tyle dużo, że na razie nikt tyle nie wyłoży. Ale dobrze wiedzieć, że to jest możliwe. Nawet w dezinformacji można znaleźć jakieś pozytywy.
Jakie?
Na przykład wyrabianie się odporności na dezinformację wśród młodszych pokoleń. Choć z kolei oni preferują wiedzę ahierarchiczną. To znaczy, że jeżeli chcą się czegoś dowiedzieć, to nie idą na wykład, czy do specjalisty, tylko próbują sami to sobie nawzajem wyjaśnić. Boli mnie noga? Zamiast u ortopedy, zapytam w social mediach. Podałem przejaskrawiony przykład, ale tak mniej więcej to działa.
A praca? Jak się zmieni?
Z badań wiemy, jaki jest ekonomiczny skutek pandemii: bogaci stali się bogatsi, a biedni biedniejsi. Ten kierunek może postępować w przypadku kolejnych kryzysów.
A czy pracy będzie mniej, czy więcej w wyniku tak transformatywnej technologii jak AI? Niektórzy twierdzą, że przyszłość to stanie się hybrydą – AI plus człowiek. To ma sens, bo przez najbliższe dwie dekady człowiek wyposażony w AI nadal będzie lepszy niż sam człowiek i lepszy niż samo AI. Kolejne pytanie: jak bardzo będziemy potrzebować poszczególnych zawodów? Jak bardzo na przykład potrzebujemy dziennikarzy?
Pewnie jako dziennikarze myślimy, że dużo bardziej, niż jest naprawdę.
Ścieżkę zdrowia w mediach przeszliśmy już wcześniej. Polegała na rewolucji potanienia dostępu do informacji, amatorskiej produkcji i maszynowego tworzenia treści. A teraz dochodzi nam AI. Serwisy giełdowe, sportowe już częściowo się zautomatyzowały. Oczywiście, wiemy, że redakcje są nam potrzebne, jednak biznes się zmienił, niektórych właścicieli mediów pewnie będzie trudno przekonać, że prawdziwe, ludzkie dziennikarstwo jest ważne. Trudno jest walczyć z McDonald’sem, kiedy ma standard Michelina. Jakie będą więc w takich redakcjach proporcje?
Jeśli chodzi o pracę, to hipoteza była taka, że najbardziej narażone na automatyzację są niebieskie kołnierzyki. Okazało się, że białe – automatyzacja wypiera średni szczebel menedżerski i zawody kreatywne, specjalistyczne. Po prostu nie potrzebujemy aż tak wielu wybitnych grafików. Wystarczy jeden, który umie używać AI. Oczywiście, zawody będą się zmieniać – może za jakiś czas informatycy będą zajmowali się programowaniem, ale naszych domów.
A jakie kompetencje będą ważne?
Krytyczne myślenie – czyli na przykład umiejętność czytania wyników badań. Ruchy antyszczepionkowe wynikają m.in. z tego, że ludzie nie umieją czytać badań.
Na matematyce uczy się nas zaawansowanych form matematycznych. Ale to wcale nie pomaga nam w zrozumieniu, jak działa kredyt. A przecież więcej ludzi weźmie kredyt, niż będzie zawodowo całkowała i różniczkowała. To też należałoby zmienić.
Potrzebujemy również nauczyć się rozumieć struktury. Jeśli będziemy w stanie zalgorytmizować nasze myślenie, to będziemy się też lepiej komunikować z AI. Więc będzie to potrzebne i z nami zostanie.
Jaka wiedza będzie potrzebna? O zdrowiu. Mam na myśli zarówno zdrowie psychiczne, jak i fizyczne. W szkole nie uczą nas higieny cyfrowej, ale też higieny relacji i komunikacji. Potrzebujemy więcej na lekcji na temat komunikacji bez przemocy, wyrażania emocji, ale też wystąpień publicznych.
Większość ludzi, którzy skończą szkołę średnią, będzie miała jakieś relacje międzyludzkie, będzie potrzebować asertywności, perswazji, retoryki. Dlaczego tego nie uczymy?
Potrzebujemy też wiedzy historycznej, ale ważniejsza jest ta skupiona na rozumieniu procesów, a nie na liście faktów, które się wydarzyły. Ale taka zmiana w edukacji jest czasochłonna i pracochłonna.
Brakuje nam nauczycieli i szybko ich nie będzie. Ale na pewno można lepiej zarządzać ich czasem. Można też wspomagać się technologią, która pomoże w opanowaniu materiału – takiego, który nie wymaga interakcji z człowiekiem. Niestety, nawet dzisiaj mamy XIX–wieczne podejście do szkoły: przychodzi nauczyciel, otwieramy podręczniki, robimy ćwiczenie. Tak jest wygodne i wypełnia się łatwo czas.
Uczyłbym też tworzenia teorii spiskowych…
Jak to?
Można dawać uczniom takie zadanie: niech stworzą teorię spiskową na podstawie danych, które dajemy. Takie doświadczenie uodparnia na inne teorie spiskowe. Dostrzeżenie, gdzie znajdują się ich szwy, pomaga je zrozumieć. Warto w ogóle uczyć interpretowania danych.
Były na przykład badania, które mówiły o tym, że jak jemy czekoladę, to chudniemy. Wspaniale, prawda? Wszyscy się cieszą, media od razu podchwyciły. Tylko że jak się wczytać, to wnioski z badań są jednak inne. Bo badania mówiły o próbie 20 osób, które jadły wyłącznie czekoladę. I oczywiście chudły trochę bardziej niż osoby, które nie stosowały żadnej diety. Ale to jednak różnica, prawda?
Podobnie warto uczyć, jak działają sondaże polityczne. Tego, jak duży wpływ na wynik ma fakt, w jaki sposób sondaż został przeprowadzony. Na przykład w latach 80. w USA był wielki błąd sondażowni podczas wyborów prezydenckich, który wynikał z przeprowadzenia sondażu wyłącznie telefonicznie. Pominięto osoby, które nie miały wtedy telefonu – w tym wiele osób czarnoskórych.
W polskich sondażach mamy często osoby niezdecydowane, które czasem są odrzucane z wyników, a czasem nie. Warto na to patrzeć. Nie wgłębiamy się w to, jak w ogóle zostało sformułowane pytanie.
Jak uczyć czytania sondaży?
Również można dać za zadanie, by zrobić takie badanie. Kiedy człowiek zacznie zadawać pytania ludziom, to od razu orientuje się, że to nie jest takie proste.
Sam jak uczę studentów, to widzę, że najwięcej się dzieje podczas dyskusji i konwersacji. Wtedy najwięcej odkrywają. Zresztą, ja też.
Kiedy razem przechodzimy proces dochodzenia do jakiegoś wniosku, kiedy się wspólnie pospieramy, więcej z tego zostaje. Chodzi o pokazanie pewnej logiki. Ale też wiedzy aplikacyjnej, którą studenci preferują. Myślą: "O, to mi się przyda, tak będę robił". Ale studia powinny uczyć pewnej struktury i systematyzacji. To jest trudniej wyrobić. A przyszłość relacji? Jakie one będą?
Mam obawę, że dzieci i nastolatki będą wchodziły w pogłębione relacje z botami tworzonymi komercyjnie. To już się dzieje.
Nie rozumiem, dlaczego pozwalamy dzieciom na kontakt z nieprzetestowanymi technologiami. Czy wstrzykiwalibyśmy im substancje, o których nie wiemy, skąd pochodzą? A przecież umysł jest równie cenny, jak ciało. Jego zatruwanie to poważna sprawa, a na to właśnie pozwalamy. Zdrowiej byłoby chyba, gdyby paliły papierosy, niż wchodziły w relacje z botami.
A social media? Też zabronić?
Dzieciom przyciąłbym dostęp, ale nie zabronił. To jak z nożem – można używać go w różny sposób. Bójki z nożem to może nie bardzo, ale obieranie ziemniaków już jest pożyteczne.
Co jeszcze się zmieni w relacjach? Będzie większa niepewność i jeszcze bardziej skomplikowane kwestie tożsamości.
Rozmawiam teraz z panem przez wideorozmowę – mam więc dużą pewność, że wiem, jak pan wygląda. Ale za 10 lat tak nie będzie. Metoda kradzieży "na wnuczka" będzie polegała na tym, że rzeczywiście będziemy widzieli na ekranie naszego wnuczka, który będzie mówił głosem wnuczka.
A tożsamość? Co jeśli na wideokonferencji ktoś będzie chciał wyglądać jak "istota nieczłowiecza". Po której stronie będzie decyzja – czy ja definiuję, jak chce wyglądać na potrzeby rozmowy w Google Meet? Czy decyduje ten, który odbiera obraz? To wszystko już widać, ale jeszcze nie w tak masowym natężeniu, jakie nas czeka. William Gibson, ojciec cyberpunku, mówił, że przyszłość już nastąpiła. Tylko jest nierówno dystrybuowana.
Co to znaczy?
Już dziś doświadczamy tego, co kojarzyło nam się z technologiami przyszłości, ale dystrybucja tych doświadczeń następowała przez następne dekady. Jestem przekonany, że pan dożyje czasów, w których zamiast zwykłych cmentarzy powszechnie będziemy mieli cmentarze w chmurze. Że będzie można pogadać ze zmarłym w sposób nieodróżnialny od rozmowy z żywym człowiekiem. To będzie ta nasza wymarzona nieśmiertelność. Może na taką właśnie zasłużyliśmy? W niskiej rozdzielczości i z przerwami na reklamę? Przyszłość nastąpi szybciej tam, gdzie są jakieś komercyjne zastosowania dla technologii.
A jakie jest najbardziej komercyjne zastosowanie na przykład dla androida?
Innowacje technologiczne często idą za branżą seksu i pornograficzną – więc niech pan sobie odpowie. Ale istnieje wiele zawodów, w których potrzeba namiastki albo choćby iluzji kontaktu z człowiekiem jest duża. Na pewno nie jest tak, że android bardzo łatwo nas zastąpi.
Jesteśmy ukierunkowani na rozpoznawanie twarzy i reakcje fizjologiczne związane z kontaktem z drugą osobą.
Nasz "interfejs" jest radykalnie inny niż cyfrowy. Wyobraźmy sobie, że idzie pan na koncert. Na sali jest 500 osób. Czyli 500 mózgów "słucha" muzyki. Jakby pan podłączył do nich elektrody, to każdy będzie reagował inaczej.
Każdy gdzie indziej będzie to zapisywał, inaczej będą przebiegały reakcje fizjologiczne. Nie mamy zero-jedynkowego mózgu – przynajmniej nie na tym poziomie, w którym jesteśmy w stanie go analizować.
Pamięć mózgu jest nieciągła i niedostępna w sposób stały. Wydaje mi się, że metafora mózgu jako dysku twardego bardziej nam zaciemnia obraz, niż rozjaśnia. Wszystko, co wiemy o pamięci, mówi nam, że to jest inny proces. Zapisywanie informacji w mózgu też jest losowe. Sektory są porozrzucane i dostęp do nich jest zależny od innych połączeń.
Nasza kreatywność też jest tak bardzo inna, niż modeli językowych? Mówimy o najwybitniejszych przedstawicielach gatunku, czy o średniej populacji? Jeśli o średniej, to algorytmy mają jednak większą kreatywność.
Zygmunt Bauman postawił kiedyś tezę dotyczącą kultury – że kiedy próbujemy na kulturę patrzeć jako na system, zbiór założeń, norm i wartości, to umyka nam, że kultura najbardziej się manifestuje w innowacjach, czyli w czymś nowym. Na przykład w języku jest się biegłym dopiero wtedy, kiedy rozumiem, gdy ktoś do mnie mówi neologizmem, wychodzę poza system słownika.
Kiedy mamy modele językowe – czyli maszynkę, której głównym zadaniem jest emulacja – to nie sądzę byśmy byli w stanie orzec, czy ta emulacja działa jedynie dobrze, czy wychodzi poza emulacje, potrafi dokonać innowacji. I czy rzeczywiście ma i potrafi tworzyć emocje?
Muzyka tworzona przez AI potrafi poruszać.
Tylko czy znalezienie prawidłowości systemu i powtarzanie nadal jest innowacją?
Zrobienie najlepszego przeboju rockowego, jazzowego, bluesa za pomocą tych algorytmów zapewne jest możliwe. Ale czy będziemy mogli stworzyć nowy gatunek muzyczny? Tego nie wiem.
Jak spojrzymy na najwybitniejszych pisarzy i pisarki, różnych gatunków – na przykład Phillipa Dicka czy Raymonda Chandlera – to charakterystyczne było dla nich właśnie łamanie normy. Czyli pisanie czegoś w sposób nietypowy.
W przypadku AI mamy na razie do czynienia, mimo wszystko z papugą. A wybitność artystki czy artysty polega na tym, że się odróżnia. Najwybitniejsze dzieło to takie, które ma duży element oryginalności, przy zachowaniu elementów, które pozwalają na jego dekodowanie. Na razie nie widzimy, żeby się tak działo w przypadku AI.
A czy nie zagraża nam, że te ludzkie wybitne dzieła zatoną nam w słabej jakości treściach generowanych przez sztuczną inteligencję – AI slopie?
A kiedyś tak nie było? Jest mnóstwo dzieł, które zostały odkryte przypadkowo dawno po czasach, w których żyli ich twórcy. Czy dziś łatwiej przegapić arcydzieło? No, nie wiem.
A co przyniesie to, że dostęp do tak potężnych narzędzi ma dziś prawdziwie każdy? To ogromna władza właściwie dla każdego człowieka na tej planecie. To prawda, że to wiele może zmienić. Za cenę dobrego samochodu może jeszcze dziś ludzkiego genomu nie może pan edytować, ale już proste eksperymenty biologiczne na drobnoustrojach można robić. Czy doprowadzi to do powszechności środków zagłady, każdy będzie mógł w garażu wyprodukować śmiercionośnego wirusa? Nie mam pojęcia. Ale jeśli każdy z 8 miliardów ludzi miałby guzik umożliwiający zabicie wszystkich, to zgadzam się, że prawdopodobieństwo, że ludzkość zginie, byłaby bardzo wysoka.
A czy my się trochę nie ogłupiamy jako cywilizacja? Oddając coraz więcej kompetencji algorytmom i pozwalając się im emocjonalnie manipulować w social mediach?
Jest takie stare opowiadanie s-f "Bomba numer 5". Pokazuje świat ogłupienia, wynikającego z nadmiaru chemii, plastików, ale też utraty umiejętności obsługi technologii, którą stworzyliśmy. Myślę, że to jest realne. Myślę, że w naszym świecie już występowało. Na przykład rzymski cement – my przez setki lat nie mieliśmy pojęcia, jak Rzymianie robili cement, dużo lepszy niż nasz. Potrafię sobie wyobrazić te skomplikowane modele AI funkcjonujące jak greckie wyrocznie – ona podaje wynik, ale my dzisiaj nie wiemy do końca, jak i dlaczego tak. Ale wiemy, że jest prawdziwy i czerpiemy jak z wyroczni. To ogromna władza.
A rynki kapitałowe? Tu też jesteśmy na progu rewolucji, w której zwykli ludzie będą dzięki algorytmom, będą mogli być maklerami, inwestorami. One będą wiedziały najlepiej. Całkiem stracimy kontrolę nad ekonomią. Będzie krach i nikt nie będzie wiedział dlaczego.
Algorytmy social mediów coraz bardziej i skuteczniej deregulują nasz układ dopaminowy. Nastolatki mają problem z obejrzeniem pełnometrażowego filmu. A treści są coraz płytsze, coraz bardziej taśmowe.
Myślę, że od technologii nie ma za bardzo ucieczki. Mamy fenomen szybszej konsumpcji i prawdopodobnie to jest kosztem głębokości. Ale z drugiej strony skrócenie komunikatu wymaga większej precyzji, wymusza większą wyrazistość. Więc nie jest wyłącznie negatywne. Nie ma już w powieściach miejsca na trzystronicowe opisy przyrody, które też nie mają żadnego znaczenia.
Czy to nie jest interes, który ubiliśmy – komfort, który mamy za cenę wielu różnych takich długofalowych problemów? Za obfitość masowo produkowanego jedzenia płacimy chorobami cywilizacyjnymi. Za przemysł i technologię – katastrofę klimatyczną. Za połączenie siecią social mediów – pogłębienie problemów w relacjach.
Największy problem, jaki wytworzyliśmy, wychodząc z jaskiń to taki, że śmiemy żyć powyżej trzydziestki. Tego nikt przewidywał i nie tak jesteśmy chyba zaprojektowani. Pamięta pan, jeszcze u Balzaka było: "pod dorożkę wpadł 40-letni starzec". A jeśli chodzi o cenę…
Wspaniale mieć ciepło i jedzenie, rzeczy, które ułatwiają życie. Ale za to jest cena.
Tak, skutki technologiczne są jazdą bez trzymanki. Tych zmian nawet nie można dobrze zbadać. Dlatego że tablet dziś i tablet pięć lat temu, to są dwa zupełnie różne urządzenia, inne są sposoby obcowania z nim, inna dostępności programów, inna interaktywność.
My nie wiemy, jakie skutki będzie miało dawanie dzieciom obecnej technologii. Na pewno wskazana jest ostrożność. Taki konserwatyzm w posuwaniu z technologią jest też typowy, chociażby dla osób, które tę technologię rozwijają. Bill Gates, Steve Jobs, czy inni potentaci technologiczni swoim dzieciom radykalnie ograniczyli dostęp do telefonów i tabletów.
Może światełkiem w tunelu jest to, że ludzkość się jednak w gruncie rzeczy zmienia – staje się coraz bardziej empatyczna. Zwiększa się wrażliwość, komunikacja, stawianie na wartości jakby tu też zachodzi ewolucja. Wojen – jak na historię ludzkości – też jest dziś mniej.
Jeszcze niedawno, na dworze francuskim, rozrywką zamiast telewizji było opuszczanie kota do ogniska. A kiedy indziej egzekucje publiczne. Wrażliwość więc rośnie. Wobec ludzi – a na pewno wobec zwierząt. Pamiętam jak w szkole, byłem targany za ucho przez nauczycielkę. Mieściło się to na tyle w normie, że nikt nie robił sobie dużej sprawy. Dziś raczej zostałoby to uznane jako przemoc.
A może ten cień społeczny pada dziś gdzie indziej? Bo tak jest z cieniem, że zawsze musi się odreagować. Może dziś najlepiej jest mu w sieci – patostream, darknet, freak fighty, hejt…
To prawda. Ludzie potrafią z wypiekami na twarzach oglądać egzekucje. Ciekawe to, co pan mówi – że to się zawsze gdzieś objawia, odreagowuje. Jaki to będzie miało wpływ na przyszłe pokolenia, że swoją złość i negatywne emocje odreagowujemy w sieci? Co się stanie z takim rozdzieleniem? Nie wiem. Jak wspomniałem – przyszłość już nastąpiła. Ale jeszcze nie wszystko o niej wiemy.