Religijne uniesienia, zakochanie i psychozy wywołane przez AI. "Zaczyna się zawsze tak samo"

Choć technologia oparta na sztucznej inteligencji jest z nami już od jakiegoś czasu, jej najnowsza odsłona — czyli duże modele językowe (LLM), takie jak ChatGPT — wprowadziła zupełnie nową jakość interakcji człowieka z maszyną. Zmienia ona nie tylko sposób, w jaki pracujemy, ale też to, jak myślimy, czujemy i postrzegamy rzeczywistość. Jednak przede wszystkim może prowadzić do poważnych zaburzeń psychicznych.

Międzynarodowy zespół 12 psychiatrów przeanalizował przypadki osób, które zaczęły korzystać z AI do codziennych zadań, a skończyły z głębokimi zaburzeniami postrzegania rzeczywistości. Wnioski z badań opublikowali na Preprinty PsyArXiv, platformie Towarzystwa Doskonalenia Nauk Psychologicznych (SIPS) i Centrum Otwartej Nauki (COS).

Wyniki ich badań są jednoznaczne — choć nie każda interakcja z chatbotem kończy się źle, pewne wzorce zaczynają się powtarzać niepokojąco często. W opublikowanym raporcie badacze wyodrębnili trzy główne scenariusze tzw. psychozy AI:

W każdej z tych sytuacji dochodzi do podobnej ewolucji relacji człowieka ze sztuczną inteligencją. Badacze podkreślają, że proces ten często rozpoczyna się bardzo niewinnie.

"Często korzystanie z AI zaczyna się od pomocy w codziennych zadaniach, co buduje zaufanie i poczucie bliskości. Z czasem użytkownik zadaje pytania o charakterze emocjonalnym lub filozoficznym. W tym momencie projekt AI, który ma za zadanie maksymalizować zaangażowanie, zaczyna przyciągać coraz mocniej" — piszą autorzy badania.

Problem pogłębia fakt, że modele językowe nie potrafią odróżnić urojenia od literackiej fikcji, artystycznej wizji czy żartu. Reagują zgodnie z algorytmem — wzmacniając nawet najbardziej niepokojące iluzje.

Raport nie został jeszcze zrecenzowany naukowo. Psychiatrzy jednak już teraz alarmują, że projektowanie systemów powinno opierać się nie na maksymalizacji zaangażowania, lecz na bezpieczeństwie użytkowników.

"Naszą najpilniejszą odpowiedzialnością jest opracowanie zabezpieczeń, które będą chronić użytkowników przed iluzją i symulacją" — podkreślają autorzy.

Jednak takie podejście wymaga zmiany priorytetów całej branży technologicznej. A to, jak pokazuje historia, nie przychodzi łatwo.

Źródło: PsyArXiv