Atlas grzybów AI został wyprzedany. Kilka osób trafiło do szpitala

Książki wygenerowane przez AI to prawdziwa plaga. Jednak, podczas gdy czytanie wygenerowanej literatury pięknej, grozi w najgorszym wypadku przewracaniem oczami, sprawa się komplikuje w przypadku wszelkiego rodzaju przewodników i poradników. Niektóre mogą mieć realny wpływ na nasze życie.

Wygenerowane przez AI poradniki dla początkujących grzybiarzy stały się szczególnie popularne w Stanach Zjednoczonych. 

Oczywiście Amerykanie nie powierzyli w ten sposób swojego życia i zdrowia w ręce sztucznej inteligencji. Nie byli po prostu świadomi, kto jest autorem atlasu. Twórcy nie chwalili się, że każde ze zdjęć, jak i opisy nie miały nawet chwilowej styczności z prawdziwym specjalistą.

Sztuczna inteligencja pisze atlas grzybów

Na niepokojące zjawisko już rok temu zwróciło uwagę Nowojorskie Towarzystwo Mykologiczne. "Kupuj tylko książki znanych autorów i zbieraczy, to dosłownie kwestia życia i śmierci" – napisało na X. 

Mykolog Leon Frey w rozmowie Guardianem wskazał na niebezpieczne porady w atlasach, które jak podejrzewał są wygenerowane. "Autor" jednego z nich sugeruje, że m.in. że "smak może być świetną metodą weryfikacji tego, czy grzyb jest jadalny".

"Cała moja rodzina była w szpitalu w zeszłym tygodniu po przypadkowym spożyciu trujących grzybów" – czytam post na Reddicie użytkownika Virtual_Cellist_736.

"Niestety, książka nie była dokładna. ​Obrazy grzybów są generowane przez AI. Teraz znaleźliśmy podejrzenia co do tekstu. Znaleźliśmy dwa przypadki, gdzie zdanie kończy się, a następnie pada losowe pytanie lub stwierdzenie. Na przykład: Podsumowując, smardze to pyszne grzyby, które można jeść od sierpnia do końca lata. Daj mi znać, czy mogę Ci jeszcze w czymś pomóc" – czytam dalej.

Nie tylko atlas

Wygenerowany przez AI atlas grzybów czy poradniki to nie jedyna forma wprowadzania w błąd amatorów leśnych spacerów. Większym zagrożeniem ze względu na jeszcze większą dostępność są aplikacje, które mają identyfikować grzyby.

Takich w sklepie z aplikacjami Apple’a czy Androida pojawiło się w ostatnim czasie naprawdę sporo. Również w sklepie OpenAI, gdzie trafiają wszystkie specjalistyczne boty, są te, które podają się za "specjalistów" w kwestii grzybów. 

Niestety znaczna część dostępnych aplikacji wykorzystuje sztuczną inteligencję do analizowania zdjęć lub tworzenia opisów konkretnych grzybów. 

Postanowiłam sama to sprawdzić.

Szukając w sklepie z aplikacjami atlasu grzybów, pierwsze kilka propozycji w opisie dumnie informuje o "wsparciu AI" w procesie identyfikacji grzybów. 

Australijscy naukowcy sprawdzili wiarygodność takich aplikacji. Okazało się, że najdokładniejsza z nich prawidłowo zidentyfikowała niebezpieczne grzyby w 44 proc. przypadków. 

Inni zwracają uwagę na popularność wygenerowanych w całości przewodników turystycznych. New York Times badał ten temat i doniósł, że spośród 35 wybranych fragmentów przewodników, detektor Originality.ai wykazał, że każdy z nich niemal w całości został wygenerowany przez AI.

Tu ryzyko jest inne – wprowadzanie w błąd i kierowanie turystów np. do potencjalnie niebezpiecznych miejsc lub przekonywanie do podjęcia nielogicznych działań, takich jak "warto odwiedzić bank żywności z pustym brzuchem".