Wygenerowane przez AI poradniki dla początkujących grzybiarzy od kilku miesięcy zalewają Amazona. Ich sprzedawcy wcale nie informują, że "pisała" je sztuczna inteligencja. "Smak może być świetną metodą weryfikacji tego, czy grzyb jest jadalny" – mogli przeczytać grzybiarze.
Książki wygenerowane przez AI to prawdziwa plaga. Jednak, podczas gdy czytanie wygenerowanej literatury pięknej, grozi w najgorszym wypadku przewracaniem oczami, sprawa się komplikuje w przypadku wszelkiego rodzaju przewodników i poradników. Niektóre mogą mieć realny wpływ na nasze życie.
Wygenerowane przez AI poradniki dla początkujących grzybiarzy stały się szczególnie popularne w Stanach Zjednoczonych.
Oczywiście Amerykanie nie powierzyli w ten sposób swojego życia i zdrowia w ręce sztucznej inteligencji. Nie byli po prostu świadomi, kto jest autorem atlasu. Twórcy nie chwalili się, że każde ze zdjęć, jak i opisy nie miały nawet chwilowej styczności z prawdziwym specjalistą.
Na niepokojące zjawisko już rok temu zwróciło uwagę Nowojorskie Towarzystwo Mykologiczne. "Kupuj tylko książki znanych autorów i zbieraczy, to dosłownie kwestia życia i śmierci" – napisało na X.
Mykolog Leon Frey w rozmowie Guardianem wskazał na niebezpieczne porady w atlasach, które jak podejrzewał są wygenerowane. "Autor" jednego z nich sugeruje, że m.in. że "smak może być świetną metodą weryfikacji tego, czy grzyb jest jadalny".
"Cała moja rodzina była w szpitalu w zeszłym tygodniu po przypadkowym spożyciu trujących grzybów" – czytam post na Reddicie użytkownika Virtual_Cellist_736.
"Niestety, książka nie była dokładna. Obrazy grzybów są generowane przez AI. Teraz znaleźliśmy podejrzenia co do tekstu. Znaleźliśmy dwa przypadki, gdzie zdanie kończy się, a następnie pada losowe pytanie lub stwierdzenie. Na przykład: Podsumowując, smardze to pyszne grzyby, które można jeść od sierpnia do końca lata. Daj mi znać, czy mogę Ci jeszcze w czymś pomóc" – czytam dalej.
Wygenerowany przez AI atlas grzybów czy poradniki to nie jedyna forma wprowadzania w błąd amatorów leśnych spacerów. Większym zagrożeniem ze względu na jeszcze większą dostępność są aplikacje, które mają identyfikować grzyby.
Takich w sklepie z aplikacjami Apple’a czy Androida pojawiło się w ostatnim czasie naprawdę sporo. Również w sklepie OpenAI, gdzie trafiają wszystkie specjalistyczne boty, są te, które podają się za "specjalistów" w kwestii grzybów.
Niestety znaczna część dostępnych aplikacji wykorzystuje sztuczną inteligencję do analizowania zdjęć lub tworzenia opisów konkretnych grzybów.
Postanowiłam sama to sprawdzić.
Szukając w sklepie z aplikacjami atlasu grzybów, pierwsze kilka propozycji w opisie dumnie informuje o "wsparciu AI" w procesie identyfikacji grzybów.
Australijscy naukowcy sprawdzili wiarygodność takich aplikacji. Okazało się, że najdokładniejsza z nich prawidłowo zidentyfikowała niebezpieczne grzyby w 44 proc. przypadków.
Inni zwracają uwagę na popularność wygenerowanych w całości przewodników turystycznych. New York Times badał ten temat i doniósł, że spośród 35 wybranych fragmentów przewodników, detektor Originality.ai wykazał, że każdy z nich niemal w całości został wygenerowany przez AI.
Tu ryzyko jest inne – wprowadzanie w błąd i kierowanie turystów np. do potencjalnie niebezpiecznych miejsc lub przekonywanie do podjęcia nielogicznych działań, takich jak "warto odwiedzić bank żywności z pustym brzuchem".
Więcej:
AI