Restauracja odcina się od fałszywych promocji. AI od Google oszukało klientów

Właściciele restauracji Stefanina's w Wentzville w stanie Montana mają dość nietypowy problem. Przyznają, że klienci regularnie sprawdzają ich codzienne promocje korzystając z Google AI Overviews, a te generuje informacje często niezgodne z rzeczywistością.

"Prosimy o niekorzystanie z Google AI Overview w celu sprawdzania naszych promocji. Proszę odwiedzić naszą stronę internetową lub Facebooka. Google AI nie jest dokładne i podaje promocje, które nie istnieją, co wywołuje złość klientów i agresję wobec naszych pracowników" – napisali w poście w social mediach.

Problemy z halucynacjami, czyli wytwarzaniem przekonująco brzmiących, lecz nieprawdziwych informacji, są powszechne w narzędziach AI. Jednak Google AI Overviews zyskało reputację szczególnie zawodnego, kiedy krótko po wprowadzeniu dawało rady typu "posmaruj pizzę klejem, żeby składniki lepiej się trzymały".

Eva Gannon, współwłaścicielka restauracji, żaliła się, że AI wymyślało całe dania lub promocje, np. oferując dużą pizzę w cenie małej. "Jako mała firma nie możemy honorować fałszywych promocji Google AI" – podkreślała.

Stefanina's nie jest jedyną firmą, która ponosi konsekwencje błędów AI. W czerwcu jedna z firm z branży fotowoltaicznej w Minnesocie pozwała Google za zniesławienie. Powodem było wprowadzanie klientów w błąd przez AI Overviews, które twierdziło, że przedsiębiorstwo ma założone sprawy sądowe za nieuczciwe praktyki sprzedażowe, co nie było prawdą.

Fałszywe informacje generowane przez AI pokazują, że poleganie na takich narzędziach w planowaniu codziennych działań – od wyboru posiłku po rezerwacje, jest ryzykowne.

Mimo to Google promuje korzystanie z AI, zachęcając użytkowników hasłem "Just Ask Google". W ostatnich dniach firma ogłosiła, że tryb AI może teraz również pomagać w dokonywaniu rezerwacji w amerykańskich restauracjach, co tworzy kolejne ryzyko wpływu halucynacji AI na świat rzeczywisty.