Dostali wielkie pieniądze za raport dla rządu. Użyli AI i teraz muszą je oddać

W ostatnim czasie mnożą się przykłady na to, że sztuczna inteligencja bywa mocno zawodna, a halucynacje to jej chleb powszedni. Choć eksperci radzą, aby weryfikować treści przedstawiane przez AI, bywa, że zapominają o tym nawet pracownicy najwyższego szczebla znanych korporacji.

Australijski oddział firmy doradczej Deloitte znalazł się ostatnio w centrum kontrowersji po tym, jak okazało się, że część raportu przygotowanego dla Departamentu Zatrudnienia i Relacji w Miejscu Pracy została napisana przy wsparciu sztucznej inteligencji, choć — jak się okazuje — to chyba zbyt delikatne określenie.

Dokument wart 440 tys. dolarów australijskich, czyli ok. 290 tys. dolarów amerykańskich, miał analizować system kar dla osób bezrobotnych w przypadku niespełnienia wymogów programu aktywizacyjnego.

W treści raportu znalazły się jednak odniesienia do nieistniejących książek, rzekomych publikacji naukowych z Uniwersytetu w Sydney i szwedzkiego Uniwersytetu w Lund, a nawet zmyślony cytat z jednego z wyroków. Dokument okazał się mieszanką faktów i fikcji.

Raport opublikowano po raz pierwszy w lipcu 2025 roku. Jednak dziennikarze Australian Financial Review szybko zwrócili uwagę na liczne błędy i fikcyjne źródła w publikacji. Dokument usunięto, a później opublikowano podobnie, ale już w poprawionej wersji. Deloitte utrzymuje, że błędy w raporcie nie wpłynęły na wnioski końcowe.

Ostatecznie firma zgodziła się na częściowy zwrot wynagrodzenia, a konkretnie ostatniej transzy płatności za raport najeżony błędami.

Ostatnio badanie przeprowadzone przez BetterUp Labs (HBR) oraz Stanford Social Media Lab dowiodło, że dokumenty tworzone przez AI, choć w wielu przypadkach wyglądają profesjonalnie, często nie oferują wystarczająco dużo treści, by posunąć dane zadanie naprzód. Pracownicy spędzają niekiedy całe godziny na poprawianiu lub interpretowaniu dokumentów wytworzonych przez sztuczną inteligencję, co generuje ogromne, ukryte koszty dla firm.

"Harvard Business Review" określił to zjawisko mianem workslop. To nawiązanie do sformułowania AI Slop, które oznacza niskiej jakości treści tworzone przy użyciu generatywnej sztucznej inteligencji.