W ubiegłym miesiącu firma OpenAI zaprezentowała nowy generator obrazów, który stanowi część modelu 4o. Zapewne największa innowacja, jaką zawiera, dotyczy jego wyjątkowych zdolności generowania tekstu. Dotychczas generatywna sztuczna inteligencja miała poważne problemy ze słowem pisanym, które na stworzonych przy jej pomocy grafikach zwykle wyglądało jak kosmiczny alfabet.
Chociaż rzecznik OpenAI, Taya Christianson, podkreśla, że celem firmy jest zapewnienie użytkownikom maksymalnej swobody twórczej, ci bardzo szybko znaleźli kontrowersyjne zastosowanie dla nowej technologii. Okazuje się, że nowy generator obrazów od OpenAI wyjątkowo skutecznie podrabia paragony.
Przebita bariera tekstu
Już teraz ludzie wykorzystują to narzędzie do tworzenia fałszywych paragonów restauracyjnych, co potencjalnie rozszerza arsenał narzędzi do generowania deepfake'ów, wykorzystywanych przez oszustów.
Deedy Das inwestor venture capital, opublikował na platformie X zdjęcie fałszywego paragonu z (istniejącej) restauracji typu steakhouse w San Francisco, który, jak twierdzi, został wygenerowany za pomocą modelu 4o.
"Podobają ci się deepfake'i stworzone przez sztuczną inteligencję, przedstawiające Macrona i Brada Pitta? A podobają ci się fałszywe faktury i zwolnienia lekarskie?" – napisał w poście na Linkedin Raphael Chenol, dyrektor francuskiego centrum Digital Learning. "Wraz z pojawieniem się najnowszej wersji ChatGPT Image Generation, bariera tekstowa została przełamana, dzięki czemu dokumenty można tworzyć od podstaw w ciągu kilku sekund".
Swoboda twórcza
Nie ulega wątpliwości, że łatwość generowania fałszywych paragonów otwiera szerokie pole do oszustw. Nietrudno wyobrazić sobie, jak tego typu technologia mogłaby być wykorzystywana przez przestępców do uzyskiwania zwrotu kosztów za całkowicie zmyślone wydatki.
Podobne zagrożenia mogą dotyczyć zwolnień lekarskich czy wszelkich innych zaświadczeń, dokumentów i formularzy.
Na pytania portalu TechCrunch w tej sprawie OpenAI odpowiedziało, że wszystkie zdjęcia zawierają metadane wskazujące, że treść została wygenerowana przez ich model. "Celem jest zapewnienie użytkownikom jak największej swobody twórczej" – odpowiedziała Taya Christianson, rzeczniczka prasowa firmy.