Jeśli bawiliście się niedawno aplikacją FaceApp i jej działanie wydało się wam przerażające, teraz powinny wam drżeć nogi. Chińczycy wypuścili właśnie ZAO - aplikację typu deepfake, która podmienia twarz w klipach wideo. Teraz każdy może zastąpić Leonardo DiCaprio w Titanicu. Albo kogokolwiek innego w filmie, którego może nie chciałby widzieć...
Scena jakby znana, ale twarz nie za bardzo? To nie DiCaprio, ale Allan Xia, po użyciu aplikacji ZAO Twitter.com/AllanXia (screen)
Zao idzie o wiele dalej. Darmowa aplikacja do podmiany twarzy jest w stanie umieścić twój wizerunek w scenach z setek filmów i programów telewizyjnych po przesłaniu tylko jednego zdjęcia. Została wypuszczona na chiński rynek zaledwie kilka dni temu i od razu zaczęła okupować szczyt zestawienia najchętniej pobieranych aplikacji ze sklepu iOS App Store.
Wzbudziło to od razu głęboki niepokój. Aplikacja może zagrażać prywatności swoich użytkowników.
Użytkownik Twittera Allan Xia opublikował ciekawą demonstrację tego, co jest w stanie zrobić aplikacja. W 30-sekundowym klipie twarz Leonarda Dicaprio w słynnych momentach z kilku jego filmów została zastąpiona wizerunkiem Xia. Internauta relacjonuje, że klipy zostały wygenerowane w niecałe osiem sekund z jednego zdjęcia. Aplikacja może jednak poprosić użytkownika o zrobienie serii zdjęć, na przykład z zamkniętymi i otwartymi oczami czy ustami, by wygenerować bardziej realistyczne wyniki.
Według Xia aplikacja oferuje tylko ograniczoną liczbę klipów, w które można wstawić swoją twarz. Twórca aplikacji “nauczył” swoje algorytmy pracy na każdym z tych klipów i nie jest możliwa zamiana wizerunku na dowolnym filmie.
Czy ZAO jest bezpieczne?
Komentatorzy zwracają uwagę na to, jak szybko rozwinęły się technologie typu deepfake. Niedawno podobna operacja wymagałaby obróbki setek zdjęć, dziś wystarczy tylko jedno, które momentalnie jest obrabiane i wstawiane do filmu.
Rodzi to jednak olbrzymie obawy co do bezpieczeństwa jej użytkowania. Bloomberg zauważa, że deweloper aplikacji jest spółką zależną Momo, chińskiej firmy, która jest właścicielem serwisu streamingowego i randkowego.
Polityka prywatności zawiera klauzulę mówiącą, że twórca aplikacji otrzymuje „bezpłatną, nieodwołalną, trwałą, zbywalną” licencję na wszystkie treści generowane przez użytkowników. Po fali krytyki firma zapewnia, że nie będzie wykorzystywać zdjęć ani filmów użytkowników do celów innych niż ulepszenia aplikacji bez ich zgody. Usunie również dane użytkowników ze swoich serwerów, gdy użytkownicy usuną swoje dane z aplikacji.
Mimo wszystko baza użytkowników znajduje się w Chinach, więc nie jest specjalnie silnie chroniona. Jeśli aplikacja zwiększy swój zasięg, firma dostanie dostęp do milionów zdjęć użytkowników, z którymi - zgodnie z chińskim prawem - będzie mogła zrobić naprawdę dużo.
Skalę potencjalnego problemu pokazuje fakt, że chiński gigant technologiczny Tencent zablokował już linki do aplikacji w swojej aplikacji komunikacyjnej WeChat, powołując się na „zagrożenia bezpieczeństwa”. WeChat jest bardzo popularnym w Azji komunikatorem, używa go regularnie ponad miliard ludzi.
