Zgłosiłam deepfake z Agatą Kornhauser-Dudą. Facebook: "Nie narusza naszych standardów"

Podczas scrollowania Instagrama trafiam na film z Agatą Kornhauser-Dudą.

Muszę przyznać, że naprawdę realistyczny. Przez chwilę jej słucham – w końcu, czy to dziwne, że jej nagranie wyświetla się jako "treść sponsorowana"?

"Szanowni obywatele, jeśli macie ponad 50 lat, macie możliwość otrzymywania dodatkowego wsparcia finansowego. Już od następnego miesiąca rząd otwiera nowe możliwości. Tylko dla was miesięczne świadczenie w wysokości 3000 złotych czeka na tych, którzy dołączą do…" – mówi Pierwsza Dama. I tu film się urywa.

Brzmi jak scam.

Samo nagranie nie jest oczywiście wrzucone z oficjalnego profilu Pierwszej Damy, a z facebookowego konta o tajemniczo brzmiącej nazwie "Wiadomości z Polski", które ma 3 obserwujących. Zdjęcie profilowe to ucięte logo Wirtualnej Polski z dopiskiem "wiadomości".

Pod wideo jest – oczywiście – informacja o "platformie, która szybko rośnie" i link "skorzystaj z oferty".

Trzeba przyznać, że nie jest to już marnej jakości AI Slop, a naprawdę profesjonalny deepfake, który niezwykle trudno odróżnić od prawdziwego nagrania.

Sama prawdopodobnie przewinęłabym je dalej, ale moją uwagę zwróciła treść i podejrzany profil, który opublikował film. 

Podejrzewam, że osoby, do których kierowane było nagranie, czyli te, które mają ponad 50 lat, mogłyby nie zwrócić uwagi na te szczegóły.

Z myślą o osobach, które kliknęłyby podejrzany link, zgłaszam ten post i powołuję się na "Oszustwo lub podszywanie się pod inną osobę".

Po kilkunastu minutach dostaję odpowiedź od Mety: "Nie usunęliśmy reklamy Wiadomości z Polski. Nasz zespół weryfikacyjny uznał, że reklama, jaką zamieszcza Wiadomości z Polski, nie narusza naszych Standardów społeczności dotyczących produktów handlowych". 

A dalej: "Zdajemy sobie sprawę, że może to być frustrujące, dlatego, aby zapanować nad oglądanymi reklamami, zalecamy ukrywanie reklam i wprowadzenie zmian w preferencjach reklamowych".

Nie jest to odosobniony przypadek. Doskonale jednak pokazuje, jakim zagrożeniem już dziś są deepfake – szczególnie jeśli celem oszustów jest osoba pełniąca ważną funkcję polityczną. 

Z fake newsami na Facebooku walczył na przykład Rafał Brzoska. 

Ofiarą oszustów padła jego żona Omenaa Mensah, której wizerunek wielokrotnie był przerabiany. Jej podrobione zdjęcia, na których ma sińce pod oczami, były opatrywane podpisem "Rafał Brzoska to damski bokser". Według innych fałszywych doniesień miała umrzeć, albo po raz kolejny zrujnować swoją karierę.

Dlaczego posty takie jak kiedyś te z Omeną a dziś z Agatą Kornhauser-Dudą wyświetlają się na Facebooku czy Instagramie?

Algorytmy Mety bardzo szczodrze pozycjonującym posty opłacone jako reklamy. Z drugiej strony, to takie treści wywołują największe reakcje – zaciekawieni i oburzeni użytkownicy wchodzą w linki, komentują i lajkują posty. Jest ruch, Meta zarabia, ale krzywdę ponoszą ludzie.