Zjawisko narasta od dłuższego czasu, a w Polsce widzieliśmy m.in. fake news o śmierci Sławomira Mentzena z Konfederacji, Wojciecha Cejrowskiego w niebezpieczeństwie i Igę Świątek zdradzającą sejmową tajemnicę, jak łatwo się dorobić. To była kwestia czasu, kiedy ktoś wytoczy przeciwko właścicielom social mediów ciężkie działa za to, że pobłażają oszustom. I tak postanowił zrobić prezes InPostu, Rafał Brzoska.

Rafał Brzoska przeciw Mecie

Zjawisko narasta od dłuższego czasu, a w Polsce widzieliśmy m.in. fake news o śmierci Sławomira Mentzena z Konfederacji, Wojciecha Cejrowskiego w niebezpieczeństwie i Igę Świątek zdradzającą Sejmową tajemnicę, jak łatwo się dorobić.

Technologia deepfake wykorzystywana jest niezgodnie z prawem i nową ofiarą oszustów stali się niedawno Rafał Brzoska i jego żona, Omenaa Mensah, którą rzekomo miał pobić na śmierć. Nie jest to pierwszy raz, gdy on lub Omenaa zostają "gwiazdami" deepfake.

"Przychodzi taki moment w życiu każdego z nas, że mówimy DOŚĆ. Mówimy tak z wielu powodów, ale jednym z nich jest powiedzenie DOŚĆ na łamanie prawa, naruszanie norm społecznych i czerpanie korzyści finansowych z oczywistych przestępstw" – tak Brzoska zaczyna swój apel na platformie Linkedin. Pisownia tego cytatu i dalszych zachowana została oryginalna.

W jednej wersji fejka Omenaa została pobita przez męża, w innej zmarła albo została aresztowana. Sama dziennikarka odniosła się do tego z dystansem i humorem, zaznaczając, że mąż jedynie ją "pobił" na polu golfowym, ale ćwiczy, by się zrewanżować. Rafał Brzoska jednak nie zostawia suchej nitki na Mecie i jej właścicielu, Marku Zuckerbergu.

"W skrócie-dziś ze sponsorowanych (opłaconych) reklam na FB i Instagramie dowiedziałem się od Was, że uśmiercono mi żonę, że ja pobiłem swoją ukochaną Amma Omenaa Mensah ,a na koniec Ją samą zaaresztowano. Dzwonicie i wysyłacie do nas linki do tych reklam deep fejków i pytacie czy "u nas wszystko ok"? Tak -jest ok, ale nie mamy już wątpliwości, że komuś zależy na tym by nasz wizerunek publiczny zniszczyć, że komuś przeszkadza nasz wielki europejski sukces filantropijny" – informuje prezes InPostu. 

Wśród powodów bycia celem takich okropnych fake news wymienia też ich wspólne działanie na pomoc Ukrainie i zaangażowanie w sprawy Polski. Deklaruje też, że zamierza dorwać tych, którzy czerpią korzyści finansowe z takich postów. 

A te są spore. Im większy "bait" czyli przynęta na czytelnika lub widza, tym lepiej. To w zasadzie nowa ewolucja łowienia ofiar na spam. Z tym że celebryci i politycy nie tyle doradzają, jak powiększyć penisa albo zdobyć spadek nigeryjskiego księcia, tylko np. namawiają na ryzykowne inwestycje, zasilając z kolei konta oszustów. Albo "umierają" dla emocji wywołujących lawinę klików na podejrzanych stronach. 

W przeciwieństwie do reklam bombardujących nas w sieci deepfake korzystają z głosów i twarzy prawdziwych ludzi. I mogą wywołać rzeczywistą krzywdę.

"Wierzę, że organy ścigania dorwą tych, którzy za tym stoją, a ja zamierzam dorwać tych, którzy czerpią z tych przestępstw korzyści finansowe -chociażby w postaci reklam. Nie spocznę, dopóki wielki koncern socialmediowy nie zmieni swojego podejścia do krzywdzenia ludzi i współuczestnictwa w szarganiu wizerunku osób publicznych, zasłaniając się swoim wydumanym regulaminem" – zaznacza Brzoska.

Za pieniądze oszuści zapewniają sobie zasięgi generowane przez płatne funkcje Facebooka i Instagrama, docierając do wielu pechowych użytkowników. A potem zaczyna się udostępnianie z powielaniem fejka, wszystko generuje ruch. Scamerzy zarabiają na reklamach ze swoich fałszywych stron, a na wyświetleniach na Facebooku i Instagramie kaskę trzepie Meta.

"Ciekaw jestem tylko tego czy gdyby przestępcy rozpowszechniali deep fejki z informacją, że ten czy inny prezes lokalnej spółki Mety czy sam założyciel -Mark Zuckerberg umarł, pobił swoją żonę i dzieci lub jest pedofilem i złodziejem -to czy również ta sama META nie zrobiłaby z tym kompletnie nic??? Pamiętajmy że żaden z tych przestępców nie osiągnąłby zamierzonego celu bez wsparcia zasięgów reklamowych FB i IG!!!" – pisze prezes InPostu.

"A co najgorsze w tym wszystkim że nasze dzieci dowiadują się takich rzeczy dzisiaj z tych źródeł!Kto poniesie tego konsekwencje?!!!" – dodaje. Zawiadomił o sytuacji prokuraturę i zbiera materiały dowodowe, prosząc zainteresowanych, aby przesyłali do niego kolejne przykłady fałszywych treści naruszających dobro osobiste użytkowników na social media.

Deepfakes w mediach społecznościowych

Pod materiałami publikowanymi przez scamerów pojawiają się również nakręcające sprawę, fałszywe komentarze. Wszystko to jest kłębowiskiem przekrętów, mających na celu np. zareklamowanie strony tradingowej kryptowalut, jak ustaliło naTemat przy sprawie z Cejrowskim.

Cyberdefence24.pl już na początku tego roku informował, że w 2023 Meta (właściciel m.in. Facebooka, Messengera, Instagrama i WhatsApp) usunęła 413 mln wpisów zawierających treść o charakterze spamu. W tym – wedle deklaracji amerykańskiego giganta – 98,2 proc. usunięto, zanim możliwe było ich zgłoszenie przez użytkowników.

"Nieoficjalnie usłyszeliśmy także, że problemem ma być fakt, iż przestępcy w wielu przypadkach 'oszukują system' używając technologii 'maskowania', która polega na wyświetlaniu systemom oceny reklam Facebooka innych treści niż później ludziom" – opisał serwis.

I chociaż firma Zuckerberga jest głównym "bohaterem" tego artykułu, warto przypomnieć, że nie tylko na jego platformach dzieją się takie rzeczy.

Niestety dane od ekspertów pokazują, że bardzo mało osób jest świadomych niebezpieczeństwa oszustw w Internecie. Wedle badania firmy iProov "How To Protect Against Deepfakes – Statistics and Solutions" o deepfakes wie jedynie 30 proc. użytkowników Internetu!

Deepfakes to wciąż stosunkowo nowe zjawisko. Oficjalnie serwisy mediów społecznościowych walczą z takimi działaniami. Skuteczność tego, cóż... widzimy gołym okiem.

Czym są deepfakes?

Termin ten po raz pierwszy pojawił się w domenie publicznej w 2017 roku. Użytkownik serwisu Reddit o pseudonimie deepfakes udostępnił wówczas kilka sfabrykowanych filmów wykorzystujących wizerunki celebrytów. Stworzył je za pomocą otwartego oprogramowania Google bazującego na technologii głębokiego uczenia.

Twórcy sfabrykowanych materiałów audio i wideo korzystają z różnych technik. Najczęściej decydują się na zastosowanie generatywnej sieci przeciwstawnej (GAN), która uczy się rozpoznawać wzorce za pomocą algorytmów. Popularność zyskują także dostępne w internecie generatory deepfakes. Narzędzia te wykorzystują zaawansowane algorytmy sztucznej inteligencji – autokodery. Umożliwiają one modyfikowanie oraz zastępowanie twarzy, a nawet tworzenie zupełnie nowych treści wizualnych. Metoda ta odgrywa kluczową rolę w procesie przenoszenia jednego obrazu na drugi.Robert Dąbrowskiszef zespołu inżynierów Fortinet w Polsce

Generowanie klików na podejrzanych stronach to tylko jedna z metod użycia deepfakes. Nie jest żadną tajemnicą, że Rosja prowadzi agresywną cyberwojnę i nie oszczędza nawet Tindera. Ona też zresztą staje się ofiarą fake news jak ten o śmierci Władimira Putina.

A propo aplikacji randkowych, pojawił się również trend oszustów "zarzynających wieprza" z technologią deepfakes generujących fałszywe kobiety, aby opróżniać kieszenie samotników. Jeszcze gorsza jest możliwość używania tej technologii do generowania fałszywych telefonów od bliskich, oszuści tworzą nawet inscenizację porwania.

Specjaliści od cyberbezpieczeństwa zwracają uwagę szczególnie na okresy przedwyborcze. Zagrożenie jest oczywiste – manipulowanie opinią publiczną za pomocą dezinformacji.

Deepfakes jako narzędzie do np. generowania głosu zostało użyte w czasie kampanii wyborczej 2023 w Polsce, szczęśliwie, Koalicja Obywatelska odpowiednio oznaczyła publikowane materiały (choć dopiero po pierwszej fali kontrowersji).

– Liczba materiałów deepfakes w sieci dynamicznie wzrasta. Między 2019 a 2023 rokiem przybyło ich o 553 proc. Ich mnogość oraz rosnąca precyzja w odwzorowywaniu rzeczywistości sprawiają, że odróżnienie fałszu od prawdy bywa trudne – tłumaczy specjalista z Fortinet.

Takie platformy jak oficjalnie Facebook i X pracują nad mechanizmami wykrywającymi np. treści generowane z pomocą AI, w tym tekstowe, ale i ich skuteczność jest bardzo mierna.

Przykro patrzeć, gdy właściciele np. małych fundacji charytatywnych muszą prostować, że nie korzystają ze sztucznej inteligencji do generowania treści, bo Meta błędnie oznacza ich posty z powodów nieznanych. A oni sami nie mają jak usunąć automatycznie nadawanego oznaczenia, które może odstraszać ludzi i zmniejszać zasięgi.

Jak rozpoznać deepfakes i fake news?

W przypadku wątpliwości, czy dane wideo jest prawdziwe, ekspert Fortinet zaleca zwróć uwagę na kilka aspektów:

• Oczy osoby mówiącej – postaci przedstawione w treściach typu deepfakes przeważnie nie mrugają i nie poruszają gałkami ocznymi.
• Twarze osób występujących w wideo – nieadekwatna mimika, niedopasowanie ruchu ust do wypowiadanych słów lub punktowe rozmycia mogą świadczyć o nieprawdziwości materiału.
• Kształt ciała mówcy – technologia deepfakes koncentruje się na jak najwierniejszym odwzorowaniu twarzy, często zaniedbując resztę ciała postaci. Jeżeli jej sylwetka jest pozbawiona detalu lub wydaje się wyglądać nienaturalnie, istnieje duże prawdopodobieństwo, że wideo jest sfabrykowane.
• Światło i kolory – obrazy deepfakes są podatne na przebarwienia. Dodatkowo pojawiające w nich cienie często pojawiają się pod niewłaściwym kątem, a oświetlenie zyskuje nienaturalne barwy.
• Nietypowa perspektywa i ruchy mówców – mowa ciała osób przedstawionych w materiałach deepfakes często nie jest spójna z ich wypowiedziami. Ponadto postacie te mogą zanikać, gdy zbliżają się do innych osób i obiektów w wideo.

Z fake news również należy przede wszystkim zachować czujność. Czy strona, którą czytamy, wygląda wiarygodnie? Czy jej adres nie ma podejrzanych znaków? Jaki jest ton tekstu i czy składnia nie wygląda dziwnie jak napisana przez chatbota? Informacje warto porównywać u innych źródeł.