Użytkownicy Telegrama wysyłają zdjęcie ubranej osoby, a dostają jej wygenerowany nagi wizerunek. Dochodzenie magazynu WIRED wykazało co najmniej 50 działających w ten sposób botów.
Pierwsza wzmianka o bocie z Telegrama, który "rozbierał" zdjęcia pojawiła się w 2020 roku. Zidentyfikował go Henry Ajder. Ekspert od deepfake’ów odkrył narzędzie, które wygenerowało ponad 100 tys. nagich zdjęć głównie kobiet, ale niektóre przedstawiały dzieci.
Cztery lata później magazyn WIRED przeanalizował aktywność w Telegramie i odkrył co najmniej 50 botów, działających w ten sposób. Oprócz nagich zdjęć użytkownik może dostać również film erotyczny. Cała procedura zaledwie kilka minut. Według dziennikarskiego śledztwa WIRED, z takich usług korzysta ponad 4 mln osób miesięcznie. Chociaż WIRED zaznacza, że prawdopodobnie jest ich dużo więcej.
Dochodzenie dotyczyło jedynie botów anglojęzycznych.
Boty różnią się od siebie możliwościami i "ofertą". Niektóre potrafią zdejmować ubrania, inne generują fałszywe zdjęcia osób w erotycznych pozach.
To aplikacje, które działają bezpośrednio w Telegramie.
Są podpinane pod kanały, które z kolei mogą kierować swoje wiadomości do nieograniczonej liczby subskrybentów.
Narzędzia zidentyfikowane przez WIRED są obsługiwane przez co najmniej 25 powiązanych ze sobą kanałów na Telegramie. Każdy użytkownik komunikatora może stać się członkiem takiej grupy i czytać newsfeed. Czyli aktualizacje pisane przez ich tajemniczych założycieli.
Niektóre są niewinne, dotyczą nowych funkcji botów, inne informują o tokenach, które można kupić. W większości przypadków te właśnie tokeny wymieniane są na wygenerowane zdjęcia i wideo.
Telegram ma taką funkcję, że wyświetla użytkownikom "podobne grupy", co pomaga w promowaniu mniej znanych kanałów z botami.
Oczywiście, nie wszystkie boty z Telegrama są złe – niektóre przygotowują quizy wiedzy, inne tłumaczą wiadomości albo tworzą alerty.
"Zrobię z przesłanym zdjęciem wszystko, co chcesz" – tak brzmią opisy botów.
Większość zachęca użytkowników do przesyłania zdjęć kobiet. WIRED zidentyfikował tylko kilka botów, których opisy mówią, że tworzą też obrazy mężczyzn (oficjalnie w celu "wyszkolenia" modelu AI).
Łatwy dostęp do narzędzi tworzących deepfake’i to kolejny cios wizerunkowy dla Telegrama. Aplikacja ta już od dawna uchodzi za miejsce, w którym takie zjawiska jak dezinformacja, scamy, pornografia czy rozprzestrzenianie oprogramowań hakerskich są na porządku dziennym.
Założyciel Telegrama Paweł Durow w sierpniu br. został aresztowany we Francji w wyniku oskarżeń o współudział w rozpowszechnianiu zdjęć wykorzystywanych dzieci i handel narkotykami.
Choć nie przyczynił się do tego bezpośrednio, francuskie służby uznały, że umożliwił przestępcom prowadzenie takich działań, tworząc Telegram.
Od tego czasu Durow zaczął systematycznie wprowadzać zmiany w warunkach korzystania z Telegrama oraz udostępniać dane podejrzanych użytkowników organom ścigania.
Pierwsze boty na Telegramie były dość prymitywne. Ale od 2020 roku poziom zaawansowania narzędzi AI znacznie wzrósł. Dziś przeróbki są często nieodróżnialne od rzeczywistości.
Służby, państwa i firmy technologiczne próbują przeciwdziałać technologii deepfake. Wprowadzają liczne ograniczenia, regulacje czy oznaczenia. Jednak aplikacje, które umożliwiają generowanie nieprawdziwych filmów, potrafią znaleźć się przecież także w oficjalnych sklepach aplikacjami – na przykład w sklepach Apple i Google.