Na nowym wideo PO z cyklu #MailePrawdy słyszymy, jak premier Mateusz Morawiecki czyta treść maila. Nawet jeśli jest jego autorem, to nie jest jego prawdziwy głos. PO użyło lektora AI do sklonowania głosu.
Sztuczna inteligencja użyta w polityce to jeden z powszechniejszych lęków dotyczących etycznego użycia tej technologii. Tym razem sięgnęło po nią PO, tworząc wiarygodny głos premiera Mateusza Morawieckiego. Użyto tutaj techniki deepfake.
Spot pojawił się na X (dawny Twitter): Mówią na siebie Zjednoczona Prawica, ale chyba sami dobrze wiecie, jak jest naprawdę. A co myśli o tym pan premier? Posłuchajcie sami". Tak otwiera się nagranie od PO. Zaraz po wstępie widzimy szefa rządu Mateusza Morawieckiego przemawiającego słowami "Zjednoczona Prawica jest twarda jak stal". Potem wkracza lektor wygenerowany przez AI, a głos brzmi bardzo autentycznie.
"Dalsze rządzenie w warunkach mniejszościowych jest trudne, ale nie niemożliwe. W warunkach kryzysu to dodatkowy argument, że pewne sprawy nie idą, bo przeszkadza nam opozycja i nielojalny Ziobro" – przeczytał lektor głosem premiera.
"Gazeta Wyborcza" informuje, że treść tej wypowiedzi to fragment maila ze skrzynki Michała Dworczyka, który udostępnił serwis Poufna Rozmowa publikujący wykradzione wiadomości pomiędzy członkami rządu Prawa i Sprawiedliwości. Serwis określa prawdopodobieństwo autentyczności treści maila jako "wysoce prawdopodobne".
Pod nagraniem znajdują się komentarze użytkowników zaniepokojonych użyciem tej technologii do celów wyborczych.
Spot nie został oznaczony w żaden sposób, że głos premiera wygenerowała AI. Stosowna informacja pojawiła się dopiero po sześciu godzinach od publikacji.
Tę nazwę można przetłumaczyć dosłownie jako "głębokie fałszerstwo". I tym w zasadzie jest – to programy AI, które na podstawie fragmentów wypowiedzi i obrazów mogą wygenerować realistycznie brzmiący głos oraz wizerunek. Jeśli na myśl o tym jeży się wam włos na głowie, to jest to zdrowa reakcja, bo etyczność tej technologii jest bardzo problematyczna.
Używana była wcześniej m.in. przez oszustów do kopiowania głosów przez telefon i wyłudzania pieniędzy. Na początku taka technologia była droga, ale wraz z rozwojem nauczania maszynowego możemy mieć ją już w naszych telefonach.
Ta technologia ma też zastosowania w parodii. Wśród graczy popularny jest kanał Presidents Play, gdzie z pomocą deepfake prezydenci Joe Biden, Barack Obama i Donald Trump grają razem w gry komputerowe.
Netflix wykorzystał tę technologię do promowania swojego serialu z udziałem Arnolda Schwarzeneggera.
Powyższy przykład jest niewinny, ale – jak widać – nie potrzeba wiele, by wygenerować czyjś głos. A taki można wykorzystać np. do czytania treści obraźliwych lub wykorzystać wizerunek do poniżającej sceny. Innymi słowy, zniszczyć czyjąś reputację.
Nawet nie musimy mieć do tego specjalistycznych umiejętności, wystarczy dostęp do Internetu i znalezienie odpowiedniego programu. Pojawiały się już informacje, że Rosja może korzystać z tej technologii do celów propagandowych.
Przedstawiciele PO nie zgadzają się z twierdzeniem, że użyli deepfake.
– Absolutnie nie zgadzam się z opinią, że jest to deepfake, których stosowanie uważamy za naganne i których sami nigdy nie będziemy stosować – powiedział dla "GW" Jan Grabiec z PO.
– Tutaj po prostu zamiast lektora, który normalnie czytałby tekst, głos podobny do głosu premiera Morawieckiego podłożył komputer – stwierdził.
Jan Grabiec przekazał "GW", że PO zastanawiała się, czy nie poinformować widzów od o użyciu lektora. Będą to robić w kolejnych nagraniach. Pozostaje jednak pytanie: dlaczego nie użyli neutralnego, sztucznego lektora?
Pod koniec maja sam szef rządu zaznaczał, że AI można wykorzystać w celach dobrych i złych. Posłużył się barwnym porównaniem. – Nożem można kroić chleb i można komuś poderżnąć gardło – przyznał na antenie Polskiego Radia 24.
Jak dodał, spotkał się ostatnio z Samem Altmanem, CEO OpenAI, czyli firmy która stoi za ChatemGPT. Premier ujawnił, że rozmawiali o możliwości uregulowania sztucznej inteligencji.
– Przez większość tego spotkania rozmawialiśmy o regulacjach. O takim uregulowaniu aplikacji posługujących się sztuczną inteligencją i wykorzystujących sztuczną inteligencję, aby nie czynić krzywdy – stwierdził Morawiecki.