YouTube zaśmiecany AI i "hodowcami kont". Poszkodowany polski podcaster

Kradzież głosu nigdy nie była prostsza, a to dzięki narzędziom do klonowania głosu. Co jedni wykorzystują, aby tworzyć agentów AI przeprowadzających w ich imieniu rutynowe rozmowy telefoniczne, inni korzystają z nich do oszustw. YouTube stało się wylęgarnią kradzionych podcastów – pojawiają się kanały naśladujące popularne programy. Norbert Bączyk nagłośnił sprawę kradzieży jego głosu w tym procederze.

"Chcieliście mieć AI, to macie AI. Na tym przykładzie widać, jak ktoś próbuje ukraść mój... głos. Oczywiście złodzieja i oszusta zgłaszamy na YT, ale za chwilę każdy z nas – głosem, obrazem – może zostać wygenerowany sztucznie. I potem się mamy tłumaczyć?" – czytamy na mediach społecznościowych podcastu Wojenne Historie.

Podrobiony kanał nazywa się "Opowieści II wojny" i podmiot za niego odpowiedzialny ma pochodzić z Indonezji. W chwili pisania tego tekstu ma 450 subskrybentów. Bączek oraz jego zaalarmowani fani zgłosili nagranie udostępnione w mediach społecznościowych, a te zostało zdjęte.

Nie wpłynęło to specjalnie na resztę kanału, gdzie pełno jest głosu lektora AI. Wideo opublikowane 14 października ma 31 tys. wyświetleń. Naśladowany jest nawet styl miniaturek oryginału. Najnowszy film oszusta pojawił się 21 października. To nie jest precedens, a prawdziwa plaga.

Zjawisko obserwowane jest na YouTube już od jakiegoś czasu. W setkach można liczyć kanały o takich nazwach jak "Nudna historia do poduszki" albo "Historyk na bezsenność", publikujących treści z mechaniczną precyzją i bez opóźnień. Ich skuteczność jest różna, od wyświetleń liczonych w dziesiątkach do kilku tysięcy, ale za to powstają jak grzyby po deszczu.

Wedle ekspertów przyczyny tego slopu są niestety prozaiczne. Z pomocą dostępnych narzędzi AI taką treść łatwo jest wygenerować. Można zbudować system do omijania regulaminu i praw autorskich, ukrywać się za VPN i masami fałszywych kont gmail... a w razie zbanowania w jednej chwili postawić coś nowego. Nawet z tego samego komputera.

Popularnonaukowy kanał Topowa Dycha (jego głos również ukradziono) opisał zjawisko szkoleń w Wietnamie mających produkować te farmy filmów na rynki zachodnie, co nazywa się "hodowlą konta". To cały czarny rynek mający zarabiać na YouTube... i to jak. Autor podał przykład komentarza z wietnamskiej strony, chwalącego się o tym jak 5 osób zarobiło w ten sposób 100 tys. dolarów miesięcznie na dwóch kanałach.

Takie fabryki treści nadużywają algorytmu YouTube. Bot może produkować te treści regularnie, w długości optymalnej dla danego formatu nagrania, co algorytm promuje, pozwalając takim kanałom zarabiać z reklam. Stream, podcast czy rolki, maszyna wygrywa na tym tle z ludźmi i wymaga mniej pracy, za co zostaje umieszczany coraz widoczniej przez YouTube, odbierając słuchaczy i widzów ludziom. Nie ma znaczenia, czy zawierają błędy i halucynacje maszyny.

Można też zauważyć, że te materiały AI to zwykle tematy historyczne, ciekawostki naukowe albo przyrodnicze, kryminały, czasem nawet newsy... czyli to, co można uzyskać z publicznych źródeł. Wystarczy kazać botowi przetworzyć materiał, a jak coś sknoci, to nieważne, bo pieniądze spływają.

Ciężko stwierdzić czy każdy taki kanał kradnie głosy podcasterów, ale niestety nawet mechaniczni lektorzy robią się coraz lepsi i niewyćwiczone ucho łatwo może się nadziać na bezmyślnie produkowany materiał.

YouTube zapowiadał, że zajmie się kanałami masowo wypluwającymi nagrania poprzez demonetyzację, a na efekty czekamy. W Unii Europejskiej prawo jest pod tym względem dziurawe. Przełomy w kwestiach obrony wizerunku pojawiają się powoli, jak we Włoszech z karami więzienia za deepfake czy Danii, oferującej prawo autorskie od własnego ciała i głosu.