W środę około godziny 18:40 w Warszawie 22-letni chłopak zabił kobietę siekierą. To szokujące wydarzenie, nazywane najtragiczniejszym zdarzeniem na UW od czasu II w. ś., wywołało falę reakcji w sieci.
Na platformie X zaczęły pojawiać się drastyczne nagrania morderstwa. Tam również cyrkulowały fałszywe informacje na temat rzekomej tożsamości sprawcy. Nieprawdziwa informacja, jakoby sprawcą miał być Ukrainiec, szybko zrobiła wielotysięczne zasięgi.
Zarówno krwawe nagranie, jak i fałszywe informacje o tożsamości mordercy długo pozostawały w serwisie. Choć może się to wydawać szokujące, sytuacja jest zgodna z postulatami Elona Muska dotyczącymi roli wolności słowa na platformie.
"Usuń"
Jeden z użytkowników X dodał fragment nagrania, na którym widać zakrwawione ciało kobiety. W opisie twierdzi, że ma dłuższe nagranie, które chętnie wyśle zainteresowanym. "00:20 filmik wstawiam na pv konto" – pisze.
W momencie pisania tego tekstu zarówno post, jak i konto, które je dodało, zostały usunięte. Nagrania ze zdarzenia były jednak dodawane przez wiele kont. W odpowiedzi użytkownicy i użytkowniczki komentowali słowo "usuń", które stało się trendującym hasłem na X.
Nagrania były masowo zgłaszane za naruszenie zasad platformy. Nie wszystkie zgłoszenia były jednak rozpatrywane pozytywnie. "Na podstawie analizy zgłoszonych treści ustaliliśmy, że podstawa prawna DSA Law wynikająca z obowiązującego w kraju the EU nie wymaga usunięcia ich" – czytamy w odpowiedzi platformy na jedno ze zgłoszeń.
Tak niepoważne podejście do moderacji treści jest zgodne z polityką X, wprowadzoną przez jej właściciela – Elona Muska. Multimiliarder, który twierdzi, że jest "absolutystą wolności słowa", wnioskuje za niemal całkowitym odejściem od oficjalnej moderacji platformy, która zamiast tego miałaby wyświetlać adnotacje do postów od innych użytkowników, czyli tzw. community notes.
Jednak, jak widać w przypadku morderstwa na UW – ta forma moderacji jest zwyczajnie nieskuteczna.
Tutaj to norma
"Przecież na Twitterze to norma" – pisze jeden z użytkowników platformy pod postem dotyczącym udostępniania nagrań z kampusu. "Skoro jesteście wrażliwi na pewne treści, to przejdźcie na Facebooka i Instagrama".
"Nikt nie ma problemu o to że jest filmik tylko że chłop się chciał wybić i na siłę zebrać na tym followy" – czytam w odpowiedzi. "Wiem jak działa twitter nie martw się".
To jasne, że między platformami istnieją różnice w moderacji treści. Jednak zmiany wprowadzone na platformie przez Muska, doprowadziły do tego, że platforma nazywana do tej pory "cyfrowym placem miejskim" stała się ściekiem pokroju dawnego Sadistica.
Jednak Musk dalej nie jest w stanie podejść poważnie do tej sytuacji. Na X dodaje wiadomości od swojego chatbota o nazwie Grok, którego prosi, żeby zrobił roast moderacji treści. A spytany, co chciałby powiedzieć reklamodawcom, którzy uciekają z platformy z powodu zalewu drastycznych treści, powiedział, że "mogą się p****olić".
Pod koniec 2023 roku w X pracowało 2294 osób zajmujących się moderacją. Obecnie ma ich być 1275. Z platformy co miesiąc ma korzystać 550 mln osób. X nie zatrudnia moderatorów dla treści w języku polskim.
Jakie będą konsekwencje?
Jakie mogą być konsekwencje zalewu podobnych treści na X? Po pierwsze ta wciąż stosunkowo duża platforma może zacząć normalizować rozprzestrzenianie podobnych materiałów. A w konsekwencji może potencjalnie normalizować uwiecznione na nich treści.
Zalew wulgarnych i drastycznych treści to w końcu jedno z największych wyzwań dla współczesnego środowiska cyfrowego. Obok AI slopu tego typu materiały są największym zagrożeniem dla jakości tego środowiska.
Dotyczy to w pierwszej kolejności młodych odbiorców i odbiorczyń. To oni są najbardziej podatni na tego typu treści i to wśród nich najszybciej się one rozprzestrzeniają. Widzieliśmy to również w przypadku nagrań z Uniwersytetu Warszawskiego, podawanych dalej przez licealistów.
Po drugie inne platformy mogą podzielić los X.
Mark Zuckerberg zapowiadał na początku roku odejście od moderacji treści na należących do niego platformach. Dyrektor naczelny Meta zapowiedział, że będzie rozwijał mechanizm na wzór Community notes znanych z X.
Użytkownicy i użytkowniczki Instagrama doświadczyli niedawno, jak wygląda platforma bez moderacji, kiedy nagle na ich feedach zaczęły pojawiać się nagrania brutalnych ataków.