Powstanie ROOST (Robust Open Online Safety Tools, czyli solidne i otwarte sieciowe narzędzia bezpieczeństwa) zostało zmotywowane potrzebą przyśpieszenia innowacji w zakresie bezpieczeństwa dzieci w Internecie.
Częścią programu będzie powstanie regulacji do lepszej ochrony nieletnich na mediach społecznościowych i szeroko pojętej sieci.
Czym zajmie się ROOST?
AI i technologii już używa się m.in. do tworzenia roznegliżowanych zdjęć dorosłych. Nastolatki padają ofiarami rozmów z chatbotami. Potrzeba stworzenia lepszych zabezpieczeń istnieje.
ROOST ma zająć się bezpieczeństwem najmłodszych, zapewniając bezpłatne technologie, których celem będzie identyfikowanie, przeglądanie i zgłaszanie materiałów przedstawiających nadużycia seksualne wobec dzieci.
W tym celu mają zostać zaprzęgnięte duże modele językowe sztucznej inteligencji. Pierwsze oprogramowanie tego typu ma powstać w kwietniu 2025 roku. W przyszłość organizacja może hostować na swoich serwerach podobne usługi, aby ułatwić wdrożenie ich dla innych firm. Nie podano więcej szczegółów.
Wśród założycieli jest Roblox, gra, w której co piąty użytkownik jest poniżej 9 roku życia. Działa od 2006 roku i od dawna sygnalizuje się, że naraża nieletnich użytkowników na nieodpowiednie treści, od seksualnych po hazard. W 2022 roku (razem z Discordem) została pozwana o niedostateczne narzędzia bezpieczeństwa dla młodych użytkowników.
Naren Koneru, wiceprezes Roblox ds. inżynierii, zaufania i bezpieczeństwa, powiedział, że decyzję o moderacji treści muszą następować w milisekundach, szybciej, niż zrobi to człowiek.
Założyciele ROOST oferują finansowanie, doświadczenie oraz technologiczną ekspertyzę do projektu. Roblox dostarczy model AI o otwartym kodzie źródłowym, który analizuje klipy audio w celu wykrycia wulgaryzmów, rasizmu, znęcania się, seksualnego wykorzystywania i podobnych treści.
Ten model został udostępniony publicznie w lipcu 2024 roku na platformach GitHub i AI Hugging. Od tego czasu został pobrany ponad 20 tys. razy.
Wedle informacji prasowej ROOST jest wspierany także przez różne organizacje filantropijne, w tym Future of Online Trust and Safety Fund, Knight Foundation, AI Collaborative i McGovern Foundation.
Na wsparcie pierwszych czterech lat działalności zebrano ponad 27 milionów dolarów.
Zobacz także
Kontrowersje z Roblox
Roblox to jedna z najpopularniejszych gier na świecie, z ambicjami na bycie platformą społecznościową. Już teraz promują się na niej celebryci i duże marki, jak Ikea czy Lamborghini.
Jej charakterystyką jest, że gracze mogą tworzyć własne serwery z zasadami zabawy. Gry w grze. Niektórzy bawią się np. w wirtualne msze. Często robione dla najmłodszych i przez nich ogrywane, ze wszystkimi tego konsekwencjami.
Wśród problematycznych treści w grze wymienia się też usługi hazardowe, działania propagandystów Kremla czy drapieżne sposoby monetyzacji swoich użytkowników przez samą platformę.