Nie wierz w to, co oglądasz na Instagramie. Tak mówi jego szef
Dezinformacja, pułapki, czy paskudny slop – takie obrazki coraz częściej wypełniają nasz pobyt na mediach społecznościowych. Szef Instagrama wprost przyznał, że ich narzędzia wykrywające ściek tworzony przez AI nie są doskonałe.
Problem z AI na Instagramie
Adam Mosseri, dyrektor generalny Instagrama i Threads opublikował na tej drugiej platformie szczery wpis, w którym przyznaje, że zabezpieczenia tworzone przez Metę nie wystarczają do rozpoznawania problematycznych materiałów wytwarzanych z pomocą sztucznej inteligencji.
Platformy Mety mają system oznakowania takowych, ale ten jest jak poszarpane sito. Co widzimy również na naszym podwórku, gdy celebryci, postacie biznesu i politycy "występują" w podejrzanych reklamach made by AI. Tymczasem znaczek potrafi zostać przyklejony profilowi prowadzonego przez ludzi.
Jak zaznacza Mosseri, ważniejsze obecnie jest przyglądanie się, kto publikuje treści.
Naszą rolą jako platform internetowych jest możliwie najlepsze oznaczanie treści generowanych jako sztuczna inteligencja. Ale niektóre treści nieuchronnie prześlizgną się przez pęknięcia, i nie wszystkie. Sztuczna inteligencja będzie generować fałszywe informacje, dlatego musimy również podać kontekst dotyczący tego, kto udostępnia treści, abyś mógł sam ocenić, jak bardzo chcesz ufać ich treściom. Coraz ważniejsze będzie, aby widz lub czytelnik wykazał się wnikliwym umysłem, oglądając treści mające być relacją lub zapisem rzeczywistości. Moja rada jest taka, aby *zawsze* zastanawiać się, kto mówi.
Meta bezsilna wobec AI
Firma od 2016 roku miała zainwestować 20 miliardów dolarów w narzędzia, zespoły i technologie do zwiększenia bezpieczeństwa. Dodaje również, że od dawna przeciwdziała treściom tworzonym przez oszustów, ale przyznaje się również do własnych słabości.
Na Facebooku np. informowała, że oszuści tworzący materiały deepfake z użyciem AI wykorzystywali technologię maskowania (z ang. cloaking), pozwalającą na wyświetlanie innej treści systemom weryfikacyjnym, niż użytkownikom platformy. Firma obiecuje polepszyć metody do zwalczania tego zjawiska, z którym ewidentnie sobie nie radzi.