Treści AI są plagą w sieci. Szef Instagrama również przyznaje, że mają problem z zalewem materiałów produkowanych przez sztuczną inteligencję. I zaleca… korzystanie z własnej intuicji.
Dezinformacja, pułapki, czy paskudny slop – takie obrazki coraz częściej wypełniają nasz pobyt na mediach społecznościowych. Szef Instagrama wprost przyznał, że ich narzędzia wykrywające ściek tworzony przez AI nie są doskonałe.
Adam Mosseri, dyrektor generalny Instagrama i Threads opublikował na tej drugiej platformie szczery wpis, w którym przyznaje, że zabezpieczenia tworzone przez Metę nie wystarczają do rozpoznawania problematycznych materiałów wytwarzanych z pomocą sztucznej inteligencji.
Platformy Mety mają system oznakowania takowych, ale ten jest jak poszarpane sito. Co widzimy również na naszym podwórku, gdy celebryci, postacie biznesu i politycy "występują" w podejrzanych reklamach made by AI. Tymczasem znaczek potrafi zostać przyklejony profilowi prowadzonego przez ludzi.
Jak zaznacza Mosseri, ważniejsze obecnie jest przyglądanie się, kto publikuje treści.
Firma od 2016 roku miała zainwestować 20 miliardów dolarów w narzędzia, zespoły i technologie do zwiększenia bezpieczeństwa. Dodaje również, że od dawna przeciwdziała treściom tworzonym przez oszustów, ale przyznaje się również do własnych słabości.
Na Facebooku np. informowała, że oszuści tworzący materiały deepfake z użyciem AI wykorzystywali technologię maskowania (z ang. cloaking), pozwalającą na wyświetlanie innej treści systemom weryfikacyjnym, niż użytkownikom platformy. Firma obiecuje polepszyć metody do zwalczania tego zjawiska, z którym ewidentnie sobie nie radzi.
Adam Mosseri
dyrektor generalny Instagrama i Threads, post na Threads