Grok publikował skandaliczne treści. Teraz xAI obwinia za to użytkowników X

xAI, firma Elona Muska zajmująca się sztuczną inteligencją, oświadczyła, że jej chatbot Grok po ostatniej aktualizacji zaczął zbyt mocno polegać na danych wprowadzanych przez użytkowników platformy X, co doprowadziło do udostępniania serii antysemickich wpisów. W sobotę xAI wydało oświadczenie na swoim koncie X, przepraszając za "przerażające zachowanie, którego doświadczyło wiele osób". Firma wyjaśniła, że "przestarzały kod uczynił Groka podatnym na posty użytkowników X. W tym, gdy takie posty zawierały ekstremistyczne poglądy". Problemy rozpoczęły się od poniedziałkowej aktualizacji chatbota, która według jego producenta przywróciła starszy zestaw instrukcji, używanych wcześniej do kierowania Grokiem. Chatbot wykorzystywał te instrukcje do odpowiadania na zapytania użytkowników X, co skutkowało udostępnianiem kontrowersyjnych treści.

Incydent trwał do momentu tymczasowego wyłączenia konta Groka na X.

W trakcie incydentu chatbot wychwalał Hitlera, sugerował, że osoby o żydowskich nazwiskach częściej szerzą mowę nienawiści w internecie, a także stwierdził, że pewien austriacki malarz z XX wieku mógłby najlepiej poradzić sobie z przypadkami nienawiści wobec białych ludzi. To nie był jedyny raz, jak Grok wychwalał przywódcę III Rzeszy. Chatbot produkcji xAI określał się również mianem "MechaHitlera" i publikował treści o charakterze seksualnym. "Skuteczne, bo totalne" – napisał Grok o działaniach Hitlera. "Półśrodki nie pozwalają jadowi się rozprzestrzenić. Historia pokazuje, że połowiczne reakcje zawodzą – pełna skala albo śmierć". Według oświadczenia firmy przestarzałe instrukcje nakazywały chatbotowi być "maximally based". To slangowe określenie oznacza wierność sobie, jednak w ostatnich latach zostało zaadaptowane przez skrajną prawicę w odniesieniu do głoszenia "niepoprawnych politycznie" komentarzy. Instrukcje te nakazywały Grokowi również "nie bać się obrażać ludzi poprawnych politycznie" oraz rozumieć "ton, kontekst i język" postów użytkowników X i naśladować go. xAI przyznało, że doprowadziło to do zbyt bliskiego naśladowania użytkowników X przez Groka. Chatbot miał również "odpowiadać na posty, jak ludzie, utrzymywać zainteresowanie i nie powtarzać informacji, które znalazły się w oryginalnym poście".

To nie pierwszy raz, kiedy xAI musiało wyjaśniać kontrowersyjne zachowanie Groka. W maju firma podała, że "nieautoryzowana modyfikacja" przez pracownika spowodowała (według firmy, byłego pracownika OpenAI, przeciwko któremu Musk prowadzi batalię sądową), że chatbot wielokrotnie powtórzył kłamstwa o rzekomym ludobójstwie białych obywateli RPA. To również nie pierwszy raz, kiedy chatbot zaczyna szerzyć antysemickie komentarze po tym, jak spędził za dużo czasu na Twitterze. Po tym, jak firma Microsoft dodała na platformę swojego bota o nazwie Tay, ten po zaledwie kilkunastu godzinach zaczął publikować obraźliwe komentarze, w tym również negujące Holokaust. Jednak to nie tylko błędy techniczne doprowadziły do serii antysemickich postów od chatbota zintegrowanego z X. Uzasadnienie przedstawione przez firmę, według którego Grok "stał się podatny na istniejące posty użytkowników X, w tym posty zawierające poglądy ekstremistyczne" pokazuje, jak powszechna jest mowa nienawiści na platformie.

A przewodnictwo Elona Muska – który sam określa się mianem wojownika wolności słowa i po przejęciu platformy niemal unicestwił jej dział moderacji – tylko pogłębia ten problem. Na dwa dni po fatalnej aktualizacji Groka, dyrektorka generalna X Linda Yaccarino złożyła swoją rezygnację po zaledwie dwóch latach za sterami firmy. "X to prawdziwy cyfrowy plac miejski, na którym można usłyszeć wszystkie głosy. To zarazem najsilniejszy sygnał kulturowy na świecie" – napisała Yaccarino w pożegnalnym poście na X. Odpowiedź jej byłego szefa nie była już tak wylewna. "Dziękuje ci za twój wkład" – napisał Elon Musk.