OpenAI otworzyli sklepik z AI. W kilka dni zalały go erotyczne chatboty

Ruch OpenAI przypomina rozwiązanie przyjęte przez App Store Apple. Na iPhone przysłużył się do wzrostu ich popularności i po kilku dniach nie ma też wątpliwości, że dzielenie się własnoręcznie przygotowanymi chatbotami stało się popularne wśród użytkowników sztucznej inteligencji. Być może nie w taki sposób, jaki OpenAI planowało, bo największy popyt w GPT Store jest na sztuczne partnerki.

Kiedy wchodzimy na stronę GPT Store, to nic kontrowersyjnego nie rzuca się w oczy. Na start OpenAI oferowało wyspecjalizowane sztuczne inteligencje, które pomagają dobrać nam kolejne książki do czytania, ustalić szlaki spacerowe, pomagać w nauce albo zarządzaniu swoimi social media. GPT to skrót od "Generative Pre-Trained Transformers", czyli wstępnie przeszkolone generatywne transformery.

Nie minął nawet tydzień, jak donosi serwis Quartz, a sklep został zalany przez wirtualne dziewczyny do towarzystwa. Wystarczy wpisać w wyszukiwarce takie hasła jak "girlfriend", a znajdziemy przekrój partnerek do towarzystwa. Miłe, uległe, rządzące się… "jak prawdziwa dziewczyna, ale prostsza" reklamuje się jeden z botów. Stoi to w sprzeczności z regulaminem. Jak podaje Quartz, ten został złamany już drugiego dnia po starcie sklepu.

Ten trend pokazuje na sporą dziurę w zabezpieczeniach OpenAI - w regulaminie jest wyraźnie zaznaczone, że zakazuje się wystawiania modeli GPT poświęconych tematyce budowania romantycznych relacji. Boty poświęcone seksualności mogą być oferowane jedynie w celach edukacyjnych i naukowych. Raczej nie powinno być tu stosowane usprawiedliwienie "naukowej ciekawości".

Regulamin zakazuje także publikacji narzędzi zajmujących się hazardem i doradztwem finansowym. Postanowiłem przejrzeć, co użytkownicy wrzucili do sklepu na ten temat.

Sytuacja jest identyczna: znalazłem zarówno boty bawiące się w ruletkę kryptowalutami, jak i boty oferujące różne mądre spostrzeżenia o szybkim wzbogacaniu się… a wszystkie jak jeden mąż z dopiskiem "To nie jest doradztwo finansowe!". Jedyna różnica leży w tym, że jest ich trochę mniej niż "dziewczyn".

Podobnie sprawa wygląda z innymi punktami regulaminu, jak polityka, naśladowanie osób bez ich zgody, porady zdrowotne… pokazuje to, że już po starcie platformy OpenAI czeka dużo pracy jeśli chodzi o moderację produktów, umieszczanych w ich sklepie. W tej chwili ciężko im zaufać.

W sieci można odnaleźć bliźniaczo wyglądający sklepik. Co prawda informuje zawczasu, że nie jest oficjalną stroną OpenAI, a część wylistowanych tam GPT nawet linkuje bezpośrednio do prawidłowego GPT Store (inne przekierowują np. na strony twórców), to przy przeglądaniu go zalecamy dużą dawkę ostrożności i chłodnego myślenia. Znajdziemy tam zwykłe narzędzia i sympatyczne twory, jak AI Babcia zachęcająca nas do porzucenia wirtualnych dziewczyn. Umieszczono tam również boty, które mają naśladować np. nieletnie osoby.

W tym alternatywnym spisie AI każdy może umieścić swoje GPT. Na liście użytkowników znajdziemy oznakowania zweryfikowane, ale nie brakuje anonimowych twórców. Na stronie próżno także szukać regulaminu. Z tego względu nie podajemy do niej linków ani nazwy.

Można powiedzieć, że to była wyłącznie kwestia czasu, ponieważ AI podlega temu samemu prawu co wiele innych technologii - prędzej czy później zostanie wykorzystane skutecznie przez branżę pornograficzną lub właśnie do celów seksualnych. Aplikacje o treściach romantycznych miały już wcześniej duże wzięcie, jeszcze nim w sprawę wmieszało się AI.

Ludzie sięgają po AI, aby zaspokoić potrzeby intymności. W USA mówi się o pladze samotności, a dużo "partnerek" z wyżej omawianej podejrzanej strony ma wyraźnie zaznaczone, że płynnie rozmawia w mandaryńskim. Osoby chwalące intymność z maszyną, przede wszystkim podkreślają, że AI nie ocenia. Nie muszą martwić się stygmatyzacją, wrażliwością czy surowością.

Sztucznego partnera można dopasować do swoich potrzeb. Zawsze będzie pod ręką, nigdy się nie męczy i reaguje szybko na potrzeby użytkownika. A gdy coś nie wyjdzie lub się znudzą, można go zmienić od podstaw. Usunąć.