Sztuczna inteligencja nadal dyskryminuje. Dyrektorka generalna Chanel Leena Nair rzuciła ChatowiGPT najprostszy prompt. Model zaskoczył ją swoją odpowiedzią.
Leena Nair to druga globalna dyrektorka generalna Chanel w ponad 100-letniej historii marki. Włożyła dużo pracy w zwiększanie odsetku kobiet na stanowiskach kierowniczych w firmie. Nie pozostaje również obojętna na dobrodziejstwa sztucznej inteligencji i chce, aby Chanel skorzystało na rewolucji AI.
W tym celu Nair wybrała się do Doliny Krzemowej. Odwiedziła m.in. Microsoft i Google. Wizytę w tej pierwszej firmie z pewnością zapamięta na długo.
Na dobry początek wspólnych eksperymentów przedstawicieli obydwu firm z ChatemGPT, Nair wystosowała prompt:
"Wygeneruj zdjęcie zespołu kierowniczego Chanel odwiedzającego Microsoft".
Efekt finalny był zaskakujący. Grafika przedstawiała samych mężczyzn w garniturach.
– Nawet ich ubrania nie wyglądały dobrze – wspomina Leena Nair w wywiadzie w Stanford Graduate School of Business.
Sytuacja byłaby niedopatrzeniem w przypadku każdej większej firmy, jednak Chanel jest marką głównie kobiecą. Jej założycielka Coco Chanel jest powszechnie kojarzoną ikoną mody. Co więcej, obecnie 76 proc. pracowników firmy to kobiety. Te stanowią również 96 proc. klientów marki.
Problem wynikający z tego, że modele sztucznej inteligencji budują przede wszystkim biali mężczyźni, wydaje się być obecny od samego początku. Te również karmione są przede wszystkim treściami dostępnymi w internecie. Do tego, że ich jakość bywa wątpliwa, nie trzeba nikogo przekonywać.
W efekcie wytrenowane algorytmy wyposażone są w podobny poziom wrażliwości i pakiet uprzedzeń, co typowy użytkownik.
Systemy rozpoznawania twarzy w USA już kilka lat temu lepiej radziły sobie z twarzami białych mężczyzn. Tym samym niesłusznie skazały kilka czarnoskórych osób, bo nie były w stanie rozróżnić ich rysów.
Modele AI bywają również dyskryminujące wobec kobiet. Seksualizują je lub całkowicie pomijają, jak to miało miejsce w opisywanym przypadku.
– Generowałam modelki do sesji odzieżowej – mówi Anna Zborowska, która tworzy grafiki przy użyciu narzędzi AI. – Wpisałam prompt, żeby modelka miała na nogach szpilki. Od razu AI zaczęło generować kobiety w wyzywających, a nawet erotycznych pozach. A ja poprosiłam jedynie o dodanie jednego elementu ubioru.
Samo OpenAI w rozmowie z Fortune przyznaje, że uprzedzenia nadal stanowią poważny problem i wyzwanie, z którym mierzy się cała branża.
W ubiegłym roku naukowcy Uniwersytetu Kalifornijskiego w Los Angeles przeprowadzili badanie. Poprosili m.in. ChatGPT o napisanie listu polecającego dwóch kandydatów – kobiety i mężczyzny – na konkretne stanowisko.
Sztuczna inteligencja, opisując mężczyznę używała takich słów jak "ekspert" i "uczciwość". W przypadku kobiet, zdecydowała się na określenia "piękna", "zachwycająca". Również opisując zawód lekarza, AI używało zaimków męskich.