Jeden z testowanych przez Ubera autonomicznych samochodów potrącił kobietę.
Jeden z testowanych przez Ubera autonomicznych samochodów potrącił kobietę. Fot. YouTube / TechCrunch
Reklama.
Rozwój autonomicznych samochodów spowodował, że wielu naukowców zaczęło zadawać sobie pytanie, jak zaprogramować autonomiczny samochód na nieprzewidziane sytuacje. Kogo w pierwszej kolejności chronić ma takie auto? Pasażera, czy może pieszego, który nieoczekiwanie w niedozwolonym miejscu wtargnął na jezdnię. Odpowiedź okazała się trudniejsza niż się może wydawać, o czym poinformował na swojej stronie internetowej Forbes.
W tym celu naukowcy z MIT przeprowadzili szerokie badania, w których udział wzięło cztery miliony osób. Wszystkim badanym przedstawiano różne warianty zdarzeń, w których zmieniano zarówno wiek, płeć, a także gatunek (w tym psy i koty) uczestników zdarzeń drogowych z udziałem samochodów autonomicznych.
Co ciekawe, wstępne wyniki tak szeroko zakrojonego badania podano na dzień przed pierwszym wypadkiem, w którym autonomiczny samochód zabił pieszego. Przedstawił je profesor Iyad Rahwan z MIT, zaznaczając, że to największe dotychczas przeprowadzone badanie z zakresu etyki na całym świecie. Ma ono posłużyć producentom autonomicznych samochodów w odpowiednim zaprogramowaniu wytwarzanych prze nich maszyn.
Niejednoznaczne wyniki
Jak powiedział Rahwan, w przypadku prostych wyborów, gdzie do zdarzenia miało dojść z udziałem dziecka lub dorosłego, wybór był zazwyczaj taki sam – badani w pierwszej kolejności wskazywali, że najbardziej chronionymi w ruchu powinni być ci najbardziej bezbronni, czyli dzieci. Aż 73 proc. wskazało, że w pierwszej kolejności trzeba chronić dziecko i pozwolić na zabicie osoby dorosłej. Jednak gdy dochodziło do dylematu, kogo chronić najpierw pasażera samochodu, czy przechodnia wyniki stawały się mniej jednoznaczne. Aż 40 proc. badanych wskazywało, że autonomiczny samochód w pierwszej kolejności powinien chronić pasażerów.
Im sytuacja na drodze była bardziej skomplikowana, tym bardziej nieczytelne były dane zebrane podczas badania. W przypadku kiedy należało dokonać wyboru, czy oszczędzić życie jednej osoby przekraczającej jezdnię w sposób dozwolony, czy może życie dwóch osób przechodzących w tym samym czasie niezgodnie z przepisami, odpowiedzi rozkładały się mniej więcej po równo.
Okazało się, że wpływ na badanie mają też różnice kulturowe związane z krajem pochodzenia osób biorących w nim udział.
Nie da się stworzyć jednego modelu
Zdaniem naukowca wyniki badania wskazują na to, że nie da się stworzyć uniwersalnego algorytmu, takiego który spełniałby wszystkie trzy prawa robotyki, które przedstawił kiedyś pisarz Isaac Asimov.

1. Robot nie może skrzywdzić człowieka, ani przez zaniechanie działania dopuścić, aby człowiek doznał krzywdy – tymczasem w przypadkach, które sprawdzał Rahwan niejednokrotnie maszyna musiała przeważnie poświęcić życie przynajmniej jednego człowieka, czy to pasażera, czy pieszego. A niektóre badane przykłady zmuszały maszynę do poświęcenia kilku istnień ludzkich.

2. Robot musi być posłuszny rozkazom człowieka, chyba że stoją one w sprzeczności z Pierwszym Prawem – w tym przypadku algorytm zastosowany w autonomicznym samochodzie musiał złamać pierwsze prawo, bo pomimo, że był posłuszny rozkazom człowieka, to niejednokrotnie musiał doprowadzić do śmierci innego człowieka.

3. Robot musi chronić samego siebie, o ile tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem – tutaj dochodziło do najmniejszej ze sprzeczności, bo w analizowanych przypadkach, gdzie w skutek wyboru samochód musiał wjechać w przeszkodę niszczył siebie, ale ratował przynajmniej jedno z ludzkich żyć.


Ja takiego samochodu nie kupię
To nie pierwsze badania, w których Rachwan brał udział. Jeszcze w 2016 roku jedną z prac z jego udziałem zamieszczono w czasopiśmie naukowym Science.
Wynikało z nich, że ludzie zgadzają się z tym, że samochody autonomiczne powinny być zaprogramowane w taki sposób, by chronić jak największą liczbę użytkowników ruchu nawet kosztem pasażera. Ale jednocześnie okazało się, że prawie nikt z badanych nie chciałby wsiąść do takiego auta. To akurat nie dziwi, bo kto chciałby wsiąść do samochodu, wiedząc, że być może jego życie zostanie poświęcone by ratować innych użytkowników ruchu?
Biorący udział w tamtym badaniu stwierdzili również, że nie poparliby takiego prawa, które nakazywałoby producentom samochodów autonomicznych wprowadzanie algorytmu mającego chronić jak największą ilość użytkowników ruchu nawet kosztem pasażera. Stwierdzili również, że nie kupiliby w przyszłości takiego samochodu.
Może to oznaczać, że producenci samochodów autonomicznych nie będą chcieli w przyszłości zdradzać, jakie algorytmy zostały zaimplementowane w komputerach pokładowych.