Dylemat wagonika w zautomatyzowanych pojazdach

Abstrahując od moralnego/etycznego/filozoficznego aspektu:

1. Samochód jest kierowany w pełni automatycznie.
2. Oprogramowanie samochodu ma jako podstawowe zadanie chronić pasażera, bez względu na koszty.
3. W wyniku zbiegu przypadkowych okoliczności (ale nie siły wyższej) powstaje sytuacja, w której pojazd może albo doprowadzić do śmierci pasażera, albo do śmierci osoby trzeciej (nie odpowiadającej za w/w okoliczności).
4. Oprogramowanie 'wie' o osobie trzeciej i konsekwencji potrącenia osoby trzeciej.
5. W wyniku działania oprogramowania pojazd doprowadza do śmierci osoby trzeciej, ratując pasażera od śmierci.

Sytuacja posiadacza pojazdu wydaje mi się jasna - odpowiada on za śmierć osoby trzeciej zarówno na gruncie prawa cywilnego jak i karnego.

Przede wszystkim interesuje mnie natomiast odpowiedzialność karna sprzedawcy/producenta/programistów - ??. Z mojego nieprawniczego punktu widzenia, wydaje mi się, że powinni odpowiadać za usiłowanie przynajmniej już w momencie sprzedaży takiego pojazdu.

http://fortune.com/2016/10/15/mercedes-self-driving-car-ethics/ napisał:

In comments published last week by Car and Driver, Mercedes-Benz executive Christoph von Hugo said that the carmaker’s future autonomous cars will save the car’s driver and passengers, even if that means sacrificing the lives of pedestrians, in a situation where those are the only two options.

Kliknij, aby rozszerzyć...

Pytanie, czy tego typu samochody w ogóle powinny zostać dopuszczone do ruchu, czy nie powinny raczej w takiej sytuacji rozbijać się w najmniej szkodliwy dla osób postronnych sposób. Pieszy nie ma pasów, poduszki powietrznej ani nie chroni go ciężka blaszana puszka na kółkach.

Kwestia dopuszczenia do ruchu jest nieistotna, do w/w hipotetycznej sytuacji może dojść poza ruchem drogowym, a także w ruchu drogowym mogą znaleźć się pojazdy niedopuszczone do ruchu.

Pozostańmy w kontekście tej hipotetycznej sytuacji - czyli oprogramowania pojazdu, które może jako "mniejsze zło" wybrać śmierć osoby trzeciej w celu ratowania życia/zdrowia pasażera. Czy i kto będzie ponosił odpowiedzialność karną?

Do zadania pytania skłoniła mnie wyżej zacytowana wypowiedź i poniższy cytat:

https://theconversation.com/helping-autonomous-vehicles-and-humans-share-the-road-68044 napisał:

To handle these relative preferences, we could equip people with beacons on their cellphones to signal nearby cars that they are a certain type of person (child, elderly, pedestrian, cyclist). Then programmers could instruct their autonomous systems to make decisions based on priorities from surveys or experiments like the Moral Machine.

Kliknij, aby rozszerzyć...

Zasadniczo wydaje mi się, że już przyjście przełożonego do mnie jako programisty i zlecenie napisania kodu, który miałby sterując pojazdem wybrać kogo ma zabić jest przestępstwem. Napisanie takiego oprogramowania również. Wyprodukowanie i sprzedanie takiego pojazdu również. Ale, że nie jestem prawnikiem, jestem ciekaw opinii innych użytkowników.

Twój problem jest błędny z samego założenia.
Skoro przyjmujesz, że program będzie na tyle inteligentny, że może dokonać wyboru to również , z samego założenia, wynika, że jest na tyle inteligenty aby przewidzieć skutki zachowania osoby trzeciej. Tutaj wracamy do problemu moralnego wyboru, w określonej sytuacji, kto ma większe szanse przeżycia. Ratownicy co chwilę z nim się borykają wyznaczając w katastrofach strefy poszkodowanych w zależności od obrażeń.

Nie możesz przyjmować, że algorytmy będą dokonywały wyboru tylko w jednym określonym aspekcie.

Wchodząc w sferę programistów to odpowiedzialność za wady (to nie jest wada prawna) wygasa w chwili przyjęcia programu, zatem należałoby kierować roszczenia w inną stronę.

@LeszsekS
Nie wiem co masz na myśli pisząc o przeiwdywaniu skutków zachowania osoby trzeciej.

Porównanie do ratowników jest nietrafione. Ratownicy nie są odpowiedzialni za przyczynę, która wywołała obrażenia, w zależności od kolejności podjętego ratowania.

Kierowca, który zabiłby pieszego (który w braku działania kierowcy w ogóle nie byłby zagrożony) w celu uratowania swojego życia odpowiadałby przynajmniej z art 177 ust 2 kk. Moje pytanie to czy wolno napisać oprogramowanie, które podejmie taką samą decyzję - uratowanie życia pasażera poprzez zabicie inaczej niezagrożonej osoby trzeciej.

Lub abstrahując od tego przykładu nawiązującego do rzeczywistości i odnosząc się wprost do dylematu wagonika - czy napisanie i/lub wykorzystanie oprogramowania sterującego zwrotnicą w taki sposób, że przekieruje wagonik ku jednej osobie aby uratować pięć innych będzie przestępstwem (zakładamy że oprogramowanie posiada te same informacje co osoba sterująca zwrotnicą w dylemacie).

kub86 napisał:

... Moje pytanie to czy wolno napisać oprogramowanie, które podejmie taką samą decyzję - uratowanie życia pasażera poprzez zabicie inaczej niezagrożonej osoby trzeciej....

Kliknij, aby rozszerzyć...

Nadal popełniasz błąd z założenia, zakładasz z góry przestępcze działanie.

Wracając znowu do postu #4, jeśli ktoś podejmie sie realizowania algorytmów na tyle inteligentnych w podejmowaniu takich decyzji to z samej ich komplikacji będzie wynikać możliwość przewidzenia zachowań.

LeszsekS napisał:

Nadal popełniasz błąd z założenia, zakładasz z góry przestępcze działanie.

Kliknij, aby rozszerzyć...

Nie zakładam przestępczości działania - bo o to pytam, tylko odnoszę się do sytuacji przedstawionej w dwóch artykułach, i legalności oprogramowania, które miałoby takie sytuacje obsłużyć.

Zakładam, natomiast, że możliwe są tylko dwa rezultaty tej określonej sytuacji na drodze - rozważanie warunków brzegowych jest zwykłą praktyką w programowaniu.

Cóż moralny dylemat czy przestępstwem jest niemontowanie poduszek powietrznych ma masce samochodu celem ochrony życia pieszego.