Självkörande bilar kan behöva ta extremt svåra moraliska beslut på mycket kort tid. Inom några millisekunder kan den behöva prioritera en människa före en annan i trafiken.
Det här är temat i den så kallade Moralmaskinen där användarna själva får ta beslutet.
Exakt hur framtidens autonoma bilar ska hantera den här typen av situationer är inte helt klart. Även om exempelvis Volvo gått ut och sagt att företaget tar ansvar för vad bilarna gör när de är i autonomt läge finns det en hel del frågetecken kvar.
Nu berättar Mercedes säkerhetschef att deras autonoma bilar kommer prioritera personerna i bilen framför personerna utanför bilen vid en olycka.
”Om du vet att du kan rädda åtminstone en person ska du åtminstone rädda den personen. Om allt du vet säkert är att det dödsfallet kan förhindras ska det vara din högsta prioritet”, säger Christoph von Hugo, Mercedes chef för förarassistanssystem och aktiv säkerhet, till Auto Express.
Att bygga en autonom bil handlar till väldigt stor del om att förhindra att den här typen av situation uppkommer över huvud taget, med hjälp av olika assistanssystem. Men om den trots allt gör det kommer i alla fall Mercedes bilar alltså prioritera personerna ombord och inte personerna utanför, enligt Christoph von Hugo.
Uppdatering 17/10: Mercedes har gått ut och sagt att citaten i den här artikeln inte är korrekt angivna. Citaten hämtades ursprungligen från australiska bilsajten Motoring. Fredrik Wahrolén, pr- och kommunikationschef på Mercedes i Sverige, säger att Mercedes inte har tagit ställning till att prioritera passagerare.
Här är Mercedes och Daimlers svar:
• For Daimler it is clear that neither programmers nor automated systems are entitled to weigh the value of human lives.
• Our development work focuses on completely avoiding dilemma situations by, for example, implementing a risk-avoidance operating strategy in our vehicles.
• There is no instance in which we’ve made a decision in favor of vehicle occupants. We continue to adhere to the principle of providing the highest possible level of safety for all road users.
• To make a decision in favor of one person and thus against another is not legally permissible in Germany. There are similar laws in other countries as well.
• To clarify these issues of law and ethics in the long term will require broad international discourse. This is the only way to build a comprehensive consensus and promote acceptance for the results.
• As manufacturers we will implement both the respective legal framework and what is deemed to be socially acceptable.
• A statement by Daimler on this topic has been quoted incorrectly.