Automotive04.11.2018

Hoe moeten zelfrijdende auto’s beslissen over leven en dood?


Fascinerend onderzoek laat zien dat het uitmaakt wie (en waar) je dat vraagt

Het is de discussie die steeds maar weer terugkomt als je praat over zelfrijdende auto’s en andere voertuigen. The Trolley Problem, zoals de theoretische schets van wat te doen bij een onvermijdbaar ongeluk heet, wordt er steeds bijgehaald maar in de realiteit moeten zelfrijdende voertuigen straks met veel meer variabelen rekening houden. Dat betekent dat die systemen straks een moreel kompas nodig hebben. Als de remmen het niet doen en er zitten twee passagiers in de auto, moet de auto dan doorrijden en vijf mensen neermaaien of zichzelf in de berm rijden met als vermoedelijke uitkomst twee dode passagiers?

Lastige vragen, die door onderzoekers van het MIT Media Lab in kaart zijn gebracht via hun site Moral Machine. Daarop staan allerlei scenario’s en je kunt als bezoeker steeds kiezen tussen twee kwaden. Red je het kind of de bejaarde? De manager of de dakloze?Twee daklozen? Één man of twee vrouwen? Drie honden of een mens? Allemaal ‘leuk’ om over na te denken en dat betekent dat het lab inmiddels bijna veertig miljoen (!) beslissingen gemaakt door 2,3 miljoen mensen uit 233 landen heeft kunnen analyseren. Wat blijkt? Wie je redt in verschillende scenario’s heeft veel te maken met waar je woont en dus de cultuur waar je onderdeel van uitmaakt.

West, Oost en Zuid kiezen anders

De verschillen tussen de landen op basis van de mensen die het onderzoek hebben ingevuld is vrij groot. De interactieve kaart laat je een land kiezen en daarnaast kijken of er verschillen zijn met een ander land. Blijkbaar zijn er in Venezuela ten opzichte van Nederland de grootste verschillen in opinie. Zo is de bereidheid om de status van een persoon mee te nemen daar vele male groter (92 procent vond dat belangrijk) dan bij ons, net zoals men het daar belangrijker vindt om vrouwen te sparen ten opzichte van ons. Nederlanders hechten dan weer veel meer waarde aan het in leven houden van mensen ten opzichte van dieren. Ook vinden we het vaak beter om niets te doen, terwijl men daar in elk geval íets wil doen, wat de uitkomst ook moge zijn. Zo zijn er allerlei aspecten die meegeteld worden, al is dat niet meteen duidelijk als je de test aan het doen bent.

Dat heeft dus alles te maken met waarden en normen: in Nederland en veel andere Westerse landen maakt het meer mensen uit of je de verkeersregels ook hebt opgevolgd, terwijl dat in de armere landen niet als heel belangrijk wordt gezien. De mate van ongelijkheid in een land is blijkbaar een goede indicator voor hoe belangrijk status wordt gezien bij het redden van levens. Hoe ongelijker, hoe meer mensen met status beschermd worden. In landen als Zweden is het dan weer precies andersom, en heb je als executive net zoveel kans als een dakloze om doodgereden te worden door een zelfrijdende auto.

Waar is iedereen het wel over eens?

Ondanks al die verschillen – waar hier nog wat dieper op wordt ingegaan – zijn er echter ook overeenkomsten. De meeste mensen zijn het er over eens dat een auto beter een mens kan sparen dan een dier, dat het beter is om twee mensen te laten overleven dan eentje en dat er bij een keuze tussen jong en oud moet worden gekozen voor de mensen die hun leven nog voor zich hebben. Daarna wordt het wat rommeliger, maar misschien is dat voor dit moment nog niet zo’n probleem.

De onderzoekers denken dat er uiteindelijk verschillende ethische programma’s moeten komen die de cultuur van de plek waar een auto rijdt meeneemt in de besluitvorming. Daar zitten ook wel wat haken en ogen aan (wat als ik met mijn ‘bij rood oversteken is vette pech, voetganger’ zelfrijdende auto uit Nederland bij een ongeluk betrokken raak terwijl ik naar Italië ben gereden?) maar het loopt vooral nog te ver voor de technologische mogelijkheden van zelfrijdende auto’s uit.

Zo gaat een zelfrijdende auto het nog lang niet zien. Beeld: Moral Machine
Zo gaat een zelfrijdende auto het nog lang niet zien. Beeld: Moral Machine

Kiezen zonder alle informatie

Als je ziet hoe zelfrijdende auto’s op dit moment de wereld zien is het nog niet in de buurt van de schematische voorbeelden die we in de test zien. Een auto kan niet zien wie er jong, oud, van hoge status of dik is en of er sprake is van katten of honden. Een auto ziet vormen of andere auto’s (met daarin een onbekend aantal passagiers) en moet dus op basis daarvan beslissingen gaan maken. Natuurlijk zou er een hele hoop van die informatie via een AI-systeem met beeldherkenning gedaan kunnen worden, maar die systemen redden het niet om in de enkele milliseconden die bij een storing of ongeluk zijn om een beslissing te nemen de nodige data aan te leveren. Een zelfrijdende auto moet een vaste set regels aan boord hebben die op elk moment in een flits gevolgd kunnen worden.

Dan is er weinig anders mogelijk dan simpelweg het recht van de meeste te kiezen: liever één persoon in de auto de berm in, dan twee personen aanrijden. Zo mogelijk tegen een andere auto of object aanknallen met een zo laag mogelijke kans op overlijden van de passagier(s). Er voor kiezen om niet de andere weggebruiker omver of aan te rijden, behalve misschien als die er niet had mogen zijn volgens de verkeersregels. Daar valt wel het een en ander over te beslissen, maar een groot gedeelte van de geavanceerde vragen die door dit onderzoek gesteld worden zijn misschien pas over 30 jaar relevant, als de technologie in zelfrijdende auto’s goed genoeg is om een weloverwogen beslissing te maken. Tot die tijd is het voornamelijk interessant om te zien wie wat waar in leven wil houden.

[Afbeeldingen © Burak K – Pexels]

Verder lezen over Zelfrijdende auto

​Waarom het handig is om autoverzekeringen te vergelijken

Het is December. Dat betekent Sinterklaas, Kerstmis en tijd om verzekeringen te vergelijken. De meeste mensen kijken vooral naar hoe ze kunnen besparen op hun zorgverzekering, maar het loont ook zeker om eens naar je aut...

Automotive06.12.2019

​Waarom het handig is om autoverzekeringen te vergelijken

Zo ziet een tractor er in 2040 uit en wij willen er nu ook een

Tractors zijn misschien wel de minst sexy voertuigen die er zijn, toch? Langzaam, zelden esthetisch opwindend en vooral saai. Ontwerper Lorenzo Mariotti vond dat het maar eens afgelopen moest zijn met dat saaie gedoe en...

Automotive25.09.2018

Zo ziet een tractor er in 2040 uit en wij willen er nu ook een

De nieuwe Audi A8: semi-autonoom, hypermodern en comfortabel

Audi is trots op haar nieuwe A8: de vierde generatie van Audi's vlaggenschip lijkt weer de auto te worden waar de rest van de klasse naar kan opkijken. Het is de eerste productieauto (als je Tesla's Model 3 niet meetelt)...

Automotive12.07.2017

De nieuwe Audi A8: semi-autonoom, hypermodern en comfortabel

En snel natuurlijk
De Lucid Air: Tesla’s nieuwe concurrent uit Californië oogt sterk

De New York International Auto Show is nog niet eens officieel van start, maar de prachtige bolides vliegen je al om de oren. Ook nieuwe automaker Lucid Motors is er met een prototype van de Lucid Air, een volledig elekt...

Automotive15.04.2017

De Lucid Air: Tesla’s nieuwe concurrent uit Californië oogt sterk

Staat goed op New York Auto Show
Volkswagen I.D. Buzz is veel te leuk om waar te zijn

Het heeft pakweg ruim 65 jaar geduurd voordat de redelijk epische Transporter uit 1950 een opvolger heeft gekregen. Bezitters van het oude hipster-achtige busje hebben nog 5 jaar de tijd om lege flessen te sparen want er...

Automotive10.01.2017

Volkswagen I.D. Buzz is veel te leuk om waar te zijn

Het beroemde Volkswagen busje, de T1 krijgt eindelijk een opvolger
Een kijkje in de futuristische Rolls-Royce 103EX Concept

Eerder kregen we al een sneak peek van de futuristische Rolls-Royce 103EX Concept, maar er zijn deze week meer foto's bekendgemaakt! Vooral de wielen zijn erg bijzonder, want de body loopt door in de wielen. Hierdoor li...

Automotive22.10.2016

Een kijkje in de futuristische Rolls-Royce 103EX Concept

De toekomst van Audi vrachtwagens: elektrisch en autonoom

Mobiliteit verandert op alle mogelijke manieren. En dat gaat veel verder dan alleen personenauto's, hybride fietsen en buizen waarin supersnelle capsules ons van A naar B brengen. Want wat geldt voor de eerste categorie...

Automotive23.08.2016

De toekomst van Audi vrachtwagens: elektrisch en autonoom

Designstudie van ontwerpers vraagt publiek om te kiezen