Autopilot en het dilemma: wie «sterft» – bestuurder of voetgangers?

Autonome auto’s zijn al lang geen sciencefiction meer: op de weg verschijnen voertuigen met een autopilotmodus die zonder menselijke tussenkomst kunnen rijden. Autoliefhebbers zijn voorlopig nog meer geïnteresseerd in traditionele prestaties – snelheid, vermogen, comfort. Met enthousiasme vergelijken ze bijvoorbeeld Duitse supersedans BMW M5 F90 en Mercedes-AMG E63 S op hun specificaties. Maar met de komst van autopilot komt een heel ander onderwerp op de voorgrond – ethiek en veiligheid. Wat moet een auto doen als een ongeluk onvermijdelijk is?

Dit is al lang geen theoretische vraag uit een leerboek meer, maar een reëel probleem op de weg. Stel je een situatie voor: een zelfrijdende auto raast voort en plots verschijnt er voor hem op een zebrapad een groep mensen. Remmen is te laat. Er zijn twee opties: uitwijken en tegen een muur botsen (met opoffering van de bestuurder) of doorgaan en de voetgangers aanrijden. Het algoritme van de kunstmatige intelligentie is geprogrammeerd voor een bepaalde beslissing – en van die beslissing hangen levens af.

Filosofen noemen zo’n tragische keuze het ‘trolleyprobleem’. Ooit was dit een puur denkbeeldig experiment: stuur je een onbestuurbare tram naar een ander spoor om vijf mensen te redden ten koste van één? Nu staat een soortgelijke dilemma voor kunstmatige intelligentie op de weg – en zijn beslissingen hebben echte gevolgen.

• De passagier redden. Doorrijden en de bestuurder beschermen, ondanks het risico voor de groep voetgangers.
• De voetgangers redden. De auto richting een obstakel of de berm sturen, met opoffering van het leven van degene in de auto.
• Niet bewust kiezen. Een speciaal keuze-algoritme vermijden – dus schademeen minimaliseren zonder targeting, en de gebeurtenissen feitelijk ‘spontaan’ laten verlopen.

Sommigen zullen tegenwerpen dat kunstmatige intelligentie zo slim wordt dat hij altijd een derde, veilige uitweg vindt. Maar dat is eerder een mythe. In werkelijkheid kunnen zelfs de modernste sensoren en software de natuurwetten niet opheffen en alle risico’s uitsluiten. Kritieke situaties zullen toch blijven voorkomen. Dus vroeg of laat kan de auto voor de keuze komen te staan wie hij spaart ten koste van een ander leven.

De mensheid heeft tot nu toe geen eenduidig juist antwoord op dit dilemma gevonden. Toch geven sociologische onderzoeken een interessante kijk op het probleem. Enquêtes laten zien: de meeste respondenten vinden dat een autonome auto in een extreme situatie de passagier moet opofferen om een groep mensen te redden. Maar diezelfde mensen geven toe dat ze zelf niet in een auto zouden willen rijden die hen bij gevaar bewust opoffert voor het leven van anderen. Deze paradox kan een obstakel vormen voor de invoering van zelfrijdende auto’s op de openbare weg.

Een veelzeggend resultaat uit een onderzoek naar de ‘autopilotdilemma’:

Zoals we zien, wil de samenleving tegelijkertijd dat robotchauffeurs zoveel mogelijk mensen redden, en wil ze daarbij zelf geen risico lopen. Deze kloof tussen morele en persoonlijke belangen creëert een dilemma voor fabrikanten en toezichthouders. Want hoe je het algoritme ook programmeert – de beslissing blijft controversieel en kan verontwaardiging oproepen.

Wie gaat de gevangenis in als een zelfrijdende auto een ongeval veroorzaakt?

Maar als een auto op autopilot toch een ongeluk met fatale gevolgen veroorzaakt – wie moet dan worden gestraft? Deze vraag is niet minder ingewikkeld dan de morele keuze. De eerste alarmerende signalen zijn er al. Zo reed in 2018 een testvoertuig van Uber een voetganger dood; ook zijn er andere dodelijke ongevallen bekend met Tesla op autopilot. Zulke gevallen, waarin de computer stuurt, zetten het traditionele principe onder druk dat alle schuld bij de bestuurder ligt.

In de situatie met een ‘robotchauffeur’ zijn verschillende benaderingen mogelijk om de schuldige aan te wijzen. Laten we de belangrijkste scenario’s bekijken:

1. De eigenaar (passagier) van de auto. De logica: hij zat in het voertuig en heeft de autopilot ingeschakeld. Mogelijk moest de persoon het rijden blijven controleren en ingrijpen – dus draagt hij een deel van de schuld door nalatigheid.
2. De ontwikkelaar van de software (het algoritme). Immers, de programmeurs hebben het gedragsmodel vastgelegd dat tot de tragedie leidde. Moeten engineers strafrechtelijk aansprakelijk zijn voor de gevolgen van beslissingen in hun code?
3. De autofabrikant. Het bedrijf dat de zelfrijdende auto heeft uitgebracht, kan niet alle risico’s hebben voorzien of hebben bezuinigd op sensoren. De fabrikant (via het management) kan als rechtspersoon aansprakelijk worden gesteld – bijvoorbeeld via rechtszaken en boetes.

Vooralsnog bestaat hiervoor geen duidelijke wettelijke norm. In de meeste landen waar autonome auto’s worden getest, ligt de verantwoordelijkheid bij de persoon achter het stuur. De huidige autopilotsystemen (niveau 2–3) vereisen immers dat de bestuurder alert blijft. Zo wijzen rechtbanken in Tesla-zaken doorgaans de bestuurder aan als schuldige, omdat hij de mogelijkheden van autopilot overschatte en niet ingreep wanneer dat nodig was.

Maar met de komst van volledig zelfrijdende auto’s (niveau 4–5) ontstaat logisch gezien de behoefte om de schuld te verschuiven naar de makers van de technologie. In Duitsland besloot de nationale Ethische Commissie voor geautomatiseerd rijden al in 2017: als de mens de auto niet meer bestuurt, ligt de verantwoordelijkheid voor de handelingen niet bij de passagier, maar bij de fabrikant of de systeemoperator. Sommige automerken zijn zelf bereid die verantwoordelijkheid te dragen – zo beloofde Volvo publiekelijk alle schuld op zich te nemen wanneer zijn auto’s autonoom rijden.

Het doorschuiven van schuld naar het bedrijf heeft voor- en nadelen. Enerzijds zullen eigenaren de autopilot eerder vertrouwen als ze weten dat zij niet als ‘zondebok’ worden aangewezen bij een ongeluk. Anderzijds zijn fabrikanten terughoudend om alle schuld op zich te nemen, omdat dit kan leiden tot miljoenenclaims en zelfs strafrechtelijke aansprakelijkheid van leidinggevenden. Mogelijk komen er speciale verzekeringspolissen of juridische beperkingen om deze risico’s in balans te brengen.

Ondanks al deze onzekerheden staan autonome rijtechnologieën niet stil. Nieuwe automodellen krijgen steeds slimmere ‘breinen’. Zo is de elektrische crossover Volkswagen ID.4 uitgerust met het Travel Assist-systeem voor semi-autonoom rijden, en kunnen bestuurders van dit model het comfort en de praktische bruikbaarheid verhogen door diverse accessoires voor Volkswagen ID.4 te monteren. Volledig autonoom rijden (niveau 5) blijft voorlopig toekomstmuziek. En dus zullen discussies over morele algoritmen en juridische aansprakelijkheid doorgaan – de samenleving heeft tijd nodig om tot consensus te komen.

Kortom: de morele autopilotdilemma heeft nog geen duidelijke oplossing. Moeten we auto’s programmeren om de meerderheid te redden ten koste van de passagier, of om onder alle omstandigheden de eigen bestuurder te beschermen? Wie straf je voor fouten van kunstmatige intelligentie – engineers, eigenaren, of helemaal niemand? Over deze vragen denken filosofen, juristen en de fabrikanten zelf na. Misschien moeten de gevestigde principes van ethiek en verantwoordelijkheid op de weg binnenkort worden herzien. Want als een computer stuurt, krijgen zowel beslissingen als schuld een geheel nieuwe betekenis – een betekenis waarmee de mensheid nog moet leren leven.