Geautomatiseerd rijden brengt een veelheid aan filosofische, psychologische, ethische en juridische kwesties met zich mee. Het NWO-MVI project Meaningful Human Control over Automated Driving Systems onderzoekt vragen die ontstaan rondom zelfrijdende voertuigen.

Wie is verantwoordelijk als iets fout gaat met een voertuig dat zelfstandig rijdt? Wiens verzekeringsmaatschappij moet de kosten dekken als een serie vrachtwagens via wifi met elkaar verbonden is en het gedrag van het voorste voertuig nadoet? Moet een zelfrijdende auto een rijbewijs halen? Dit soort vragen onderzoeken Bart van Arem, Marjan Hagenzieker en Filippo Santoni de Sio van de Technische Universiteit Delft in hun project.

Projectleider Bart van Arem begint met een belangrijke opmerking: ‘In dit project sluiten we uitdrukkelijk voertuigen uit die gebruikmaken van zelflerende systemen, zoals kunstmatige intelligentie en machine learning. We richten ons op systemen die exact de regels uitvoeren zoals die door menselijke operators of programmeurs zijn gedefinieerd.’

Drie niveaus

Het onderzoeksproject gaat theorieën ontwikkelen en testen op drie verschillende niveaus, legt hij uit. De onderzoekers zullen inventariseren welke verantwoordelijkheden en waarden op het spel staan als een voertuig zichzelf op enigerlei wijze bestuurt. Daarnaast gaan ze kijken naar de mensen die erbij betrokken zijn. Op welke manier hebben zij controle, wat hebben ze nodig om te kunnen voldoen aan de voorwaarden die de technologie aan hen stelt, en hoe kun je ervoor zorgen dat ze daarvoor ook gekwalificeerd zijn? Op de derde plaats gaan de onderzoekers kijken welke consequenties geautomatiseerd rijden heeft in een verkeerskundig opzicht. Onder welke voorwaarde kan geautomatiseerd rijden het verkeer veiliger maken, files oplossen of leiden tot een efficiënter vervoer van goederen?

Verschillende scenario’s voor geautomatiseerd rijden komen allemaal met hun eigen problemen, zegt Van Arem. ‘De makkelijkste stap is een combinatie van een slimme cruise control en rijstrookbewaking. In dat geval moet de menselijke chauffeur blijven opletten. De tweede stap is dat een systeem ook zijn omgeving in de gaten houdt, en de menselijke bestuurder dwingt het over te nemen als het rijden gecompliceerder wordt; bijvoorbeeld als je de snelweg verlaat en op een rotonde af rijdt. Tot slot kijken we naar de volledig geautomatiseerde auto, die zonder menselijke tussenkomst op de openbare weg kan rijden. De belangrijkste vraag in al deze gevallen is: Wie zou er verantwoordelijk moeten zijn voor de controle, en wat is er nodig om die persoon daadwerkelijk in staat te stellen die verantwoordelijkheid te dragen?’

Vind de menselijke betrokkenheid

Zelfs als een auto eigenstandig besluiten kan nemen, is er altijd ergens een mens betrokken. ‘Een hoge medewerker van Mercedes,’ zegt van Arem, ‘heeft verklaard dat in geval van twijfel, hun auto’s de regel “veiligheid van passagiers eerst” zal volgen. Dat is een principiële keuze die ergens in het management van dat bedrijf is gemaakt. Dat betekent dat zij aansprakelijk kunnen worden gesteld als de auto besluit om op een groep voetgangers in te rijden, om te voorkomen dat de passagiers tegen een boom zullen botsen.’

De timing van het project kon niet beter, zegt Van Arem. ‘We hebben een aantal andere onderzoeksprojecten uitgevoerd die zijn gerelateerd aan technologieontwikkeling en de impact van geautomatiseerd rijden op ruimte en transport. Tijdens deze projecten merkten we dat alle betrokken partijen er behoefte aan hadden om ook ethische en psychologisch aspecten te onderzoeken. De technologie is inmiddels ver genoeg ontwikkeld om ermee te kunnen experimenteren, maar het zal nog wel even duren voordat er verregaand geautomatiseerde voertuigen op de openbare weg rijden. Dit geeft onze partners zoals het CBR (verantwoordelijk voor de rijbewijzen), RDW (die voertuigen goedkeurt voordat ze de openbare weg op mogen), en verzekeringsmaatschappijen (die moeten bedenken wie wanneer aansprakelijk is), tijd om zichzelf met behulp van onze inzichten voor te bereiden op de nieuwe realiteit in het transport.’