René Pennings                               

Risico's nemen met gezond verstand








Bijna iedereen kent de volgende foto. Het is een fragment uit een filmpje opgenomen in een zelfrijdende testauto. Het speelt zich af in Arizona in april 2018 en de verschrikte dame beseft dat haar zelfrijdende auto zojuist een fietser heeft aangereden. Met dodelijke afloop.

  











De eerste zorg van Uber, de eigenaar van de auto, was voorkomen dat dit niet nog een keer gebeurt. De tweede zorg betrof de aansprakelijkheid. Stel nu dat de testfase voorbij was en de zelfrijdende auto wederom per ongeluk een ernstig verkeersongeval veroorzaakt. Wie is dan aansprakelijk? Het slachtoffer en zijn verzekeringsmaatschappij beginnen uiteraard bij de eigenaar van de auto. Of had de passagier tijdig kunnen ingrijpen? En in hoeverre zou de auto-eigenaar de schade kunnen claimen bij de autofabrikant? Die zou op zijn beurt de eigenaar van het algoritme kunnen aanspreken. Want het was toch een ‘machine learning fout’? En valt het slachtoffer ook niet iets te verwijten? De betreurde fietsster op de foto reed zonder verlichting en met donkere bovenkleding? En hoe zit het met de overheid? Moet die niet maatregelen opleggen, zodat Dit Nooit Meer mag gebeuren?

   




Hoe autonomer het algoritme, hoe lastiger de aansprakelijkheid wordt. Belangrijk is dat één partij zijn verantwoordelijkheid neemt. En dan ligt de ontwerper het meest voor de hand. Big Tech heeft diepe zakken. Ook niet ondenkbeeldig is dat zowel de ontwerper als de overheid een fonds in het leven roepen dat die zeldzame gedupeerden een passende vergoeding geeft. 

Het is aan de verzekeraars om te komen tot een soort AI-aansprakelijkheidsverzekering. De premie voor iedere aansprakelijkheidsverzekering zal dan sowieso stijgen tot het niveau van wat we maatschappelijk aanvaardbaar vinden (‘een paar tientjes extra per jaar?’). 

Het is ronduit ironisch om te beseffen dat een dergelijke premie- of prijsstijging steeds vaker wordt berekend door een algoritme. Woonhuisverzekeringen zijn dankzij geautomatiseerde toepassingen van big data steviger gestegen dan de inflatie en de prijs van auto-onderdelen is soms verdrievoudigd. Een van de uitgangspunten die het algoritme hanteerde was wat de klant zou overhebben voor een nieuwe wieldop of sensor. Over de inruilwaarde van mijn Corolla viel eveneens niet te onderhandelen: ‘kijkt u maar op het scherm hoe de computer het heeft berekend.’ 

Je zou kunnen stellen dat de AI-techniek sneller gaat dan de menselijke wil. Wij, automobilisten, voelen ons snel in onze vrijheid aangetast. Het merendeel van de rijders zou het bespottelijk vinden als een automatische cruisecontrol (ISA of intelligente snelheidsadaptie) in onze auto wordt ingebouwd. En diep vanbinnen willen we liever niet forenzen in een zelfrijdende onpersoonlijke autokaravaan. Maar wie weet kantelt dankzij nudging, voorbeeldgedrag en lokale successen de beeldvorming.

AI-expert Hannah Fry weet het kernachtig te formuleren: “een bijkomende reden waarom de zelfrijdende auto er nooit zal komen, is dat zo’n auto in de stad meer zou stilstaan dan rijden. Hij moet immers altijd en voor iedereen kunnen stoppen, ook voor een fietser die geen voorrang geeft of voor een voetganger die zomaar zonder te kijken de weg opstapt. Zodra dat bekend is, zou niemand nog enig respect hebben voor zo’n auto. Niemand zou hem voorrang verlenen.
Logisch gezien kunnen zelfrijdende auto’s dus alleen autonoom rijden op plekken waar ze niet in contact kunnen komen met andere weggebruikers. Op hun eigen wegen dus. Maar in feite hebben we al zoiets. We noemen dat een trein.”