René Pennings                               

Risico's nemen met gezond verstand



 





Wijsheid komt net als geluk in kleine doses. In onze mouw zit een troefkaartje, waarop staat hoe we zowel algoritmes moeten koesteren als kunnen weerstaan. Na lezing van de laatste drie tips ben je klaar voor de uitdaging die AI heet. 

5.      Koester afwijkingen (a): ‘wanneer heeft ie zich voor het laatst bijgesteld?’
Een algoritme zoekt en hanteert patronen. Patronen die voor 95% of meer statistisch betrouwbaar moeten zijn. Afwijkingen worden door de gebruikers getolereerd, zoals bleek uit de case over geautomatiseerde snelheidsovertredingen. Een slim algoritme past zich aan aan de stortvloed van nieuwe data. En daardoor kan zijn besluit of advies bijvoorbeeld anders uitpakken dan een jaar eerder. De cases leerden dat er behoefte is aan minder etnisch geprofileerde adviezen. Een vaste vraag aan iedere algoritmemaker – en uiteindelijk het algoritme zelf – gaat over zijn herijking: ‘en wanneer heeft ie zich voor het laatst bijgesteld?’

  Uit: I am a problem van Will Benedict

Het antwoord op die vraag moet transparant en ‘uitlegbaar’ zijn: welke nieuwe informatie of welke bijstellingen hebben geleid tot zijn afwijkende advies? Wat was het voortschrijdende inzicht van het algoritme? 

6    Koester afwijkingen (b): word niet lui, zoek het uit en maak (eventueel) bezwaar
1 op de 20 mensen is de dupe van een algoritme dat voor 95% correct functioneert. Je kunt de fout accepteren, als het bijvoorbeeld om beperkte gevolgen gaat of wanneer je bezwaar maken als een hoop gedoe ervaart. En daarmee rek je impliciet de tolerantiegrenzen van het algoritme. Zonder bezwaarmakers is er geen reden tot bijstellen. 

Op wozwaardeloket.nl vind je de WOZ-waarden van de huizen in jouw straat. Misschien zit er eentje bij met bijna hetzelfde huis als jij die net iets minder onroerendgoedbelasting hoeft te betalen. De kans is groot dat hij succesvol bezwaar heeft gemaakt tegen zijn aanslag. Een nieuwe directeur ontdekt het meeste als hij bijvoorbeeld zijn digitale handtekening ontzegt op besluitvormingsstukken. Wat gebeurt er dan? Wie trekt aan de bel? 

Zorg er voor dat het algoritme zich moet aanpassen en maak soms uit principe bezwaar. Liefst gegrond natuurlijk, maar waarom niet een keertje ‘zo maar’, gewoon om te kijken hoe de machinaties werken.


7.      Check én borg de onafhankelijkheid
Als sprake is van een ingewikkeld besluit is een second opinion niet ongebruikelijk. Twee weten immers meer dan één. Het liefst zou je naast het advies van een algoritme een aanbeveling willen zien van een mens van vlees en bloed. In Duitsland zijn bijvoorbeeld twee publieke landelijke zenders tegelijk opgericht om het land te behoeden voor wat er twee keer in de vorige eeuw is gebeurd. Zowel ARD als ZDF moeten een (in de grondwet vastgelegde!) bijdrage leveren aan de publieke opinie en de verscheidenheid van de meningen in het publieke debat. Da’s weliswaar weinig efficiënt en soms concurrentievervalsend, maar de voordelen wegen op tegen de nadelen. 

Wie weet wordt jouw bezwaar binnenkort voorgelegd aan een panel van algoritmes en enkele mensen die zich weloverwogen buigen over je grief. Een dergelijk panel komt het dichtst in de buurt van een onafhankelijk oordeel, want hoe weet je dat een algoritme onafhankelijk opereert? Luistert hij niet impliciet naar ‘his master’s voice’? Ook dat is weer een kwestie van transparantie laten zien, zodat de digitale wc-eend niet automatisch kiest voor … 

Tot slot
Beschouw AI vooral niet als ver-van-mijn-bed tovenarij. Met deze introductie in AI hoop ik duidelijk gemaakt te hebben dat je het algoritme weliswaar mag koesteren, maar ook met een flinke dosis gezond verstand moet kunnen doorgronden. Hiervoor is nog geen opleiding of training, hoewel de nieuwe generatie data scientist een flinke dosis filosofie en psychologie meekrijgt. In een van zijn columns riep tech-ondernemer Jim Stolze op om werk te maken van explainability. Leg maar eens in lekentermen uit hoe AI werkt binnen jouw vakgebied. En hoe het bijdraagt aan verbeteringen. 

Da’s niet makkelijk en misschien moet er hiervoor een opleiding komen. Een Master of AI-Explainability zou wellicht een nieuw, typisch Nederlands vakgebied kunnen worden. En het zou zo maar kunnen dat een van de leraren een algoritme is. Het is dan wel zaak dat je digitale docent niet per definitie wordt gesponsord door een van die machtige informatieconglomeraten. En dat de opleiding voor iedereen betaalbaar is. Met een beetje subsidie zou je hem zelfs gratis kunnen aanbieden, zoals in Finland. De kennis ligt voor het oprapen. Nu nog de wijsheid!

 


    








Uit: Omroep Gelderland, 23 november 2018