Na de toeslagenaffaire werd het algoritmeregister geopend, waar bestuursorganen hun algoritmen kunnen opnemen ter inzage en controle voor het publiek. Maar uit onderzoek blijkt dat het register nog niet soepel loopt, stellen Charlotte Kroese en Serv Wiemers.
Vijf jaar geleden schudde de Nederlandse politiek op haar grondvesten. Het kabinet viel, een enquêtecommissie werd opgetuigd en een nieuwe politieke partij werd geboren. Het toeslagenschandaal bracht zoveel teweeg dat de overheid hier wel van moest leren. Algoritmen bleken vooroordelen te bevatten die niet uitlegbaar zijn. Computer says no, kregen duizenden mensen te horen.
Het volgende kabinet-Rutte ging van start en introduceerde een algoritmeregister: vanaf nu moesten alle bestuursorganen hun algoritmen registreren, vooral de algoritmen die impact hebben op het leven van een burger, zoals besluitvorming rond uitkeringen en vergunningen. Burgers, journalisten, belangengroepen, wetenschappers en ambtenaren konden meekijken en controleren. Dat een bestuursorgaan inzichtelijk verantwoording aflegt over zijn besluitvormingsproces is eigenlijk niet meer dan een basisvoorwaarde in een democratie, maar goed, het algoritmeregister werd met applaus ontvangen.
Dat overheidsorganisaties algoritmen gebruiken is logisch: de digitalisering schrijdt voort en algoritmen kunnen efficiency-winst opleveren. Maar inzicht en controleerbaarheid zijn net zo logisch. En ook noodzakelijk, bleek uit andere schandalen, zoals bij DUO, de overheidsdienst die studiefinanciering verstrekt en studieschulden int, en bij uitkeringsinstantie UWV.
Over de auteurs
Charlotte Kroese is onderzoeker van Open State Foundation.
Serv Wiemers is directeur van Open State Foundation.
Dit is een ingezonden bijdrage, die niet noodzakelijkerwijs het standpunt van de Volkskrant reflecteert. Lees hier meer over ons beleid aangaande opiniestukken.
Eerdere bijdragen in deze discussie vindt u onder aan dit artikel.
Daarom deden we onderzoek naar hoe het in Nederland is gesteld met die transparantie van algoritmen. De ministeries beloofden alle algoritmen in het algoritmeregister op te gaan nemen (deadline 2025). Ook het huidige kabinet-Schoof belooft in het regeerprogramma transparantie bij de inzet van algoritmen. ‘Burgers moeten kunnen weten hoe een (geautomatiseerd) besluit tot stand is gekomen’, stelt het kabinet. Daarvoor wordt zelfs nieuwe wetgeving aangekondigd.
Die wetgeving laat op zich wachten.
Dan het algoritmeregister. Wij telden 610 geregistreerde algoritmen (stand begin december), waarvan 286 impactvolle algoritmen (systemen die worden gebruikt in processen met impact op betrokkenen) en 25 hoog-risico AI-systemen (zoals gedefinieerd in de AI Act). Dat lijkt misschien heel wat, maar Nederland kent 1.600 overheidsorganisaties. Deze gebruiken naar schatting tien impactvolle algoritmen (grotere gemeenten en uitvoeringsorganisaties eerder 20 à 30 en kleinere gemeenten zo’n vijf), waarmee we voor de Nederlandse overheid op 16 duizend algoritmen komen.
Dat betekent dat de overheid bij slechts 2 procent van de algoritmische besluitvorming enig inzicht biedt in hoe die besluitvorming werkt. Voor de overige 98 procent tasten we in het duister: de burger kan niet controleren welke algoritmen op welke wijze worden gebruikt door overheidsorganen.
Als we inzoomen zien we dat alle ministeries samen nog maar 22 algoritmen hebben gepubliceerd. Dat zouden er 150 moeten zijn. Vijf ministeries hebben niets gepubliceerd. Gemeenten publiceren het grootste deel: 430 (70,5 procent). Hiervan zijn iets meer dan de helft impactvolle algoritmen of hoog-risico AI-systemen.
Overigens zijn slechts 114 van de 342 gemeenten actief in het algoritmeregister. Los van de kwantiteit zien we dat de gegeven informatie vaak onvolledig en onduidelijk is. De conclusie kan dan alleen maar zijn dat transparantie ver is te zoeken en dat de ambities van het kabinet bij lange na niet worden gehaald.
We hebben ook onderzoek gedaan naar de redenen achter het gebrek aan transparantie. We constateren onvoldoende kennis en prioriteit. Voor veel bestuurders zijn algoritmen eng en onbemind. Met alle handreikingen, kaders en assessments zien instanties door de bomen het bos niet meer. Ook vertonen overheidsorganisaties risicomijdend gedrag met betrekking tot openheid van zaken geven. Verder is er weinig samenwerking en kennisuitwisseling.
Bovendien zitten ontwikkelaars met technische kennis niet bij het bestuursoverleg, en andersom zitten ethici, juristen en beleidsmakers niet aan de knoppen van het model. Algoritmen worden meestal ingekocht bij externe commerciële partijen, die ook al niet enthousiast zijn om volledige openheid te geven.
Is de situatie hopeloos? Uit ons onderzoek blijkt dat overheidsorganisaties snakken naar meer grip op het vormgeven van algoritmetransparantie. Daarvoor moeten ambities duidelijk worden gesteld - voor zowel de verantwoordelijke bestuurder als de technische ontwikkelaar.
Maatschappelijke organisaties hebben nu het 5-sterrenmodel ontwikkeld. Dit 5-sterrenmodel kan algoritmetransparantie behapbaar maken. Elke ster biedt meer inzicht - intern voor bestuurders en extern voor de betrokken burger. Het model begint bij het laten weten dát en waarvoor er een algoritme wordt gebruikt (gepubliceerd = 1 ster). Vervolgens wordt het algoritme verder beschreven (uitgelegd = 2 sterren) en aangetoond dat het grondig is getest
(gecontroleerd = 3 sterren). Om mensen zelf een beeld te laten vormen van de werking van het algoritme kunnen mensen experimenteren met in- en output (testbaar = 4). Tot slot kan iedereen de volledige broncode bekijken (open = 5 sterren).
Algoritmetransparantie staat er nu slecht voor in ons land - en we zouden beter moeten weten. Maar de maatschappij reikt de overheid de hand. Tot dat moment: als het niet inzichtelijk en uitlegbaar is, gebruik het niet. Dat is goed bestuur dat vertrouwen schept.
Wilt u reageren? Stuur dan een opiniebijdrage (max 700 woorden) naar opinie@volkskrant.nl of een brief (maximaal 200 woorden) naar brieven@volkskrant.nl
Geselecteerd door de redactie
Source: Volkskrant