De inzet van profileringsalgoritmen is geen technische keuze, maar een politieke afweging. De vraag is waarom de overheid en het College voor de Rechten van de Mens eraan blijven vasthouden, nu we weten dat ze inherent discriminerend zijn.
Vanaf maandag 29 juni heeft Nederland nieuwe regels voor risicoprofilering, opgesteld door overheidsorganisaties en het College voor de Rechten van de Mens. De NTA (Nederlandse Technische Afspraak) zegt als doel te hebben discriminatie door profileringsalgoritmen te voorkomen. Maar wij willen ervoor waarschuwen dat deze NTA te veel ruimte biedt voor discriminatie en dat risicodenken prevaleert boven mensenrechten.
De overheid zet naar eigen zeggen profileringstechnologie in om efficiënt te kunnen controleren of burgers zich aan de wet houden. Daarbij worden burgers niet beoordeeld op hun gedrag, maar op kenmerken die een verhoogd risico zouden voorspellen. Dit draait een fundament van onze rechtsstaat om: je bent verdacht, totdat je je onschuld bewijst.
Over de auteurs
Dionne Abdoelhafiezkhan is mede-initiatiefnemer van Controle Alt Delete. Nadia Benaissa is beleidsadviseur bij Bits of Freedom. Dagmar Oudshoorn is directeur van Amnesty International Nederland. Dit is een ingezonden bijdrage, die niet noodzakelijkerwijs het standpunt van de Volkskrant reflecteert. Lees hier meer over ons beleid aangaande opiniestukken.
Eerdere bijdragen in deze discussie vindt u onder aan dit artikel.
Als betrokken partijen dachten wij (Amnesty International, Controle Alt Delete en Bits of Freedom) mee over hoe de NTA eruit zou moeten zien. Daarbij zagen wij hoe groot de druk is om technologie koste wat kost in te zetten. Ook wanneer de juridische ruimte daarvoor beperkt is, wordt gezocht naar manieren om die inzet te rechtvaardigen.
Uiteindelijk zagen wij ons genoodzaakt ons terug te trekken, omdat overheidsorganisaties en het College voor de Rechten van de Mens niet bereid waren vast te leggen dat indirecte discriminatie bij profileringsalgoritmen verboden is.
Ondertussen volgden steeds meer adviezen aan de overheid volledig te stoppen met risicoprofilering. In 2025 adviseerde de Wetenschappelijke Adviesraad van de Politie te stoppen met risicovoorspellingen, omdat deze niet aantoonbaar bijdragen aan effectiever politieoptreden. In mei van dit jaar concludeerde de Staatscommissie tegen Discriminatie en Racisme dat het beter is om helemaal te stoppen met datagedreven profilering. En op 11 juni riep Amnesty International de overheid op om risicoprofilering te verbieden, omdat het inherent discriminerend is en dus in strijd is met de mensenrechten.
Discriminatie in Nederland is diepgeworteld en structureel van aard. Discriminatie zit verankerd in instituties, werkwijzen en aannames en werkt vaak onzichtbaar door. Risicoprofilering is daar bij uitstek een voorbeeld van, want de gegevens waarmee algoritmen worden gevoed komen voort uit dezelfde samenleving en instituties waarin structurele vormen van discriminatie bestaan. De overheid en het College voor de Rechten van de Mens lieten de adviezen om te stoppen met risicoprofilering echter links liggen.
Dat is precies wat de Staatscommissie tegen Discriminatie en Racisme beschreef in haar eindrapport: de overheid doet te weinig met onderzoeken en adviezen om racisme en discriminatie tegen te gaan. Het laat zien dat overheden niets hebben geleerd van alle schandalen die de revue passeerden, zoals het toeslagenschandaal, DUO, de politie, de gemeenten en ministeries. Het ministerie van Buitenlandse Zaken weigert zelfs te stoppen met discriminerende profilering. Steeds opnieuw bleek dat algoritmen discriminerende effecten hadden of bestaande ongelijkheden verder versterkten.
De inzet van profileringsalgoritmen is geen technische keuze, maar een politieke afweging. Maatschappelijke problemen zoals armoede of misdaad worden handig geframed als een kwestie van schaarse middelen die we met technologie efficiënt kunnen inzetten, terwijl hier geen enkel wetenschappelijk bewijs voor is.
Daardoor wordt beleid over de diepere oorzaken van deze problemen vervangen door oppervlakkige discussies over hoe we risicoprofilering veiliger kunnen maken. Ondertussen betalen altijd dezelfde mensen de prijs hiervan: mensen op de vlucht en met een migratieachtergrond, moslims, mensen met een beperking of chronische ziekte, en mensen met een laag inkomen.
Na alle schandalen, onderzoeken en waarschuwingen is duidelijk: risicoprofilering is een mislukt experiment. De vraag is waarom de overheid en het College voor de Rechten van de Mens eraan blijven vasthouden. Discriminatie is verboden. Een verbod op risicoprofilering is daarom de logische oplossing om recht te doen aan alle ellende die de overheid bij mensen veroorzaakt heeft.
Wilt u reageren? Stuur dan een opiniebijdrage (max 700 woorden) naar opinie@volkskrant.nl of een brief (maximaal 200 woorden) naar brieven@volkskrant.nl
Geselecteerd door de redactie
Source: Volkskrant