Maatregelen om discriminatie te voorkomen werken niet goed, en vooroordelen kunnen nooit volledig uit risicoprofilering worden gefilterd. Technologie is namelijk niet neutraal, stelt Dagmar Oudshoorn van Amnesty International.
Hoeveel schandalen zoals het toeslagenschandaal zijn er nog nodig voordat de overheid inziet dat mensenlevens zich niet laten vangen in een algoritme? Uit nieuw onderzoek van Amnesty International, waarin risicoprofilering voor het eerst fundamenteel aan de mensenrechten is getoetst, blijkt een ongemakkelijke waarheid: risicoprofilering door de overheid staat niet alleen wetenschappelijk op losse schroeven, maar is een regelrechte aanval op de mensenrechten. Het is daarom de hoogste tijd voor een algeheel verbod.
Risicoprofilering is een vorm van selectie die overheden gebruiken om potentiële criminelen of fraudeurs te identificeren voordat een strafbaar feit plaatsvindt. De Nederlandse overheid heeft zich de afgelopen jaren herhaaldelijk schuldig gemaakt aan mensenrechtenschendingen door de inzet van risicoprofilering.
Over de auteur
Dagmar Oudshoorn is directeur van Amnesty International Nederland.
Dit is een ingezonden bijdrage, die niet noodzakelijkerwijs het standpunt van de Volkskrant reflecteert. Lees hier meer over ons beleid aangaande opiniestukken.
Eerdere bijdragen in deze discussie vindt u onder aan dit artikel.
We weten allemaal wat voor enorme schade dit heeft veroorzaakt. Denk aan het toeslagenschandaal bij de Belastingdienst of bij DUO, dat discriminerende risicoprofielen gebruikte om frauderende studenten op te sporen. Slachtoffers van deze en andere schandalen kregen te maken met psychische problemen en stigmatisering als gevolg van onterechte beschuldigingen. Gezinnen werden uit huis geplaatst en mensen kwamen in de gevangenis terecht.
Ook financieel waren de gevolgen voor sommige slachtoffers groot: het stopzetten van uitkeringen zorgde ervoor dat mensen in schulden belandden. Studenten moesten hun opleiding staken, families moesten hun huis verkopen.
Dit falende beleid treft de groepen in onze samenleving die het meest gemarginaliseerd worden het hardst. Mensen van kleur, moslims, mensen op de vlucht, mensen met een beperking of chronische ziekte of mensen met een laag inkomen. Zij worden als ‘verdacht’ bestempeld door de risicoprofileringssystemen en worden constant in de gaten gehouden. Zo worden juist mensen die recht hebben op bescherming overgeleverd aan willekeurige en schadelijke beslissingen.
Je zou verwachten dat de overheid na de opstapeling van vernietigende rapporten en harde waarschuwingen van toezichthouders deze systemen onmiddellijk zou stoppen.
Het tegendeel is waar. De overheid speelde een voortrekkersrol bij de inzet ervan op verschillende beleidsterreinen. Het kabinet klampt zich vast aan risicoprofilering onder de illusie dat dit een efficiënte manier is om met weinig middelen fraudeurs en criminelen op te sporen. Ook gelooft de overheid heilig in de vooruitgang en verbetering van technologie en is er druk vanuit de politiek om fraude en misbruik van sociale voorzieningen hard aan te pakken. Vooroordelen en discriminatie zouden onder de juiste voorwaarden en met technische maatregelen kunnen worden vermeden.
Maar laten we helder zijn: de overheid mag nooit discrimineren, ook niet als dit toevallig kostenbesparend of efficiënter is. Bovendien is die efficiëntie een fabel. Het kabinet heeft hiervoor nooit overtuigend bewijs geleverd, terwijl discriminatie juist aan de orde van de dag is.
Sterker nog, ons onderzoek legt bloot dat risicoprofilering stuitend onnauwkeurig en onbetrouwbaar is. Het rammelt wetenschappelijk aan alle kanten en mist onderbouwing. Mensen zijn complexe wezens die zich niet laten reduceren tot inschattingen van algoritmen over wie wel of niet gaat frauderen. Dat hierin veel fouten worden gemaakt, is dus geen incident.
Maatregelen om discriminatie te voorkomen werken niet goed, en vooroordelen kunnen nooit volledig uit risicoprofilering worden gefilterd. Technologie is namelijk niet neutraal. Risicoprofileringssystemen worden gevoed met data uit onze eigen samenleving. Een samenleving die bol staat van ongelijkheid en vooroordelen.
Risicoprofileringssystemen geven een schijn van technologische neutraliteit, maar versterken juist discriminatie en ongelijkheid. Discriminatie is dus geen ongelukkige bijwerking van risicoprofilering, maar een onlosmakelijk gevolg ervan.
Daarom is het de hoogste tijd dat de overheid stopt met experimenteren op burgers, onder het mom van efficiëntie. Mensen mogen nooit slachtoffer worden van discriminerende risicoprofilering. Amnesty International stelt dan ook een duidelijke grens: risicoprofilering bij migratie, fraudebestrijding en criminaliteitsbestrijding moet worden verboden, omdat het in strijd is met de mensenrechten. Alleen met een wettelijk verbod voorkomen we dat een volgend schandaal zich geruisloos in de systemen van de overheid voltrekt.
Wilt u reageren? Stuur dan een opiniebijdrage (max 700 woorden) naar opinie@volkskrant.nl of een brief (maximaal 200 woorden) naar brieven@volkskrant.nl
Geselecteerd door de redactie
Source: Volkskrant