De Nederlandse politie is in alle stilte gestopt met het Criminaliteits Anticipatie Systeem, dat voorspelde in welke buurten het risico op criminaliteit het grootst is. Het besluit volgt op jarenlange felle kritiek. ‘Het is heel slecht dat het al die jaren operationeel is geweest.’
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Een gortdroge vermelding in het Algoritmeregister van de overheid, meer is het niet: ‘Buiten gebruik’. Deze statusmelding laat zien dat de Nederlandse politie het Criminaliteits Anticipatie Systeem (CAS) sinds half december niet meer gebruikt. Het gebrek aan ruchtbaarheid staat in schril contrast met het enthousiasme waarmee de politie het systeem lanceerde.
Als de Nederlandse politie in 2017 aankondigt dat ze het door de Amsterdamse politie ontwikkelde CAS landelijk in gebruik gaat nemen, zijn de beloftes gigantisch. Het systeem moet criminaliteit op specifieke plekken verminderen.
‘Misdaad voorspellen, het kan echt’, kopt NRC in dat jaar. Het optimisme past in de tijdgeest van dat moment. Via films als Minority Report (waarin een politie-eenheid toekomstige moorden voorkomt door verdachten te arresteren vóór de daad) en Amerikaanse voorbeelden van ‘predictive policing’ zijn de geesten van de politie rijp gemaakt.
Het CAS voorspelt waar het grootste risico op incidenten is, zodat agenten daar dan extra kunnen surveilleren, is het idee. Dat gebeurt via een kaart met een raster dat een stad opdeelt in vakjes van 125 bij 125 meter. Nederland is het eerste land dat deze vorm van voorspellend politiebeleid invoert – het Amerikaanse voorbeeld Predpol wordt niet landelijk gebruikt.
Het systeem baseert zijn voorspellingen op variabelen als de gemiddelde woningwaarde in het postcodegebied, het maandinkomen, het aantal uitkeringen of het aantal eenpersoonshuishoudens. De hoeveelheid woninginbraken zou met 40 procent kunnen dalen, verwacht de politie.
Al snel blijkt dat de beloften niet kunnen worden waargemaakt. ‘Er is nooit een causaal verband aangetoond tussen de voorspellingen van dit systeem en het dalen van criminaliteit’, zegt Marc Schuilenburg (hoogleraar digitale surveillance aan de Erasmus Universiteit).
Nog schadelijker is het feit dat systemen als Predpol en CAS ondertussen wel ongelijkheden versterken. Als de politie extra in slechte buurten surveilleert, worden daar meer mensen opgepakt, waarmee die buurten weer als nóg slechter in de databases terecht kunnen komen.
De Algemene Rekenkamer is al in 2022 zeer kritisch op zes van de negen onderzochte overheidsalgoritmen, waaronder ook het CAS, dat op alle punten slecht scoort. Bij het CAS ontbreekt onder meer controle op mogelijke vooringenomenheid.
Die vooringenomenheid komt ook tot uiting in het type misdaad waarvoor het CAS wordt ingezet: straatroven en woninginbraken, geen belastingontduiking. Schuilenburg: ‘Het systeem richtte zich op de onderkant van de samenleving, met indirecte discriminatie tot gevolg.’
Daarbij komt dat de gegevens achter het CAS verouderd en onnauwkeurig zijn en dat de analisten niet begrijpen hoe het systeem tot zijn voorspellingen komt, aldus Schuilenburg. Het resultaat is alles bij elkaar een black box vol vooroordelen en zonder bewezen resultaat.
Uiteindelijk zal het nog ruim drie jaar duren totdat de politie het CAS ontmantelt. Dat besluit volgt een paar maanden na een evaluatie van de Wetenschappelijke Adviesraad Politie, waar Schuilenburg ook zitting in heeft. ‘De vraag is of de politie wel sterk moet inzetten op ‘vooruitkijken’ en of de effectiviteit van ‘real time intelligence’ en ‘terugkijken’ niet veel groter is’, aldus dit rapport.
Als voorbeeld van ‘real time intelligence’ noemt Schuilenburg het aanhouden van de verdachten van de moord op Peter R. de Vries. Dit gebeurde op basis van de informatie van camera’s en kentekenherkenning. ‘Hier boekt de politie de grote successen, niet met vooruitkijken.’
Het rapport van de Rekenkamer van 2022 was voor het Amsterdamse raadslid Mohamed Belkasmi (PvdA) aanleiding vragen te stellen aan de gemeenteraad over het CAS. Onlangs deed hij dat opnieuw, toen hij merkte dat het systeem niet meer wordt gebruikt.
Hij is blij dat de politie het CAS niet meer gebruikt, maar verbaast zich over het feit dat dit zo lang heeft moeten duren. ‘Waarom gebruiken we überhaupt een systeem waarbij niemand discriminatie kan uitsluiten en dat ook nog eens geen meerwaarde had? Ik kan daar niet bij. Het is heel slecht dat het al die jaren operationeel is geweest.’
Ook Cynthia Liem, universitair hoofddocent aan de TU Delft en gespecialiseerd in het verantwoord gebruik van AI, is kritisch. ‘Rond 2010 was big data een grote hype. Het geloof in efficiency en voorspellende kracht was enorm. Maar er was, kunnen we nu vaststellen, weinig oog voor de implicaties.’
Net als Belkasmi verwondert Liem zich over het feit dat het CAS nog zo lang is gebruikt. ‘Blijkbaar waren alle beloften over gedataficeerde oplossingen te aantrekkelijk.’ Maar ironisch genoeg ontbrak het juist aan data over de daadwerkelijke meerwaarde van de systemen, stelt Liem vast.
Dat laatste erkent ook de politie: ‘We hebben geconcludeerd dat er onduidelijkheid is over de operationele meerwaarde van het CAS door het ontbreken van eenduidige doelen en meetbare succescriteria.’ Verder stelt een woordvoerder dat het CAS ‘volgens de huidige inzichten niet meer voldoet aan noodzakelijke vereisten’ en dat de ‘tekortkomingen niet opwegen tegen de baten’.
In 2023 stopte de politie al met een ander controversieel systeem, het Risicotaxatie Instrument Geweld. Dit voorspelde op basis van data of een individu geweld zou plegen. De nationale politie sluit niet uit dat ze in de toekomst dit soort voorspellende algoritmes op persoonsniveau toch weer gaat gebruiken.
‘Hoe hiermee om te gaan verdient nader onderzoek’, aldus korpschef Janny Knol afgelopen zomer in reactie op het rapport van de Wetenschappelijke Adviesraad van de politie. Deze adviseerde juist te stoppen met dit type algoritmes, vanwege de ‘hoge en ingrijpende risico’s’.
Alles over tech vindt u hier.
Geselecteerd door de redactie
Source: Volkskrant