Innovatie Nederland kreeg tien jaar geleden een landelijk politiesysteem dat met data en algoritmen de kans op criminaliteit in wijken zou voorspellen. Het werkte nooit goed en al jaren werd gewaarschuwd voor vooringenomenheid.
Agenten doen onderzoek in Den Haag.
De Nationale Politie is eind vorig jaar in stilte afgestapt van een computersysteem dat met behulp van grote databestanden en algoritmen moest voorspellen waar en wanneer delicten als inbraken, straatroof of zakkenrollerij zich zouden kunnen voordoen. Dat bevestigt de politie na berichtgeving in De Volkskrant, deze dinsdag.
Het zogeheten Criminaliteits Anticipatie Systeem (CAS) werd tien jaar geleden door de politie in gebruik genomen om de aanpak van veelvoorkomende misdaden in bepaalde buurten te verbeteren. Het voorspellen van criminaliteit zou daarbij helpen. De politie zegt eind vorig jaar te hebben geconcludeerd dat „er onduidelijkheid is over de operationele meerwaarde van CAS door het ontbreken van eenduidige doelen en meetbare succescriteria. Hierdoor is het moeilijk om vast te stellen wanneer CAS succesvol is en of de beheerskosten opwegen tegen de baten”, aldus een woordvoerder van de politie.
Het systeem CAS werd voorzien van informatie uit aangiftes, criminaliteitscijfers en gegevens van het Centraal Bureau voor de Statistiek (CBS). Die gingen bijvoorbeeld over het aantal uitkeringen per wijk, leeftijden, geslacht en de gezinssamenstellingen.
Algoritmen bepaalden vervolgens waar en wanneer de politie een verhoogde kans op criminaliteit kon verwachten. Op die plekken kon de politie dan extra surveilleren, wat de criminaliteit moest doen verminderen. Het idee was dat Nederland het eerste land ter wereld zou worden waar predictive policing in alle regio’s zou worden toegepast.
In 2022 waarschuwde de Algemene Rekenkamer voor het gevaar van vooringenomenheid. De politie maakte volgens de Rekenkamer gebruik van historische data om de te verwachten criminaliteit in kaart te brengen. „Wanneer bias in deze gebruikte historische data is ontstaan, bijvoorbeeld doordat in het verleden bepaalde wijken intensiever zijn gecontroleerd, is de kans groot dat in de voorspellingen onwenselijke systematische afwijkingen ontstaan.”
Naar aanleiding van die kritiek is door de politie naar eigen zeggen „veel werk verricht op het terrein van monitoring van performance en datakwaliteit, het op orde brengen van de benodigde documentatie en het verbeteren van de technische presentatie van het CAS”.
Het gebruik van algoritmes werd „geprofessionaliseerd”, aldus de politie. Maar de verbeteringen waren niet voldoende om door te gaan met het gebruik van CAS, omdat het systeem „volgens de huidige inzichten niet meer voldoet aan noodzakelijke vereisten”. Uiteindelijk heeft de politie geconcludeerd dat de „benodigde inspanningen voor het oplossen van de tekortkomingen niet opwegen tegen de baten”, aldus de woordvoerder.
De politie zegt ook dat er „onzekerheid is over de technische prestaties van het model. Er ontbreken formele kwaliteitsstandaarden. Ook is niet duidelijk hoe vaak en waar het CAS werd gebruikt door eenheden van politie”.
De politie wijst erop dat CAS alleen werd gebruikt voor voorspellingen: het algoritme bracht in kaart waar de kans op een bepaald type criminaliteit hoger is. „Het was geen voorspellend algoritme op persoonsniveau. Het levert concreet een ‘informatiekaart’ op die niet herleidbaar is tot personen. Een eventuele inzet van een voorspellend algoritme op persoonsniveau verdient nader onderzoek.”
Doorzie de wereld van technologie elke week met NRC-redacteuren