Door fouten in algoritmen heeft de reclassering de kans dat verdachten en veroordeelden opnieuw een misdaad plegen, in veel zaken verkeerd ingeschat. Dat concludeert de Inspectie Justitie en Veiligheid in een donderdag verschenen onderzoek.
‘We zijn geschrokken, dit zijn echt pittige uitkomsten’, zegt Arjen Schmidt, afdelingshoofd crisisbeheer en cyber van de inspectie. Met name bij veroordeelden en personen die kampen met ernstige psychische problemen of drugsverslaving blijken fouten te zijn gemaakt. Veelal werd het recidiverisico te laag ingeschat, aldus de inspectie.
Reclasseringsmedewerkers gebruiken algoritmen bij het opstellen van een reclasseringsadvies. Rechters en officieren van justitie nemen dit advies vervolgens mee bij het bepalen van de strafeis of straf, en bij het vaststellen van de voorwaarden waaronder een gevangene voorwaardelijk wordt vrijgelaten.
De inspectie is vooral kritisch over het sinds 2018 veelgebruikte OxRec. Dit in Oxford ontwikkelde hulpmiddel berekent wat het risico op herhaling van strafbaar gedrag is op basis van kenmerken als delictverleden, huisvesting, werk, financiën en het sociale netwerk. Aan de basis van dit systeem staan de kenmerken van ruim 37 duizend Zweedse gevangenen.
Jaarlijks gebruikt de reclassering dit hulpmiddel zo’n 44 duizend keer. ‘Het resultaat helpt de medewerker bij het maken van een gestructureerd professioneel oordeel, maar vervangt het oordeel niet’, zo stelt Reclassering Nederland zelf. In 2020 noemde ze, na eerdere kritiek, het systeem tegenover NOS nog ‘voldoende betrouwbaar en wetenschappelijk onderbouwd’.
De inspectie komt tot heel andere conclusies: in de door de reclassering gebruikte software van OxRec zitten grote fouten. Zo zijn er formules voor verdachten en gedetineerden verwisseld en worden verkeerde getallen en verouderde data gebruikt. Ook zou het systeem zijn ontwikkeld voor een andere doelgroep dan waar de reclassering ze op toepast.
‘In honderd procent van de gevallen klopt de uitkomst van OxRec niet’, zegt Schmidt. Maar dit betekent niet dat in álle reclasseringsadviezen het recidiverisico verkeerd is ingeschat. ‘Je hebt drie categorieën: een laag, gemiddeld of hoog risico. Soms is de foutmarge zo klein dat het op de indeling in een uiteindelijke categorie geen effect heeft.’
Uit berekeningen van de inspectie blijkt dat in ongeveer een kwart van de gevallen OxRec personen wél in de verkeerde categorie indeelt. ‘We zagen de grootste foutmarges bij veroordeelden en personen met psychische problemen of verslaving’, zegt Schmidt.
In Nederland zijn drie grote reclasseringsorganisaties: Reclassering Nederland, het Leger des Heils en Stichting Verslavingsreclassering GGZ. Alle drie gebruiken ze OxRec. In een reactie laten de organisaties weten dat ze de conclusies van de inspectie ‘confronterend’ vinden, ze beloven verbetermaatregelen te treffen. Het gebruik van OxRec is gepauzeerd.
De organisaties benadrukken echter dat ‘reclasseren mensenwerk is’, en dat OxRec ‘slechts een klein onderdeel vormt van de risicotaxatie’. ‘Uit het inspectieonderzoek blijkt dat er heel wat is wat we beter moeten doen’, zegt een woordvoerder. Maar de impact van de algoritmefouten is gering, stelt ze. ‘Het uiteindelijke advies van een reclasseringsmedewerker is veel meer dan alleen OxRec, dat hulpmiddel is niet leidend.’
De inspectie ziet dat anders. Zij constateren dat reclasseringsmedewerkers in praktijk worden gestimuleerd om veel waarde te hechten aan de uitkomsten ervan. ‘In een interne podcast wordt aangegeven dat het oordeel van een medewerker zonder OxRec niet beter is dan het opgooien van een muntje’, schrijven de onderzoekers.
OxRec heeft nog een manco. Door variabelen te gebruiken zoals ‘buurtscore’ en de ‘hoogte van het inkomen’ werkt het discriminatie in de hand, waarschuwt de inspectie. Het College van de Rechten van de Mens stelde enkele jaren geleden daarom dat het gebruik van dit soort variabelen in algoritmen in principe verboden is, tenzij onderbouwd kan worden waarom het noodzakelijk is en er aanvullende maatregelen worden getroffen. ‘We hebben de reclassering gevraagd naar een onderbouwing’, zegt Schmidt, ‘maar die hebben we niet ontvangen.’
De inspectie kan niet zeggen of de verkeerde recidive-inschattingen uiteindelijk ook effect hebben gehad op de straffen die rechters opleggen of op voorwaarden waaronder een gevangene eerder vrijkomt. Dat is niet onderzocht, omdat de inspectie geen toezicht houdt op de rechterlijke macht.
Het is niet voor het eerst dat OxRec onder vuur ligt. Zes jaar geleden was Gijs van Dijck, hoogleraar privaatrecht, digitalisering en jridische AI aan de Universiteit van Maastricht, al zeer kritisch over dit gereedschap in het Nederlands Juristenblad. Zijn bezwaren gingen destijds over het risico dat dit systeem discriminatie op basis van ras, sociale klasse of andere sociale ongelijkheden in de hand kan werken, iets waar de inspectie nu opnieuw voor waarschuwt, naast alle andere problemen.
Dit type kritiek is vergelijkbaar met die op andere risico- en fraudeopsporingssystemen. Het bekendst en beruchtst is SyRI (Systeem Risico Indicatie). In 2020 bepaalde de rechter dat dit middel in strijd was met het Europees Verdrag voor de Rechten van De Mens. Het systeem, waarbij de overheid een groot aantal persoonsgegevens koppelt in een risicomodel, is voor de burger oncontroleerbaar en maakt een onrechtmatige inbreuk op het privéleven, aldus de rechter destijds.
Geselecteerd door de redactie
Source: Volkskrant