Criminaliteit Heerlen wil weg uit de top van ‘slechte lijstjes’ over armoede, slechte gezondheid en criminaliteit. Een AI-project, met steun van de EU, moet de stad daarbij helpen. Amnesty International ziet vooral risico’s. „Dit soort proeven lopen steeds op hetzelfde uit: privacy-schendingen, etnisch profileren, discriminatie.”
Heerlen-Noord kampt met een achterstand op het gebied van veiligheid en leefbaarheid.
Hoe moet het wijkontwerp eruitzien? Wat is de meest geschikte nieuwe speeltuin? In Heerlen zijn dit soort keuzes de komende tijd niet alleen meer mensenwerk. Behalve ambtenaren, de burgemeester, wethouders en volksvertegenwoordigers gaat ook kunstmatige intelligentie zich ermee bemoeien. Een AI-systeem moet alle mogelijke, reeds beschikbare statistische gegevens loslaten op de voorliggende opties en doorrekenen.
Het project heet PULSE-TWIN, wat staat voor Proactive Urban Livability and Safety Engine with Integrated Social Digital Twin. Volgens de Limburgse gemeente zijn sociale veiligheid en leefbaarheid de sleutelbegrippen. AI moet helpen om Heerlen uit de top van de lijstjes te halen waar de stad liever helemaal niet in wil staan: die over armoede, slechte gezondheid, gebrek aan sociale samenhang, criminaliteit en meer.
Burgemeester Roel Wever (VVD) wijst tijdens het gesprek verschillende keren naar een van de muren van zijn burgemeesterskamer. Dat is waar hij de scenario’s op den duur, liefst in 3D, op een scherm tot leven ziet komen. „Zodat degenen die moeten beslissen het ook kunnen zien. Minder dikke pakken papier, meer filmpjes. Ook omdat niet iedereen zich een voorstelling kan maken van stedenbouwkundige ontwerpen en tekeningen van architecten.”
Eerdere artikelen over het project in De Limburger en De Telegraaf wekten onrust bij Amnesty International. Alexander Laufer, beleidsmedewerker tech en mensenrechten bij die organisatie, zegt tegen NRC: „De Heerlense burgemeester zei in die publicaties: ‘We kunnen gaan voorspellen waar rotzooi gaat uitbreken, zodat we eerder kunnen ingrijpen.’ Dat lijkt op predictive policing, rechtshandhaving op basis van voorspellingen. Daar zijn op tal van plekken in binnen- en buitenland experimenten mee gedaan.”
Als voorbeeld noemt Laufer het in stilte stopgezette Criminaliteits Anticipatie Systeem (CAS) van de Nationale Politie, dat op basis van algoritmen en data criminaliteit zou kunnen voorspellen. „Dit soort proeven lopen steeds weer op hetzelfde uit: privacy-schendingen door surveillance, etnisch profileren en discriminatie, schendingen van het recht op een eerlijk proces en het principe dat iedereen onschuldig is tot het tegendeel is bewezen. Buiten de wereld van veiligheid en leefbaarheid zou de Toeslagenaffaire een waarschuwing moeten zijn.”
Laufer heeft dan ook één advies voor Heerlen: „Stop ermee.”
Dat is de gemeente niet van plan. Integendeel, de Europese Unie heeft 5 miljoen euro beschikbaar gesteld voor PULSE-TWIN. Andere partners met inbegrip van Heerlen zelf, leggen samen zo’n 1,2 miljoen euro bij. Vanaf dit najaar tot maart 2029 moet de proef volop gaan draaien.
Het idee ervoor ontstond in het Heerlense stadhuis, en werd ook ontwikkeld door de gemeente, in samenwerking met onder meer de Universiteit Maastricht, de Nationale Politie, het in Schiedam gevestigde bedrijf Incluzio en de Stichting Veilig Ontwerp en Beheer (SVOB). Voor de ontwikkeling werd ook samengewerkt met de Brightlands Smart Services Campus in Heerlen. Die bundelt onderwijs, onderzoek en ondernemerschap op het gebied van data-technologie.
Deskundigen van de Faculty of Arts and Social Sciences van de Universiteit van Maastricht zijn constant betrokken bij het project, van ontwikkeling tot uitvoering en kijken mee om de ethische kant in de gaten te houden. „AI zal niet dominant worden, maar dient als hulpmiddel. Machines gaan niet de afwegingen maken. Dat blijft werk voor het menselijk verstand”, zegt burgemeester Wever. „De deskundigen en wij zijn scherp op de voorkoming van zaken als discriminatie. PULSE-TWIN werkt sowieso alleen op basis van geaggregeerde, totale gegevens, de statistische totaalplaatjes, en niet op basis van tot individuen herleidbare gegevens. Het gaat om: wat kun je het beste doen? Hoe richt je plekken zo goed mogelijk in? Wat kun je op basis van alle beschikbare data beter doen of laten?”
Juist in een stad met veel grote problemen – deels nog altijd terug te voeren op de mijnsluitingen van ruim een halve eeuw geleden – zou het ook een keuze kunnen zijn om kostbare experimenten te mijden. De gemeente Heerlen kiest een andere weg, legt de burgemeester uit. ”Juist bij de hoeveelheid vraagstukken waar wij in Heerlen mee te maken hebben, is het zinnig om te kijken hoe je dingen beter en sneller kunt doen. Want dat brengt de beste oplossingen dichterbij.”
Wever heeft geen behoefte aan een gesprek met Amnesty International over de verschillende inzichten over PULSE-TWIN. „Wie zonder zich serieus te verdiepen in een project, meteen moord en brand schreeuwt en roept dat het helemaal moet stoppen, is voor mij geen serieuze gesprekspartner.”
Laufer blijft namens Amnesty International bij zijn eerder ingenomen standpunt: „Op basis van onderzoek door Amnesty International en andere ngo’s in meerdere landen is gebleken dat deze systemen inherent in strijd zijn met de mensenrechten. Dit komt omdat de nadelen op het gebied van mensenrechten zo ernstig zijn, dat ze nooit acceptabel kunnen zijn. Daarnaast: het afzien van gebruik van gegevens die zijn te herleiden op individuele personen, betekent niet dat hele groepen niet op een verkeerde manier kunnen worden weggezet of kunnen worden geraakt. Dit soort technologie wordt steeds opnieuw met dezelfde bombast en de belofte van snelle oplossingen aangekondigd. Maar de valkuilen blijven dezelfde en de praktijk is bijna altijd weerbarstiger en complexer dan wat technologie kan voorspellen.”