Met behulp van camera’s met kunstmatige intelligentie werden de Olympische Spelen de afgelopen weken streng beveiligd. Die omstreden techniek baart privacy-experts zorgen: de ervaring leert dat de geest meestal niet meer terug in de fles gaat.
De Olympische Spelen in Parijs zullen niet alleen worden herinnerd door de prachtige beelden uit het historische centrum van de stad, het recordaantal gouden medailles voor Nederland en de sportieve hoogtepunten met op de achtergrond steevast de Eiffeltoren. Het zijn ook de Spelen waarbij voor het eerst het grootschalig gebruik van videocamera’s met kunstmatige intelligentie werd gelegitimeerd. En die ontwikkeling baart privacy-experts in Europa en daarbuiten ernstige zorgen.
‘Exceptionele omstandigheden vragen om exceptionele middelen’, verklaarde de Franse minister van Binnenlandse Zaken Gérald Darmanin al in 2023, ruim een jaar voor de Spelen, bij de behandeling van het wettelijk kader voor de organisatie ervan. Dat bevat een controversieel artikel dat de weg vrijmaakt voor de inzet van videosurveillance met behulp van algoritmes en kunstmatige intelligentie.
Over de auteur
Huib Modderkolk is onderzoeksjournalist van de Volkskrant, met als specialisatie cybersecurity en inlichtingendiensten. Hij schreef het boek Dit wil je écht niet weten – over de onvoorstelbare wereld achter je scherm.
De voorzitter van de commissie, Sacha Houlié, verdedigde het artikel door te wijzen op de terroristische aanslag in 2016 met een vrachtwagen in Nice. De in Tunesië geboren Mohamed Lahouaiej-Bouhlel reed toen met volle vaart in op een mensenmassa op de Promenade des Anglais. Bij de aanslag, die werd opgeëist door terreurgroep Islamitische Staat, vielen 86 doden en honderden gewonden. ‘Niemand zag de truck de Promenade oprijden, behalve videocamera’s’, aldus Houlié. ‘Hadden we toen deze algoritmes gehad, dan hadden we het abnormale gedrag waargenomen en de aanslag kunnen voorkomen.’
Daarmee benoemt Houlié de kern van wat het controversiële wetsartikel mogelijk maakt: abnormaal gedrag detecteren in grote massa’s mensen. Videocamera’s houden tijdens de Spelen nauwlettend Parijs in de gaten en kunstmatige intelligentie analyseert deze beelden live op acht mogelijke afwijkingen, waaronder onbeheerde bagage, de mogelijke aanwezigheid van wapens, afwijkend of abnormaal gedrag of bewegingen in verboden gebied.
Het probleem is alleen dat het omvangrijke systeem, ter waarde van acht miljoen euro, volgens critici óók biometrische gegevens verwerkt. Het kan, met andere woorden, bezoekers zonder dat zij er erg in hebben identificeren en hun gedrag vastleggen. Dat is in strijd met de Europese privacyverordening, zo betoogden 38 organisaties in een open brief waarin ze het Franse parlement opriepen het omstreden artikel te schrappen.
Maar de wet werd, met enkele kleine aanpassingen, toch aangenomen. Volgens voorstanders voldoet het experiment wél aan Europese regelgeving, omdat tijdens de Spelen een dreigende en acute mogelijkheid bestaat van een terroristische aanslag. In de aanloop naar het sportevenement verijdelden de Franse autoriteiten naar eigen zeggen twee terroristische aanslagen. Ook wijzen de initiatiefnemers erop dat het systeem slechts meldingen geeft van verdachte handelingen. Een mens bekijkt de beelden vervolgens om te bepalen welke handeling nodig is.
‘Het is een klassiek voorbeeld van hoe de Olympische Spelen worden gebruikt om dingen door te voeren die er in normale tijden nooit zouden komen’, bekritiseerde de Franse privacy-activist Naomi Levain het plan tegenover persbureau AFP. Amnesty International waarschuwde voorafgaand aan de Spelen dat het grootste sportevenement ter wereld ‘een van de grootste schendingen van de privacy ooit’ zouden worden. De Amerikaanse wetenschapper Ari Ezra Waldman vergeleek de technologie zelfs met Minority Report – een sciencefictionfilm met Tom Cruise waarin misdaden worden voorspeld en verijdeld voordat ze hebben kunnen plaatsvinden.
Jaap-Henk Hoepman, universitair hoofddocent privacy en technologie aan de Radboud Universiteit, deelt de kritiek op de verregaande technologie. ‘Privacy in de publieke ruimte wordt steeds verder beperkt’, zegt hij. Hij noemt drie bezwaren tegen het gebruik van elektronisch toezicht. Volgens Hoepman gaat er allereerst een ‘chilling effect’ van uit. ‘Als je weet dat je overal in de gaten wordt gehouden, ga je je gedrag inperken om niet als probleemgeval te worden aangemerkt.’ Gedrag waar op zich niets mis mee is, gaan mensen dan uit de weg, stelt hij. ‘Privacy zorgt ervoor dat je niet meteen wordt aangesproken op het hebben van bizarre ideeën of gedachten.’ Die vrijheid is cruciaal voor de creativiteit in een samenleving. ‘Het vormt ook de basis voor innovatie en vooruitgang.’
Bovendien hebben mensen die buiten normale kaders vallen meer last van normerende algoritmes. Hoepman: ‘Als kunstmatige intelligentie bepaalt wat afwijkend is, bepaalt die software ook wat de norm is. Wat daarvan afwijkt, is slecht.’ Vaak zijn minderheden, in de brede zin van het woord, daarvan het slachtoffer. Zij krijgen vaker te maken met achterdocht.
Een derde bezwaar is de normalisering van de techniek. De Spelen in Londen van 2012 vormden de aanzet tot het grootschalig gebruik van videotoezicht in de stad, en het WK voetbal van 2018 in Rusland werd aangegrepen om te experimenteren met stemherkenningstechnologie. Diezelfde techniek gebruikt Rusland nu voor binnenlandse repressie. Hoepman: ‘Er is een permanente drang om het nóg wat veiliger te maken omdat de technologische mogelijkheden er nu eenmaal zijn. Gevolg is een steeds verstikkender samenleving, waar de overheid steeds strikter en makkelijker kan handhaven.’ Op een moment dat een technologie is ingezet, zegt hij, zal die daarna voor andere doeleinden worden gebruikt. ‘Het wordt goedkoper, de drempel voor inzet gaat omlaag en het protest zal – omdat het eerder is gebruikt – minder hevig zijn.’
De Franse wet die het elektronisch toezicht legitimeert loopt tot 31 maart 2025, ver nadat de Spelen zijn afgelopen. De wet voorziet eveneens in het gebruik van kunstmatige intelligentie bij ‘recreatieve en culturele’ evenementen, los van de Spelen dus. Het feit dat de belangrijkste leverancier een Frans bedrijf is, Wintics, en een vergelijkbaar systeem al levert aan de Franse spoorwegen, stelt critici allerminst gerust. Als de sporters zijn vertrokken, weten zij, blijven de videocamera’s hangen.
Geselecteerd door de redactie
Source: Volkskrant