Het Europees Parlement stemt woensdag over de AI Act, de wetgeving die alles rondom kunstmatige intelligentie in banen moet leiden, inclusief ChatGPT-achtige toepassingen. Er staat veel op het spel en de belangen zijn groot.
De traagheid van de zorgvuldig draaiende raderen in Brussel staat in schril contrast met de enorme snelheid waarmee kunstmatige intelligentie (AI) zich momenteel ontwikkelt. Nadat de Europese Commissie in april 2021 met haar voorstellen voor de zogeheten AI Act kwam, werd de wereld overspoeld door nieuwe ontwikkelingen.
Neem ChatGPT. De geavanceerde chatbot, die bijvoorbeeld op commando scripties kan schrijven, zag pas begin december het licht. Inmiddels staat het AI-programma van het Amerikaanse OpenAI voor politiek en grote publiek symbool voor alles wat met AI te maken heeft, in positieve en negatieve zin.
Over de auteur
Laurens Verhagen schrijft voor de Volkskrant over technologie, internet en kunstmatige intelligentie. Eerder was hij onder andere hoofdredacteur van nu.nl.
Vandaag is een belangrijke mijlpaal, als het Europees Parlement over de AI Act stemt. Maar eerst terug naar 2021. De Europese Commissie kwam toen met een risicopiramide voor AI, van toepassingen met een minimaal risico (denk aan een spamfilter, of het aanbevelingsalgoritme van Spotify), via beperkt risico (deepfakevideo’s, chatbots), hoog risico (systemen die beoordelen of iemand een hypotheek kan krijgen) tot uiteindelijk onaanvaardbare risico’s, zoals een sociaal-kredietsysteem naar Chinees voorbeeld, waarbij overheidsalgoritmes burgers scores geven op basis van al dan niet ‘wenselijk’ onlinegedrag.
De middelste twee categorieën zijn het meest complex qua regelgeving. Bij hoogrisico-toepassingen stelt Europa bijvoorbeeld voorwaarden aan de kwaliteit van de data waarmee AI-systemen zijn getraind.
Sinds die datum hebben parlementariërs en commissieleden stevig onderhandeld over aanpassingen. Die onderhandelingen gingen moeizaam, erkende hoofdrapporteur Dragos Tudorache (van de Renew-fractie, waarbij VVD en D66 zijn aangesloten) in tijdens een persconferentie: ‘We hadden lange debatten over definities en kwamen moeilijk tot een compromis.’
Ook GroenLinks-Europarlementariër Kim van Sparrentak (namens de Groenen onderhandelaar) sprak over een ‘enorm gevecht’. De klassieke tegenstellingen tussen de partijen zijn ook op dit dossier zichtbaar: waar de progressieve Groenen de nadruk leggen op de bescherming van de burger, daar wijst Tudorache erop dat de AI Act toch echt ook rekening moet houden met de innovatiekracht van Europese techbedrijven.
Wat zijn de belangrijkste discussiepunten van het Parlement voor de stemming?
Een van de grote punten: hoe gaat Brussel om met programma’s als ChatGPT? Twee jaar geleden leken chatbots nog vrij onschuldig te zijn en zaten ze daarom in de op één na lichtste categorie.
Voor de progressieve partijen was dit een struikelblok: dit soort toepassingen vormen een hoog risico met bijbehorende eisen aan de bedrijven die ze op de markt brengen, zoals OpenAI (van ChatGPT), Microsoft (chatbot Bing) of Google (chatbot Bard). Die techbedrijven voerden de afgelopen maanden een flinke Brusselse lobby om hun producten uit deze categorie te houden. Niet alleen achter de schermen: vorige maand dreigde topman Sam Altman van OpenAI nog om ChatGPT terug te trekken uit Europa vanwege de strenge regels.
Altman en consorten kregen deels hun zin: toepassingen als ChatGPT worden niet standaard opgenomen in de categorie ‘hoog risico’. Het compromis noemt ChatGPT, maar ook programma’s als DALL-E en Midjourney (voor het creëren van afbeeldingen), in een apart hoofdstuk.
Van Sparrentak kan er mee leven: ‘Ze zitten daarmee vrij dicht tegen de categorie hoog risico aan.’ Concreet betekent dit dat de makers van de grote AI-modellen achter programma’s als ChatGPT te maken krijgen met ontwerp-, veiligheids-, transparantie- en milieuverplichtingen.
Het is een hoofdpijndossier: hoe om te gaan met gezichtsherkenning in de openbare ruimte? De deal waarover de vakcommissies in mei stemden, legt die geheel aan banden. Voor de linkse en liberale partijen is het belangrijk dat dit gebeurt, waarbij ze wijzen naar China als afschrikwekkend voorbeeld.
Hoofdrapporteur Brando Benifei (van de progressieve alliantie) wees in mei op de tendens die hij in zijn thuisland Italië ziet, waar Binnenlandse Zaken ‘nachtmerrieachtige toepassingen’ wil met biometrie. Zo’n controlemaatschappij is ‘juist niet de richting die we op willen’, aldus Benifei. De Christen-Democraten hebben echter tot de dag van vandaag moeite met zo’n geheel verbod, met het oog op het bestrijden van terrorisme. Dit punt maakt de stemming van woensdag spannend.
Het profileren van burgers om criminaliteit of fraude op te sporen of te ‘voorspellen’, zoals gebruikt door de Belastingdienst in het toeslagenschandaal, wordt als het aan het Europees Parlement ligt helemaal verboden.
Geen verbod, maar wel een trapje hoger op de piramide (van beperkt naar hoog risico): de aanbevelingsalgoritmen van sociale media, het bepalen van het onderwijsniveau of hoogte van de zorgpremie. Die systemen moeten aan de strengste eisen voldoen, bijvoorbeeld op het vlak van milieu en veiligheid. Nieuw is dat er ook een verplichte mensenrechtentoets moet komen bij AI met zo’n hoog risico, voordat deze wordt ingezet. Die toets moet eventuele nadelige effecten (denk aan discriminatie) bij voorbaat voorkomen. Als het aan het Parlement ligt, krijgen burgers stevige rechten als ze denken benadeeld te zijn door een AI-beslissing. Zo moeten ze altijd horen of een beslissing gemaakt is met behulp van AI, krijgen mensen recht op uitleg en kunnen ze klachten indienen bij de algoritme-autoriteit.
Mocht het Parlement instemmen, dan volgen de onderhandelingen met de afzonderlijke lidstaten. Als alles meezit is de definitieve tekst daarna begin volgend jaar klaar en zal de wet op zijn vroegst in 2026 in werking treden.
Source: Volkskrant