Een gelopen koers was het bepaald niet: vooraf hadden Brusselse bronnen de kans van slagen geschat op hooguit fifty-fifty. De onderhandelingen begonnen op woensdagmiddag en liepen tot in de late avond op vrijdag. Het uiteindelijke akkoord legt het gebruik van gezichtsherkenning door de overheid aan banden en laat de EU onder de motorkap van chatbots als ChatGPT kijken. ‘Historisch’, noemt Eurocommissaris Thierry Breton het akkoord. ‘De EU is het allereerste continent dat duidelijke regels stelt voor het gebruik van AI.’
Kunstmatige intelligentie heeft een breed scala aan toepassingen, van tekstaanvulling in mail tot gezichtsherkenning op straat. Om deze diversiteit aan te pakken werkt de zogeheten AI Act met een ‘risicopiramide’: hoe gevaarlijker een AI-toepassing potentieel is, des te strenger de bijbehorende regels. Zo zijn ‘deepfakes’ (neppe foto’s of video’s van personen) gevaarlijk, maar de AI Act verbiedt ze niet in het geheel: satirische toepassingen blijven toegestaan. De nieuwe wet gebiedt programma’s daarom programma's die deepfakes genereren deze altijd te labelen als ‘gemaakt door AI’.
Over de auteurs
Laurens Verhagen en Frank Rensen schrijven voor de Volkskrant over technologie, internet, sociale media en kunstmatige intelligentie.
Bovenaan de risicopiramide staat het soort AI dat helemaal verboden moet worden, omdat er simpelweg te veel risico’s aan kleven. Over sommige voorbeelden bestaat vanaf het begin nauwelijks discussie, zoals het overheidsgebruik van algoritmes om burgers scores te geven op basis van al dan niet ‘wenselijk’ gedrag. Onaanvaardbaar, vindt iedereen van links tot rechts.
Het is anders met een verbod op gezichtsherkenning in de openbare ruimte. Terwijl voorstanders stellen dat zulke gezichtsherkenning een inbreuk doet op de privacy, beargumenteren tegenstanders van een verbod dat gezichtsherkenning kan helpen in het bestrijden van misdaad en terrorisme.
Het uiteindelijk akkoord reguleert gezichtsherkenning op een aantal manieren: het inschatten van de seksuele geaardheid, politieke voorkeur en etniciteit aan de hand van gezichtsherkenning is verboden. Wel staat de wet overheden en de politie toe om gezichtsherkenning te gebruiken om verdachten van zware misdrijven en vermiste personen op te sporen. Dit mag echter alleen met rechterlijke toestemming, en uitsluitend als bekend is naar wie wordt gezocht. Deze kanttekening moet massasurveillance onmogelijk maken. Ook het ‘voorspellen’ van crimineel gedrag gebaseerd op persoonsgegevens, zoals gebeurde bij de toeslagenaffaire, wordt verboden.
De lange duur van de onderhandelingen kwam met name doordat het Europees Parlement de relatief nieuwe ‘algemeen toepasbare AI’ in de wet wilde meenemen. Dit is een parapluterm voor chatbots als ChatGPT en programma’s die afbeeldingen genereren, zoals Midjourney. De Brusselse techlobby stribbelde tegen, uit angst dat te strenge regulering ervoor zou zorgen dat Europese AI-bedrijven uit Europa zouden verdwijnen.
‘Er stond veel op het spel, maar we hebben de strijd gewonnen’, stelt Europarlementariër en onderhandelaar Kim van Sparrentak (GroenLinks) tevreden. ‘Europa stelt bindende voorwaarden aan deze technologieën, zodat we straks niet opgezadeld zitten met grote systemen die complottheorieën uitspuwen, grove fouten maken of onze privacy of intellectuele eigendomsrechten schenden.’
De wet verplicht bedrijven ook om een kijkje onder de motorkap te bieden van hun AI-programma’s. Dat wil zeggen dat de EU de ‘trainingsdata’ van modellen kan inzien. Deze trainingsdata bepalen zowel de kennis als de vooroordelen van een chatbot als ChatGPT. Ook moeten de bedrijven rapporteren over het energieverbruik van hun software. Gebaseerd op deze informatie bepaalt de EU ten slotte op welke plaats in de risicopiramide het programma komt te staan.
De lidstaten en het Europarlement stemmen begin volgend jaar officieel over het akkoord, doorgaans slechts een formaliteit. De wet gaat vervolgens in een aantal stappen van kracht: na zes maanden gelden de algehele verboden, een jaar na de stemming gaan de regels voor de grootste modellen als ChatGPT in en de rest van de AI Act geldt na twee jaar.
Om u deze content te kunnen laten zien, hebben wij uw toestemming nodig om cookies te plaatsen. Open uw cookie-instellingen om te kiezen welke cookies u wilt accepteren. Voor een optimale gebruikservaring van onze site selecteert u "Accepteer alles". U kunt ook alleen de sociale content aanzetten: vink hiervoor "Cookies accepteren van sociale media" aan.
U bent niet ingelogd
Op alle verhalen van de Volkskrant rust uiteraard copyright.
Wil je tekst overnemen of een video(fragment), foto of illustratie gebruiken, mail dan naar copyright @volkskrant.nl.
© 2023 DPG Media B.V. - alle rechten voorbehouden