"Historisch!", schreef Eurocommissaris Thierry Breton vrijdagavond laat op X. Europa is het eerste continent dat met regels komt om de ontwikkeling en het gebruik van AI te beteugelen. Maar het was geen simpel akkoord. De laatste, moeizame onderhandelingen duurden deze week maar liefst 36 uur.
"Niemand weet of er ooit langer is onderhandeld", zegt Europarlementariër Kim van Sparrentak tegen NU.nl. Zij zat al die tijd als onderhandelaar namens GroenLinks aan de onderhandelingstafel. "We hadden Guinness World Records moeten bellen."
De AI-wet moet ervoor zorgen dat AI-modellen in Europa straks veilig en transparant worden ingezet. Hoe hoger het risico op problemen, des te zwaarder de regels. Sommige systemen worden helemaal verboden. Denk aan programma’s die burgers kunnen beoordelen op hun gedrag, zoals in China gebeurt.
Voordat deze week de laatste gesprekken begonnen, was er een enorme lobby vanuit de techindustrie. Volgens Van Sparrentak was het zo heftig, dat er twijfels waren of ze er wel uit zouden komen. "Het was echt bizar", zegt ze.
Historic!
The EU becomes the very first continent to set clear rules for the use of AI 🇪🇺
The #AIAct is much more than a rulebook — it's a launchpad for EU startups and researchers to lead the global AI race.
The best is yet to come! 👍 pic.twitter.com/W9rths31MU
Een van de struikelblokken tijdens de gesprekken was de inzet van slimme camera's in de publieke ruimte, waarmee mensen gevolgd kunnen worden. Er komt een verbod, maar met uitzonderingen voor opsporingsdiensten.
"Daar zijn wij echt teleurgesteld in", zegt Nadia Benaissa van burgerrechtenorganisatie Bits of Freedom. "Wij hebben er altijd voor gepleit dat mensen zich vrij in de openbare ruimte moeten kunnen begeven. Deze uitzonderingen op het verbod lijken de deur open te zetten voor het legitimeren van massasurveillance."
Ook Van Sparrentak had liever een volledig verbod. Maar volgens haar trokken sommige lidstaten daar een absolute grens, waardoor er water bij de wijn moest. "We hebben nu expliciete regels voor die uitzonderingen waar we tevreden mee mogen zijn", zegt ze. "Deze systemen mogen alleen worden ingezet als de rechter daar toestemming voor geeft, en dan ook alleen op basis van bepaalde foto's, op bepaalde plekken en bepaalde tijden."
Volgens haar zorgen deze regels dat we niet over massasurveillance kunnen spreken. "Dit is minder heftig dan constant mensen volgen op straat. Andere systemen, die bijvoorbeeld foto's van gezichten van internet kunnen halen om er een database mee aan te leggen, worden helemaal verboden. De engste vormen hebben we kunnen tegenhouden."
Daarnaast is het aan lidstaten zelf om te bepalen of ze dit willen inzetten. Landen kunnen er alsnog voor kiezen om biometrische identificatie binnen hun eigen grenzen te verbieden.
Over het algemeen is Bits of Freedom voorzichtig positief over de AI-wet. "Het is goed dat er een verplicht impact assessment voor mensenrechten komt", zegt Benaissa. "Dat betekent dat voorafgaand aan het gebruik van een AI-systeem duidelijk moet zijn wat de risico's voor mensen zijn. Daarna kan gekeken worden hoe risico's weggenomen of verminderd kunnen worden. Als er te grote risico's blijken, moet het mogelijk zijn een AI-systeem te verbieden. Dat is een belangrijk controlemiddel."
Ook Bo Hijstek prijst dat gedeelte van de wet. Hijstek is als onderzoeker naar generatieve AI verbonden aan het Rathenau Instituut. "Maar er blijven wel vragen open", zegt ze. "Hoe meet je of een AI-model voldoet aan mensenrechtelijke bescherming? Eisen in de regels zijn vaak op veel manieren te interpreteren. Bij veel producten is het functioneren controleerbaar, maar of iets aan mensenrechten voldoet is veel abstracter."
Er zijn verschillende methodes om discriminatie in modellen op te sporen. De vraag is dan welke we het eerlijkst vinden en voor wie. En vanaf welk punt is de bescherming acceptabel genoeg?
Van Sparrentak zegt dat er in het komende jaar nog veel wetten komen die dit soort vraagstukken moeten verduidelijken. Die worden door de Europese Commissie geschreven.
Omdat de volledige wettekst nog niet openbaar is, houden Hijstek en Benaissa nog wat slagen om de arm. De komende maanden worden details van de tekst uitgewerkt. Pas vlak voor de stemming weten we zeker hoe de wet eruit komt te zien.
"Dat dit akkoord er is, is echt een mijlpaal", zegt Hijstek. "Want voor het eerst ter wereld wordt AI zo omvangrijk gereguleerd. Maar er gaat veel afhangen van de invulling van de wet en hoe de handhaving is geregeld."
Dat zijn zorgen die Benaissa deelt. "Het valt of staat met een goede toezichthouder", zegt ze. "Met de Europese privacywet hebben we gezien dat een sterke toezichthouder hoge boetes kan uitdelen, maar ook daar zit nog veel ruimte voor verbetering. Klachten van burgers worden vaak niet gehoord."
In Europa komt volgens de afspraken een nieuw orgaan dat toezicht houdt op AI. Daarnaast zal de Europese Commissie zich bemoeien met de grote AI-modellen.
Overigens gaat het nog wel even duren voordat de Europese AI-wet van kracht is. Begin volgend jaar wordt er door de Europese raad en de lidstaten gestemd. Dit is doorgaans een formaliteit. Daarna duurt het nog twee jaar voordat de regels daadwerkelijk ingaan.
Source: Nu.nl Tech