De Europese AI-wet wordt ontworpen om de risico's en gevaren van kunstmatige intelligentie in te perken.
Deze week maakten leden van de Europese Commissie, de Europese Raad en het Europees Parlement zeer lange dagen om ingewikkelde knopen door te hakken. Nu er een akkoord is bereikt, is zo goed als zeker hoe de definitieve wet eruit komt te zien.
Eurocommissaris Thierry Breton sprak van een historisch moment: de Europese AI-wet is de eerste ter wereld. Over het algemeen geldt voor de wet: hoe groter het risico van kunstmatige intelligentie op de veiligheid en de mensenrechten, des te strenger de regels.
Er werd deze week ruim 35 uur gesteggeld over twee cruciale punten in het wetsvoorstel. De eerste ging over zogeheten foundation models. Dat zijn de krachtigste AI-modellen, zoals GPT-4 van OpenAI, waarmee de populaire chatbot ChatGPT werkt.
Frankrijk, Duitsland en Italië lobbyden flink tegen verplichte regels voor bedrijven die deze modellen maken. De drie landen pleitten voor zelfregulatie van bedrijven. "De AI-wet moet de toepassing van kunstmatige intelligentie reguleren", schreven de landen vorige maand nog in een gezamenlijke brief. "Daar liggen de risico's, niet in de technologie zelf."
Toch krijgen ze in het definitieve voorstel stevige verplichtingen. Zo moeten deze AI-modellen aan transparantieregels voldoen voordat ze op de markt komen. Dat betekent onder meer dat ze moeten kunnen uitleggen met welke data de modellen zijn getraind en moeten de AI-systemen de Europese auteursrechtwetgeving naleven.
Een ander breekpunt was de inzet van slimme camera's in de openbare ruimte. Deze camera's met gezichtsherkenning zouden naast personen óók emoties en afkomst kunnen herkennen.
De mogelijke inzet van zulke camera's levert al lange tijd een verhitte discussies op tijdens de gesprekken over de AI-wet. Voorstanders zeggen dat deze technologie bijvoorbeeld het opsporen van verdachten kan versnellen. Tegenstanders zijn bang dat zo een surveillancestaat ontstaat.
Op dit gebied is een compromis gesloten. Overheden mogen dit soort camera's in de publieke ruimte alleen gebruiken in uitzonderlijke gevallen, bijvoorbeeld als er sprake is van een verhoogde dreiging van terroristische aanvallen.
Er komt wel een verbod op het ongericht scannen van portretfoto's op internet en camerabeelden. Ook mogen AI-modellen niet worden ingezet om politieke of religieuze overtuigingen in kaart te brengen. Hetzelfde geldt voor het afleiden van seksuele geaardheid en ras.
Over de invulling van de AI-wet wordt al 2,5 jaar gesproken. Toen ChatGPT vorig jaar op de markt kwam, werd besloten ook dit soort taalmodellen erbij te betrekken en liepen de gesprekken vertraging op.
Daardoor zat er nu druk op de ketel, zodat begin volgend jaar definitief kan worden gestemd door het Europees Parlement. Dat is doorgaans een formaliteit. De stemming vindt dan vlak voor de Parlementsverkiezingen plaats, als het wetgevingsproces komt stil te vallen.
Zelfs als alles verder volgens plan verloopt, worden de regels naar verwachting pas op zijn vroegst in 2025 van kracht.
Source: Nu.nl Tech