Kunstmatige intelligentie vind je niet alleen in het populaire ChatGPT en kunstgeneratoren, zoals DALL-E en Midjourney. De technologie zit al diep in computersystemen waar we allemaal mee te maken hebben. Denk maar eens aan hoe Facebook en Instagram bepalen wat je als eerste op je tijdlijn te zien krijgt. Of aan hoe je met assistenten als Siri en Google Assistent praat.
Om te zorgen dat AI blijft werken zoals we willen, zijn regels nodig. Die komen in de AI-wet (of AI Act) te staan waar Europa nu over debatteert. De Europese Commissie werd het eind vorig jaar eens over een wetsvoorstel, waarover het Europees Parlement nu verder onderhandelt.
In het voorstel staat al dat AI-systemen worden ingedeeld op basis van risico's. Sommige kunstmatige intelligentie willen we helemaal niet hebben in Europa. Denk aan programma's die burgers kunnen beoordelen op hun gedrag, zoals in China gebeurt. Andere systemen leiden wel tot een hoog risico op misbruik, maar zijn niet direct onaanvaardbaar. Deze vormen van AI moeten door een strenge keuring voordat ze in Europa uitgebracht mogen worden.
Algoritmes die cv's van sollicitanten doorspitten moeten bijvoorbeeld aan bepaalde eisen voldoen, zodat ze bijvoorbeeld niet discrimineren. Hetzelfde geldt voor programma's die met rechtspraak of medische apparaten te maken hebben.
In het wetsvoorstel van het Europees Parlement staan een paar aanvullingen. Zo moeten er ook controles komen op het gebruik van AI, niet alleen op het ontwerp van de systemen. "Het algoritme van het toeslagenschandaal deed in de basis wat het moest doen", zegt Europarlementariër Kim van Sparrentak (GroenLinks) tijdens een persbriefing. "Maar in de praktijk hielp het mensen de vernieling in."
Het Parlement pleit ervoor dat AI geen mensenrechten schendt. Dat moet vooraf worden getoetst. Daarnaast staat in het wetsvoorstel dat het voor mensen altijd duidelijk moet zijn dat ze met AI te maken hebben. Ben je in gesprek met een chatbot, dan moet daar transparantie over zijn.
Transparantie is sowieso een sleutelwoord in het wetsvoorstel. Bedrijven moeten kunnen aantonen hoe hun AI precies werkt. Op het moment is bijvoorbeeld onduidelijk hoe ChatGPT achter de schermen werkt. Zo weten we niet precies met welke data het programma is getraind en op basis van welke informatie antwoorden worden opgesteld.
Dat moet veranderen, anders kunnen de systemen niet aan de Europese wetgeving worden getoetst. Bedrijven die niet transparant zijn over hun AI, mogen de markt niet op of moeten aanpassingen maken.
In het ideale geval worden algoritmes straks eerst ter controle voorgelegd aan de toezichthouder. Zo weten we zeker dat er geen schadelijke systemen op de markt komen. Maar het is nog wat onduidelijk hoe Europa ervoor gaat zorgen dat er geen systemen onder de radar zullen blijven. Bijvoorbeeld omdat AI niet wordt aangeboden ter controle.
"Als later blijkt dat je niet aan de regels voldoet en er geen controle is geweest, dan volgen er forse boetes", zegt Van Sparrentak desgevraagd tegen NU.nl. De boetes variëren van 2 tot 6 procent van de jaaromzet van een bedrijf. Of dat genoeg is om kwalijke AI te weren, moet nog blijken.
Daarnaast is afwachten of de AI-wet alomvattend genoeg is om ook AI-systemen aan te pakken die we nu nog niet kennen. De ontwikkelingen gaan snel. Pas in de afgelopen twee maanden zijn modellen als ChatGPT in de Parlementspositie opgenomen.
Volgens Van Sparrentak is het wetsvoorstel in de basis voorlopig dekkend. "Ik heb in het afgelopen jaar in elk geval nog geen systeem gezien dat niet onder de wet zou vallen", zegt ze. "Mocht er echt iets nieuws nodig zijn, dan kan de Commissie snel met een nieuw voorstel komen en is dat specifieke geval ook binnen een paar maanden afgedekt."
Als de vakcommissie van het Europees Parlement donderdag voor de wet stemt (wat in lijn der verwachting ligt), volgt er in juni nog een plenaire stemming in het Parlement. Daarna beginnen de onderhandelingen tussen het Parlement en de Europese Raad voor de definitieve invulling van de AI-wet.
Naar verwachting is er dan begin 2024 een overeenkomst. Bedrijven moeten vanaf dat moment al transparant zijn over het gebruik van kunstmatige intelligentie binnen de organisatie. Toch duurt nog twee jaar voordat de volledige AI-wet officieel in werking treedt.
Source: Nu.nl Tech