Vanaf 2 februari 2025 is het verbod op de toepassing van bepaalde AI-systemen in werking getreden. Onder de AI-verordening zijn onder meer realtime biometrie in openbare ruimten voor wetshandhaving en het maken van risicoprofielen voor misdaden niet meer toegestaan.
De specifieke verboden zijn in Artikel 5 van de verordening opgenomen, beter bekend als de AI Act. Hoewel de verordening in augustus van 2024 inging, treden individuele artikelen gefaseerd in werking. In Artikel 5, dat nu in werking treedt, worden de verschillende vormen van verboden AI-gebruik opgesomd.
Zo is het vanaf nu niet meer toegestaan om met kunstmatige intelligentie 'het gedrag van mensen te beïnvloeden, kwetsbaarheden uit te buiten of mensen te evalueren of classificeren op basis van gedrag en persoonlijke kenmerken'. Ook worden bepaalde vormen van wetshandhaving specifiek genoemd. AI-systemen mogen de waarschijnlijkheid van het plegen van misdaden niet baseren op het uiterlijk van een persoon en mogen niet gebruikt worden om gezichtsherkenningsdatabases te creëren op basis van het scrapen van online afbeeldingen of bewakingscamerabeelden. Er zijn wel enkele uitzonderingen op specifiek het wetshandhavingsdeel van het artikel, zoals het zoeken naar vermiste personen en het voorkomen van terroristische aanslagen.
Deze regels zijn dus op 2 februari 2025 van kracht geworden en vanaf nu kunnen bedrijven in principe een boete van tot 35 miljoen euro of 7 procent van hun vorige jaaromzet opgelegd krijgen. Vanaf 2 augustus 2025 wordt Artikel 70 echter pas van kracht, waarin bepaald wordt dat iedere EU-lidstaat een autoriteit moet aanwijzen die verantwoordelijk wordt voor de handhaving van deze verordening. Exact een jaar later wordt het gebruik van bepaalde vormen van general purpose AI ook verboden en gaan er regels in voor het gebruik van 'hoogrisico-AI'. Vanaf dan moeten bedrijven die AI-systemen zoals taalmodellen aanbieden ook voldoen aan specifieke transparantieplichten.
Source: Tweakers.net