De Autoriteit Persoonsgegevens (AP) waarschuwt dat er incidenten met kunstmatige intelligentie (AI) kunnen gaan plaatsvinden. Daarom moeten organisaties terughoudend zijn in het gebruik van AI, zeker als ze twijfelen of ze de risico's onder controle hebben.
De privacytoezichthouder van de overheid brengt donderdag voor de derde keer een "risicobeeld" over kunstmatige intelligentie uit. Iedereen moet waakzaam zijn, is de boodschap van de AP.
Dat geldt voor ministers en grote bedrijven, maar net zo goed voor burgers. "Het is moeilijk in te schatten of AI-toepassingen voldoende beheerst zijn", zegt de AP. "AI-incidenten kunnen zich steeds vaker voordoen, zeker omdat AI zich steeds dieper verweeft in de samenleving."
Als voorbeeld van zo'n incident noemt de AP de recente oplichting van een bedrijf in Azië. Een financieel medewerker daarvan kreeg een mail om omgerekend zo'n 23 miljoen euro over te maken. Hij wantrouwde het, maar werd gerustgesteld in een online groepsvergadering binnen het bedrijf en maakte het geld over.
Uiteindelijk bleek dat de financiële topman en alle rechtstreekse collega's in de vergadering nep waren. Cybercriminelen hadden ze nagemaakt met deepfaketechnologie. De opgelichte medewerker was de enige echte persoon in de groep.
Overheden gaan tot nu toe "daadkrachtig" om met AI, vindt de toezichthouder. Niet alleen in het toezicht zelf, maar ook in het bestrijden van nieuwe risico's, zoals cybercrime. Het is wel een zaak van de lange adem, benadrukt de AP. Bovendien ontwikkelt de technologie zich sneller dan de beheersing ervan.
Over ontwikkelaars van AI-toepassingen is de waakhond minder te spreken. Zij willen toepassingen zo snel mogelijk op de markt brengen. "Dit is de afgelopen periode vaak gepaard gegaan met missers en kwetsbaarheden", legt de AP uit.
Het Rijk, provincies, gemeenten, waterschappen en andere overheidsdiensten houden bij welke algoritmes ze gebruiken. Die komen in een register. De AP wil dat ook semipublieke organisaties hierin delen wat ze doen. Dat gaat bijvoorbeeld om het onderwijs, de zorg, woningcorporaties en het openbaar vervoer.
Source: Nu.nl economisch