De Europese privacytoezichthouder EDPS waarschuwt voor 'aanzienlijke risico's' van ongeautoriseerd AI-gebruik door werknemers. Deze 'schaduw-AI' kan leiden tot datalekken en schending van wetten en regels, zoals voor privacybescherming en dataretentie.
Als mensen AI-tools gebruiken zonder goedkeuring van hun werkgever, kunnen ze onbedoeld beschermingsmaatregelen voor data en beveiliging omzeilen, legt de European Data Protection Supervisor (EDPS) uit in een blogpost. Gebruikte AI-tools lopen uiteen van chatbots en programmeerassistenten tot bots die documenten samenvatten en vergaderingen notuleren. Mogelijk zetten werknemers zulke ongeautoriseerde AI in om hun productiviteit te verhogen, maar dit kan ernstige gevolgen hebben.
EDPS-voorzitter Wojciech Wiewiórowski waarschuwt dat organisaties en bedrijven door zulk gebruik van AI-tools data kunnen lekken. Daarbij kunnen ze verschillende vereisten voor databescherming schenden en verstoringen in hun bedrijfsvoering krijgen die ze mogelijk niet opmerken.
De Nederlandse privacywaakhond AP ontving vorig jaar al tientallen datalekmeldingen door gebruik van gratis AI-chatbots binnen bedrijven. Een praktijkvoorbeeld was de gemeente Eindhoven, die persoonsgegevens uploadde naar onder meer ChatGPT.
De Europese privacytoezichthouder stelt dat de opkomst van AI 'onmiskenbaar kansen voor innovatie en efficiëntie' biedt, maar dat er een gevaarlijke keerzijde is. Innovatie bij Europese organisaties moet niet ten koste gaan van fundamentele rechten voor databescherming, omschrijft Wiewiórowski de missie van de EDPS.
Hij raadt een proactieve aanpak aan, waarbij organisaties veelomvattende, praktische regels voor AI-gebruik opstellen. Organisaties moeten deze regels handhaven met technische middelen, maar ook met bewustwordingscampagnes.
Verder is een duidelijke dataclassificatie nodig, een grondig proces voor evaluatie en goedkeuring van nieuwe technologie, en daarnaast nog monitoring van data- en AI-gebruik. Dit alles is niet een taak voor een enkele bedrijfsafdeling, houdt de privacytoezichthouder voor. Verantwoord AI-gebruik overstijgt verschillende divisies en functies.
Source: Tweakers.net