Het socialemediaplatform X van Elon Musk moet ervoor zorgen dat Grok in Nederland geen naaktbeelden meer kan maken van nietsvermoedende mensen. Dat heeft een rechter in Amsterdam donderdag bepaald. Over een paar maanden worden uitkleedapps volledig verboden in Europa.
Zonder uitdrukkelijke toestemming van degene op de foto mag Grok geen beelden meer genereren waarop mensen worden uitgekleed. Ook deels ontkleden is niet toegestaan. De uitspraak van de Amsterdamse voorzieningenrechter bepaalt dat dit geldt voor personen die in Nederland wonen.
Het expertisecentrum online misbruik Offlimits en Fonds Slachtofferhulp spanden een maand geleden een kort geding aan tegen xAI, het bedrijf dat Grok ontwikkelt voor X. De organisaties wilden een verbod op de AI-tool afdwingen, omdat het strafbaar is om zonder toestemming naaktbeelden te genereren en verspreiden.
Via Grok was dat gemakkelijk en op grote schaal mogelijk. X-gebruikers konden bij elke foto vragen om kleding te verwijderen. Daarbij maakte het niet uit of er volwassenen of kinderen werden afgebeeld. De chatbot ontving de afgelopen tijd veel kritiek, omdat het de drempel voor online seksueel misbruik zou verlagen. Volgens Bloomberg maakte Grok duizenden plaatjes van uitgeklede mensen per uur.
Elke dag dat het bedrijf achter Grok zich niet aan de uitspraak houdt, moet xAI een dwangsom van 100.000 euro betalen. Dat bedrag kan oplopen tot maximaal 10 miljoen euro.
"Voor slachtoffers maakt het niet uit of een beeld 'echt' is of met AI is gemaakt", zei Ineke Sybesma van Fonds Slachtofferhulp vorige maand. "En wat het extra wreed maakt, is dat het geen einde kent. De schaamte is echt, de gevolgen zijn echt en het stopt niet vanzelf, want het internet vergeet niet."
In het Europees Parlement werd donderdag ook een knoop doorgehakt over uitkleedapps. Een meerderheid van de parlementsleden stemde in met een verbod op AI-tools die kleding kunnen weghalen van foto's. Dat verbod gaat niet per direct in, maar geldt naar verwachting vanaf juli voor alle EU-landen.
In Nederland wordt ook al lang gesproken over een mogelijke aanpak van AI-uitkleedapps. Het is al verboden om deepfakenaaktbeelden te maken, maar de apps zelf bevinden zich wettelijk in een grijs gebied
Begin dit jaar liet demissionair minister Foort van Oosten (Justitie en Veiligheid) nog aan NU.nl weten dat het "buitengewoon verwerpelijk" is dat mensen slachtoffer worden van AI-uitkleedapps.
Toch bleek het lastig een passende aanpak te bedenken en uit te voeren. Betrokken instanties, zoals de Autoriteit Persoonsgegevens, de Autoriteit Consument & Markt en de Autoriteit online Terroristisch en Kinderpornografisch Materiaal noemden het vraagstuk rond deze apps complex.
Source: Nu.nl economisch