Twee grote Nederlandse organisaties spannen een kort geding aan tegen Grok, de AI‑chatbot op het socialemediaplatform X van Elon Musk. Met de bot worden naaktbeelden gemaakt van nietsvermoedende mensen, onder wie kinderen.
Expertisecentrum Online Misbruik Offlimits en Fonds Slachtofferhulp willen een verbod op het zonder toestemming genereren en verspreiden van seksueel expliciete beelden met Grok.
In Nederland is het verboden om zonder toestemming seksueel expliciet beeldmateriaal van personen te maken of te verspreiden. Daarbij kan het genereren van kindgerelateerde seksueel getinte beelden extra zware juridische consequenties hebben.
Slachtofferhulp en Offlimits benadrukken dat het genereren van de seksuele AI-beelden geen theoretisch probleem is: het gebeurt al op grote schaal, zonder dat personen daar toestemming voor hebben gegeven. Doordat de website en apps van Grok en X ook in het Nederlands zijn opgesteld, worden ook in ons land slachtoffers gemaakt, zeggen de eisers.
"Met AI-tools bewerkte of gemaakte beelden worden gebruikt om slachtoffers te pesten, vernederen of seksueel te intimideren", zegt Offlimits-directeur Robbert Hoving. "De laagdrempeligheid van dit soort tools zorgt ervoor dat het maken en verspreiden hiervan op grote schaal mogelijk is. Het is een ongeluk in slow motion en dat vraagt om actie."
Directeur Ineke Sybesma van Fonds Slachtofferhulp vult aan: "Voor slachtoffers maakt het niet uit of een beeld 'echt' is of met AI gemaakt."
Musk riep Grok in 2023 in het leven als een "humoristisch" en "antiwoke" alternatief voor het veelgebruikte ChatGPT van OpenAI. De chatbot is geïntegreerd in het socialemediaplatform X, waarvan Musk ook eigenaar is.
Er is wereldwijd veel kritiek op Grok, omdat de bot de drempel voor online seksueel misbruik verlaagt. Persbureau Bloomberg meldde eerder dat Grok per uur duizenden plaatjes van uitgeklede mensen genereert.
In Nederland en andere landen zijn onderzoeken gestart naar mogelijke overtredingen van wet‑ en regelgeving, zoals de Europese Digital Services Act en nationale strafrechtelijke bepalingen.
In het VK doet toezichthouder Ofcom een onderzoek naar Grok. In de EU loopt een procedure om via de rechter een verbod te eisen op de chatbot.
Source: Nu.nl Tech