In een kort geding eiste stichting Offlimits donderdag een verbod op de uitkleedfunctie van chatbot Grok. Daarmee kunnen gebruikers naaktbeelden maken van bestaande foto’s. Het bedrijf van Elon Musk legt de verantwoordelijkheid bij gebruikers.
is techverslaggever van de Volkskrant.
Waarom dit kort geding?
Offlimits, een stichting die zich inzet tegen online seksueel geweld, kreeg in 2025 ruim 250 meldingen van bewerkte en door AI gecreëerde naaktbeelden: bijna vijf keer zoveel als het jaar daarvoor. ‘Wij zien dagelijks wat dat met mensen doet’, zegt directeur-bestuurder Robbert Hoving. ‘Ze slapen niet meer, willen niet meer naar school en hebben soms zelfs suïcidale gedachten.’
De toename van het aantal meldingen viel samen met de lancering van Elon Musks chatbot Grok, stelt Offlimits. Sinds eind vorig jaar kan iedereen met internet in een paar seconden bestaande foto’s veranderen in naaktbeelden. ‘Daarmee is slachtoffer of dader worden van online seksueel geweld ineens ontzettend laagdrempelig’, zegt Hoving.
Offlimits sleept xAI daarom voor de rechter. Dat bedrijf is de aanbieder van zowel X, het voormalige Twitter, als chatbot Grok. Die twee diensten zijn aan elkaar gekoppeld, waardoor gebruikers afbeeldingen die ze met Grok genereren direct op X kunnen plaatsen. Ook kunnen ze foto’s van anderen die ze op het platform tegenkomen bewerken met de chatbot.
Die koppeling maakte de mogelijkheid om mensen digitaal uit te kleden eind vorig jaar voor een breed publiek toegankelijk. Binnen een mum van tijd veranderde X in een platform met deepfakeporno van mensen die daar geen toestemming voor hadden gegeven.
Desgevraagd genereert Grok ook kinderporno. Uit onderzoek van Offlimits bleek vorig jaar dat de chatbot pas bij de opdracht om naaktbeelden te genereren van kinderen jonger dan 10 jaar aangeeft dat het verzoek niet is toegestaan.
De opdracht om seksueel getint beeld te maken van een naakt 14-jarig meisje met een 30-jarige man voerde Grok probleemloos uit. ‘Blijkbaar is het AI-model van Grok getraind op seksueel beeldmateriaal van minderjarigen’, concludeert advocatenkantoor Boekx in de dagvaarding.
Wat brengt het bedrijf daar tegenin?
Grok en X zetten zich volledig in voor een veilige en respectvolle omgeving, stelde xAI donderdag bij monde van een Houthoff-advocaat in de Amsterdamse rechtbank.
In januari maakte het bedrijf de uitkleedfunctie exclusief toegankelijk voor betalende gebruikers. Ondertussen zou die helemaal niet meer beschikbaar zijn. Advocaat Otto Volgenant, die Offlimits bijstaat, betwist dat. ‘Wij hebben dat voor deze zaak uitgeprobeerd op verschillende accounts, betaald en onbetaald, en er is van alles mogelijk.’
De makers van Grok willen heus niet dat de bot wordt gebruikt om seksueel geweld te plegen, stelde de advocaat van xAI donderdag tijdens de zitting. ‘Maar het volledig elimineren van elk misbruik is niet haalbaar: er zullen altijd gebruikers zijn die beveiligingsmaatregelen omzeilen.’
Onzin, zegt Hoving: ‘Dit zijn precies de twee fabeltjes die deze bedrijven maar wat graag vertellen: dat het moeilijk is om de technologie aan te passen en dat het om kwaadwillende individuen gaat die misbruik maken van hun platform.’
Het bedrijf draagt zelf de verantwoordelijkheid voor de eigen technologie, stelt Hoving. ‘Deze uitkleedfunctie is geen jammerlijke bijkomstigheid, maar een bewuste strategie. Slechte publiciteit is immers ook publiciteit.’
Dat laatste is terug te zien in de downloadcijfers van Grok: de app staat in de hitlijsten van appstores. Volgens de aanklagers is het geen toeval maar strategie dat de introductie van Grok samenviel met een grote fundraiser voor xAI in januari.
Hoe zit dit wettelijk in elkaar?
Uitkleedtools zijn op allerlei manieren in strijd met wet- en regelgeving, stelt advocaat Volgenant, die Offlimits vertegenwoordigt. ‘Denk aan het recht op privacy, de AVG, de Digital Services Act, het Wetboek van Strafrecht, civielrechtelijke normen en het portretrecht.’
Bovendien is er Europese jurisprudentie over de strenge eisen bij verspreiding van seksueel beeldmateriaal zonder aantoonbare toestemming, aldus Volgenant. xAI en zijn advocaten willen niet reageren op vragen van de Volkskrant.
Welke gevolgen heeft het als Offlimits deze zaak wint?
Dan zou de rechter Grok verbieden om in Nederland mensen uit te kleden zonder dat zij daarvoor toestemming hebben gegeven. Ook wordt het verboden om naaktbeelden te genereren van minderjarigen. Er ontstaat dan jurisprudentie die andere landen en de Europese Commissie als aanknopingspunt kunnen gebruiken om Groks uitkleedpraktijken aan banden te leggen. Momenteel werkt de EU aan wetgeving om uitkleedtools in het algemeen te verbieden, berichtte online medium Politico woensdag.
Overigens is Offlimits niet de eerste die in het geweer komt tegen Grok. In februari startte de privacytoezichthouder in Ierland, waar het Europese hoofdkantoor van het bedrijf zetelt, een onderzoek naar de chatbot, net als het openbaar ministerie van de Amerikaanse staat Californië. In Indonesië en Maleisië werd de chatbot al geblokkeerd. De uitspraak volgt op 26 maart.
Source: Volkskrant