Met AI-chatbot Grok is het simpel mensen op foto's uit te kleden. Het leidde tot kritiek van buitenlandse toezichthouders en overheden, die oproepen tot onderzoeken en verboden. In Nederland lopen al maanden gesprekken over het aanpakken van uitkleedapps, maar nog zonder resultaat.
Met uitkleedapps is het mogelijk foto's van wie dan ook te bewerken, waardoor het lijkt alsof diegene naakt is of in ondergoed staat. Op steeds grotere schaal vormen dit soort apps een probleem. Bij expertisecentrum Offlimits kwamen vorig jaar tientallen meldingen binnen van slachtoffers die zichzelf op AI-bewerkte naaktbeelden terugzagen, zonder dat ze daarvoor toestemming hadden gegeven.
Nu het met Grok ook mogelijk is zulke beelden te laten maken, wordt de drempel voor misbruik nog lager. Plotseling hebben miljoenen mensen via het sociale netwerk X toegang tot zo'n tool.
Het is "buitengewoon verwerpelijk" dat mensen hier slachtoffer van worden, zegt demissionair minister Foort van Oosten (Justitie en Veiligheid) tegen NU.nl. "De impact en de gevolgen van online seksueel misbruik zijn voor slachtoffers en hun omgeving enorm, mede omdat nepmateriaal vaak niet te onderscheiden valt van echt materiaal."
De Autoriteit Persoonsgegevens laat NU.nl weten dat dit soort apps en sites "buitengewoon zorgwekkend" zijn, omdat ze "ernstige schade kunnen veroorzaken" en "diep kunnen ingrijpen in het leven van slachtoffers". Toch is er nog geen aanpak. Met toezichthouders en andere partijen onderzoekt de AP de mogelijkheden daartoe. Onder meer de Autoriteit Consument & Markt (ACM), de Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) en de politie zijn daarbij betrokken.
Ook het ministerie van Justitie en Veiligheid bekijkt hoe er kan worden opgetreden. "Hierbij worden de mogelijkheid en wenselijkheid van een verbod op het aanbieden van de uitkleedapps en/of andere soortgelijke tools meegenomen", zegt het ministerie.
Gesprekken daarover lopen al maanden, maar hebben tot nu toe nog niets opgeleverd. Het vraagstuk is dan ook complex, zegt Van Oosten. "Het kent helaas geen snelle oplossing. Een zorgvuldige afweging, samen met alle betrokken partijen, is noodzakelijk."
Grok genereert volgens persbureau Bloomberg ondertussen duizenden plaatjes per uur waarop mensen worden uitgekleed. De Britse premier Keir Starmer noemt het schandalig en walgelijk. "Dit kunnen we niet tolereren", zegt hij in een interview. "We zullen hiertegen optreden, want het is simpelweg onaanvaardbaar."
Inmiddels zijn landen als Australië, Frankrijk, India en Zweden onderzoeken begonnen naar Grok. Daarnaast heeft de Europese Commissie aangegeven de zaak te bekijken. Een woordvoerder van de Commissie noemde deze vorm van fotobewerking illegaal: "Dit heeft niets te zoeken in Europa."
Overigens is het maken van deepfakenaaktbeelden in Nederland al verboden en strafbaar, maar de apps zelf bevinden zich in een grijs gebied van de wet. Maak of verspreid je die beelden, dan loop je al het risico op een celstraf van twee jaar. Die straf kan hoger uitpakken als het om foto's van minderjarigen gaat.
Met Grok zoekt Musk veel meer grenzen op dan concurrenten zoals Gemini en ChatGPT. Die programma's hebben ingebouwde filters die zorgen dat gebruikers bepaalde beelden niet mogen maken.
Grok mag in principe ook geen naaktbeelden maken, maar blijkt dat in sommige gevallen toch te doen. Overigens is het ook al schadelijk als het uitkleden niet verder gaat dan een bikini of ondergoed. Dat kan voor slachtoffers traumatiserend zijn, hoe nep de beelden ook zijn.
Dat maakt qua impact namelijk niet uit, zei Slachtofferhulp eerder al tegen NU.nl. "Jijzelf weet dat de beelden nep zijn, maar je omgeving en anderen die de beelden zien weten dat niet. Het kan een grote aantasting van je gevoel van veiligheid zijn."
Robbert Hoving van Offlimits vindt het dan ook onaanvaardbaar dat dit kan met Grok. "Er zitten een paar vangrails op, maar die zijn makkelijk te omzeilen", zegt hij.
"Minderjarige meiden kunnen hier gewoon slachtoffer van worden. Wat nou als je je juf haat of een andere leerling in de klas? Dan is het schrikbarend wat je met Grok kunt aanrichten."
Vrijdag beperkte X de mogelijkheden van Grok, na dagen van ophef en Musk die op zijn account hoog van de toren blies over de toegenomen populariteit van de chatbot. Op het moment van schrijven is de beeldgenerator van Grok niet toegankelijk voor niet-betalende gebruikers van X.
Grok maakt mensen nu duidelijk dat ze alleen plaatjes kunnen maken als ze ervoor betalen. Daarvoor moeten ze hun naam en betaalgegevens achterlaten. Die aanpak verhoogt misschien de drempel om mensen op foto's te laten uitkleden, maar lost het probleem niet op.
Source: Nu.nl Tech