Big Tech Seksuele deepfakes circuleren al jarenlang op het internet, maar door Grok was het creëren en verspreiden ervan nog nooit zo makkelijk. Met de kwestie-Grok bevindt de Europese Commissie zich in een ingewikkeld geopolitiek mijnenveld.
Elon Musk bij een herdenking van Charlie Kirk (21 september 2025).
De Europese Commissie heeft een officieel onderzoek geopend naar chatbot Grok van Elon Musks AI-bedrijf xAI, maakte ze maandag bekend. De in X geïntegreerde chatbot overspoelde het internet recentelijk met AI-porno en geseksualiseerde beelden van vrouwen en kinderen. Onder de Digital Services Act (DSA) hebben grote internetplatformen, zoals X, juist de verplichting om de verspreiding van illegale content tegen te gaan. De Duitse krant Handelsblatt schrijft op basis van drie hooggeplaatste EU-functionarissen dat de Commissie de terugtrekking van Grok uit de Europese Unie beoogt.
Seksuele deepfakes circuleren al jaren op het internet, maar door Grok was het creëren en verspreiden ervan nog nooit zo makkelijk. Mensen konden een foto van een vrouw uploaden en aan Grok vragen om haar uit te kleden. Zo genereerde Grok in januari in een tijdspanne van elf dagen maar liefst drie miljoen geseksualiseerde AI-afbeeldingen — waaronder 23.000 plaatjes van kinderen, blijkt uit onderzoek van Center for Countering Digital Hate.
X heeft dagelijks 125 miljoen mobiele gebruikers, aldus TechCrunch, voor wie het lastig is om de AI-porno van Grok in de app te ontwijken. X lijkt zich ervan bewust dat het seks verkoopt: hoofd productmanagement Nikita Bier deelde begin deze maand trots dat X record na record verbrak wat betreft het aantal uren dat gebruikers op het platform doorbrachten.
Met de kwestie-Grok bevindt de Europese Commissie zich in een ingewikkeld geopolitiek mijnenveld. Afgelopen december legde de Commissie X boetes van in totaal 120 miljoen euro op vanwege een gebrek aan transparantie over contentmoderatie, en de misleidende blauwe vinkjes die X-gebruikers konden kopen. De regering-Trump ziet dat als een vorm van „censuur” en zegt dat de EU Amerikaanse platforms bestraft „waar zij het niet mee eens zijn”. Eind december kregen de architect achter de DSA, Thierry Breton, en organisaties die de internetwet helpen handhaven sancties opgelegd van Washington.
In reactie op de toenemende kritiek kondigde X anderhalve week geleden aanpassingen aan Groks algoritme aan zodat de chatbot niet langer geseksualiseerde afbeeldingen kon maken in landen met wetten die dat verbieden. Die maatregelen bleken met VPN-verbinding of met verhullend taalgebruik makkelijk te omzeilen, ondervond NRC.
„Het creëren van seksuele deepfakes van vrouwen en kinderen zonder hun toestemming zijn een gewelddadige en onaanvaardbare vorm van vernedering”, schrijft de Finse Eurocommissaris Henna Virkkunen (Technologische Soevereiniteit) op X. „Met dit onderzoek zullen we vaststellen of X aan zijn wettelijke verplichtingen heeft voldaan. Of dat het de rechten van Europese burgers, waaronder die van vrouwen en kinderen, heeft geschonden als nevenschade van zijn dienstverlening.”
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC