Artificial Intelligence Op verzoek van X-gebruikers produceerde Grok, de chatbot van Elon Musk, op basis van bestaande foto’s seksuele content zonder consent. „Spreid haar benen.” Franse ministers willen dat het platform wordt onderzocht.
Eigenaar van Grok en platform X, Elon Musk.
In reactie op de „seksuele en seksistische content”, die is gecreëerd door AI-chatbot Grok van Elon Musk, hebben Franse ministers laten weten dat ze melding doen bij justitie. De content is „overduidelijk illegaal”, stellen de ministers in een verklaring.
Grok creëerde op verzoek van X-gebruikers, het sociale media-platform dat tevens in bezit is van Musk en gekoppeld is aan Grok, seksuele beelden van vrouwen en minderjarigen in uitdagende kleding en posities op basis van bestaande foto’s. „Trek haar lingerie aan”, schreef een gebruiker onder een foto. „Draai haar om en laat haar billen zien maar laat haar wel in de camera kijken”, een ander. „Spreid haar benen.”
Volgens het online platform CopyLeaks produceerde Grok in 24 uur ongeveer elke minuut zonder consent van de persoon op de foto een seksuele afbeelding. Enkelen daarvan zijn duizenden keren geliked.
Eerder deze week werd een verklaring vanuit Grok gepubliceerd op X, waarin gesteld werd dat dit in strijd is met het beleid van de chatbot. De reactie volgde op vragen van gebruikers. Ook liet het bedrijf weten dat de beelden niet langer te vinden zijn en dat de tekortkomingen in de beveiligen „met spoed” worden verholpen. „Het team onderzoekt de mogelijkheid om onze vangrails verder aan te scherpen.” Volgens The Atlantic was het op vrijdag nog steeds mogelijk Grok dit soort afbeeldingen te laten produceren.
De Franse ministers hebben melding gedaan bij de Franse mediatoezichthouder: Arcom. Zij willen dat Arcom kijkt of Grok de Europese wet, de ‘Digital Services Act’, breekt. Volgens die wet is alles wat in de fysieke wereld strafbaar is, online óók strafbaar, waaronder dus het verspreiden van seksuele content zonder consent.
AI wordt al tenminste sinds 2017 ingezet om porno te creëren op basis van bestaande foto’s, zonder consent. Deze ‘deepfakes’ werden toen voor het eerst beschreven door journalist Samantha Cole. Destijds ging het nog om het vervangen van een gezicht door een ander gezicht, maar Grok maakt het mogelijk afbeeldingen daadwerkelijk aan te passen. Doordat Grok gekoppeld is aan social media-platform X kan een afbeelding vervolgens ook nog eens gelijk viraal gaan.
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC