Een vrouw voelt zich vernederd nadat AI dienst Grok, werd gebruikt om haar digitaal van kleding te ontdoen. De vrouw vertelde de BBC dat ze zich "gedehumaniseerd en gereduceerd tot een seksueel stereotype" voelde nadat haar afbeelding werd gemanipuleerd om haar in bikini weer te geven. Op het sociale media-platform X zijn meerdere voorbeelden te vinden van gebruikers die de chatbot vragen om vrouwen zonder hun toestemming zogenaamd in bikini's te tonen of in seksuele situaties te plaatsen.
Grok is niet de enige dienst die dit mogelijk maakt. Naast alle open source modellen kunnen ook diensten als Google Gemini, Leonardo, Kling en ChatGPT foto's bewerken en mensen virtueel kunnen uitkleden. Ook zijn er honderden apps beschikbaar voor de smartphone die dit mogelijk maken.
Samantha Smith, een freelance journalist, deelde op X hoe haar afbeelding was veranderd. Dit leidde tot reacties van anderen die hetzelfde meemaakten, terwijl sommigen de AI vroegen om meer beelden van haar te maken. Smith benadrukte dat vrouwen hier niet mee instemmen en beschreef het als een zeer ongemakkelijke ervaring.
Het Britse ministerie van Binnenlandse Zaken werkt aan wetgeving om tools voor het digitaal ontkleden te verbieden. Er komt een nieuwe strafwet waarbij mensen die dergelijke technologie leveren, gevangenisstraffen en hoge boetes kunnen krijgen. Ofcom, de toezichthouder, verklaarde dat technologiebedrijven de risico's van illegale inhoud op hun platforms moeten beoordelen. Ze gaven echter niet aan of er een lopend onderzoek is naar X of Grok met betrekking tot AI-beelden.
Grok is een gratis AI-assistent, die tegen betaling toegang biedt tot extra functies. Het reageert op vragen van X-gebruikers wanneer ze het taggen in berichten. Behalve dat het gebruikt kan worden om reacties of context te geven, kunnen gebruikers met de AI ook afbeeldingen bewerken. Er is kritiek op Grok omdat het gebruikers toestaat beelden en video's met naaktheid en seksueel getinte inhoud te maken. Eerder werd het beschuldigd van het maken van een seksueel expliciete clip van Taylor Swift.
Clare McGlynn, een professor in de rechten aan de Durham University, stelde dat X of Grok deze vormen van misbruik zouden kunnen voorkomen als ze dat wilden. Volgens haar "lijken ze ongestraft te blijven". Zij voegde eraan toe dat de platformen al maanden toestaan dat deze beelden worden gemaakt en verspreid, zonder dat er actie wordt ondernomen door de toezichthouders.
XAI's eigen beleid verbiedt het "weergeven van gelijkenissen van personen op een pornografische manier". Ofcom verklaarde in een bericht aan de BBC dat het illegaal is om intieme beelden zonder toestemming te maken of te delen, inclusief seksuele deepfakes gemaakt met AI. Ze bevestigden dat platforms zoals X gepaste maatregelen moeten nemen om te voorkomen dat gebruikers in het VK in aanraking komen met illegale inhoud en deze snel moeten verwijderen zodra ze hiervan op de hoogte zijn.
Intussen word je op Instagram, Facebook, Tiktok en andere social media al maanden lang bijna letterlijk doodgegooid met ai-fakes van beroemde acteurs en actrices in schaarse kleding of seksuele poses en handelingen.
Source: Fok frontpage