De Britse waakhond Ofcom start een officieel onderzoek naar Grok en platform X. Onlangs kwam de AI-dienst van xAI in opspraak, nadat er geseksualiseerde beelden van bestaande mensen mee gegenereerd werden, waaronder van kinderen. Dit zou in strijd zijn met de Online Safety Act.
Ofcom stelt dat er zorgen zijn over door Grok gegenereerde beelden van mensen, waarbij kleding verwijderd wordt om zonder toestemming een pornografisch of geseksualiseerd beeld van iemand te creëren. Mogelijk wordt deze functie ook gebruikt om kindermisbruikmateriaal te genereren. De Europese Unie houdt om dezelfde reden een onderzoek.
De Britse toezichthouder gaat onderzoeken of er een gevaar is voor de bevolking van het Verenigd Koninkrijk, of X illegale beelden tijdig offline haalt en of er een goede leeftijdscontrole is om te voorkomen dat kinderen pornografisch materiaal zien. Er is ook al informatie opgevraagd bij het sociale medium van Elon Musk. In deze fase van het onderzoek wordt bewijsmateriaal geanalyseerd om uiteindelijk tot een beslissing te komen, waarna X de kans heeft om op hierop te reageren.
Mocht Ofcom concluderen dat X, dat Grok integreerde in zijn sociale medium, in strijd is met de Online Safety Act, dan kan de toezichthouder maatregelen nemen. De organisatie heeft de bevoegdheid om een boete ter waarde van 18 miljoen pond of 10 procent van de wereldwijde omzet van een bedrijf te vorderen. In het 'ernstigste geval' kan Ofcom via de rechter een blokkade van de dienst afdwingen.
Begin 2026 gingen er beelden rond op X van mensen die door middel van Grok 'uitgekleed' werden, meestal zonder toestemming van de afgebeelde persoon. In reactie hierop werd een melding gedaan bij Franse autoriteiten. Niet lang daarna beperkte X het genereren van bikinifoto's tot betalende gebruikers of in privéchats. In Indonesië en Maleisië is de dienst vanwege de deepfakecontroverse geblokkeerd.
Source: Tweakers.net