Franse ministers hebben bij justitie en de mediatoezichthouder Arcom melding gemaakt van illegale content die door xAI's Grok gegenereerd zou zijn. Het gaat om deepfakes zonder toestemming van de afgebeelde persoon en kindermisbruikmateriaal. XAI reageert niet op vragen.
Volgens Reuters is de melding door de Franse ministers een reactie op een recente trend waarbij afbeeldingen van mensen, waaronder van kinderen, via het platform X aangepast worden. Het gaat veelal om het verwijderen of veranderen van kleding met als doel om de afgebeelde persoon te seksualiseren.
Het medium vond binnen tien minuten ruim honderd pogingen van gebruikers om met Grok afbeeldingen aan te passen zodat de afgebeelde mensen een bikini leken te dragen. In een vijfde van de gevallen zou het AI-model het verzoek volledig hebben uitgevoerd. In nog eens zeven gevallen zou Grok de opdracht gedeeltelijk hebben uitgevoerd, door bijvoorbeeld kleding tot aan het ondergoed te verwijderen.
Volgens de Franse ministers is deze content illegaal onder de Digital Services Act. Ook het Indiase ministerie van Elektronica en informatie technologie heeft X aangesproken op de vermeende illegale inhoud. Grok-maker xAI reageert niet inhoudelijk op vragen van journalisten en antwoordt standaard 'Legacy Media Lies'. Ook ceo Elon Musk heeft niet inhoudelijk op de kritiek gereageerd.
Grok komt vaker in het nieuws vanwege het ogenschijnlijke gebrek aan goede filters en begrenzingen. Zo bleek het taalmodel nauwkeurige adresgegevens te kunnen genereren en gaf het eerder dit jaar controversiële antwoorden op onschuldige vragen. Ook andere chatdiensten blijken uit onderzoek van Tweakers bij onderwerpen zoals zelfdoding ongewenste antwoorden te geven.
Source: Tweakers.net