Franse ministers hebben een melding gemaakt bij justitie over Grok, de chatbot van Elon Musks start-up xAI. De chatbot heeft "seksuele en seksistische" inhoud gegenereerd die "overduidelijk illegaal" was, melden de ministers vrijdag in een verklaring.
De afgelopen dagen creëerde Grok beelden van schaars geklede minderjarigen, als reactie op verzoeken van gebruikers. Dit is in strijd met het beleid van de chatbot, dat de seksualisering van kinderen verbiedt, meldde Grok deze week op X na vragen van gebruikers.
Volgens de chatbot zijn de aanstootgevende beelden inmiddels verwijderd. "We hebben tekortkomingen in de beveiliging geïdentificeerd en zijn deze met spoed aan het verhelpen."
De ministers hebben zich ook gemeld bij de Franse mediatoezichthouder Arcom. Die moet controleren of de inhoud van Grok de Digital Services Act (DSA) van de Europese Unie overtreedt.
De wet houdt in dat alle feiten die offline strafbaar zijn, dat online ook zijn. Daaronder valt onder meer het online verspreiden van illegale inhoud en het inperken van grondrechten van gebruikers.
Source: Nu.nl economisch