De Britse toezichthouder Ofcom is een onderzoek naar Grok gestart na verontrustende meldingen over seksuele beelden. Grok is de AI-chatbot die mensen kunnen gebruiken op Elon Musks platform X. Volgens Ofcom kan er sprake zijn van pornografie en beelden van kindermisbruik.
Ofcom onderzoekt of X te weinig heeft gedaan om te voldoen aan de Britse wetgeving voor online veiligheid. De onafhankelijke Britse toezichthouder had X om toelichting gevraagd en het bedrijf heeft daarop gereageerd. Ofcom heeft op basis van die uitleg besloten een onderzoek in te stellen.
Het onderzoek zal onder meer bepalen hoeveel risico mensen in het Verenigd Koninkrijk lopen om illegale content op het platform te zien. Ook wordt ingeschat hoe groot de risico's voor kinderen zijn en welke verdere maatregelen nodig zijn, schrijft Ofcom.
Wereldwijd is ophef ontstaan over de afbeeldingen die zonder toestemming van de afgebeelde personen kunnen worden gemaakt. Er kunnen ook afbeeldingen van kinderen worden gemaakt.
Maleisië heeft maatregelen genomen tegen Grok vanwege het genereren van seksuele beelden. Het land beperkt de toegang tot de chatbot van xAI totdat er effectieve maatregelen worden genomen, meldde de Maleisische internettoezichthouder zondag. Indonesië deed zaterdag hetzelfde.
X en Grok maakten eerder bekend dat de aanstootgevende afbeeldingen waren verwijderd. xAI maakte vrijdag bekend dat alleen betalende gebruikers nog afbeeldingen kunnen genereren.
Source: Nu.nl economisch