Grok is tijdelijk niet beschikbaar in Indonesië en Maleisië. Beide landen hebben de chatbot van xAI geblokkeerd omdat deze zonder toestemming seksuele deepfakes van onder meer vrouwen en kinderen genereert. Ze willen dat xAI maatregelen neemt om dit te voorkomen.
Indonesië en Maleisië laten in soortgelijke verklaringen weten dat ze Grok tijdelijk hebben geblokkeerd omdat de chatbot veel wordt gebruikt om zonder toestemming seksueel getinte deepfakes te maken van vooral vrouwen en kinderen. Dat melden Antara en Bernama, respectievelijk de staatspersbureaus van Indonesië en Maleisië.
De chatbot kan afbeeldingen bijvoorbeeld zo manipuleren dat het lijkt alsof vrouwen een bikini dragen. De Indonesische regering noemt dit 'een ernstige schending van mensenrechten, menselijke waardigheid en de digitale veiligheid van burgers'. Indonesië en Maleisië hebben strenge wetten die het verspreiden van 'obsceen' materiaal verbieden.
Beide landen eisen dat xAI effectieve maatregelen neemt om te voorkomen dat Grok dergelijk materiaal kan genereren. Pas dan wordt de blokkade opgeheven. Eerder gaf X al aan dat iedereen die illegale beelden genereert, waaronder kindermisbruikmateriaal, permanent wordt geschorst van het platform. Ook heeft het bedrijf de openbare afbeeldingsgeneratiefunctie beperkt tot betalende Premium-abonnees. Maleisië zegt in zijn verklaring specifiek dat dergelijke maatregelen 'de inherente risico's die zijn ontstaan door het ontwerp en de werking van de AI-tool' niet tegengaan.
In andere landen ligt de chatbot om dezelfde reden onder vuur. Zo hebben Franse ministers melding gedaan bij justitie en de mediatoezichthouder Arcom van de illegale content die Grok zou genereren. Ook doen het Verenigd Koninkrijk en de Europese Commissie momenteel onderzoek naar de meldingen.
Source: Tweakers.net