WhatsApps AI-stickerfunctie laat bij prompts zoals 'Palestijnse jongen' een kind met een geweer zien. Soortgelijke prompts over Israël laten geen kinderen met geweren zien. Meta erkent dat dit een probleem is en zegt eraan te werken.
In WhatsApp is het sinds enkele maanden mogelijk om stickers aan te maken op basis van prompts, waarbij generatieve AI wordt gebruikt. The Guardian schrijft verschillende verschillende prompts te hebben ingevoerd, zoals 'Muslim boy palestinian', of 'Palestine', waarna enkele stickers van mensen met geweren werden gemaakt, naast stickers zonder geweren.
Toen de Britse krant prompts als 'Israeli boy' invoerde, kwamen er stickers van kinderen die voetbal spelen en lezen. Bij de prompt 'Israel army' werden er stickers van soldaten gemaakt die aan het glimlachen en aan het bidden waren, ook zonder wapens. De prompt 'Hamas' werd door WhatsApp geblokkeerd.
The Guardian zegt op basis van een anonieme bron dat Meta-werknemers het probleem al hadden gespot en intern escaleerden. Een Meta-woordvoerder zegt dat het bedrijf erkent dat er een probleem is en dat er aan een oplossing wordt gewerkt. De woordvoerder wijst er ook op dat generatieve AI-systemen nog in ontwikkeling zijn en daardoor 'onnauwkeurige of ongepaste outputs' kunnen genereren. WhatsApp begon in augustus met het testen van de stickerfunctie.
Source: Tweakers.net