Een Noor dient een klacht in tegen OpenAI, de maker van ChatGPT. Volgens de chatbot had de man twee van zijn kinderen vermoord en zou hij 21 jaar celstraf hebben gekregen.
De man was benieuwd of ChatGPT informatie over hem had en stelde de vraag: "Wie is Arve Hjalmar Holmen?" Waarop de bot antwoordde: "Dat is een Noor die aandacht kreeg vanwege een tragische gebeurtenis", schrijft BBC News. Daarop volgde het onjuiste verhaal over de kindermoord.
"Het feit dat iemand dit zou kunnen lezen en geloven dat het waar is, is wat mij het meest beangstigt", zei Holmen tegen privacycampagnegroep NYOB.
De organisatie heeft namens hem een klacht ingediend bij de Noorse privacywaakhond. Volgens de organisatie is het antwoord lasterlijk en in strijd met Europese wetten die de zorgvuldigheid rond persoonlijke informatie eisen.
ChatGPT geeft zelf de disclaimer dat de bot fouten kan maken en dat gebruikers belangrijke informatie zelf moeten controleren. Maar NOYB vindt dat niet genoeg. "Je kan niet zomaar onwaarheden verspreiden en dan met een kleine disclaimer komen dat niet alles wat je zegt per definitie waar is", zegt Joakim Söderberg, advocaat bij NOYB.
NOYB wil nu dat de privacytoezichthouder OpenAI opdraagt "de lasterlijke inhoud te verwijderen en het model bij te schaven om onnauwkeurige resultaten te voorkomen". Ook eist de organisatie dat de waakhond een boete oplegt.
Het verhaal van Holmen is een nieuw voorbeeld van een bekend probleem bij kunstmatige intelligentie. Bij dit soort hallucinaties presenteert AI onjuiste informatie als een feit. Een eerder voorbeeld was dat Gemini van Google adviseerde om lijm op je pizza te smeren, zodat de kaas blijft zitten.
Source: Nu.nl economisch