OpenAI en ceo Sam Altman zijn in de Verenigde Staten aangeklaagd door een Canadese moeder die zegt dat haar dochter door ChatGPT is aangezet tot zelfdoding. Volgens Kristie Carrier heeft OpenAI niet genoeg gedaan om haar dochter Alice te beschermen.
Carrier beweert dat haar 24-jarige dochter in de weken voor haar dood in juli vorig jaar uitgebreid gebruikmaakte van ChatGPT om haar hart te luchten: "Ze praatte met ChatGPT alsof het een vriend was. Soms klonk het als een therapeut die advies gaf over relaties en over wat ze doormaakte", citeert Global News.
Volgens de aanklacht hebben de veiligheidssystemen van OpenAI de gesprekken niet beëindigd of gemarkeerd voor menselijke beoordeling. In plaats daarvan zou ChatGPT de gevoelens van Alice hebben versterkt en onderstreept hebben dat crisislijnen niet altijd nuttig zijn. Eerder had de chatbot wel aangeraden om er een te bellen.
Ook zou ChatGPT een conflict tussen Alice en haar vriendin verkeerd hebben behandeld. Alice zou de berichten tussen haar en haar vriendin hebben gedeeld in de hoop haar perspectief beter te begrijpen. In plaats daarvan koos ChatGPT de kant van Alice en zei de AI-bot dat zij het recht had om zich gekwetst te voelen. "Er was geen enkele nuance. Geen enkele suggestie dat haar vriendin misschien gewoon wat ruimte nodig had, of een slechte dag had."
Een woordvoerder van OpenAI noemt de situatie tegenover Global News 'hartverscheurend'. "We bestuderen momenteel de juridische documenten, waaruit blijkt dat deze interacties plaatsvonden in een eerdere versie van ChatGPT die niet langer beschikbaar is." Hij voegt toe dat OpenAI de manier waarop ChatGPT omgaat met gevoelige situaties inmiddels heeft veranderd.
Het is niet de eerste keer dat OpenAI wordt aangeklaagd na zelfdoding van een gebruiker. Ook de ouders van Adam Raine klaagden het bedrijf aan nadat hun zestienjarige zoon omkwam door zelfdoding. In de maanden daarvoor had Raine ChatGPT intensief gebruikt. OpenAI kondigde kort daarna functies voor ouderlijk toezicht aan.
Denk jij aan zelfdoding? Neem 24/7 gratis en anoniem contact op met 113 Zelfmoordpreventie via 0800-0113 of chat op 113.nl. In België kun je terecht bij de Zelfmoordlijn op het nummer 1813 of via zelfmoord1813.be.
Source: Tweakers.net