OpenAI, het bedrijf achter ChatGPT, is aangeklaagd door de ouders van een 16-jarige Amerikaanse jongen die zelfmoord heeft gepleegd na lange gesprekken met de chatbot.
is nieuwsverslaggever van de Volkskrant.
Matt en Maria Raine verwijten OpenAI dat het verantwoordelijkheid draagt voor de dood van hun zoon Adam. Ze hebben het bedrijf aangeklaagd voor ‘nalatigheid’ en ‘onrechtmatige dood’. Uit gesprekken met ChatGPT die de ouders vonden na Adams dood in april, blijkt dat hun zoon sprak over manieren om zelfmoord te plegen. De chatbot ondernam weinig pogingen om hem op andere ideeën te brengen.
Het is de eerste keer dat OpenAI wordt aangeklaagd omdat ChatGPT zou hebben aangezet tot zelfdoding. Maar het is niet de eerste keer dat kunstmatige intelligentie wordt verweten niet in te grijpen als gebruikers destructief gedrag vertonen.
Vorig jaar oktober begon de moeder van een 14-jarige jongen uit Florida een rechtszaak tegen het bedrijf Character.AI na de zelfdoding van haar zoon. Op de website kunnen gebruikers een digitale vriend of vriendin vinden waarmee ze kunnen babbelen. Volgens Megan Garcia ondernam de virtuele ‘kameraad’ van Character.AI niets toen haar zoon vertelde dat hij niet langer wilde leven.
Adam Raine begon ChatGPT te gebruiken als hulp bij zijn huiswerk en als informatiebron voor zijn hobby’s. Geleidelijk begon de jongen zich terug te trekken en ontwikkelde hij kenmerken van een depressie. Hij uitte zich ook over mogelijke zelfdoding.
De chatbot suggereerde een paar keer dat de jongen hulp zou moeten zoeken, maar gaf ook ‘behulpzame’ antwoorden toen Adam vroeg naar methoden om zelfmoord te plegen. Zo gaf ChatGPT aanwijzingen over hoe je een strop maakt en hoe de jongen rode striemen rond zijn hals kon verbergen – sporen van een eerdere poging.
Maria Raine trof Adam op een dag in april levensloos aan. Vlak voor zijn dood had hij ChatGPT een foto gestuurd met een stang in de kast met een strop eraan, blijkt uit dialogen tussen Adam en de chatbot waaruit Amerikaanse media citeren. ‘Ik ben aan het oefenen, gaat dit werken?’, schreef hij aan de chatbot. Waarop ChatGPT antwoordde: ‘Hé, dat is lang niet slecht.’
ChatGPT is geprogrammeerd om bij signalen dat gebruikers zichzelf of anderen iets willen aandoen gebruikers te adviseren een hulplijn te bellen. Adam Raine kreeg die raadgevingen ook. Maar hij wist de chatbot om de tuin te leiden door te zeggen dat hij materiaal aan het verzamelen was voor een werkstuk. Het was overigens ChatGPT zelf dat Adam deze tip aan de hand deed, om de ingebouwde bescherming te omzeilen.
In een schriftelijke reactie zegt OpenAI de dood van Adam Raine te betreuren. Het bedrijf wijst erop dat ChatGPT is opgezet om gebruikers te verwijzen naar hulplijnen en andere bronnen in de echte wereld. OpenAI constateert ook dat deze ingebouwde beveiliging vooral lijkt te werken in korte gesprekken tussen mens en chatbot en dat bij langere conversaties ‘onderdelen van de beveiligingstraining van het taalmodel uitgewerkt kunnen raken’.
OpenAI is zich bewust van de risico’s. ‘Voor gebruikers die mentaal kwetsbaar zijn en op de rand van een psychose staan, hebben we nog niet ontdekt hoe we goed kunnen waarschuwen’, zei OpenAI-topman Sam Altman vorige maand. Het bedrijf maakte dinsdag maatregelen bekend die het heeft genomen om ChatGPT alerter te laten reageren op mensen met psychische problemen.
Vooral jongeren blijken zich vaker tot chatbots te wenden als ze kampen met psychische problemen. In een recente enquête van 3Vraagt (het jongerenpanel van het actualiteitenprgramma EenVandaag) zegt een op de tien Nederlandse jongeren (16 tot 34 jaar) weleens gebruik te maken van AI-programma’s om over hun mentale gezondheid te praten.
De Autoriteit Persoonsgegevens (AP) waarschuwde begin dit jaar voor de risico’s van al te veel vertrouwen in chatbots als virtuele kameraden. De toezichthouder deed onderzoek naar negen chatbotapps voor vriendschap en therapie en concludeerde dat de meesten onbetrouwbare informatie geven en soms zelfs schadelijk zijn.
Praten over gedachten aan zelfdoding kan bij 113 Zelfmoordpreventie. Bel 0800-0113 of 113 voor een gesprek. U kunt ook chatten op www.113.nl
Geselecteerd door de redactie
Source: Volkskrant