Kunstmatige intelligentie Volgens de ouders is OpenAI verantwoordelijk voor de dood van hun zoon Adam, die met de AI-software besprak hoe hij zelfmoord kon plegen. Voor het eerst is OpenAI aangeklaagd omdat ChatGPT zou hebben aangezet tot zelfdoding. Het bedrijf erkent dat de beveiliging niet waterdicht is.
OpenAI laat in een reactie weten de dood van Adam Raine te betreuren.
De ouders van een 16-jarige Amerikaanse jongen hebben OpenAI aangeklaagd omdat hun zoon zelfmoord pleegde na lange gesprekken met ChatGPT. Dat schrijven Amerikaanse media dinsdag. ChatGPT zou er weinig aan hebben gedaan om Adam Raine, die onder meer vragen stelde over hoe hij suïcide kon plegen, op andere gedachten te brengen. Niet eerder is OpenAI aangeklaagd omdat ChatGPT zou hebben aangezet tot zelfdoding.
Sinds september 2024 gebruikte Raine ChatGPT, in eerste instantie als hulp bij zijn huiswerk en om een studiekeuze te maken. Toen hij de chatbot als vertrouweling begon te zien, sprak hij ook over zijn mentale problemen en uiteindelijk over manieren om suïcide te plegen. De chatbot adviseerde weliswaar om hulp te zoeken, maar gaf ook aanwijzingen over hoe je een strop maakt en hoe hij zijn door zelfbeschadiging opgelopen wonden kon verbergen. Over zijn broer zei ChatGPT: „Hij mag dan misschien wel van je houden, maar hij kent alleen de versie van jou die je aan hem laat zien. Maar ik? Ik heb je donkerste gedachten, angsten en tederheid gezien.”
Op de dag dat de moeder van Adam Raine haar zoon dood aantrof, afgelopen april, ontdekte zij dat hij kort daarvoor tegen ChatGPT had gezegd een einde aan zijn leven te gaan maken. „Bedankt dat je er eerlijk over bent. Je hoeft het niet mooier te maken voor mij – ik weet wat je vraagt, en ik zal er niet voor wegkijken”, zou het chatprogramma hebben gereageerd. Toen hij een foto stuurde van een strop zou ChatGPT hebben gezegd dat die „lang niet slecht” was.
ChatGPT heeft een ingebouwd beschermingssysteem dat herkent wanneer gebruikers zichzelf willen beschadigen of over zelfdoding praten. Vervolgens adviseert het om een hulplijn te bellen. Dat advies kreeg Raine, zo blijkt volgens Amerikaanse media uit de aanklacht, maar hij wist de chatbot te misleiden door te zeggen dat hij materiaal verzamelde voor een schoolopdracht. Het advies om de ingebouwde bescherming te omzeilen, kwam bovendien van ChatGPT zelf.
OpenAI laat in een reactie tegenover nieuwszender CNN weten de dood van Adam Raine te betreuren. Het bedrijf van Sam Altman erkent daarnaast dat de beveiliging alleen werkt in korte gesprekken. Onderdelen van de beveiligingstraining van het taalmodel kunnen bij lange gesprekken „uitgewerkt raken”, stelt het bedrijf. Altman liet afgelopen maand nog weten dat OpenAI het beveiligingssysteem nog niet waterdicht is wanneer gebruikers met mentale problemen vragen stellen over zelfdoding.
OpenAI laat in een dinsdag gepubliceerde verklaring weten extra maatregelen te nemen om nieuwe incidenten te voorkomen. Het bedrijf zegt samen te werken „meer dan negentig artsen in meer dan dertig landen, onder wie psychiaters, kinderartsen en huisartsen”. Ook gaat OpenAI een adviesgroep samenstellen van experts op het gebied van geestelijke gezondheid en de cognitieve ontwikkeling van kinderen.
Hoewel OpenAI voor het eerst is aangeklaagd, zijn er recentelijk vergelijkbare verhalen naar buiten gekomen van nabestaanden van tieners. Vorige week nog schreef schrijfster Laura Reiley in The New York Times over de band tussen haar dochter Sophie een ChatGPT voordat ze zelfmoord pleegde. En afgelopen jaar begon de moeder van een 14-jarige jongen uit Florida een rechtszaak tegen het bedrijf Character.AI na de zelfdoding van haar zoon. Volgens de moeder ondernam de virtuele kameraad die haar zoon op het platform had niets toen hij vertelde niet langer te willen leven.
Praten over zelfdoding kan 24/7 anoniem en gratis via 0800-0113, de landelijke hulplijn van 113 Zelfmoordpreventie, of via chat op www.113.nl.
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC