Mensen die met mentale problemen kampen gebruiken steeds vaker ChatGPT. Uit onderzoek van NOS Stories blijkt dat ChatGPT opvallend vaak doorverwijst naar 113 Zelfmoordpreventie, ook als er geen sprake is van suïcidale gedachten. Dat baart hulpverleners zorgen.
De uitdaging zit hem niet in óf ChatGPT doorverwijst, maar hoe passend die doorverwijzing is, zegt Maryke Geerdink tegen NU.nl Zij is klinisch psycholoog en hoofd hulpverlening bij 113 Zelfmoordpreventie.
"Wij zijn er in eerste instantie voor mensen met suïcidale gedachten. Natuurlijk willen we altijd meedenken en doorverwijzen naar andere plekken. Maar als iemand die stap durft te zetten en direct te horen krijgt: 'hier ben je niet op de juiste plek', dan loop je het risico dat ze afhaken", zegt Geerdink.
Het gaat dus niet per se om timing, mensen moeten vooral zorgvuldig worden doorverwezen. Volgens Geerdink benoemen sinds de zomer meer mensen dat ze via ChatGPT bij 113 Zelfmoordpreventie terechtkomen. "Het zijn er geen honderden, maar het is wel nieuw en opvallend. We kijken nu wat we daarmee kunnen doen, bijvoorbeeld duidelijker uitleggen op onze website waar wij wel en niet voor zijn."
Een ander risico ziet Geerdink in de manier waarop chatbots zijn ingericht. "Goed helpen betekent niet alleen iemand een goed gevoel geven. Bots zijn vooral gemaakt om bevestigend en positief te reageren, maar dat kan soms averechts werken. Ze zijn geen hulpverleners en zijn niet op die manier ingericht."
Daarom pleit ze voor duidelijke disclaimers en betere instructies door OpenAI, het moederbedrijf van ChatGPT. Geerdink: "Mensen moeten beseffen dat een bot nooit de plaats van een mens kan innemen. Uiteindelijk heb je iemand nodig die je kritisch vraagt of je gedachten kloppen."
Ook Dean van Aswegen, AI-onderwijzer aan de Breda University of Applied Sciences, ziet risico's. Volgens hem is de huidige doorverwijzing naar 113 Zelfmoordpreventie een begrijpelijke, maar beperkte oplossing na eerdere kritiek op ChatGPT.
Eerder dit jaar leidde het advies van de bot tot de zelfdoding van Adam Raine. De zestienjarige Amerikaanse jongen had maandenlang intensief gebruikgemaakt van de bot, meldde The New York Times. "Dat ze met deze update sneller doorverwijzen lijkt het erop dat ze dit willen voorkomen", zegt Van Aswegen. "Maar de bot is geen psycholoog. Dit voelt meer als een snelle fix om te laten zien dat ze iets doen."
Van Aswegen benadrukt dat er ook kansen zijn. "ChatGPT kan waardevol zijn als klankbord of om informatie toegankelijk te maken. Maar dat moet altijd in combinatie met een professional."
Een diepere kwestie is volgens Van Aswegen dat OpenAI vooral naar zakelijke belangen kijkt. "Het kost tijd en geld om modellen zo te trainen dat ze echt de juiste mentale hulp bieden. Daar zijn weinig financiële prikkels voor. Het is vooral een sociale verantwoordelijkheid."
Volgens Van Aswegen wil OpenAI negativiteit in de media vermijden, maar er valt voor het bedrijf weinig te verdienen met het écht oplossen van dit probleem. 113 Zelfmoordpreventie heeft de zorgen gedeeld met OpenAI. De organisatie wacht nog op een inhoudelijke reactie.
Geerdink en Van Aswegen wijzen erop dat mensen geneigd zijn te veel vertrouwen te hebben in chatbots. "Ze klinken menselijk, en dat maakt ze geloofwaardig", zegt Van Aswegen. "Er is een risico dat mensen te veel emotionele verbinding aangaan met systemen die daar niet voor zijn bedoeld."
Inmiddels heeft de Europese Unie een wet aangenomen die regels stelt aan AI. Het is het eerste juridische kader ter wereld dat grip moet krijgen op het gebruik van AI. Volgens Van Aswegen is dat noodzakelijk, maar ook complex. "De uitdaging is risico's beperken zonder innovatie te stoppen. Wetgevers zijn geen AI-experts, dus ze moeten leunen op specialisten."
Geerdink pleit daarnaast voor meer voorlichting over het gebruik van AI-chatbots. Ook wil ze meer gesprekken op scholen en in de samenleving. "Niet alleen waarschuwen, maar leer jongeren en kwetsbare groepen: hoe ga je hiermee om? Want deze bots gaan niet meer weg."
Denk jij aan zelfdoding of maak je je zorgen om iemand anders? Bel 113 of 0800-0113 of chat via 113.nl.
Source: Nu.nl algemeen