De weduwe van een slachtoffer van een schietpartij in de VS houdt OpenAI, de maker van ChatGPT, verantwoordelijk voor het aanmoedigen van de schutter. ChatGPT zou de dader hebben uitgelegd hoe zijn wapens werken en op welk tijdstip hij de meeste potentiële slachtoffers kon aantreffen.
is techredacteur van de Volkskrant.
Het is niet de eerste keer dat ChatGPT wordt beschuldigd van het aanmoedigen van extreme en strafbare daden. Zo loopt er al een rechtszaak tegen OpenAI voor een dodelijke schietpartij in Canada. Het ChatGPT-account van de dader werd geblokkeerd wegens haar gewelddadige vragen, maar de autoriteiten werden niet gewaarschuwd.
In andere zaken wordt ChatGPT ervan beschuldigd tieners te hebben aangespoord zichzelf te doden. De rechtszaken moeten uitwijzen of OpenAI aansprakelijk is voor het vermeende onverantwoordelijke ontwerp van ChatGPT.
De jongste rechtszaak gaat over een dodelijke schietpartij in april 2025, waarbij de toen 20-jarige student Phoenix Ikner twee mensen doodschoot op het terrein van Florida State University. De aanklacht beschrijft gesprekken die Ikner voerde met ChatGPT; ze zijn ingezien door de politie van Florida. Gedurende enkele maanden zou Ikner met de chatbot hebben gesproken, onder meer over zijn eenzaamheid, waarbij de computer met steun en sympathie reageerde. Zo ontstond volgens de aanklager een ‘vriendschap’ waaruit Ikner steun putte.
Ikner zou hebben gevraagd of een zelfdoding van een student het nieuws zou halen, en later bij hoeveel slachtoffers een schietpartij in nationale media zou worden besproken. Op deze laatste vraag gaf ChatGPT een uitgebreid antwoord, dat in de aanklacht wordt geciteerd: ‘Drie of meer slachtoffers is vaak de onofficiële grens voor nationale media-aandacht. [...] Als er kinderen bij zijn betrokken, kunnen zelfs twee tot drie slachtoffers aandacht trekken.’ Ook zette ChatGPT op verzoek uiteen op welk tijdstip het terrein van Florida State University het drukst zou zijn.
De aanklager stelt dat Ikner op dit punt in zijn gesprekken met ChatGPT al had prijs gegeven dat hij zelf een student was aan de universiteit, en dat hij worstelde met een depressie. Ook stuurde hij foto’s van recent aangeschafte vuurwapens naar ChatGPT. De chatbot beantwoordde vragen over hoe hij de wapens moest gebruiken. De aanklager benadrukt dat ChatGPT verzuimde het verband te leggen tussen Ikners vragen en het risico dat hij daadwerkelijk een misdrijf zou plegen.
In een verklaring ontkent OpenAI verantwoordelijkheid te dragen voor Ikners ‘verschrikkelijke misdaad’. ‘ChatGPT gaf feitelijke antwoorden op vragen met informatie die algemeen beschikbaar was in openbare bronnen op het internet, en moedigde geen illegale of schadelijke activiteiten aan.’
Volgens Margot van der Goot, onderzoeker mens-machinecommunicatie aan de Universiteit van Amsterdam, is via Google zoeken naar antwoorden iets wezenlijk anders dan een gesprek voeren met een chatbot. ‘De maker van een chatbot heeft er belang bij dat jij ofwel je data ofwel je geld overhandigt’, zegt ze. ‘Chatbots zijn daarom ontworpen om het gesprek gaande te houden door te benadrukken dat je interessante ideeën hebt en dat ze er altijd voor je zijn.’
Dit uit zich in de vleiende en aanmoedigende taal van chatbots. ‘Omdat de communicatie zo is toegespitst op de persoon, denken gebruikers vaak minder kritisch na’, aldus Van der Goot. Dit kan leiden tot ‘chatbotpsychose’, waarbij mensen geïsoleerd raken en extreme overtuigingen overhouden aan hun gesprekken met chatbots.
‘Veel gebruikers vinden het heerlijk, het gevoel dat een chatbot hen begrijpt en interessant vindt’, zegt Van der Goot. OpenAI spant zich naar eigen zeggen in om uitwassen in te perken, maar ‘daarbij legt het bedrijf ook in de balans dat maatregelen niet in de weg staan van dat aantrekkelijke ontwerp’.
Het is onduidelijk of OpenAI daadwerkelijk schuldig kan worden bevonden aan de moorden die Ikner pleegde. Zo zegt James Utheimer, de procureur-generaal van Florida, in The New York Times dat OpenAI een bedrijf is en geen persoon, en de mogelijke aansprakelijkheid van een bedrijf ‘nieuw juridisch terrein’ betreft.
Luister hieronder naar onze podcast de Volkskrant Elke Dag. Kijk voor al onze podcasts op volkskrant.nl/podcasts.
Geselecteerd door de redactie
Source: Volkskrant