N.B. Het kan zijn dat elementen ontbreken aan deze printversie.
Interview De existentiële gevaren van „zogenaamde kunstmatige intelligentie” worden overdreven, zegt linguïst Emily M. Bender. „ChatGPT brengt alleen aannemelijk klinkende tekst voort.”
Kom bij Emily M. Bender niet aan met doemscenario’s over „zogenaamde kunstmatige intelligentie”, zoals ze AI bij voorkeur noemt. Daarvoor is de linguïst en hoogleraar aan de Universiteit van Washington in Seattle veel te nuchter. Ze is wel uitgesproken kritisch over AI-systemen, maar tegen waarschuwingen dat ze intelligenter worden dan de mens, en dat de mensheid door AI zelfs met uitsterven bedreigd wordt, neemt de Amerikaanse scherp stelling.
Grote bedrijven die kunstmatige intelligentie ontwikkelen waarschuwen zélf voor de gevaren ervan. Ze vergelijken het met de risico’s van kernwapens en pandemieën. Moeten we dat dan niet serieus nemen?
„Nee, dat vind ik niet. Die doemscenario’s berusten op het idee dat machines op een of andere manier bewustzijn kunnen ontwikkelen. Dat zijn ideeën uit de sciencefiction, uit de wereld van het amusement. Dat machines wakker worden en gaan proberen ons uit te moorden. Er is geen enkele reden om aan te nemen dat dat de volgende stap in de ontwikkeling is. Zogenaamde kunstmatige intelligentie is niets anders dan een vorm van automatisering en synthetisering. Kunnen mensen daarmee veel schade aanrichten? Zeker. Maar van een heel andere soort. Zo kunnen chatbots als ChatGPT informatie-ecosystemen vervuilen met onjuiste teksten. Als iemand op basis daarvan handelt, kan dat in de echte wereld ernstige schade veroorzaken.
„Die apocalyptische schrikbeelden dienen als afleiding. Als mensen zich dáár zorgen over maken, letten ze niet op de echte problemen met dit soort systemen. Het is ook marketing: door te roepen dat deze technologie een existentiële bedreiging is, wek je de indruk dat het iets heel krachtigs is. Dat maakt het waardevol, makkelijker om aan de man te brengen.”
Emily M. Bender (1973) is gespecialiseerd in computerlinguïstiek. Ze studeerde aan de Universiteit van Californië in Berkeley en de Tohoku Universiteit in Japan. Ze promoveerde aan de Stanford Universiteit. Sinds 2003 is ze verbonden aan de Universiteit van Washington. Ze publiceerde onder meer over de linguïstische structuren van het Japans, Mandarijn, Engels en andere talen waaronder Wambaya, een taal in Australië.
Haar katten Euler en Euclid zijn vernoemd naar de achttiende-eeuwse Zwitserse wis- en natuurkundige Leonhard Euler en de Griek Euclides, die rond 300 v. Chr. leefde en de vader van de wiskunde wordt genoemd.
Sinds de opwinding over AI die losbarstte na de lancering van ChatGPT, pleit Bender er onverstoorbaar voor de verbeelding niet op hol te laten staan en bij de feiten te blijven. Een chatbot is geen mens. Spreken is interactie tussen mensen. Begrijpen en intelligentie zijn iets menselijks.
Daarbij helpt niet alleen haar wetenschappelijke achtergrond in de ‘computationele taalkunde’, maar ook haar gevoel voor metaforen uit het dierenrijk. Nee, Euler, haar zwarte kat die even door het beeld loopt en die vernoemd is naar de achttiende-eeuwse wiskundige Leonhard Euler, speelt daarbij geen rol, verzekert ze. Maar een octopus en een papegaai leveren wél een belangrijke bijdrage aan de verspreiding van haar ideeën.
De octopus voerden zij en een collega in 2020 op in een artikel over zogeheten Large Language Models (LLM’s), die de basis vormen van systemen die in reactie op vragen tekst kunnen voortbrengen, zoals ChatGPT van Open-AI, en Bard van Google. Om te illustreren wat die technologie wel en niet kan, bedachten ze een fabel over twee mensen die elk op een ander onbewoond eiland zijn gestrand. Ze spreken allebei Engels. En ze ontdekken allebei dat op hun eiland ooit een telegraaf-apparaat is achtergelaten, waarmee ze met elkaar kunnen communiceren via een kabel op de zeebodem.
Daar in de diepte leeft een bijzonder intelligente octopus, die een manier ontdekt om de gesprekken af te tappen en mee te luisteren. Het dier verstaat geen Engels, maar kan wel statistische patronen ontdekken in wat er over en weer wordt gezegd. Zo kan het na een tijdje heel precies voorspellen wat de ene persoon zal zeggen op een opmerking van de ander.
Dan wordt het spannend. De octopus begint zich eenzaam te voelen, snijdt de kabel door en gaat zich mengen in het gesprek door zich voor te doen als één van de twee mensen. De ander heeft niets in de gaten, en zet de dialoog voort. Zo lijken er nog steeds zinnen uitgewisseld te worden die van beide kanten met een bepaalde betekenis en bedoeling worden geuit.
Tot op een dag de menselijke spreker in paniek meldt: „Ik word aangevallen door een beer! Help, ik heb alleen een paar stokken, hoe kan ik me verdedigen?” De octopus heeft geen idee wat een beer is, of wat stokken zijn, en kan dus wel iets terugzenden, maar hoogstwaarschijnlijk niet iets dat de eilandbewoner zal helpen.
De parallel mag duidelijk zijn. Net als de octopus kunnen programma’s als ChatGPT wel zinnen samenstellen die voortgebracht lijken door een mens, maar ze zijn alleen gebaseerd op statistische patronen en welk woord in welke context waarschijnlijk is. Ze zijn niet gegrond in de werkelijkheid.
Toch is „niet de octopus het beroemdste hypothetische dier op Benders cv”, schreef New York Magazine in een uitgebreid portret van de linguïst, maar de eveneens door haar bedachte ‘stochastische papegaai’. Stochastisch betekent hier dat woorden louter op basis van waarschijnlijkheid achter elkaar gezet worden. De denkbeeldige vogel van Bender is dus, net als ChatGPT, een naprater die zelf niet weet wat hij zegt. Sinds Bender en drie collega’s in 2021 een wetenschappelijk artikel schreven Over de gevaren van stochastische papegaaien is de ‘stochastische papegaai’ uitgegroeid tot een veelgebruikt begrip.
„Het líjkt alleen of ChatGPT vragen beantwoordt”
„Voor de duidelijkheid zou het denk ik helpen als we niet zeggen: ik vraag iets aan Chat-GPT en ChatGPT antwoordde dit of dat”, zegt Bender. „Maar: ik heb er deze tekst in gestopt en die tekst kwam eruit. Want het lijkt wel alsof ChatGPT antwoord geeft op vragen, maar het brengt alleen aannemelijk klinkende tekst voort.”
Toch zijn er veel mensen die het een handig en nuttig instrument vinden.
„Ik heb me afgevraagd: in wat voor gevallen zou er iets te zeggen zijn voor het gebruik van ChatGPT? Bijvoorbeeld als de inhoud er niet toe doet, of de persoon die het gebruikt echt kan nagaan of de inhoud wel klopt. Als je een formele brief schrijft, maar je het moeilijk vindt om de juiste toon te treffen en daarom ChatGPT de boodschap opnieuw laat formuleren. Maar dat kan alleen in een taal die je goed beheerst, zodat je kan controleren of het correct is. Dat is het eerste criterium.
„Het tweede criterium is dat je vooroordelen kan herkennen en neutraliseren. Als je een zakelijke brief schrijft, gaat de chatbot er mogelijk vanuit dat die aan een man gericht is. Terwijl je misschien wel schrijft aan een onbekende en je je dus beter kunt onthouden van vooronderstellingen over de aangeschreven persoon.
„Ten derde moet je niets geven om originaliteit en herkomst van de inhoud als je ChatGPT gebruikt. Want de chatbot baseert zich op heel veel teksten, mogelijk ook van jouw krant, en kan komen aanzetten met ideeën waarvoor iemand anders de eer zou moeten krijgen. Je zou kunnen zeggen dat het diefstal is van oorspronkelijke data. ChatGPT geeft niet de mogelijkheid na te gaan waar wat precies vandaan komt.
„Ten vierde zou je het ook voor lief moeten nemen dat instrumenten als ChatGPT ontwikkeld zijn met een enorme verkwisting van natuurlijke hulpbronnen als water en energie. Dat gewerkt wordt met deels slecht betaalde arbeidskrachten, die onder belastende arbeidsomstandigheden moeten zorgen dat allerlei gruwelijke of zelfs traumatiserende inhoud niet per ongeluk opduikt in de output van de chatbot. Wie zich ervan wil vergewissen dat zijn chocola niet tot stand is gekomen met behulp van kinderarbeid, zou ook kunnen besluiten om ChatGPT niet te gebruiken.”
Zelf gebruikt u ChatGPT niet?
„Nee, en ik probeer ook te voorkomen dat ik output van de chatbot lees die mensen me toesturen. Ik wil m’n tijd niet besteden aan synthetische teksten.”
Wat bedoelt u met vervuiling van het informatie-ecosysteem?
„Dit soort bots kunnen artikelen voortbrengen die eruitzien als een artikel van Wikipedia, maar niets met de realiteit te maken hebben. Zo’n tekst kan dan weer opgepikt worden door een zoekmachine, en verder worden verspreid. Daarom spreek ik van vervuiling van ons informatie-ecosysteem: de non-informatie kan zich verspreiden als een olievlek.
„Dat is niet alleen gevaarlijk omdat mensen een onwaarheid kunnen aanzien voor feitelij Source: NRC