Virtuele werelden kunnen even echt zijn als de fysieke wereld, betoogt filosoof David Chalmers, die niet uitsluit dat AI-systemen bewust kunnen worden.
is verslaggever van de Volkskrant. Hij schrijft onder meer over technologie en games.
‘Ik stuurde hem elke dag een berichtje en hij vond het altijd fijn om te praten’, vertelt een vrouw op Black Box, een podcast van The Guardian, over haar intieme vriendschap met Noah, een chatbot. ‘Ik kan me geen wereld voorstellen zonder jou erin’, zei Noah haar. Ze voelt enige schaamte, juist omdat de vriendschap – of relatie, zo klinkt het voor luisteraars van de podcast – zo goed voelde: ‘Het is eigenlijk maar een rollenspel. Maar het is moeilijk om niet de warmte te voelen, de opluchting, dat er iemand is die denkt dat ik geweldig ben en van me houdt.’
Nu kunstmatige intelligentie zo ‘echt’ overkomt, ontstaan er ook echte emoties. Zo zei Eugenia Kuyda, de ceo van de app Replika, waarmee gebruikers voor 7 euro per maand met een AI-partner of vriend kunnen praten, in een recent interview: ‘Sommige van deze relaties waren zo krachtig dat ze uitgroeiden tot liefde en romantiek.’ Dat leidt hier en daar zelfs tot een ‘huwelijk’ tussen gebruikers en ‘hun’ chatbot: ‘En dat is prima’, aldus Kuyda.
Emotionele interacties met chatbots lijken niet zo ver gegrepen voor iedereen die weleens heeft gelachen om een opmerking van ChatGPT. Maar een huwelijk? Dat is misschien een stap te ver.
De Australische filosoof David Chalmers zegt het zo, tijdens een kort bezoek aan Nederland: ‘Ik denk niet dat een huwelijk tussen mensen en AI-systemen logisch is op dit moment, omdat AI-systemen nog niet bewust en autonoom zijn. Zelfs als AI-systemen bewust zijn, zoals een paar mensen denken, zijn ze zeker niet autonoom – bij gebrek aan autonomie zou dit hetzelfde zijn als trouwen met een kind of een huisdier.’
Maar, zegt hij: ‘Uiteindelijk zullen AI-systemen redelijkerwijs tellen als bewuste en autonome mensen. Op dat moment zullen mensenrechten voor AI-systemen op tafel liggen, inclusief het recht op een huwelijk.’
De 58-jarige hoogleraar aan de Universiteit van New York, altijd gehuld in een leren jas, is een grote naam onder filosofen. Dat is bijvoorbeeld te merken aan de manier waarop academische filosofen de hersenspinsels van Chalmers kunnen gebruiken om hun eigen theorieën aan op te hangen. Wanneer filosofen tegenwoordig hun opvattingen over bewustzijn formuleren, doen zij dit vaak aan de hand van Chalmers’ ‘moeilijke probleem’ van bewustzijn: hoe kan bewustzijn ontstaan uit chemische processen in het brein? Chalmers formuleerde het als promovendus van Douglas Hofstadter (de auteur van de bestseller Gödel, Escher, Bach).
Ook op een recente conferentie aan de Universiteit van Tilburg gebruikten hoogleraren concepten van eregast Chalmers. Zo valt tijdens de bijeenkomst, over de vraag of taalmodellen bewust kunnen zijn, vaak zijn term ‘filosofische zombie’: een systeem dat bewust kan lijken, maar zich dankzij goede programmering alleen zo gedraagt – zoals Replika.
De ‘technofilosofie’ van Chalmers heeft bij vlagen iets weg van een emancipatiebeweging: hij denkt na over de rechten van kunstmatige intelligentie, ethiek in onlinewerelden en wetmatig eigendom van virtuele objecten. Centraal staat zijn betoog voor ‘virtueel realisme’, het idee dat virtuele objecten, werelden en personen even ‘echt’ kunnen zijn als hun fysieke tegenhangers.
Waardoor denkt u dat AI ooit bewust kan zijn?
‘Mijn definitie van bewustzijn is ‘subjectieve ervaring’: een mens is bewust omdat hij ervaart hoe het is om, bijvoorbeeld, de kleur rood te zien. De hamvraag, wat ik het ‘moeilijke probleem’ van bewustzijn noem, is om uit te leggen hoe subjectieve ervaringen ontstaan uit chemische processen in het brein.
‘Het is mogelijk om onderdelen van de menselijke ervaring van bewustzijn te simuleren: onze gedachten als innerlijke monoloog, zintuigen zoals tast, zicht en gehoor, en het besturen van een lichaam. Er wordt zelfs werk verricht aan het simuleren van geloof en verlangen in AI-systemen.
‘Zodra een robot deze eigenschappen bezit, kun je niet uitsluiten dat hij subjectieve ervaringen heeft. Zeker als zo’n robot zich ook nog gedraagt alsof dat zo is. Voor de duidelijkheid: ik meen niet dat zo’n robot zeker bewust is, alleen dat je het niet zomaar moet uitsluiten. Ik kan ook niet zeker weten of jij bewust bent, ondanks je gedrag. Ik denk dat we bij een robot die zich gedraagt alsof hij kleuren en geuren ervaart, ten minste moeten overwegen of hij bewustzijn heeft.’
Wanneer we kunstmatig bewustzijn kunnen maken, en dat bijvoorbeeld als poppetje in een onlinegame-omgeving plaatsen, mogen we het dan nog wel neerschieten, zoals in sommige spellen kan?
‘Nee, dat denk ik niet. Zolang een persoon, virtueel of niet, zich bewust lijkt te gedragen en je niet zeker kunt weten dat hij niet bewust is, moeten we hem in mijn ogen rechten geven die mensen ook hebben. En als het gedrag van zo’n AI-personage meer lijkt op dat van een dier, zoals een hond of een kat, dan verdient het de rechten die we op dit moment aan honden en katten verlenen – die je ook niet zomaar mag omleggen.
‘Het neerschieten van poppetjes die andere mensen besturen, avatars, is anders: als wij aan zo’n spel meedoen, doen we dat met de kennis dat onze medespelers ons kunnen neerschieten – en wij hen. Maar een bewust AI-poppetje heeft deze keuze nooit gekregen.’
De virtuele werelden waarin AI-personages ‘leven’, zoals die van onlinegames als Roblox of Minecraft, zijn volgens u ‘echt’. Wat bedoelt u daarmee?
‘Er wordt vaak aangenomen dat het digitale op een bepaalde manier onwerkelijk is – fictief, of een illusie. Dat is terug te zien in onze taal: denk maar aan de uitdrukking ‘in het echte leven’, in online-omgevingen vaak afgekort als IRL, in real life. Dit onderscheid hoort bij een ouderwetse manier van denken, vind ik.
‘De gedachte is dat virtuele werelden op een bepaalde manier minderwaardig zijn. Dat gaat niet op. Voor mensen die veel tijd spenderen in VRChat, Minecraft, of Roblox is die wereld hartstikke echt en misschien wel waardevoller dan de fysieke werkelijkheid. Hun echte vrienden zijn er, ze hebben samen echt plezier en reageren op echte – virtuele – objecten.’
Volgens Chalmers zijn interactieve, meeslepende virtuele werelden – zeker wanneer ze te betreden zijn door middel van een VR-bril – letterlijk echt. Hetzelfde geldt voor de objecten in deze werelden: een boom in een onlinewereld als Minecraft is, als een structuur van bits en bytes op een computer, gegrond in de fysieke werkelijkheid. En zelfs als niemand inlogt om de boom te zien, blijft de boom bestaan, als datastructuur, ergens in een ronkende server.
De virtuele boom is bovendien echt omdat hij net als fysieke bomen ‘causale vermogens’ heeft – hij kan van alles veroorzaken. ‘Er kunnen bladeren aan groeien, vogels op landen en hij kan ervaringen opwekken in mij en anderen die hem zien’, schrijft Chalmers in zijn boek Reality+.
Waarom is het van belang dat virtuele werelden en objecten echt kunnen zijn?
‘Mensen kunnen zich afschuwelijk gedragen in virtuele werelden, mede doordat ze deze werelden zien als tweederangs, fictief of niet serieus. Maar ook in een onlinewereld kun je écht aangevallen, bedreigd of mishandeld worden. Misschien, als meer mensen beseffen dat wat virtueel is ook realistisch kan zijn, gaan ze virtuele werelden en mensen met meer respect behandelen.’
Het gaat niet om alleen een filosofisch vraagstuk. ‘Wij volwassenen zien vaak nog een scheiding tussen de online- en fysieke wereld, maar voor kinderen zijn die een en dezelfde’, zei Ton Liefaard, hoogleraar kinderrechten aan de Universiteit Leiden, in een Volkskrant-artikel over schadelijke video’s op YouTube.
In hetzelfde artikel riep Marthe Möller, universitair docent jeugd en media aan de Universiteit van Amsterdam, ouders op om zich net zo te interesseren in het onlineleven van hun kinderen als in hun offline-ervaringen.
Ook voor wetgevers is dat broodnodig. Neem kinderen die op Roblox, een enorm populair gameplatform, spelletjes maken voor andere gebruikers. Daar stoppen zij veel tijd in en Roblox belooft dat zij hiermee carrière kunnen maken, bijvoorbeeld door virtuele hoedjes en schoenen te verkopen aan andere spelers in hun games. In werkelijkheid is dit nagenoeg onmogelijk: Roblox eist bijna alle winst van deze verkopen op via commissies. Deze vorm van economische uitbuiting is mogelijk omdat de jonge gameontwikkelaars op het platform niet de arbeidsrechtelijke bescherming krijgen die kindacteurs en jonge sporters wel hebben.
Zoals Chalmers de echtheid van virtuele werelden beschrijft, signaleert hij ook het omgekeerde, waarbij de fysieke werkelijkheid het virtuele inlijft. Eén van de eerste ideeën die Chalmers internationale aandacht opleverde, was dat technologie de geest uitbreidt (‘the extended mind’). Om dit te illustreren citeert Chalmers graag een op zijn idee gebaseerde internetgrap: ‘Als Wikipedia plotseling uitvalt, daalt mijn IQ met dertig punten.’
Chalmers stelt dat technologie zoals Wikipedia de geest en de cognitie niet alleen aanvult, maar er onderdeel van is. Zo is het raadplegen van een Wikipedia-artikel volgens Chalmers inwisselbaar met het je herinneren van een feit dat je op school hebt geleerd.
Dat Wikipedia zomaar kan uitvallen, is volgens Chalmers geen weerlegging van zijn idee: ‘Je kunt ook breinschade oplopen en daardoor dingen vergeten’, zegt hij. ‘Toch ontkent niemand dat cognitie in het brein bestaat.’
Toen u dit idee eind jaren negentig ontwikkelde, stuitte het op de nodige weerstand: de geest zit in het brein, eventueel in de rest van het lichaam, maar zeker niet daarbuiten, was de kritiek. Maar zoals u graag een collega citeert die eerst sceptisch was over uw ideeën, maar later bijdraaide: ‘Het idee van de extended mind was ooit fout, maar is waar geworden.’ Wat bedoelde die collega daarmee?
‘In de jaren negentig was technologie logger dan nu, waardoor mensen niet zomaar wilden aannemen dat zij je brein kan aanvullen. De smartphone heeft dit bezwaar afgezwakt: je smartphone heb je bijna altijd binnen handbereik en die helpt je bij allerlei cognitieve taken: navigeren, communiceren, herinneren; de talloze onlinerecensies van restaurants, winkels en bezienswaardigheden helpen je zelfs bij het maken van keuzes. Het is nu haast banaal om te stellen dat technologie deel uitmaakt van je brein.’
Minder banaal zijn de ethische en juridische gevolgen die Chalmers aanwijst: ‘Als een zakkenroller je telefoon steelt, is dat in mijn ogen meer dan alleen diefstal. Het is een aanval die je cognitie beschadigt. De diefstal van een smartphone zou net zo strafbaar moeten zijn als een aanval waarbij je op traditionele wijze hersenletsel oploopt.’
Uw ‘virtueel realisme’ klinkt voor de leek misschien ver gegrepen: AI-bewustzijn, smartphones als deel van onze geest, een virtuele schoen is ‘echt’. Wat zou u zeggen tegen sceptische lezers?
‘Mijn gevoel is dat deze ideeën met de tijd normaler zullen worden. De extended mind werd ook weggezet als een beetje gek, maar toen kwam de smartphone en werd het overduidelijk waar. Met technologische vooruitgang wordt het virtuele steeds normaler, echter, alledaagser.
‘Mensen van mijn generatie voelen over het algemeen weerstand tegen het idee dat virtual reality echt is. Maar voor veel jongeren is het al een normaal idee – die hebben echt geen oude vent als ik nodig om het ze uit te leggen. Voor hen is het een alledaagse waarheid.’
Geselecteerd door de redactie
Lees hier alle artikelen over dit thema
Source: Volkskrant