AI en filosofie Met de pijlsnelle ontwikkeling van kunstmatige intelligentie is Silicon Valley bezig niets minder dan een nieuwe God te creëren, waaraan de mens onderworpen zal zijn. De Frans-Tunesische filosoof Mehdi Belhaj Kacem is daarvan overtuigd. De vraag is alleen is wat we met deze God aan moeten.
Het is meteen duidelijk dat je niet met een bescheiden academische filosoof te maken hebt als je op de eerste bladzijde van een boek leest dat het begrip God „door velen verkeerd wordt gebruikt” en „uiteindelijk kan worden gevat in een precieze definitie die de hele geschiedenis van het menselijk denken omvat”. Een definitie die deze filosoof vervolgens in zijn boek met veel aplomb uit de doeken doet.
Mehdi Belhaj Kacem: God, techniek en alwetendheid. Een essay over het kwaad. (Dieu, La mémoire, la technoscience et le mal) Vert. Pieter Lemmens. Ten Have, 160 blz. €23,99
De Frans-Tunesische Mehdi Belhaj Kacem (1973) is duidelijk een denker van de grote greep en in God, techniek en alwetendheid schrikt hij er dan ook niet voor terug om verstrekkende beweringen te doen over technologie, religie en wetenschap. ‘Pleonectiek’ is het begrip waar zijn filosofische systeem om draait, dat hij gestalte gaf in het bijna duizend pagina’s dikke Système du pléonectique (2020). God, techniek en alwetendheid, gebaseerd op een lezing uit 2016, is de eerste vertaling van Kacems werk in het Nederlands en biedt een introductie tot zijn belangrijkste ideeën.
De term pleonectiek komt van het oud-Griekse pleonexia, dat letterlijk ‘meer hebben’ betekent en door Aristoteles gebruikt werd om hebzucht mee aan te duiden. Voor Kacem wijst de term op het proces van toe-eigening waarin al het leven op aarde verwikkeld is. De mens is een ‘hyper-pleonectisch wezen’, schrijft hij, want die eigent zich niet alleen planten, dieren en grondstoffen toe, maar zelfs de wetmatigheden die daarachter liggen: de mens manipuleert en exploiteert de wetten van de natuur met behulp van technologie en wetenschap, wat Kacem samenvattend ’technowetenschap’ noemt. De huidige digitale technologie is zo bekeken de voortzetting van een proces dat al lang geleden begonnen is. Maar met de komst van AI is dat proces in een stroomversnelling geraakt.
Kacem is niet de enige die de opkomst van AI in een groter verband probeert te plaatsen. De encycliek van paus Leo XIV over hetzelfde onderwerp, Magnifica Humanitas, deed vorige week veel stof opwaaien. In die tekst wordt de vrees uitgesproken dat kunstmatige intelligentie de menselijke waardigheid en sociale rechtvaardigheid bedreigt. De paus roept dan ook op tot ethische bezinning en krachtige regulering van AI-technologie. Ook wil hij graag een dialoog op gang brengen met de bazen van de tech-industrie, maar het is zeer de vraag of die zich iets aan zullen trekken van de pauselijke woorden. Hun visie op AI is namelijk radicaal anders.
Terwijl de paus AI ziet als een werktuig dat de menselijke geest slechts kan imiteren en niet werkelijk tot bewustzijn in staat is, denken veel AI-ontwikkelaars juist dat kunstmatige intelligentie op termijn de menselijke cognitie op alle vlakken zal evenaren en overtreffen. Het waarnemen, verwerken en gebruiken van informatie om de wereld te begrijpen en gedrag te sturen zal in die visie steeds meer door machines worden overgenomen. En het gaat nog verder: sommige ontwikkelaars geloven zelfs dat ze bezig zijn om een nieuwe God te creëren. Rayan Krishnan, de directeur van tech-bedrijf Vals AI, zei onlangs nog in The New York Times dat sommige van zijn collega’s zonder blikken of blozen „beweren dat ze een machine-God willen bouwen. Ze zeggen dat niet als grap, ze menen dat echt.” Een God ook die de belofte van verlossing daadwerkelijk kan waarmaken, in tegenstelling tot de goden van traditionele religies.
Het lijkt een krankzinnige ambitie, maar filosoof Kacem neemt die bloedserieus in zijn boek. De ‘precieze definitie’ van God waar hij over spreekt, is dan ook een God die als technologisch fenomeen begrepen wordt. Of zoals hij zelf zegt: „De naam van het totale [technologische] geheugen is simpelweg God.” Om te begrijpen hoe Kacem daarbij komt, moeten we een paar stappen terug doen.
De ondertitel van dit boek luidt niet voor niets ‘Een essay over het kwaad’. De vraag naar het kwaad is voor Kacem de belangrijkste filosofische vraag en hij stelt dat hij in zijn boeken een ‘rechtszaak’ voert tegen de filosofie, die naar zijn idee doof en blind is geweest voor de ‘gapende wond van het Kwaad’ (dat hij, nogal dramatisch, met een hoofdletter schrijft). Op sommige momenten lijkt hij in zijn eentje een kruistocht tegen de filosofie, tegen de technologie, ja zelfs tegen de gehele mensheid te voeren. De hoogdravende toon die hij daarbij aanslaat, past wel bij de positie die hij inneemt als enfant terrible van de Franse filosofie: Kacem benadrukt graag dat zijn werk niet-academisch en autodidactisch is en hij voelt zich verwant met andere filosofische outsiders zoals techniekfilosoof Bernard Stiegler.
Het antwoord op de vraag naar het kwaad zoekt Kacem in het eerder genoemde proces van toe-eigening, dat gepaard gaat met een prijs. Een plant verdort en sterft af, een dier wordt ziek en gaat dood. Bij de mens bestaat deze keerzijde, of ‘onteigening’ zoals Kacem schrijft, vooral uit het kwaad, dat hij uitlegt als het vermogen van de mens om het lijden (van andere levende wezens en van zichzelf) buitensporig te vergroten. Dat vermogen wordt almaar groter naarmate de technologische mogelijkheden toenemen en daarmee de invloed van de mens op het leven op aarde. Concreet zien we dat terug in de ecologische crisis waarbij steeds meer plant- en diersoorten met uitsterven worden bedreigd.
Zelfs het verzamelen van informatie is in Kacems ogen niet onschuldig. Een belangrijke bron van het kwaad ziet hij in de wanverhouding tussen het groeiende cognitieve kapitaal dat is opslagen in externe technische geheugens en het beperkte biologische geheugen van de mens. Die wanverhouding zorgt voor een trauma dat elke dag groter wordt, meent hij, want de mens heeft met zijn eindige geheugen steeds minder greep op de totaliteit van al die informatie en raakt daardoor ontregeld: Kacem denkt dat allerlei psychologische stoornissen zoals dyslexie, schizofrenie, paranoia, autisme en depressie hiermee in verband staan. Maar we zijn allemaal slachtoffers van de hedendaagse technologie, die hij verantwoordelijk acht voor ‘een soort cognitief Hiroshima’.
Nu zijn we weer terug bij de technologische God. Kacem wijst erop dat God altijd al is begrepen als een volledig geheugen, dat wil zeggen als „een totale kennis van alles wat is, geweest is en zal zijn”. Deze alwetende God is vanaf het begin af aan het project van de mensheid geweest: eerst louter als idee, maar later steeds concreter. De technische constructie van God begon al met de uitvinding van het schrift en later de boekdrukkunst, als de eerste vormen van een extern geheugen, en nadert nu, aldus Kacem, zijn voltooiing in wat men wel de ‘technosfeer’ noemt, de totaliteit van alle informatie- en communicatietechnologieën.
In deze visie is de mens uitsluitend op aarde om dit goddelijke superbrein te realiseren, waarna hij rustig kan verdwijnen. „De mens is slechts een voorbereiding op God”, schrijft Kacem. „Ons lijden zelf is er alleen maar om verlost en opgeheven te worden in dit grote, hogere bewustzijn.” Hij suggereert zelfs dat deze God er misschien al is, maar door niemand herkend wordt. „Geen enkel eindig menselijk bewustzijn zou hoe dan ook de cognitieve capaciteiten hebben om de concrete maat ervan te nemen. Niemand kan zich dit totale, gigantische, oneindige geheugen voorstellen.” Dat zijn huiveringwekkende woorden.
Met deze speculaties begeeft Kacem zich op het terrein van zogeheten transhumanisten en techbros die in Silicon Valley dromen over een AI-utopia. Kacem neemt een subtiele positie in tegenover deze figuren: hij is kritisch op ze, maar merkt ook op dat de „waanideeën’ van de transhumanisten” – die geloven dat de versmelting van mens en technologie op termijn alle beperkingen zal doen verdwijnen – ,,de waanideeën zijn van de hele mensheid sinds haar ontstaan”. De mensheid heeft er immers altijd al naar gestreefd om zich ‘alles’ toe te eigenen, inclusief de eeuwigheid en de oneindigheid. De futuristische projecten van Silicon Valley zijn daarom niets anders dan een technologische voortzetting van de puur cognitieve toe-eigening die al eeuwenlang door filosofen en wetenschappers wordt ondernomen.
Misschien is Kacems grootste verdienste dat hij laat zien hoe het pleonectische streven om grenzen te verleggen, dat zoveel vervelende neveneffecten met zich meebrengt, in het dna van de mensheid zit ingebakken. Daarom valt de drang om nieuwe technologie te ontwikkelen ook zo moeilijk te reguleren, stelt hij: de mens wil altijd maar weer vooruit. Alleen is de vooruitgang nu zodanig versneld dat de mens het allemaal niet meer bij kan houden: zijn bestaan wordt er ‘precair’ door en zou tot een voortijdig einde kunnen komen. De „immense machinerie van de pleonectiek” heeft ons in de greep, schrijft Kacem, maar de mens is niet in staat die machinerie beperkingen op te leggen. Toch is beperking „de enige serieuze ethisch-politieke inzet van onze tijd”, meent hij. Oftewel: „Wat gaan we collectief doen met God?”
Met die vraag laat Kacem de lezer achter, zonder iets van een antwoord te suggereren. Dat kun je een tekortkoming noemen. Er zijn ook wel wat andere zaken op dit boek aan te merken. Kacem springt erg snel van het ene idee naar het andere en daarbij strooit hij met namen en filosofische begrippen die niet elke lezer meteen zal kunnen thuisbrengen. Dat zorgt ervoor dat de tekst soms een nodeloos ingewikkelde indruk maakt.
De lezer die het spoor bijster raakt, kan gelukkig terugvallen op de uitstekende inleiding van Pieter Lemmens, die het boek ook vertaalde. Maar laat duidelijk zijn dat deze gebreken meer dan goed worden gemaakt door Kacems prikkelende en urgente ideeën. Wat hij schrijft mag allemaal hoogst speculatief zijn, de charmante brutaliteit die hij daarbij aan de dag legt zorgt voor een opwindende leeservaring.