AI Vooralsnog zijn het de ondernemers áchter de technologische revolutie die een minachting voor onze menselijkheid hebben, schrijft Bas Heijne.
Hoe bang moeten we zijn voor AI? Zo’n tien jaar geleden interviewde ik Nick Bostrom, auteur van het in die tijd spraakmakende Superintelligence (2014). In dat boek boog hij zich als een van de eersten over de vraag die ons nu uit de slaap houdt: wat te doen wanneer machines intelligenter worden dan mensen?
Bas Heijne is essayist en redacteur van NRC.
Wat betreft Bostrom, die zetelde in een speciaal voor hem opgetuigd onderzoekscentrum in Oxford dat ronkend Future of Humanity Institute heette, was de suprematie van kunstmatige intelligentie geen speelse hypothese. Het was een keihard gegeven. De vraag was niet óf, maar wannéér. Hoe om te gaan met die nieuwe staat van horigheid? Hoe te voorkomen dat de machine op een gegeven moment zich tegen de mens zou keren?
Ons gesprek werd gefilmd voor de VPRO-documentaire De Volmaakte Mens. Bostrom, een lange, kalende man met een opvallend hoog voorhoofd, werkte alleen ’s nachts. In zijn kantoor liet hij de speciale lampen zien die hem tijdens de nachtelijke uren van artificieel zonlicht voorzagen, zodat hij geen tekort aan vitamine D zou krijgen.
Zijn boek was bepaald geen pageturner, mijn hersens kraakten, maar de algemene strekking liet zich gemakkelijk samenvatten: wanneer we AI zijn gang lieten gaan, zou die een eigen logica kunnen ontwikkelen waarin voor de mens helemaal geen plaats meer was. Het was heel goed mogelijk dat kunstmatige entiteiten zich op een gegeven moment tegen ons zouden keren. Help! Daarom moesten we ervoor zorgen, aldus Bostrom, dat we kunstmatige intelligentie vanaf het begin onze menselijke waarden meegaven, zodat ook de machine die ons in denkcapaciteit ver zou overtreffen, uiteindelijk humaan zou zijn en ons zou respecteren. Dat was mogelijk, maar dan moesten we er wel meteen werk van gaan maken.
Dezelfde Nick Bostrom kwam ik onlangs weer tegen in Muskisme; een gids voor de verbijsterden (2026) van Quinn Slobodian en Ben Tarnoff. De rijkste man ter wereld bleek een fan van Superintelligence. Ook Elon Musk maakte zich aanvankelijk zorgen over de dreigende hegemonie van AI. Via een van zijn organisaties had hij indertijd flink aan Bostroms instituut gedoneerd (dat in 2024 werd opgeheven).
De auteurs van Muskisme laten zien dat de Zuid-Afrikaanse techbaas er eveneens van overtuigd was dat wij mensen de gevaren van AI het hoofd konden bieden – niet door streng te reguleren, maar juist door onszelf er nauw mee te verbinden, de machine als het ware te impregneren met onze menselijkheid. Volgens Musk zijn wij mensen steeds meer cyborg, mens-machine, iets dat moet worden aangemoedigd. Nu al verknoopt onze geest zich dagelijks innig met technologie. Sociale media zijn er voor Musk een teken van. Zijn X moest ongehinderd ruimte bieden aan de menselijke geest, vrijheid van meningsuiting bieden zonder enige restrictie.
Maar Musk – en de andere ondernemers en ideologen in Silicon Valley, waar Bostroms boek gretig werd gelezen – hebben het gedachtegoed van Bostrom in de jaren die volgden volledig geperverteerd. Bostroms hoop was dat we de machine menselijk konden maken voor het te laat was, maar in werkelijkheid zijn Musk en de zijnen mensen steeds meer als machines gaan zien. Zoals de auteurs van Muskisme het in een interview met NRC uitdrukken: „Musk ziet de samenleving en de staat als een verzameling computers. Als je de maatschappij wilt veranderen, moet je de juiste computers in handen krijgen en die herprogrammeren. Maar dat is een mismatch met hoe samenlevingen echt werken.”
Hoe kon dit gebeuren? Al tijdens mijn interview met Nick Bostrom tien jaar geleden begon het te jeuken. Menselijke waarden meegeven aan AI, wie zou ertegen kunnen zijn? Maar om wélke waarden ging het eigenlijk precies? En de waarden van wélke mensen? De waarden van de Paus, van Trump, van Poetin? De waarden van Beatrice de Graaf? Of van Victor Vlam?
Briljant als hij ongetwijfeld was, hierin leek Bostrom me vaag en naïef. Zijn eigen volgeling Musk zag, zo blijkt uit Muskisme, zijn technologisch paradijs al snel bedreigd door dissonante stemmen die hij als gevaarlijk beschouwde. Mensen die er andere waarden op nahielden dan hij werden tot vijanden verklaard. Het was dan ook snel gedaan met zijn geloof in onbeperkte vrijheid van meningsuiting. Een paar jaar geleden begon hij ineens wild te tweeten over het zogenaamde „woke mind virus” dat in zijn technologische universum was geïnfiltreerd en dat koste wat kost moest worden uitgeschakeld. In de geest van de verwoede gamer die hij zegt te zijn, stelde hij het voor als een existentiële strijd – niets minder dan het voortbestaan van onze beschaving hing ervan af: „We need to defeat the woke mind virus”. En: „The woke mind virus is either defeated or nothing else matters.” Het techvisioen van een ongebreidelde expansie van de menselijke geest sloeg om in een fascistoïde angstdroom over vijandige virussen die een gezonde geest dreigen aan te tasten.
Om die uit te bannen moesten de algoritmen flink worden bijgestuurd. Gebruikers van X die Musk onwelgevallige meningen verkondigden – over Trump, over Oekraïne, over Musk zelf – werden gemarginaliseerd. Musks eigen chatbot Grok begon de extreme opvattingen van Musk te verkondigen. In een digitale roes verheerlijkte Grok op een gegeven moment Adolf Hitler. De hoogstaande menselijke waarden waar Bostrom zich sterk voor maakt, legden het af tegen de meest basale instincten. Via Musks chatbot kon je mensen die je zonder succes begeerde, mensen die je haatte en mensen die je wilde vernederen, virtueel uitkleden en seksueel manipuleren. Na hevige protesten paste Musk zijn beleid aan. Je kunt nog steeds de objecten van je begeerte of haat seksueel vernederen, maar nu alleen nog achter de betaalmuur.
Menselijk, al te menselijk. Het gevaar waar Bostrom voor waarschuwde, computers die zich met een eigen logica aan de controle van de mens zouden ontglippen en zich tegen de mens zouden keren, blijkt voorlopig een stuk prozaïscher: het zijn voorlopig nog gewoon de mensen zélf die van nieuwe technologie iets heel lelijks maken.
Zoals dat gaat met revoluties: uiteindelijk keren die zich radicaal tegen degenen die de utopie dreigen te verstoren. Ook in de radicale vergezichten van de techideologen is uiteindelijk geen plaats voor „menselijke waarden”, en wordt de mens algauw gezien als iets dat hinderlijk in de weg zit – en dus er dus maar beter stevig onder gehouden kan worden.
De aloude verwachting dat technologische vooruitgang ook meteen tot een vergaande verbroedering van de mensheid zou leiden (al na de opening van het Suez-kanaal in 1869 bezong de Amerikaanse dichter Walt Whitman een wereld waarin mensen elkaar eindelijk snikkend in de armen zouden vallen), is omgeslagen in Hobbesiaanse koortsdroom: we zijn verwikkeld in oorlog van allen tegen allen.
Voor de late Musk kan zijn technologische utopie alleen werkelijkheid worden, wanneer hinderlijke tegenstemmen het zwijgen wordt opgelegd. Van een liberale techoptimist tijdens de Obama-jaren veranderde hij in een rabiate potentaat.
In die omslag lijkt hij verdacht veel op Mr. Kurtz, de ontspoorde handelsagent in Joseph Conrads klassieker Hart der duisternis (1899). Die is naar de binnenlanden van Congo gereisd om ivoor op te kopen, maar tegelijk op een beschavingsmissie gestuurd door een organisatie „ter onderdrukking van barbaarse praktijken”. Wanneer de verteller Marlow, die een inmiddels doodzieke Kurtz moet ophalen, op het rapport stuit dat Kurtz voor zijn opdrachtgever schreef, treft hij een manuscript aan vol verheven taal over beschavingsidealen. Marlow is oprecht getroffen door de welsprekendheid van Kurtz, zijn verlichte woorden over zijn hoogstaande humanitaire missie. Alleen ontbreekt het, moet hij toegeven, wel aan praktische voorstellen. Of, zegt hij, het moet dat ene zinnetje zijn dat in een woest handschrift in de marge is gekrabbeld: Exterminate all the brutes.
Uitroeien die beesten – een dodelijker kritiek op de hoogmoed van de Verlichting ben ik nooit tegengekomen.
Vooralsnog zijn het de ondernemers achter de technologische revolutie die een Kurtz-achtige minachting voor onze menselijkheid aan de dag leggen. De auteurs van Muskisme leggen het goed uit: „Als mensen als Peter Thiel of Alexander Karp (oprichters van het bedrijf Palantir, dat organisaties in staat stelt grote hoeveelheden data te analyseren) over de toekomst spreken, zijn de rechten van individuen volledig verdwenen. Het sociale contract dat ze aanbieden gaat helemaal niet meer over meritocratie, welvaart of sociale mobiliteit. Ze verkopen hun diensten niet als een opstapje naar een betere, welvarende toekomst, maar als een manier om jezelf te verdedigen tegen bedreigingen in een gevaarlijke wereld. Daarom moeten staten afhankelijk gemaakt worden van de technologie van Palantir.”
De komst van nieuwe technologie gaat vaak gepaard met de angst dat die in verkeerde handen zal vallen. In de techwereld is dat gewoon al gebeurd. We stonden erbij en keken erna, meestal met open mond en applaudisserend. Musk, Zuckerberg, Altman, Karp, Thiel – zij zijn het die zich tegen ons hebben gekeerd, zij zijn het die spugen op Bostroms menselijke waarden. Zoals Musk rabiaat tekeergaat tegen het woke mind virus, zo spreekt Thiel tegen wie het maar horen wil over de Antichrist die zich reeds in ons midden zou bevinden, vorige maand nog in maar liefst vier besloten lezingen in Rome. In de webwinkel van Palantir, bericht The Wall Street Journal, kun je een T-shirt kopen met het hoofd van Alexander Karp, met als onderschrift ‘DOMINATE’.
Langzaam worden we wakker. In The Economist van afgelopen week wordt gesproken van ‘The Mythos Moment‘, naar aanleiding van de beslissing van Anthropic, een van de grote AI-ondernemingen, om voorlopig af te zien van een brede verspreiding van Mythos, een AI-model dat feilloos de zwakke plekken in cybersecurity kan blootleggen. „Als het in verkeerde handen valt, vormt Mythos een bedreiging van kritieke infrastructure, van banken tot ziekenhuizen.”
Exterminate all the brutes. Het is veelzeggend dat The Economist, een blad dat lange tijd de vrije markt als zaligmakend beschouwde, ongehinderd door overheidsbemoeiens, nu spreekt over een wake-upcall. Volgens het blad is het tijd laissez-faire nu eindelijk eens in te ruilen voor een strenge regulering. Rijkelijk laat, maar beter laat dan nooit. Vooralsnog is het niet de machine die ons bedreigt in ons bestaan. Het is gewoon nog de mens die aan de knoppen zit.