Kunstmatige intelligentie De razendsnelle versmelting van het Amerikaanse staatsapparaat met de grote AI-bedrijven heeft volgens Harvard-historicus Jill Lepore diepe wortels. „Het is uitgedraaid op vijf of zes kerels die geloven dat ze het lot van de mensheid controleren.”
Historicus Jill Lepore op Harvard University in september 2018
Overal op de handen en onderarmen van Jill Lepore zitten dikke klodders verf. „Ik ben net aan het schilderen geweest”, zegt ze vrolijk vanachter haar beeldscherm tijdens een videogesprek. Lepore (60) schildert ook nog even haar huis, naast haar lessen en onderzoek aan Harvard University, het schrijven van artikelen voor The New Yorker, en de promotie van haar nieuwe boek Opkomst en ondergang van de kunstmatige staat door.
In dat boek, op 6 oktober uit in Nederlandse vertaling, duikt de Amerikaanse historicus en jurist diep de geschiedenis in om de wortels te onderzoeken van wat de afgelopen maanden in een stroomversnelling raakt: de razendsnelle versmelting van het Amerikaanse staatsapparaat met de grote AI-bedrijven: de steeds inniger samenwerking tussen Silicon Valley en de regering-Trump. De ‘kunstmatige staat’ uit de titel definieert ze als „de overheersing van de mensheid door machines die door bedrijven zijn gemaakt”.
Die ontwikkeling heeft volgens haar verwoestende gevolgen voor de liberale democratische orde. Haar eerdere werk, onder meer haar veelgelezen boeken en artikelen in The New Yorker, gaan vaak over de historische principes en idealen van het land, en hoe die door allerlei politieke en economische ontwikkelingen onder grote druk zijn komen te staan. Ze won er eerder dit jaar een prestigieuze Pulitzer Prize mee. Volgens haar is wat er nu met AI gebeurt een grimmig maar logisch vervolg van een veel grotere beweging die de democratie in de VS ondermijnt.
„Voor mensen die al een tijdje letten op wat deze bedrijven zeggen en doen, is wat er nu gebeurt geen verrassing. Vorig jaar moest ik me nog met wat verbeeldingskracht voorstellen hoe mensen verontwaardigd zouden raken over de uitbouw van datacenters. Het leek mij wel heel waarschijnlijk. En toen, maanden nadat ik het boek had afgerond, begon het daadwerkelijk te gebeuren. Er zijn hier grote maatschappelijke protesten tegen datacenters.”
„Ze gaan door met het bouwen van die enorme datacenters om hun apparaten de kracht te geven om de hele mensheid te vernietigen. Ondertussen heeft ons Congres honderden wetsvoorstellen behandeld over de regulering van AI, maar er is er niet één aangenomen. Ze zijn met reces gegaan om terug te keren naar hun kiesdistricten en campagne te voeren voor herverkiezing. Vorige maand was er een motie om niet met reces te gaan, maar in plaats daarvan een debat te houden over een wet voor een kill-switch voor AI, een manier om de ontwikkeling te stoppen of pauzeren. Die motie werd weggestemd.”
„Mijn verklaring over hoe we op dit punt zijn beland, gaat terug tot de oudheid. Maar deze ontwikeling kwam in een stroomversnelling in de jaren tachtig en negentig: de opkomst van de pc, toen het internet, daarna sociale media, en nu AI. De opkomst van deze technologieën viel toevallig samen met de opkomst van de conservatieve beweging in de VS. Ronald Reagan werd gekozen in 1980 en bracht een libertaire toewijding aan deregulering naar Washington: het terugdraaien van met name de milieubeschermingswetten uit de jaren 60 en 70, maar ook het breder dereguleren van de economie.”
„De Apple Macintosh debuteerde in 1984, het jaar waarin Reagan wordt herkozen. Het internet ging midden jaren negentig open voor commercieel gebruik. Deze ontwikkelingen werden allemaal uitgerold in een tijd waarin deregulering en conservatisme de Amerikaanse politiek hebben overgenomen. Er hebben sindsdien uiteraard ook democraten in de regering gezeten, maar de algemene lijn van onze politieke economie is het geloof in deregulering.”
„Politici omarmden de zelfmythologisering van Silicon Valley: wij zijn slimmer dan de rest. Wij zijn zeker slimmer dan het Congres. Wij begrijpen dingen die jullie je niet eens kunnen voorstellen. Wat je ook doet, probeer vooral onze industrie niet te reguleren.
„In 1996 krijg je de beroemde Declaration of the Independence of Cyberspace, waarin staat: „Er is eenvoudig geen plaats voor wetten in dit nieuwe Wilde Westen van de cyberspace. Hier zullen nooit wetten komen, omdat we eindelijk bevrijd zijn van de administratieve staat, van de totalitaire staat. We krijgen deze heilige, libertaire, wetteloze plek waar alles prachtig zal zijn.”
„Ons internet had op heel veel andere manieren kunnen worden gebouwd. We kregen internet zonder regels, omdat de Amerikaanse politiek er zo uitzag. De computerpioniers zeiden: vertrouw ons maar, jullie begrijpen dit niet, wat wij doen is goed voor de democratie.”
„Het ligt niet aan de technologie zelf. Al deze technologieën hadden anders gebruikt kunnen worden. Ze kunnen nog steeds anders worden ontwikkeld of herontwikkeld. Maar ik geloof niet dat die beloften oprechtwaren, het was een marketingtruc. Facebook is een reclamebureau.
„Het is uitgedraaid op vijf of zes kerels die geloven dat ze het lot van de mensheid controleren: AI gaat de armoede uitbannen, AI gaat klimaatverandering oplossen. En toch behoren zij tot de mensen in onze wereld die het minst geneigd zijn om armoede uit te bannen of klimaatverandering op te lossen.”
„Wat meer aandacht mag krijgen is onze eigen individuele overgave aan hun macht. We hebben onze autonomie ingeleverd, onze plichten als burger verzaakt, en toegestaan dat de automatisering van onze sociale relaties onze gemeenschappen en lokale kranten vernietigt, en ons vervreemdt van vrienden en familie. Mensen zijn bereid schadelijke gevolgen te accepteren omwille van het gemak. Het is dus heel makkelijk om Amerikaanse bedrijven en techbro’s de schuld te geven, en dat moeten we ook doen, en ze moeten ter verantwoording worden geroepen. Het is ook ontzettend belangrijk om het Congres ter verantwoording te roepen. Maar er is een grotere, diepere vraag over onze eigen deelname aan onze ontmenselijking.”
„Mensen kunnen in hun eigen leefomgeving die beslissing nemen. Laat ik het bij mezelf houden, ik geef les aan een universiteit. Die heeft contracten met AI-bedrijven die onze studenten AI-accounts aanbieden om mee te experimenteren. Dit in een tijd waarin we personeel ontslaan en onderzoeksbudgetten zijn bevroren. Als docenten is ons verteld dat we zelfs in schrijfintensieve vakken het gebruik van AI moeten aanmoedigen.
„Dat ga ik mooi niet doen. Vorige week wees ik in een artikel voor onze studentenkrant op het opkomende onderzoek waaruit blijkt dat het vertrouwen op deze hulpmiddelen tijdens het leren, met name voor kinderen en jonge mensen, gepaard gaat met een enorme cognitieve verschraling. In de literatuur wordt dit soms cognitive surrender (cognitieve overgave) genoemd: mensen leveren grote delen van hun denkwerk over aan AI.”
„De sfeer van onvermijdelijkheid is een enorm groot onderdeel van de mythevorming rond Silicon Valley. Het idee dat je nee zou kunnen zeggen tegen een opkomende technologie omdat die te gevaarlijk is, leeft op andere terreinen wél. In de natuurkunde kwamen er regels over nucleaire proliferatie na Hiroshima. In de scheikunde en biologie weten we dat we geen ziekteverwekkers moeten kweken of chemische wapens moeten bouwen.
„Waarom heeft de computerwetenschap geen regels? Ik heb altijd gedacht dat de computerwetenschap ook haar Hiroshima, haar Agent Orange-moment [de gruwelijke inzet van chemische wapens in de Vietnam-oorlog] zou krijgen, en dat daarmee ook een massale herijking gepaard zou gaan. Eerlijk gezegd, tamelijk naïef, verwachtte ik dat na het schandaal rond Facebook en Cambridge Analytica in 2016, waarbij op grote schaal persoonsgegevens werden gebruikt voor politieke manipulatiecampagnes. Er kwam geen afrekening. Mark Zuckerberg ging naar het Congres, en ze begrepen niet eens wat Facebook was.”
„Maar denk er eens over na hoe laat het is. Binnen de industrie spreken mensen al decennia over superintelligentie en mogelijke situaties waarin we de controle verliezen.
„Let wel: deze mensen werken niet aan universiteiten. Ze leggen geen verantwoording af aan de buitenwereld, er zijn geen peer reviews. Hun werk hoeft niet verifieerbaar, gepubliceerd en openbaar te zijn. Er is geen transparantie, geen verantwoordingsplicht. Net als hun voorgangers in de tech-wereld zijn ze aan niets onderworpen dan aan hun eigen morele vangrails. En ze zeggen vaak: nou, als de regering ons wil reguleren, dan kan dat toch. Wetende dat dat niet écht gaat gebeuren.”
„Een deel van de reden dat ik het boek schreef, was dat ik het gevoel had dat ik echt moest begrijpen waar het vandaan komt. Maar het is voor mij een fundamenteel vreemde manier van denken over de wereld.”
„Er is een mooie zin van natuurschrijver Wendell Berry. Hij zegt dat we bewegen naar een toekomst waarin mensen één van twee dingen zullen zijn: ‘Sommigen zullen wezens (creatures) zijn en anderen zullen machines zijn’. Ik sta aan de kant van de levende wezens. Bij de supermarkt kun je naar de zelfscankassa gaan, of je kunt in de rij gaan staan. In de rij ga je praten met andere mensen: de caissière, misschien iemand die de boodschappen inpakt. Misschien wordt het geen geweldig gesprek en de zelfscankassa is waarschijnlijk sneller, maar je praat met iemand in je gemeenschap.
„We raken van elkaar vervreemd. Zoveel van onze interacties met andere mensen verlopen via machines in plaats van face-to-face. Covid heeft dit echt versneld. We hebben de vervanging van menselijke interactie door machines geaccepteerd, alsof dat de voorkeur verdient. Het is te prefereren als je een bedrijf bent dat zo goedkoop, efficiënt en snel mogelijk widgets wil produceren. Maar is het te prefereren als mens? Is het een betere manier om ons leven te leiden?”
„Trump, die letterlijk miljarden dollars heeft verdiend aan crypto en andere constructies die de medeplichtigheid van Silicon Valley vereisen, heeft geen enkel verstand van kunstmatige intelligentie of de gevaren daarvan. Maar Trump houdt van winnen, dus praat hij graag over winnen op het gebied van AI.”
„Hij is een genie, een echt genie. Zijn antwoord op de mogelijke uitroeiing van de mensheid onder zijn bewind is: wees niet bang, ik ben de vangrail. Dat was ook zijn antwoord over de grondwet in de VS. Hij is de vangrail. We hebben in de VS geen grondwet nodig, want we hebben Trump.”
„Ik kan echt niet voorspellen wat er hierna gaat gebeuren. Ik denk wel dat er veel druk zal komen te staan op de midterms, onze tussentijdse verkiezingen in november. Het verhaal hier op straat is dat deze verkiezingen een referendum zijn over Donald Trump, maar ik denk dat ze minstens zo goed een referendum over AI zijn.
„Uit een gevoel van plicht tegenover lezers, en met name tegenover jonge mensen, heb ik een nawoord geschreven dat de mogelijkheid voorstelt om te stoppen met de bouw van deze compleet nieuwe manier van leven op deze planeet, een manier waarvan ik denk dat de meeste mensen op aarde er geen enkele interesse in hebben. Wie wíl dit nou? Om simpelweg te zeggen: „Ja, het is over” leek me onverantwoord.”
„Die vraag sla ik over.”
„Dat kan ik wel. Ik kan doen wat ik wil.
„Ik was laatst op een bijeenkomst en iemand kwam naar me toe en zei: ‘Mijn kind kwam binnen van de hockeytraining en vroeg: gaan we allemaal dood?’ Wat zeg je dan? Je moet zeggen: nee, we gaan vechten om niet allemaal dood te gaan. Je kunt niet zeggen: ik haat die eikels, ja, ze gaan ons allemaal vermoorden.”
Jill Lepore is hoogleraar Amerikaanse Geschiedenis aan Harvard University, hoogleraar Rechten aan Harvard Law School en als vaste auteur verbonden aan het tijdschrift The New Yorker. Ze schreef veelgelezen historische boeken zoals These Truths: A History of the United States (2018). De vertaling van haar nieuwste boek, Opkomst en ondergang van de kunstmatige staat, is op 6 oktober verschenen bij De Arbeiderspers.
Correctie (10-10, 8:35u) In een eerdere versie stond de onvolledige boektitel. Lepores nieuwe boek heet Opkomst en ondergang van de kunstmatige staat. Hierboven is dat aangepast
Bij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Meer informatie