Dat de Amerikaanse techgiganten een gevaar voor democratieën vormen, betoogde Marietje Schaake al in 2019. Daarmee was ze aanvankelijk een roepende in de woestijn, zeker in Silicon Valley, waar ze jarenlang woonde. Maar in de tweede termijn van Donald Trump wordt haar gelijk steeds duidelijker.
schrijft voor de Volkskrant over zingeving.
Daags voor haar aantreden in 2019 als directeur internationaal cyberbeleid aan de Stanford Universiteit moet ze het tijdens een symposium opnemen tegen Eric Schmidt, voormalig CEO van Google en adviseur van diverse Amerikaanse regeringen. Waar hij zich lyrisch toont over alle mogelijkheden die kunstmatige intelligentie (AI) biedt, is het aan haar als Europeaan te waarschuwen voor de schaduwzijden en om aan te dringen op regulering. Ogenschijnlijk een lastige opgave in het hart van Silicon Valley, met zijn ongebreidelde geloof in technologie: ‘Ik verwachtte dat zijn verhaal veel meer zou aanspreken, maar tot mijn stomme verbazing kreeg ik bijna een staande ovatie. Tientallen studenten kwamen op me af met vragen over grenzen aan technologie. Voor hun maatschappelijk engagement was tot dan toe nauwelijks plek.’
Aan haar Leidse jeugdjaren heeft de 46-jarige Marietje Schaake vooral de herinnering dat ze ‘heel verlegen’ was. Dat begint te veranderen wanneer zij, het oudste kind van een moeder die oncoloog en een vader die consultant was, op haar 17de uitvliegt naar de VS. Aan een bescheiden college in Springfield, Ohio, ervaart ze hoe stimulerend de Amerikaanse universiteitscultuur is: ‘Ik had docenten die in vuur en vlam stonden voor hun vak en mij uitdaagden me buiten mijn comfortzone te bewegen.’ Ook daar toont ze durf: ‘Er werd op die universiteit veel gesproken over gelijke behandeling. Een keer heb ik in de klas gevraagd: als we zo gelijk zijn, waarom zitten witte en zwarte studenten dan in de kantine aan aparte tafels? Het was alsof er een bom afging.’
In deze serie interviewt Fokke Obbema mensen die hun leven aan een ideaal wijden.
In Amsterdam ervaart ze vervolgens het Nederlands universitair onderwijs als ‘een koude douche’ – bij sociologie krijgt ze te horen dat een socioloog de straat op moet, ‘maar vervolgens gingen we nooit het klaslokaal uit, absurd’. Ze switcht naar amerikanistiek, ‘vooral uit nieuwsgierigheid naar een zo veelzijdig land met zulke grote problemen’. Ook wordt ze geselecteerd voor Humanity in Action, een van oorsprong Amerikaanse organisatie die jongeren het belang van mensenrechten en sociale rechtvaardigheid wil bijbrengen: ‘Er kwamen mensen op af die zich daarvoor interesseerden, het is zeer vormend voor me geweest. Ik heb er stages bij het Joegoslaviëtribunaal en het Amerikaanse Congres aan overgehouden, maar ook vrienden voor het leven. We discussieerden over vragen als: wat betekent verzet tegen onrecht in deze tijd? En: hoe hou je een samenleving open?’
Die vragen zijn actueler dan ooit, meent ze, nu Trump is herkozen: ‘Veel Amerikanen zijn bang geworden, ze durven zich niet meer uit te spreken.’ Nog voor diens tweede overwinning publiceert ze haar veelomvattende boek De Tech Coup, waarin ze uiteenzet op welke manieren technologiebedrijven een bedreiging voor de democratie vormen en wat daartegen valt te doen. Als digitaalbeleidexpert is ze nog altijd aan Stanford verbonden, maar ze opereert vanuit Nederland. De vraag naar haar opvattingen is zowel in de VS als Europa groot, ze adviseert onder meer de Franse president Macron: ‘Toen ik in 2019 op Stanford begon, was ik een roepende in de woestijn. Nu de machtsgreep door Trump veel directer en brutaler is dan mensen ooit voor mogelijk hielden, krijg ik vaak te horen: je had toch gelijk.’
Bent u verrast door wat er in de VS gebeurt?
‘In de vijf jaar dat ik op Stanford werkte, heb ik al met eigen ogen gezien hoe Trump-aanhangers in het Congres wetenschappers die zich met online desinformatie bezighielden onder vuur namen. Mensen werden rechtszaken ingesleurd, werden verhoord en zwartgemaakt in het Congres, dat hele onderzoeksveld is feitelijk lamgelegd. Dus ik had hun methodes al gezien. Nu Trump de macht weer heeft, spreek ik veel Amerikanen, inclusief collega’s, die echt bang zijn omdat ze van allerlei kanten dreiging op zich af zien komen. Werk je op een universiteit dan ben je kwetsbaar, zeker wanneer jij of je partner migrant is of je tot de lhbti-gemeenschap behoort. Mensen hebben het gevoel dat er met hagel op ze wordt geschoten.’
Ziet u een tegenbeweging ontstaan?
‘Nee, dat valt me echt tegen. Natuurlijk heb je nog een krant als The New York Times en het is belangrijk dat die overeind blijft, maar die bedient toch maar een bescheiden publiek. De kernvraag is: raken Republikeinen ervan overtuigd dat de essentie van de Amerikaanse samenleving en democratie op het spel staat? Of mag Elon Musk zonder enige tegenmacht blijven doorgaan met het slopen van de Amerikaanse overheid?’
Uw boek draait om het belang van die tegenmacht. Voor bigtechbedrijven als Google, X en Meta ontbreekt die al jarenlang, stelt u.
‘Die bedrijven doen alsof hun mensenrechten worden geschonden, zodra je enige vorm van verantwoordelijkheid van ze vraagt en voor toezicht pleit. Daarvoor krijgen ze nu de volle steun van de Amerikaanse regering. Vicepresident Vance vindt dat Europa moet samenwerken met de VS, maar dan wel volgens het Amerikaanse AI-model, dus zonder enige vorm van regulering. Krijgen die bedrijven mededingingsboetes dan rennen ze naar het Witte Huis, omdat ze zich oneerlijk behandeld voelen. Er is sprake van een volledige versmelting tussen regering en bigtechbedrijven. Europese regulering zien ze als een handelsbarrière. Wat dreigt is dat Europese medicijnen of machines duurder worden in de VS, omdat Europa aan wetgeving en handhaving daarvan doet. Zo’n prijs op beleid is nog nooit voorgekomen.’
U schrijft over de bedreiging van de democratie door technologie. Waar ziet u die concreet?
‘Er zijn vele voorbeelden. Neem de commerciële spionagesoftware waarmee technologiebedrijven aan kopers ervan de capaciteiten van een inlichtingendienst aanbieden, omdat je ermee kan inbreken op een laptop en telefoon, zonder dat het slachtoffer iets verkeerd hoeft te doen. Met die software hebben de kopers toegang tot alles, ook je meest intieme foto’s, contacten en correspondentie, het biedt enorme macht. Je kunt de bronbescherming van journalisten in gevaar brengen of rechters ermee bespioneren. Het ondermijnt dus het functioneren van de rechtsstaat. Je zou het willen verbieden, maar dat blijkt in de praktijk lastig.’
Hoe ziet u de impact van bigtechbedrijven?
‘Hun macht is buitensporig. Kijk je naar de beurswaarde van de tien grootste dan is die vergelijkbaar met de economieën van 27 EU-landen bij elkaar, alleen Microsoft is al ongeveer zo groot als het bnp van Frankrijk. Die enorme marktmacht vertaalt zich in politieke macht. Musk kan met zijn Starlink-satellieten beslissen of hij het internet voor Oekraïners al dan niet openhoudt en dat terwijl hij contacten met Poetin heeft. De macht van big tech zie je ook bij sociale media. Die vormen tegenwoordig voor veel mensen de belangrijkste bron van nieuwsvoorziening. Bij verkiezingen hangen op straat altijd de posters van alle partijen, maar online zorgt een algoritme ervoor dat je de hele tijd maar één poster ziet en het geluid van een enkele partij hoort – kijk maar op X, waar Musk zijn anti-Europese, extreemrechtse kijk pusht. Gebruikers accepteren wat ze op het internet zien als een soort waarheid, ze hebben veel te weinig zicht op de belangen die bij het programmeren van de algoritmes meespelen. Wat er op sociale media gebeurt, schuurt met het idee van een pluriform publiek debat.’
Musk is een extreem geval, hoe beziet u andere platforms?
‘Ook hun macht is zonder tegenmacht en daardoor slecht voor de democratie. Meta en Google vind ik ook problematisch. Een schokkend voorbeeld is hun besluit om niet langer leugens over de Amerikaanse verkiezingen van 2020 te weren. Dat maakten ze zo’n twee jaar voor de verkiezingen van 2024 bekend in een klein persbericht. Voor Trump was dat cruciaal, zijn op leugens gebaseerde ‘stop the steal’-verhaal kreeg een veel groter bereik. Met dat besluit anticipeerden Meta en Google toen al op zijn verkiezingsoverwinning. Dat zegt veel over hun bereidheid de democratie te willen verdedigen. Als ze het opportuun vinden laten ze iedere morele verantwoordelijkheid varen.’
U ziet ook een bedreiging voor de democratie in het uitbesteden door overheden (zoals de Nederlandse) van IT-systemen aan bedrijven. Hoe zit dat?
‘Kerntaken van de overheid zoals het innen van belasting worden met Amerikaanse techproducten uitgevoerd. In Nederland zijn we bijna voor honderd procent afhankelijk van Amerikaanse technologie, als je kijkt naar waar de overheid op draait – ministeries, scholen, ziekenhuizen, noem maar op. Dat betekent dat we veel kerninformatie overlaten aan private bedrijven die een heel andere doelstelling hebben dan de overheid. Bovendien weten die hun informatiepositie ten opzichte van overheden steeds verder te versterken, omdat de overheid zelf niet of nauwelijks techtalent ontwikkelt.
‘Er is blind op vertrouwd dat die Amerikaanse bedrijven veilig zijn en goede dienstverlening leveren. Het gevolg is dat de kennispositie van de overheid zozeer is verzwakt dat zij de grip op de eigen IT-systemen kwijt is geraakt. De Belastingdienst moest er jaren voor uittrekken om het eigen systeem te hervormen. Voor de democratie is dat een groot probleem. Belastingwetten die de Tweede Kamer aanneemt, kunnen daardoor niet worden uitgevoerd, een kerntaak van de democratische rechtsstaat. Bedrijven waarop de overheid heeft vertrouwd, lossen het probleem niet op, waardoor je als overheid zelf voor de schade opdraait.’
Zijn we naïef geweest?
‘Onze welwillendheid naar Amerikanen heeft ons zeker parten gespeeld. We vonden al hun technologie vooral mooi en handig, maar keken niet naar de achterliggende machtsdynamiek. Terwijl in de VS zowel Democraten als Republikeinen technologie altijd hebben gezien als een belangrijk instrument om de Amerikaanse macht wereldwijd te vergroten. Nu is Europa door Trump wakker geschud en wordt onze afhankelijkheid plots als een gigantisch risico ervaren. De Fransen hebben wel altijd die machtspolitieke kant van technologie gezien. Tot op de dag van vandaag wekte dat irritatie bij Nederland op, terwijl we eigenlijk royaal hun gelijk moeten erkennen. De Europese industriepolitiek die de Fransen altijd voor ogen hebben gehad, is op digitaal vlak zeer hard nodig.’
Voor onze toekomst met AI hamert u in uw boek op het belang voor Europa van het voorzorgsbeginsel.
‘Als je luistert naar AI-experts dan zeggen die: ‘Deze technologie is onvoorspelbaar, zelfs voor ons. We weten soms niet waarom ons model doet wat het doet.’ Bedrijven hebben een enorme drive hun vindingen zo snel mogelijk op consumenten uit te proberen, daarvan leren hun modellen. Maar het publieke belang is daaraan omgekeerd – je wilt dit soort innovaties eerst beter begrijpen, voordat je het op mensen loslaat. Vergelijk het met medicijnen van de farmaceutische industrie – we accepteren absoluut niet dat er eerst wat doden door een nieuw medicijn vallen. Op digitaal gebied moeten we toezicht op dit soort technologische innovaties gaan normaliseren, een toezichthouder moet ze eerst testen, het voorzorgsbeginsel vereist dat.
‘Ja, dat is tegen het zere been van de Amerikanen. Trump heeft de eerste pogingen tot AI-wetgeving al door de papierversnipperaar gedaan, allerlei toezichthouders worden ontmanteld. Dat maakt het alleen maar belangrijker dat Europa zijn eigen koers vaart en bijvoorbeeld voorkomt dat AI-toepassingen discrimineren. Dat gebeurt al en is onacceptabel. De gevolgen van dit soort innovaties voor de samenleving als geheel kunnen groot zijn. Dit is een slag die we niet mogen verliezen.’
Boekentip: How To Stand Up To A Dictator, Maria Ressa
Aanvankelijk zag de Amerikaans-Filipijnse journaliste Ressa sociale media als platforms voor vrijheid. Maar het regime van Duterte zette daarmee desinformatie als wapen in. Ressa reist vaak naar de Filipijnen, ook al riskeert ze lange gevangenisstraf. Ze laat zien hoe je tegen een dictator opstaat. Geef geen millimeter vrijheid weg, is haar credo.
Geselecteerd door de redactie
Source: Volkskrant