AI Als er iets is wat we direct uit Silicon Valley kunnen overnemen wat betreft AI, is het wel het denken in mogelijkheden en het uitstralen van zelfvertrouwen, schrijft Marietje Schaake.
De tweede editie van de International Exhibition on Artificial Intelligence, Defence and Space in Abidjan, Ivoorkust.
De afgelopen jaren heb ik de buitensporige macht van technologiebedrijven als bedreiging voor de democratie onderzocht, beschreven en uitgedaagd. In zalen en zaaltjes, aan bestuurs- en koffietafels, sprak ik allerlei mensen over hoe zij over AI en andere technologieën denken. De verwachtingen van meer efficiëntie en spectaculaire doorbraken zijn enorm, maar ook de zorgen zijn groot. Onder journalisten en mensenrechtenverdedigers, onder ouders en bestuursvoorzitters. De een wijst op het einde van nieuwsmedia, de ander op discriminatie van minderheden. Ouders zien banen voor hun kinderen verdampen en bedrijven vrezen dat de waarde die AI-bedrijven creëren alleen aandeelhouders in Silicon Valley ten goede komt.
Marietje Schaake is fellow aan het Institute for Human-Centered Artificial Intelligence aan Stanford University en was Europarlementariër voor D66. Ze bracht deze week een nieuw boek uit: De Machtscode (uitgeverij De Correspondent).
Zodra ik de kansen benadruk die grotere onafhankelijkheid en meer Europese techopties bieden, verandert er iets bij de mensen met wie ik spreek. Murw van alle negatieve frames over Europa, met de nadruk op wat we niet kunnen, het idee dat we te laat zijn, te bureaucratisch en te log, snakken ze naar een wenkend perspectief. Wanneer het over kansen gaat, veren ze op en komen met ideeën. We verlangen naar een positieve AI-agenda.
Om een positieve agenda vorm te geven, moeten we met een open en onafhankelijke blik naar AI kijken. Een van de hardnekkigste denkkaders in het AI-debat is het beeld van een race: een race om marktmacht, een race om geopolitieke dominantie. AI-bedrijven beconcurreren elkaar op het scherpst van de snede en de VS en China zetten AI in als instrument voor hegemonie. Als wij de gedroomde finishlijn van anderen overnemen, accepteren we ook hun spelregels. Die richten zich op het vergroten van winst en schaal en het minimaliseren van verantwoordelijkheid en aansprakelijkheid. Of ze maken AI tot vehikel van staatsmacht en jagen wereldwijde dominantie na.
De racemetafoor is bovendien een afleidingsmanoeuvre die de huidige koplopers goed uitkomt. Op weg naar de eindstreep is wetgeving een obstakel. Wie zijn ogen op het doel heeft, is bereid in de tussentijd offers te vragen. Maar voordat we af racen op baanbrekende nieuwe capaciteiten van het volgende ongekende model moeten we ons afvragen wat AI-succes eigenlijk is voor ons als maatschappij. We moeten daarnaast ook scenario’s ontwikkelen voor wat het uiteenspatten van grote AI-beloftes zou betekenen. Dit soort vragen staat nauwelijks op de politieke agenda. In Nederland staat AI niet in de top tien van politieke prioriteiten. Ondertussen is het chefsache in China en de VS en riskeren we in een gekoloniseerde positie terecht te komen. Wie denkt in termen van eigen kracht en ambities, uitgaand van wat onze samenleving biedt en wat zij nodig heeft, beweegt zich naar een resultaat dat echte winst zou betekenen.
De first movers op het gebied van AI hebben inmiddels grote winsten geboekt, maar laten ook een spoor van vernieling achter. Discriminerende algoritmes merken etnische minderheden buitenproportioneel vaak aan als verdachten van misdrijven. Chatbots duwen tieners richting zelfverminking en zelfs suïcide. Generatieve AI heeft het vaak mis en in het geval van bijvoorbeeld gezondheidsinformatie kan dat gevaarlijk zijn. Er zijn zorgen over cybersecurity en nationale veiligheid. Enorme hoeveelheden elektriciteit, data en water worden opgeslurpt voor de ontwikkeling van AI-modellen. We moeten niet alleen kijken naar hoeveel efficiëntie-winst AI oplevert, maar ook naar de verdwijnende banen, de concentratie van macht en de vraag wie de rekening betaalt.
Allerlei uitruilen worden dagelijks gemaakt, maar zonder politiek debat en zonder heldere keuzes met een mandaat van burgers. Als waarde wordt gecreëerd door een bedrijf buiten Nederland, geleid door een Peter Thiel of Sam Altman, die de regering-Trump actief steunen in het onderuithalen van de EU, wat winnen we dan met blinde AI-adoptie? Verliezen we dan niet aan de andere kant? De Nederlandse overheid geeft jaarlijks tientallen miljarden uit aan IT. Een substantieel deel daarvan vloeit nu naar Amerikaanse techbedrijven. We subsidiëren daarmee de beurswaardes en de groei van de Amerikaanse economie en geven de regering een pressiemiddel om ons mee onder druk te zetten.
De bouwstenen voor een kansgedreven digitale agenda zijn er volop in Nederland, maar ze missen richting en politiek leiderschap op het hoogste niveau.
Stel je voor dat premier Jetten, met hetzelfde zelfvertrouwen en optimisme waarmee hij campagne voerde, AI-beleid als politieke prioriteit gaat omarmen. Dat naast de staatssecretaris voor digitale economie álle ministers dat doen, vanuit de relevantie van hun eigen portefeuille. Dat het ook echt een zichtbare topprioriteit voor ons land wordt. Dat Jetten richting geeft die voortbouwt op het belang van het versterken van democratie en publieke waarden in de digitale wereld, zoals Bits of Freedom, PublicSpaces en Waag Futurelab dat al doen. Hun werk en visies zouden vleugels krijgen.
Het zou een nieuwe verhouding inluiden tussen tech en de publieke sector, de publieke omroepen, onderwijs, zorg en cultuur. Met een ambitieuze tijdslijn waarlangs belangrijke overheidsdiensten zoals die van de Belastingdienst, het UWV of de Sociale Verzekeringsbank de transitie maken naar soevereine techopties, worden niet alleen de belangen van burgers beter beschermd, ook worden daarmee signalen aan de markt gegeven. Zeven Nederlandse bedrijven lieten deze week zien hoe groot die kans is, met de aankondiging van de Open Cloud Alliantie.
Door aanbestedingsregels te herzien in het licht van de geopolitieke realiteit koppelen we onszelf af van het giftige Amerikaanse techinfuus. Het is belangrijk dat er naast de juiste woorden in het regeerakkoord ook een helder signaal gaat naar ambtenaren, dat digitale soevereiniteit er echt toe doet en dat er tussen ministeries, ons bedrijfsleven en publieke instellingen goed wordt gecoördineerd.
Digitale soevereiniteit zal een investering vragen. Niet alleen uit de begroting, maar ook in onze manier van werken. Daar moeten we niet voor terugdeinzen omdat de belangen groot zijn. Oorlogen beperken zich niet tot een slagveld met tanks en gevechtsvliegtuigen, maar worden ook met hybride methoden en via informatiestromen gevoerd. We moeten niet alleen het strijdtoneel, maar ook de manieren die we hebben om onszelf te verdedigen veel breder zien. Onze afhankelijkheid kan eenvoudig tot wapen worden gemaakt. Neem als voorbeeld alle online communicatie. Welke politicus of activist, krant of journalist kan een publiek bereiken zonder? Hoe verdedigen we ons tegen algoritmische manipulatie?
Door defensiegelden te oormerken zodat die ook besteed kunnen worden aan digitale autonomie, erken je de systemische impact van technologie. Techopties die binnen ons eigen rechtsgebied vallen, zijn daarmee een integraal onderdeel van democratische weerbaarheid en dus van onze verdediging.
450 miljoen rijke Europeanen hebben meer eigen opties nodig. De combinatie van marktmacht en de impact van normen geeft Europa een onderscheidende positie waarbinnen we geloofwaardig de veiligste en betrouwbaarste producten kunnen ontwikkelen. Met het bouwen van alternatieven in plaats van de nadruk op het (de)reguleren van bestaande bedrijven ontstaat een nieuwe realiteit.
Nederland kan binnen de EU koploper worden door verstroopte plannen vlot te trekken, zoals de opdracht die Mario Draghi meegaf in het wegnemen van barrières in de interne markt en het versnellen van een Europese spaar- en investeringsunie. Ons land wordt met ASML en andere succesvolle bedrijven, onze internetknooppunten, universiteiten en rijke institutionele investeerders al gezien als belangrijke speler. Nu moeten we die rol zelf nog omarmen.
Canada koos onlangs expliciet voor een principiële koers tegenover het Amerika van Trump en voor het ontwikkelen van een coalitie die de rol van de gebroken Westerse alliantie vervangt. Premier Mark Carney zette met zijn gevierde speech in Davos een middenmachtenvisie in, weg van de klem tussen ‘hegemonen en hyperscalers’. Deze agenda kan Nederland als koploper in Europa naar zich toe trekken, ook op het gebied van techbeleid. Door gedeelde standaarden, onderlinge interoperabiliteit, capaciteitsbundeling en gezamenlijke initiatieven in VN-, OESO- en WTO-verband vormen we zo een motorblok binnen een sterke alliantie. Nostalgie moet plaatsmaken voor daadkracht.
Europese waarden zoals databescherming, het hooghouden van fundamentele rechten, bouwen aan duurzame oplossingen, respect voor mededingingsregels en AI-veiligheidseisen hoeven geen rem op innovatie te zijn, ze kunnen die zelfs ondersteunen door vertrouwen te verhogen. Door een echt alternatief te bieden. Kleinere, gespecialiseerde modellen die zijn getraind op specifieke data en voor precieze taken blijken in de praktijk vaak nauwkeuriger en goedkoper dan de grote generieke varianten. Bedrijven die al gereguleerd worden, zoals banken of farmaceuten, kunnen zich bovendien helemaal niet veroorloven om met platforms te werken die al hun kennis en data opslokken en vervolgens maar te hopen dat die compliance- en aansprakelijkheidseisen net zo serieus nemen. Ruimtelijke AI, die fysieke processen aanstuurt, wordt steeds belangrijker. Dat is voor onze industrie een niche om te ontwikkelen. We hebben de eerste golf van AI-groei niet naar ons toe getrokken, maar met volgende innovatiegolven kunnen we dat zeker wel doen.
Als er iets is wat we direct uit Silicon Valley kunnen overnemen, is het wel het denken in mogelijkheden en het uitstralen van zelfvertrouwen. Niet als clowneske vertoning, maar als overtuiging van ons welbegrepen eigenbelang.
Momenteel wordt te veel van het AI-succes gemeten in termen van maximale bedrijfswinsten, marktaandeel of de snelheid ten opzichte van de concurrent. Een maatschappijbrede definitie van succes waaronder ook het versterken van nationale veiligheid, het behoud van ons sociaal contract, het beschermen van burgerrechten en het weerbaar houden van de democratie valt geeft antwoord op het geopolitieke momentum waarin we ons bevinden. Succes moet worden gebouwd op een democratische fundering, met als doel dat AI de belangen en diversiteit van onze samenleving weerspiegelt en versterkt, problemen oplost in plaats van creëert, en onze rol in de wereld verstevigt.
Europa heeft de kans om te laten zien dat de keuze er niet een is tussen innovatie en democratie. Laten we stoppen met afwachten en ophouden ons te laten gebruiken als speelbal van anderen. We kunnen het initiatief om AI vorm te geven langs onze eigen behoeften en waarden naar ons toe trekken. Dat is een grote kans, maar helaas ook een bittere noodzaak.
Doorzie de wereld van technologie elke week met NRC-redacteuren