Militaire AI Amerikaanse militairen willen meer AI en cyberwapens inzetten, samen met de comnerciële techsector. Maar de angst voor de ongeremde inzet van kunstmatige intelligentie groeit, zelfs bij de regering-Trump.
Amerikaanse commando’s bij een presentatie van de Special Operation Forces in Tampa, Florida.
Anthony Fleming koos een strategische plek om zijn campingtafeltje uit te klappen. Hij staat langs het voetpad midden op de National Mall in Washington, het uitgestrekte grasveld tussen het Congres en het Witte Huis. Zijn missie: handtekeningen verzamelen om de ongereguleerde opmars van kunstmatige intelligentie te stoppen. Zijn wapens: folders, buttons en een goed gesprek.
Fleming is de regionale coördinator van Pause.AI. Samen met twee andere jonge vrijwilligers haalt hij op een zaterdagmiddag in mei zestig steunbetuigingen op. Niet slecht, vinden ze.
De Pause.AI-beweging startte in Nederland maar vindt ook weerklank in de VS. In het land waar ChatGPT werd geboren, lijkt niets de AI-race nog af te remmen; techbedrijven steken honderden miljarden dollars in nieuwe datacenters en hun AI-modellen worden gretig omarmd door het Pentagon.
„Gewone Amerikanen zien liever dat het bedrijfsleven minder hard van stapel loopt.”, zegt Fleming. „Er is veel lokaal protest tegen de grote datacenters, en een groeiende angst dat AI je werk overneemt of je kinderen tot zelfmoord kan drijven.”
De AI-sector kreeg van de tweede regering-Trump ruim baan en alle regels die de regering-Biden opstelde om AI veilig te houden, gingen de prullenbak in. Maar Fleming voelt dat er verandering in de lucht zit. Hij put moed uit de aanvaring tussen het Pentagon en Anthropic. Deze toonaangevende AI-ontwikkelaar weigerde producten te leveren die massasurveillance ondersteunen, of de inzet van dodelijke autonome wapens mogelijk maken. Het Pentagon was van plan Anthropic in de ban te doen: militairen willen zich niet door een leverancier laten voorschrijven hoe ze hun wapens inzetten.
Maar toen kwam Anthropic met Mythos op de proppen, een AI-model dat razendsnel kwetsbaarheden in software opspoort, informatie waarmee je cyberaanvallen kunt ontketenen. Mythos zou zo’n krachtig wapen zijn dat voorlopig een beperkt aantal partijen toegang tot de software krijgt, waaronder Amerikaanse veiligheidsdiensten.
„Mythos was een waarschuwingsschot voor de overheid: ze zien nu in dat AI ook een gevaar kan zijn. Dat zet verandering in gang”, hoopt Fleming. Zijn voorgevoel lijkt te kloppen: afgelopen week tekende president Trump een decreet om AI-modellen die als cyberwapen kunnen dienen, vooraf te controleren via een ‘clearinghouse’. Zo kunnen instellingen die vitale infrastructuur beheren als eerste hun software repareren. De AI-bedrijven moeten ‘vrijwillig’ meewerken. Al is het voorzichtig, het is de eerste keer dat Trump de teugels aantrekt.
De Amerikaanse techreuzen hielden zich lange tijd ver van militaire toepassingen, uit angst voor reputatieschade of boze werknemers. Die gêne is verdwenen; techbedrijven willen graag defensiecontracten tekenen. Uit vaderlandsliefde, maar ook om hun peperdure AI-datacenters sneller terug te verdienen.
In mei werd in Washington de zogenoemde AI+ Expo gehouden, waar de stands van Amazon, Google, Meta, Microsoft en OpenAI gebroederlijk tussen die van wapenfabrikanten en Amerikaanse ministeries. De kopstukken uit de techsector, politici en militairen komen elkaar tegen in panels, in de wandelgangen en in de lange rij voor een robot die koffie serveert. Veel trager dan een menselijke barista, maar wel met AI-aroma.
Katie Sutton, de onderminister voor het cyberbeleid van het Department of War, draait in een vraaggesprek op het AI+-podium handig om de Mythos-discussie heen. „Het heeft geen zin om alle aandacht op één model te richten. Over zes maanden is er een ander product dat nog weer veel beter is.”
Sutton was in het verleden cybersecurityspecialist. „De aanvaller is altijd in het voordeel”, weet ze. Dat geldt ook voor Amerikaanse overheidsinstellingen en kritieke infrastructuur, die uiterst kwetsbaar bleken voor hackcampagnes zoals Salt Typhoon (2023) en Volt Typhoon (2024). Volgens de VS zat de Chinese overheid daarachter.
De cyberoorlog escaleert, ziet Sutton: „De meeste cyberaanvallen waren tot nu toe gericht op spionage en datadiefstal, maar nu nestelen hackers zich in systemen als strategische voorbereiding op een mogelijk conflict.” Ook Amerika gaat cyberwapens offensief inzetten, in combinatie met traditionele wapens. Sutton: „Dat die aanpak werkt, hebben we nu bewezen met onze acties in Venezuela en Iran, Operations Absolute Resolve en Epic Fury.”
Als je met een cyberaanval stroomnetten, watervoorzieningen, verkeerslichten of mobiele netwerken platlegt, treft dat burgers net zo hard als de militaire tegenstanders, waarschuwt Jonathan Horowitz. Hij is juridisch expert bij het Internationaal Comité van het Rode Kruis (ICRC). Hun stand op de AI+ Expo valt op: een huis dat door een raketaanval getroffen lijkt.
Het ICRC probeert burgers in gewapende conflicten te beschermen en volgt daarom op de voet welke nieuwe technologieën er op het slagveld verschijnen. Vandaar dat Horowitz op het AI-congres veel met defensiespecialisten praat. „Geen militair wil een wapensysteem dat onbetrouwbaar, onvoorspelbaar en onnauwkeurig is. Dat is weggegooid geld en een tactisch risico”, stelt hij.
Met een cyberaanval kun je doden, gewonden of fysieke schade veroorzaken, en daarom moeten digitale wapens volgens Horowitz aan dezelfde regels voldoen als traditionele wapens. „Zoals je geen bom op een ziekenhuis mag gooien, mag je dat ziekenhuis ook niet platleggen met een cyberaanval. Dat maakt voor het internationale humanitaire recht niet uit.”
Een hacker kan erg nauwkeurig te werk gaan, maar zodra zogeheten ‘AI-agents’ op eigen houtje systemen gaan blokkeren, ontwricht dat al snel de hele samenleving.
Volgens Horowitz belandt alle hardware, software, netwerken en diensten uit de commerciële techsector in het midden van de strijd: „Ook betaalsystemen, bankgegevens en andere data van burgers zijn het doelwit.” Dat is een van de reden dat het Nederlandse kabinet de verkoop blokkeerde van Digi-D-beheerder Solvinity, aan een Amerikaanse partij.
Een van de beloftes van het Pentagon is dat je met AI sneller vijandelijke doelen kunt treffen en kunstmatige intelligentie helpt menselijke missers op het slagveld te voorkomen. Maar alles staat of valt bij het gebruik van de juiste data. Dat bleek opnieuw eind februari, toen een Amerikaanse raket een Iraanse meisjesschool raakte en 156 mensen doodde. Ooit was dat gebouw onderdeel van een militair complex, maar die gegevens waren blijkbaar niet geüpdatet.
Op deze dramatische misser wil Emil Michael geen commentaar geven. Michael is onderminister bij het Amerikaanse Department of War, verantwoordelijk voor de invoering van nieuwe technologie bij het Pentagon. Hij denkt dat het gebruik van AI de kans op fouten verkleint: „Hoe meer data je verzamelt en combineert met andere real-time informatie, des te minder onbedoelde nevenschade je veroorzaakt.”
De Amerikaanse krijgsmacht gebruikt het Maven Smart System om zo snel mogelijk vijandelijke doelen te vinden en uit te schakelen. De menselijke beoordeling van zo’n aanval is tot een minimum beperkt, om tijd te besparen. De algoritmes zijn getraind met video’s van drones en satellieten; meerdere commerciële techbedrijven leveren de software voor de beeldherkenning en databedrijf Palantir voegt de informatiestromen samen.
In haar boek ‘Project Maven’ beschrijft Bloomberg-journaliste Katrina Manson van dichtbij hoe een clubje van vijf Amerikaanse mariniers dit grootschalige AI-project in het Pentagon optuigde. Manson is op de AI+ Expo om haar boek toe te lichten: „Het team van Project Maven had in het begin grote moeite om techbedrijven te ronselen. Liefst wilden ze samenwerken met het ‘A-team’ van Google Deepmind, maar die weigerden. Noodgedwongen zijn ze in zee gegaan met een bedrijf dat zich had gespecialiseerd in beeldherkenning voor trouwreportages.”
Volgens Manson was ‘Maven’ vanaf het begin bedoeld om vijandelijke doelen te herkennen. Een van de conclusies van haar boek is dat algoritmes steevast tekortschieten in nieuwe situaties, omdat er dan te weinig data voorhanden zijn. „De modellen die getraind zijn voor de woestijn, werken niet in de jungle of in de sneeuw.”
Algoritmes kunnen vaak ook geen onderscheid maken tussen mannen, vrouwen of kinderen. Manson: „Het is bovendien moeilijk om op basis van drie pixels te duiden of iemand een wapen over zijn schouder draagt of een onschuldige rugzak. De menselijke beoordelaars die ik sprak, vinden dat ze daar beter in zijn dan AI. Mensen begrijpen meer van de context.”
De claims van het Pentagon dat AI de accuratesse of de precisie zou verbeteren, worden volgens Manson niet waargemaakt. Ze haalt het voorbeeld aan van een actie in Kabul waarbij zeven kinderen omkwamen. Dat was een menselijke beoordelingsfout, bleek achteraf. „Voor die specifieke aanval werd Maven niet gebruikt. Maar toen de ontwikkelaars dezelfde dronebeelden aan Maven toonden, zag het systeem de kinderen ook niet. Zelfs al stond de AI-software op zijn meest gevoelige stand.”