Autonome wapens Begin dit jaar liep een ruzie tussen Anthropic en het Amerikaanse ministerie van Defensie over de gebruiksvoorwaarden van AI-model Claude hoog op. De regering-Trump verklaarde Anthropic daarop tot „nationaal veiligheidsrisico” en zette het op een zwarte lijst. Dat was onwettig, oordeelde een federale rechter vrijdag.
Hoofdkantoor van Anthropic in San Francisco.
Een federale rechter in Californië heeft de vergeldingsactie van het Amerikaanse ministerie van Defensie tegen AI-gigant Anthropic van afgelopen januari onwettig verklaard. Het ministerie en Anthropic werden het toen na lange onderhandelingen niet eens over de gebruiksvoorwaarden voor het AI-model Claude. Een knetterende ruzie was het gevolg. De regering-Trump zegde daarop de defensiecontracten met Anthropic op, en verklaarde het bedrijf tot een „risico in de toeleveringsketen”.
Dat betekende dat bedrijven die zaken wilden doen met het Pentagon, ook hun contracten met Anthropic moesten opzeggen. Zulke zware maatregelen worden doorgaans bewaard voor buitenlandse bedrijven die van spionage worden verdacht. Dat was bij Anthropic geenszins het geval: de kwestie draaide om de vraag of Claude gebruikt zou mogen worden voor massasurveillance (van de Amerikaanse bevolking) en voor autonome wapens.
Anthropic ontwikkelt hoogstaande generatieve AI-modellen die grote hoeveelheden data kunnen analyseren, adviezen kunnen schrijven en apparatuur kunnen besturen. Zogeheten ‘vangrails’ moeten voorkomen dat Claude op ongewenste manieren wordt ingezet. Het Pentagon eiste dat Anthropic die vangrails zou uitschakelen, zodat de regering vrij zou zijn om te bepalen wat ze met Claude wilde doen, zoals inzetten op het slagveld.
Anthropic weigerde. Niet omdat het bedrijf er principieel tégen was, maar omdat het zijn technologie vooralsnog „onvoldoende betrouwbaar” acht om zonder menselijke tussenkomst te beslissen over leven en dood.
De federale rechter Rita Lin, benoemd door toenmalig president Joe Biden, trok fel van leer tegen de handelswijze van de regering. In haar vonnis beschuldigt ze het ministerie van Defensie ervan „een precedent” te hebben willen scheppen door Anthropic hard te straffen en openlijk onder druk te zetten. President Donald Trump noemde Anthropic op sociale media een „radicaal-links, woke” bedrijf, en minister van Defensie Pete Hegseth zei in de Senaat dat het AI-bedrijf door „een ideologische gek” wordt gerund.
„Je kunt je niet zomaar beroepen op de nationale veiligheid om critici van de regering te straffen”, zei Lin in haar vonnis. Dat het Pentagon Anthropic als „risico in de toeleveringsketen” had aangemerkt, noemde ze „illegaal en nergens op gebaseerd”. Het is de eerste overwinning van Anthropic op het ministerie van Defensie. Er loopt nog een tweede zaak over hetzelfde onderwerp bij de rechtbank in Washington. Tot die is afgerond, blijft Anthropic officieel op de zwarte lijst staan.
Na de clash met Anthropic sloot het Pentagon defensiecontracten met zeker acht andere grote AI-bedrijven: OpenAI, SpaceX, Google, Nvidia, Reflection, Microsoft, Oracle en Amazon Web Services. Deze bedrijven staan de regering wel toe om hun technologie – binnen de kaders van de wet – naar eigen goeddunken te gebruiken. Om autonome wapentechnologie werkelijkheid te laten worden wil het Pentagon het daarvoor bestemde budget verhogen van 225 miljoen dollar dit jaar tot 55 miljard dollar in 2027. Ter vergelijking: het hele defensiebudget van Nederland dit jaar bedraagt omgerekend ruim 40 miljard dollar.