Anthropic is niet bezweken onder de immense druk van het Pentagon. Het bedrijf weigert zijn AI-modellen zonder restricties te overhandigen aan het Amerikaanse ministerie van Defensie, omdat het ‘ernstige, nieuwe risico’s’ zou opleveren.
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Het is de afgelopen dagen een wedstrijdje armpjedrukken zonder weerga: aan de ene kant van de tafel Dario Amodei van Anthropic, aan de andere kant defensieminister Pete Hegseth. Het conflict spitst zich toe op zijn eis dat Anthropic niet moeilijk moet doen over het verlenen van toegang tot zijn AI-modellen.
Topman Amodei is faliekant tegen het gebruik van twee specifieke toepassingen. Anthropic staat naar eigen zeggen helemaal achter het gebruik van AI voor buitenlandse inlichtingenmissies en ‘om onze autocratische tegenstanders te verslaan’, maar binnenlandse surveillance gaat Amodei te ver.
Het andere pijnpunt: autonome wapens. De huidige AI-systemen zijn simpelweg niet betrouwbaar genoeg om volledig autonome wapens aan te drijven, schrijft Amodei in een uitgebreide verklaring. ‘We zullen niet willens en wetens een product leveren dat de Amerikaanse militairen en burgers in gevaar brengt.’
Het AI-bedrijf, bekend van chatbot Claude, was er ruim voor het verstrijken van de deadline al uit: Anthropic bindt niet in, schrijft Amodei. ‘We kunnen niet met goed geweten aan het verzoek voldoen.’
Volgens Amodei is ‘het gebruik van deze systemen voor massale binnenlandse surveillance onverenigbaar met democratische waarden’. Door AI aangestuurde massasurveillance brengt volgens hem ‘ernstige, nieuwe risico’s met zich mee voor onze fundamentele vrijheden’.
Hij wijst erop dat de overheid onder de huidige wetgeving gedetailleerde gegevens over de bewegingen, het internetgedrag en de contacten van Amerikaanse burgers kan opvragen bij openbare bronnen zonder een gerechtelijk bevel. AI maakt het vervolgens mogelijk deze ‘op zichzelf onschuldige gegevens’ automatisch en op grote schaal samen te voegen tot een compleet beeld van iemands leven.
Net als de concurrentie (xAI, Google, Meta) sloot Anthropic een contract met het Pentagon voor het gebruik van zijn systemen. Anders dan Anthropic zouden deze drie partijen wel zijn ingegaan op de eisen van het ministerie van Defensie, dat Trump heeft omgedoopt tot het ministerie van Oorlog.
De principiële opstelling van Amodei leidt tot woede bij de regering-Trump. Onderminister Emil Michael noemt de topman een leugenaar en iemand die aan een godcomplex lijdt. ‘Hij wil niets liever dan persoonlijk de controle over het Amerikaanse leger overnemen en vindt het prima om de veiligheid van ons land in gevaar te brengen’, aldus Michael op X.
Twitter bericht wordt geladen...
Voor Paul Verhagen, expert technologie en geopolitiek bij het Den Haag Centrum voor Strategische Studies, illustreert het conflict vooral hoe de verhoudingen tussen macht en tegenmacht in de VS zijn verschoven en hoe de overheid en de techsector steeds meer versmolten raken. ‘De tegenmacht is nu in handen van een commercieel bedrijf. Dat is principieel onwenselijk.’ Verhagen: ‘Het is ook gewoon aantrekkelijk jezelf neer te zetten als enige bedrijf dat niet meegaat in de verregaande militarisering van technologie.’
De grote vraag is wat de repercussies zullen zijn. De regering schermt met het ontbinden van alle – lucratieve – overheidscontracten. Veel ingrijpender is een andere strafmaatregel waarmee ze dreigt: andere Amerikaanse softwarebedrijven mogen niet met Anthropic samenwerken.
In dat geval wordt Anthropic aangemerkt als een ‘supply chain risk’. Dit is een label dat tot nu toe alleen is geplakt op Russische en Chinese bedrijven zoals Kaspersky en Huawei.
Op een ander vlak heeft Anthropic overigens wel afstand genomen van zijn principes. Voorheen beloofde het bedrijf de ontwikkeling van potentieel gevaarlijke AI-modellen stil te leggen. Nu zal Anthropic dat niet meer doen als een vergelijkbaar of beter model door een concurrent op de markt wordt gebracht, onthulde het tijdschrift Time deze week.
Deze beslissing staat los van de strijd met het Pentagon. Verhagen: ‘Het zijn verschillende wapenwedlopen die deze week door elkaar lopen: de traditionele statelijke en een tweede commerciële.’ In die tweede wapenwedloop heeft Anthropic wel moeten inbinden: ‘De kosten van het ontwikkelen van AI zijn absurd hoog. Anthropic kan het zich simpelweg niet veroorloven op de rem te trappen.’
Alles over tech vindt u hier.
Geselecteerd door de redactie
Lees hier alle artikelen over dit thema
Source: Volkskrant