Het Amerikaanse leger leunt in toenemende mate op kunstmatige intelligentie. Anthropic is een van de leveranciers, maar nu dit AI-bedrijf op de rem stapt en eisen stelt aan het gebruik, staat een lucratief contract op de helling.
is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
Anthropic (bekend van ChatGPT-concurrent Claude) dreigt een zware tol te moeten betalen voor zijn principiële opstelling bij het gebruik van zijn chatbot. Het AI-bedrijf sloot afgelopen zomer een lucratief contract met het Amerikaanse ministerie van Oorlog ter waarde van 200 miljoen dollar, maar loopt het risico dit kwijt te raken.
Het Pentagon zou ontbinding overwegen, zo meldt nieuwssite Axios op basis van bronnen binnen het ministerie. De reden hiervoor is de naar verluidt weinig flexibele houding van Anthropic. Defensie heeft op dit moment contracten met vier verschillende AI-aanbieders. Naast Anthropic zijn dat Google (chatbot Gemini), OpenAI (ChatGPT) en Elon Musks xAI (Grok).
Veel meer dan deze concurrentie profileert Anthropic zich als een veilig en ethisch alternatief. Dit is ook hoe het bedrijf is ontstaan. Anthropic werd in 2021 opgericht door broer en zus Dario en Daniela Amodei, samen met enkele andere voormalige OpenAI-medewerkers.
Ze verlieten het bedrijf van Sam Altman na meningsverschillen over de koers van OpenAI, die ze als te commercieel zagen, met een topman die meer oog heeft voor het veroveren van marktaandeel en het zo snel mogelijk op de markt brengen van nieuwe producten dan voor zorgvuldigheid. De opgestapte werknemers wilden een AI-lab bouwen met veiligheid als kernprincipe.
De omarming van AI-gereedschap door het leger is voor de AI-bedrijven belangrijk om hun enorme investeringen terug te verdienen, of op zijn minst om ze te rechtvaardigen voor investeerders. Daarmee draait het nu om een klassieke tegenstelling tussen principes en geld.
Die keuze is op scherp komen te staan nu een regeringsbron stelt dat het Pentagon de AI-technologie van Anthropic heeft gebruikt bij zijn militaire missie om de voormalige Venezolaanse president Nicolás Maduro op te pakken. Dit zou zijn gebeurd via Palantir. Dit bedrijf van Alex Karp specialiseert zich in het combineren van grote hoeveelheden data en gebruikt daarvoor ook de software van Anthropic. Hoe deze exact in Venezuela is ingezet, blijft echter onduidelijk.
Het bedrijf zit duidelijk met de kwestie in de maag. Tegenover The Wall Street Journal hult een woordvoerder zich in algemeenheden door te zeggen dat Anthropic zich ‘inzet voor het gebruik van geavanceerde AI ter ondersteuning van de Amerikaanse nationale veiligheid’. Tegen Axios ontkent het bedrijf dat het het gebruik van Claude voor specifieke operaties met het ministerie van Oorlog of met Palantir heeft besproken.
Het leger kan AI-gereedschap voor een breed arsenaal aan toepassingen gebruiken, van het analyseren en samenvatten van documenten tot het besturen van wapens en drones. Anthropic zou een grens trekken bij autonome dodelijke wapens en bij binnenlandse surveillance.
Deze houding stoort het Pentagon. Defensiefunctionarissen hebben er bij de vier AI-bedrijven op aangedrongen om militair gebruik van hun software toe te staan voor álle wettige doeleinden, waaronder wapenontwikkeling, inlichtingendiensten en militaire operaties.
OpenAI, Google en xAI zouden er geen of veel minder moeite mee hebben dan Anthropic om de beperkingen die gelden voor gewone gebruikers op te heffen voor hun werk met het Pentagon. Een van deze drie partijen heeft inmiddels al ingestemd met de door Defensie gedicteerde voorwaarden, meldt Axios.
De houding van Anthropic zou de al lopende spanningen tussen het Amerikaanse AI-bedrijf en de regering-Trump verergeren. Door te pleiten voor meer waarborgen en voorzichtigheid ondermijnt het bedrijf de AI-strategie van het Witte Huis, die juist is gericht op minimale regelgeving en het ruim baan geven aan techbedrijven.
Momenteel liggen alle opties op tafel, schrijft Axios, waaronder dus ook het stopzetten van het contract. Maar eenvoudig is dat niet: volgens het leger kan Claude niet snel worden vervangen, omdat de concurrentie achterloopt. Claude blinkt vooral uit in coderen. Claude Code is tegenwoordig het standaard AI-programmeergereedschap bij bedrijven, waarmee Gemini en ChatGPT het nakijken hebben.
Alles over tech vindt u hier.
Geselecteerd door de redactie
Lees hier alle artikelen over dit thema
Source: Volkskrant