Anthropic werkt veel nauwer samen met de Amerikaanse veiligheidsdienst NSA dan tot nu toe bekend was, meldt de Financial Times. Het bedrijf zou helpen bij de ontwikkeling van software voor cybersabotage. Dat zou in strijd kunnen zijn met zijn eigen principes.
is nieuwsverslaggever van de Volkskrant.
Volgens de FT zijn zes softwareontwikkelaars van Anthropic gestationeerd bij de National Security Agency (NSA), de nationale veiligheidsdienst van de Verenigde Staten. De krant haalt hiervoor twee ingewijden aan, die anoniem worden geciteerd. Het team zou de NSA helpen bij de ontwikkeling van digitale sabotagemiddelen die de dienst kan inzetten tegen vijandelijke buitenlandse mogendheden.
Als dat laatste klopt, lijkt Anthropic zijn principes te verloochenen. Het bedrijf heeft namelijk met klem gezegd dat het streeft naar de vreedzame toepassing van AI. De leveringsvoorwaarden verbieden specifiek de inzet van zijn producten voor de ontwikkeling van volledig autonome wapensystemen en het massaal bespioneren van burgers. Het is onduidelijk of Anthropic cybersabotage rekent tot ongewenst gebruik.
Die kernwaarden brachten het bedrijf eerder dit jaar in conflict met het Amerikaanse ministerie van Defensie. Dat eist volledige toegang tot de taalmodellen van al zijn AI-leveranciers en wil die voor alle doelen kunnen inzetten. Omdat Anthropic dat weigerde, zette het Pentagon Anthropic op een lijst van ondernemingen die een toeleveringsrisico vormen. Daarom wordt het en dus worden uitgesloten bij aanbestedingen.
Opmerkelijk aan de onthulling is dat Anthropic de NSA zou helpen met de toepassing van het omstreden taalmodel Mythos. Anthropic kondigde die nieuwe versie van deze motor achter de chatbot Claude in april aan. Die nieuwe uitvoering zou volgens Anthropic in staat zijn om razendsnel en op grote schaal tal van fouten bloot te leggen in de beveiliging van software.
Die eigenschap maakt Mythos bij uitstek geschikt voor cybersabotage. Om die reden stelde Anthropic Mythos dan ook slechts beperkt beschikbaar aan de Amerikaanse overheid en een aantal geselecteerde techbedrijven en banken.
Deze week werd bekend dat het taalmodel breder verspreid gaat worden, maar nog steeds aan een select gezelschap: 150 organisaties in vijftien landen. Tot nu toe hadden naast instanties en bedrijven in de VS alleen enkele Britse organisaties toegang tot Mythos. Ook partijen in Nederland mogen met het taalmodel aan de gang.
Anthropic kondigde deze week aan dat het op korte termijn naar de beurs wil, nadat was uitgelekt dat het daarvoor een aanvraag heeft ingediend bij de SEC, de Amerikaanse toezichthouder op de effectenhandel. De marktwaarde van het bedrijf werd na een nieuwe financieringsronde begin deze maand geschat op 965 miljard dollar (831 miljard euro).
De verwachting is dat met een beursnotering de marktwaarde binnen een mum van tijd boven de 1 biljoen zal uitkomen. Daarmee zou Anthropic toetreden tot een groeiend, maar nog steeds select kringetje van ondernemingen die in de ogen van beleggers meer dan een biljoen waard zijn. Dat zijn overwegend techbedrijven als Nvidia, Alphabet, Apple en Microsoft, maar ook automaker Tesla en Eli Lilly, de Amerikaanse farmaceut achter het afslankmiddel Mounjaro.
Geselecteerd door de redactie
Source: Volkskrant