Anthropic waarschuwt dat zijn nieuwe AI-systeem Mythos een ernstig risico vormt voor de veiligheid van internet en economieën wereldwijd. De zogenoemde "superhacker" wordt voorlopig niet openbaar gemaakt, terwijl overheden en grote bedrijven juist proberen toegang te krijgen om hun systemen te beschermen tegen toekomstige cyberaanvallen.
Mythos is een zogenoemd frontier-AI-model dat in korte tijd honderden kwetsbaarheden in veelgebruikte software wist op te sporen. Bij Mozilla’s Firefox-browser ontdekte het systeem 271 ernstige beveiligingslekken waar de eigen topbeveiligers nog nooit van hadden gehoord. Volgens Anthropic heeft Mythos inmiddels kwetsbaarheden gevonden in "elk groot besturingssysteem en elke grote webbrowser", waaronder één fout die al 27 jaar onopgemerkt was gebleven.
Uit angst dat cybercriminelen of buitenlandse statelijke actoren het systeem in handen krijgen, heeft Anthropic besloten Mythos niet publiek te lanceren. In plaats daarvan draait het model in een beperkte proef via Project Glasswing, waarbij zo’n veertig grote technologie- en financiële bedrijven – waaronder Microsoft, Mozilla en Morgan Stanley – toegang hebben om hun systemen te laten scannen. De Britse regering voert gesprekken met Anthropic om Mythos breder beschikbaar te maken voor Britse bedrijven, uit vrees dat organisaties zonder dit soort AI extra kwetsbaar worden.
De Britse veiligheidsminister Dan Jarvis en technologieminister Liz Kendall waarschuwden in een gezamenlijke brief dat AI-gestuurde cybercapaciteiten sneller vooruitgaan dan verwacht. Ze verwezen daarbij ook naar het Cyber-programma van OpenAI, dat laat zien hoe AI in korte tijd het werk kan doen van de beste menselijke hackers. Volgens de ministers zullen criminelen niet alleen overheden en vitale infrastructuur aanvallen, maar ook "gewone bedrijven, van elke grootte, in elke sector".
Ondanks de strikte beperkingen rond Mythos kwam deze week naar buiten dat een kleine groep onbevoegde gebruikers via een externe opdrachtnemer toch toegang wist te krijgen tot het systeem. Online verschenen screenshots van de tool; het leek te gaan om nieuwsgierige gebruikers zonder directe schadelijke bedoelingen. Anthropic onderzoekt het incident, maar beveiligingsexperts zien het als signaal hoe eenvoudig krachtige AI-systemen kunnen uitlekken en misbruikt kunnen worden, zelfs bij streng toezicht.
Anthropic stelt dat meer dan 99 procent van de door Mythos ontdekte kwetsbaarheden nog niet is gedicht en waarschuwt dat de gevolgen voor economieën, openbare veiligheid en nationale veiligheid "ernstig" kunnen zijn. Tegelijkertijd zijn er ook voorzichtige optimistische geluiden uit de beveiligingswereld: Firefox-CTO Bobby Holley schrijft dat zijn team na de schrik daadwerkelijk vooruitgang boekt met hulp van Mythos en "een toekomst kan zien die beter is dan alleen maar bijblijven". Volgens hem biedt de nieuwe generatie AI beveiligers voor het eerst een kans om de overhand te krijgen, zolang de technologie niet in verkeerde handen valt.
Source: Fok frontpage