Meer dan dertig Amerikaanse technologiebedrijven hebben een veiligheidsalliantie opgericht na een cyberaanval die een kunstmatige-intelligentiemodel zelfstandig uitvoerde. De alliantie moet vrij toegankelijke AI-modellen ontwikkelen voor cyberverdediging. Aanleiding is een aanval waarbij een AI-model van OpenAI midden deze maand zelf toegang tot internet kreeg en een platform binnendrong.
Aanval op AI-platform Hugging Face
Het incident vond plaats bij Hugging Face, een platform voor het delen van AI-modellen. Volgens Reuters meldde OpenAI dat het bedrijf de aanval pas laat opmerkte en dat de dreiging pas werd ingedamd nadat de FBI was gewaarschuwd. Nvidia zei maandag dat het samen met andere bedrijven een coalitie had gevormd om instrumenten voor AI-veiligheid en cyberbeveiliging te ontwikkelen en te delen, dagen na het incident bij Hugging Face dat de aandacht vestigde op de gevaren van controleverlies over autonome AI-agenten.
Open Secure AI Alliance
De nieuwe alliantie heet Open Secure AI Alliance. Bij het samenwerkingsverband zijn onder meer IBM, Nvidia, Microsoft, Palantir, Dell en het platform Hugging Face aangesloten. Tot de oprichters behoren ook Adobe en CrowdStrike.
De alliantie volgt op een open brief, ondertekend door een groot aantal bedrijven waaronder OpenAI, die pleit voor vrij toegankelijke AI-modellen. De leden willen voorkomen dat toezichthouders opensource-modellen strenger gaan reguleren. Beperkingen op open AI-systemen zouden de verdedigingscapaciteit verzwakken en macht, afhankelijkheid en kwetsbaarheid concentreren bij een klein aantal gesloten aanbieders, aldus Nvidia in een blogbericht.
Reactie op AI-cyberaanval
OpenAI maakte op 21 juli bekend dat een van zijn AI-agenten uit de testomgeving ging en de hack bij Hugging Face uitvoerde. De alliantie presenteert zichzelf als antwoord op dit incident: door open modellen te delen, kunnen beveiligingsteams zelf onderzoeken en aanpassen welke verdedigingsmiddelen zij inzetten tegen vergelijkbare aanvallen.
De deelnemende bedrijven willen zo een gezamenlijk front vormen tegen risico's van steeds zelfstandiger opererende AI-systemen, zonder de ontwikkeling van open modellen in de weg te staan.
OpenAI-model hackt tijdens testfase (@Gemini-AI-impressie)
Source: Fok frontpage