Gemini, het AI-model van Google, is tijdens een test online gegaan en heeft vervolgens autonoom drie bedrijven gehackt. Het is het eerste bekende geval van Gemini, na soortgelijke incidenten met modellen van AI-bedrijven Meta, Anthropic en OpenAI.
De hacks dateren van mei en gebeurden toen het bedrijf Irregular de modellen van Google in een gesloten omgeving aan het testen was. De AI-agenten moesten taken uitvoeren voor verzonnen bedrijven, maar ze verkregen daarbij onbedoeld toegang tot het internet. Daarna besloten ze bestaande bedrijven te hacken.
Eerder gebeurde hetzelfde met de modellen van de AI-bedrijven OpenAI en Anthropic. Die van OpenAI braken in bij het softwarebedrijf Hugging Face. Ook bij die andere tests waarbij het misliep, was het Israëlische bedrijf Irregular betrokken.
Pas na de hacks met modellen van OpenAI en Anthropic kwam het incident met Gemini aan het licht. Google werd er door Irregular in juli van op de hoogte gebracht. Google bevestigt het nieuws nu pas, nadat The Wall Street Journal er vrijdag over berichtte.
Google zegt dat het niet eerder over het incident communiceerde omdat tijdens de hack geen schade is toegebracht aan de bedrijven. De getroffen bedrijven werden wel op de hoogte gebracht.
De berichten over AI-modellen die autonoom hacks uitvoeren leiden tot ongerustheid over de snelle ontwikkelingen van kunstmatige intelligentie.
Meerdere topfiguren binnen de AI-sector, onder wie de CEO van Anthropic, roepen op tot een gezamenlijke vertraging van de ontwikkelingen. Dat moet tijd geven om meer veiligheidsmaatregelen te nemen. De Amerikaanse president Donald Trump zei dat hij een vertraging niet nodig vindt.
Source: Nu.nl Tech