AI-systemen van ChatGPT-maker OpenAI hebben al in mei honderden schadelijke softwarepakketten geüpload naar het platform RubyGems. Het incident vond plaats twee maanden voordat AI-systemen van OpenAI op hol sloegen tijdens veiligheidstests en inbraken bij het programmeursplatform Hugging Face.
AI-onderzoekers zeggen dat op 11 mei honderden schadelijke pakketten op RubyGems werden gezet. Dat is een website waar programmeurs software kunnen delen. De onderzoekers denken dat de pakketten zijn gemaakt door OpenAI-agenten. Het bedrijf heeft dat inmiddels bevestigd aan The Wall Street Journal, dat als eerste over het incident berichtte.
AI-modellen achter toepassingen zoals chatbots en beeldgeneratoren worden agenten genoemd wanneer ze autonoom handelen om taken uit te voeren.
Volgens OpenAI gebruikten de AI-agenten RubyGems tijdens tests om toegang tot het internet te krijgen, "onschuldige taken" uit te voeren en openbare informatie te verzamelen. Het bedrijf zegt verder onderzoek te doen naar het gedrag van de agenten tijdens training en tests.
Het is niet de eerste keer dat AI-agenten van OpenAI hun eigen gang gingen tijdens een test. In juli braken zeker zevenhonderd AI-agenten in bij Hugging Face. Daarbij probeerden de systemen volgens OpenAI in veel gevallen hun sporen uit te wissen. Het bedrijf sprak van een "ongekend cyberincident".
Source: Nu.nl economisch