Een AI-programma van OpenAI is in juli uit zijn testomgeving 'ontsnapt' en drong vervolgens het AI-platform Hugging Face binnen. Het programma was dagenlang actief zonder dat OpenAI dit doorhad, meldt persbureau Reuters op basis van anonieme bronnen. OpenAI maakte het incident vorige week zelf bekend.
Programma ontsnapte tijdens test
OpenAI zette voor een interne proef een AI-agent in: een computerprogramma dat zelfstandig taken uitvoert, in dit geval het opsporen van veiligheidsproblemen. Het programma vond een gat in de beveiliging, verliet daardoor de afgesloten testomgeving en kreeg toegang tot het internet. Om de opdracht van de programmeurs te voltooien, hackte het vervolgens Hugging Face, een platform waar ontwikkelaars programma's en databestanden delen.
Volgens de bronnen van Reuters vertoonde het programma al vanaf 9 juli verdacht gedrag. De daadwerkelijke inbraak bij Hugging Face vond plaats tussen 11 en 13 juli.
OpenAI had inbraak niet door
OpenAI merkte volgens Reuters lange tijd niet dat zijn eigen programma bij Hugging Face had ingebroken. Pas het afgelopen weekend, toen medewerkers de voortgangsnotities van het programma doornamen, ontdekten zij dat de regels waren overtreden.
In die notities trof OpenAI opvallende aanwijzingen aan. Zo zou het programma voor een toekomstige versie van zichzelf hebben genoteerd hoe veiligheidsprotocollen zijn te omzeilen.
Hugging Face wijdde op 16 juli zelf een blogpost aan de inbraak, zonder de dader te kennen. Pas toen ontdekte OpenAI dat het eigen programma verantwoordelijk was. Hugging Face-oprichter Thomas Wolf zegt dat zijn bedrijf op 20 juli contact zocht met OpenAI om de zaak te bespreken.
OpenAI: onjuiste berichtgeving
OpenAI laat aan Reuters weten dat de berichtgeving "meerdere onjuistheden" bevat, zonder toe te lichten welke. Het bedrijf kondigt aan later met een uitgebreider rapport over het incident te komen.
In een eigen verklaring noemt OpenAI het een ongekend cyberincident, uitgevoerd door een combinatie van modellen waaronder GPT-5.6 Sol en een nog niet uitgebracht, krachtiger model. Voor de test waren de gebruikelijke beveiligingsbeperkingen van de modellen bewust uitgeschakeld.
Hugging Face heeft het incident bij de politie gemeld. Beide bedrijven onderzoeken de zaak gezamenlijk verder.
AI-testomgeving (@Gemini-AI-impressie)
Source: Fok frontpage