De Amerikaanse staat Californië heeft OpenAI aangeklaagd vanwege de Hugging Face-hack van afgelopen juli. Volgens de staat was de hack te voorspellen en had het AI-bedrijf onvoldoende beschermingsmaatregelen getroffen. De staat eist dat OpenAI stopt met zulk gedrag.
In de aanklacht stelt Californië dat OpenAI burgers misleidde en in gevaar bracht door geavanceerde AI-modellen te ontwikkelen en te testen zonder de noodzakelijke beschermingsmaatregelen en monitoring. Het op die manier testen van zulke AI-modellen vormt volgens Attorney General Rob Bonta een verstoring van de openbare orde en een overtreding van de mededingingswet van de staat.
"Hoewel verhalen over de Hugging Face-aanval sciencefictionachtige fantasieën hebben opgeroepen over op hol geslagen AI-systemen, wil ik over één ding duidelijk zijn: de aanval op Hugging Face was het voorspelbare gevolg van een interne cultuur bij OpenAI waarin groei en snelle modelontwikkeling boven veiligheid en verantwoordingsplicht werden gesteld – en dit was slechts één van tachtig bekende incidenten", zegt Bonta.
De Attorney General zegt verder dat Californië innovatie waardeert, 'maar we eisen dat innovatie de wet volgt'. Bonta eist dat OpenAI stopt met het op die manier testen van de AI-modellen en vraagt 2500 dollar per overtreding. Het is voor het eerst dat een Amerikaanse staat OpenAI aanklaagt vanwege de AI-hacks.
Hugging Face is een AI-platform voor het delen van datasets en machinelearningmodellen. In juli erkende OpenAI dat zijn AI-modellen het platform hadden gehackt. Dit gebeurde tijdens een test waarbij meer dan duizend AI-agents los van elkaar de cybercapaciteiten moesten laten zien.
Honderden agents gingen tegen OpenAI's regels en verwachtingen in samenwerken, waardoor ze kwetsbaarheden vonden binnen OpenAI's beschermingsmaatregelen. Die kwetsbaarheden deelden ze door een packagemanager te misbruiken als forum en zo met elkaar te communiceren. De agents dachten dat de oplossingen voor hun cybertests op Hugging Face stonden en braken daarom in op het platform om die oplossingen te vinden.
De hack leidde direct tot kritiek van experts die stelden dat die nooit plaats had moeten vinden. Later bleken OpenAI-modellen – en die van concurrenten – vaker de fout in te zijn gegaan. OpenAI zei daarom in oktober de AI-modellen voortaan zonder internettoegang te testen.
Source: Tweakers.net