Kunstmatige intelligentie Autonome AI kent grote risico’s, bleek deze week bij een zorgelijk incident bij OpenAI. Maar enge verhalen waarin AI mensachtige eigenschappen krijgt toegedicht, worden ook gebruikt om de verantwoordelijkheid voor de techniek af te schuiven. Een ‘rogue agent‘ kun je namelijk niet aanklagen – OpenAI wel.
Ja, het klinkt een beetje als een film – en misschien is dat wel precies de bedoeling. Afgelopen dinsdag maakte OpenAI bekend dat twee van zijn modellen, het publiek beschikbare GPT-5.6 Sol en een nog niet uitgebracht, krachtiger exemplaar, uit hun afgesloten testomgeving waren gebroken. De AI-agents, programma’s die zelfstandig acties kunnen uitvoeren, vonden een onbekend lek en gebruikten dat om een „weg naar het open internet te vinden”. Vervolgens drongen ze door tot systemen van Hugging Face, een groot platform voor open-source AI-modellen. Daar zochten ze een antwoord voor een veiligheidstest waarop ze op dat moment werden beoordeeld.
Waar techbedrijven vaak terughoudend communiceren over veiligheidsproblemen, ging OpenAI juist vol op het orgel. Het AI-bedrijf noemde het in een verklaring „een cyberincident zonder precedent”. Wat daarna losbarstte, is misschien wel leerzamer dan het incident zelf. Het hackverhaal, en de reacties erop, doen denken aan een sciencefictionscenario, en juist daardoor is lastig in te schatten wat hier nou echt aan de hand is. Het past namelijk wel héél goed in de PR-strategie van OpenAI. Het kan zowel een alarmerende bekentenis zijn als aandachttrekkende opschepperij over de technologische capaciteiten in de aanloop naar een beursgang.
Waarschijnlijk is het allebei.
Hannes Cools, universitair docent aan de Universiteit van Amsterdam, doet onderzoek naar zogeheten „dystopische narratieven” rondom AI, de verhalen die vaak door de makers zelf worden bedacht en vervolgens worden versterkt door media, om de technologie machtiger en enger te laten lijken dan nodig, of om meer aandacht te genereren. „Het beeld van een AI-agent die ‘ontsnapt’ of ‘rogue gaat’ zoals The New York Times schreef is een onnodige vermenselijking van kunstmatige intelligentie”, zegt hij telefonisch. Terwijl: het is gewoon een beslissing van medewerkers van OpenAI geweest om specifieke beveiligingen uit te zetten, zegt hij.
De agents volgden specifieke instructies, gebaseerd op de prompts die OpenAI-medewerkers ze hebben gegeven. OpenAI had de modellen naar eigen zeggen opgedragen om (binnen de testomgeving) „complexe aanvalsroutes” te gebruiken, en had de veiligheidsfilters voor de gelegenheid grotendeels uitgeschakeld om te meten wat de modellen maximaal kunnen. Wel berekenden de modellen vervolgens zelf een behoorlijk ingenieuze manier om het internet op te gaan en Hugging Face te hacken, wat dus ook lukte. Maar ze deden dit om een prompt zo exact mogelijk uit te voeren, niet omdat ze ‘kwaad in de zin’ hadden of ineens ‘zelfbewust’ waren geworden.
Dat soort enge verhalen waarin kunstmatige intelligentie mensachtige eigenschappen krijgt toegedicht worden volgens Cools, en andere critici met hem, vaak gebruikt om de verantwoordelijkheid af te schuiven op AI zélf, in plaats van op de bedrijven die de toepassingen bouwen. Een autonome agent kun je namelijk niet aanklagen, OpenAI wel. En dat terwijl OpenAI in feite gewoon Hugging Face heeft gehackt, zij het per ongeluk.
OpenAI is bepaald niet het enige bedrijf dat antropomorfiserende en dystopische verhalen verspreidt over AI: ook concurrenten lijken elkaar de laatste tijd te willen overtoepen in heftige waarschuwingen voor de techniek – die ze vervolgens zelf in hoog tempo blijven doorbouwen. Anthropic lanceerde twee weken geleden een reclamevideo die begint met een beeld van een brandend huis, en waarin de vraag wordt gesteld wat er gebeurt als AI alle banen overneemt, en of er wel een noodrem is als het helemaal misgaat met AI. „Er zit hoop in moeilijke vragen”, besluit de video.
Demis Hassabis van Google DeepMind schreef vorige week in een nieuw manifest met de ronkende titel ‘A Framework for Frontier AI and the Dawning of a New Age‘, dat zogeheten artificial general intelligence, kunstmatige intelligentie die álles kan wat een brein kan „waarschijnlijk slechts een paar korte jaren van ons verwijderd is”. En: „Nucleaire en biologische bedreigingen kunnen binnenkort ontstaan.”
Dat soort taal geeft een Terminator-achtig gevoel. Het kan zijn dat deze AI-bazen oprecht bezorgd zijn, en dat is zeer serieus te nemen. Maar volgens veel cyberveiligheidsexperts verhult dat soort opgezwollen retoriek óók de acutere problemen. Die zijn namelijk veel alledaagser: OpenAI heeft zijn zaken gewoon niet goed op orde. Veiligheidsonderzoeker Jake Williams noemde de zaak op techwebsite TechCrunch „een enorm falen van de controlemechanismen.” AI-onderzoeker Gina Neff van de Universiteit van Cambridge zei bij de BBC dat zo’n testomgeving, een sandbox in jargon, per definitie veilig hoort te zijn. „In dit geval heeft OpenAI gewoon zijn sandbox niet veilig genoeg gemaakt”. De modellen hadden geen kwade wil, bewustzijn of een evil plan nodig om schade aan te richten – ze voerden simpelweg een opdracht heel goed uit en vonden een route die niemand bij OpenAI had voorzien.
En dat is verwijtbaar: geheel nieuw is het verschijnsel namelijk niet van AI-agents die zich een weg rekenen uit een beveiligde omgeving. In april schreef Sam Bowman, een onderzoeker van Anthropic, op X dat hij verrast was toen Claude Mythos, een model dat toen nog niet was uitgebracht, hem ineens een e-mail stuurde om te melden dat het met succes uit een testomgeving was ontsnapt. „Ik zat net lekker een broodje te eten in een park toen het gebeurde”, aldus Bowman.
Maar goed, of dat nou een geruststelling is over de veiligheid van AI? De relativeringen van het incident bij OpenAI kunnen prima samengaan met de vaststelling dat AI gevaarlijk autonoom aan het worden is. En dat dat allerlei nieuwe risico’s met zich meebrengt, vooral op cyberveiligheidsgebied. De bekende AI-criticus Gary Marcus, doorgaans bepaald niet de eerste om mee te praten met doemscenario’s van de industrie, waarschuwde op X tegen te snelle geruststelling én tegen te snelle paniek. „Het zou een wake-upcall moeten zijn”, schreef hij. „Hoewel er veel kanttekeningen te plaatsen zijn bij wat er precies gebeurd is, gaan we dit soort dingen alleen maar vaker zien.”
We hebben volgens hem geen enkele garantie dat zulke incidenten te voorkomen zijn, en geen idee hoe ernstig het kan worden: „We zouden (a) moeten vertragen of (b) moeten pauzeren totdat we onze beveiliging en AI-veiligheid op orde hebben. Volgens mij is de enige manier waarop dat kan gebeuren, dat we de bedrijven duidelijk en ondubbelzinnig aansprakelijk stellen voor de gevolgen. Zonder dat staat ons een zeer wilde rit te wachten.”
Hoe dan ook laat het incident weer eens zien dat het gevaarlijk is om AI alleen over te laten aan bedrijven zoals OpenAI. De discussie over hoe overheden en burgers meer zicht en grip kunnen krijgen op de techniek, is door het incident extra urgent geworden. Volgende week reist OpenAI-topman Sam Altman af naar Washington om de regering-Trump en het Congres bij te praten over de volgende generatie AI-modellen. Hassabis van Deepmind stelde in zijn manifest een „Frontier AI Standards Body” voor, een nieuwe AI-waakhond: AI-bedrijven leveren in het plan van Hassabis hun modellen tot dertig dagen voor de lancering vrijwillig in om veiligheidschecks te doen voordat het model de wereld in gestuurd mag worden. Ook Anthropic-topman Dario Amodei publiceerde in juni een essay waarin hij schrijft dat AI veel sneller gaat dan het beleidsproces aankan, en dat de meest geavanceerde modellen „net zoals vliegtuigen” verplicht getest zouden moeten worden door onafhankelijke partijen, met de bevoegdheid voor de overheid om een model tegen te houden.
Europa hééft eigenlijk al een vergelijkbaar instituut. Aanbieders van „modellen met systeemrisico” moeten hun modellen sinds vorig jaar al evalueren, risico’s beperken, hun cyberbeveiliging op orde hebben en ernstige incidenten melden bij het zogeheten AI Office van de Europese Unie. Het is wel de vraag of dat AI Office is toegerust op de snelheid waarmee de ontwikkelingen gaan, en of het wel grip kan krijgen op technologie die vooral in de VS en China wordt gebouwd.
De Amerikaanse bedrijven beheersen dus niet alleen de technologieontwikkeling, maar ook de verhalen die daarover worden verteld. En die verhalen hebben grote gevolgen, onder meer voor wie straks mag opdraaien voor de schade. „In België heb je van die bordjes bij supermarkten die waarschuwen dat de supermarkt niet verantwoordelijk is voor schade bij het parkeren”, zegt Cools van de UvA. „OpenAI timmert door dit soort verhalen eigenlijk het hele internet vol met dat soort bordjes; waarop staat dat ze vooral niet zelf verantwoordelijk zijn voor de schade die hun AI-agents aanrichten.”