AI-monitoring Nederland wil het voortouw nemen in internationale discussies over AI-veiligheid. Daarvoor ontwikkelt de overheid een systeem om toezicht te houden op wat er gebeurt in datacenters. De een noemt het „een kansarme poging” Nederland relevant te maken in „de AI-wapenwedloop”. De ander ziet een belangrijke stap naar een veiliger wereld.
Willemijn Aerdts, verantwoordelijk staatssecretaris voor digitale economie en soevereiniteit, krijgt uitleg over het experimentele systeem voor AI-verificatie.
Een ”wereldprimeur” op AI-vlak, noemt staatssecretaris Willemijn Aerdts (Digitale Economie en Soevereiniteit, D66) het. Niet in de frontier labs van Amerikaanse techbedrijven of hun Chinese tegenhangers, maar in een overheidskantoor op de Koningskade in Den Haag. Dat hier een bijzonder experiment plaatsvindt, op deze woensdagmiddag eind oktober, wordt herhaaldelijk benadrukt.
Te zien is een systeem dat kunstmatige intelligentie kan monitoren. Zodat het mogelijk wordt „toezicht te houden op wat er in grote datacenters gebeurt”, aldus Aerdts. Dat is nuttig, zegt de staatssecretaris, als landen in de toekomst besluiten internationale afspraken te maken over AI.
Het vergt vandaag de dag wellicht nog flink wat voorstellingsvermogen, maar mochten China en de Verenigde Staten oordelen dat de razendsnelle ontwikkeling van AI tóch een te groot risico vormt voor de samenleving, dan zullen mechanismen nodig zijn om te controleren of iedereen zich aan de afspraken houdt. Nederland wil daar op voorsorteren.
Na het bezoek van de staatssecretaris en haar team verschijnen de ambtenaren van het ministerie van Buitenlandse Zaken, dat ook bij het experiment betrokken is. De blauwe oordoppen die alle bezoekers krijgen voordat ze het ’testlab’ in stappen, zijn al bijna op. „Tegen het harde geluid van koelventilatoren van de servers”, waarschuwt ‘AI-kwartiermaker’ Eli de Smet van SSC-ICT, een IT-organisatie binnen de overheid.
Broekspijpen wapperen in de luchtstroom van de AI-servers die in de ruimte staan. De luxaflex zit dicht, voor de geheimhouding.
Normaal draaien op de servers hier alleen modellen waarmee ambtenaren alledaags AI-werk kunnen verrichten, zoals samenvatten en herschrijven van teksten, zonder dat daarbij overheidsdata naar externe bedrijven gaat. Nu staat op de grond een koffertje vol elektronica die op de servers is aangesloten. Op een laptop zijn de resultaten af te lezen.
Twee medewerkers van het Britse hardwarebedrijf Amodo Design, waar de overheid mee samenwerkt, proberen bij hun uitleg boven het geluid van de servers uit te komen. De technologie in het koffertje controleert willekeurig informatie die de servers verlaat en waarschuwt als het iets onverwachts – en dus verdachts – detecteert.
Vandaag is het prototype te zien. De hoop is dat een dergelijk apparaat in de toekomst in elk groot datacenter aanwezig zal zijn.
De roep om de AI-revolutie te vertragen, klinkt luider en luider. Ceo’s van grote Amerikaanse AI-bedrijven waarschuwen dat hun technologie de mensheid mogelijk zal uitroeien. Wereldleiders, onder wie premier Rob Jetten, riepen tijdens de jaarlijkse vergadering van de Verenigde Naties in New York op tot internationale inspanningen om AI te beteugelen.
Alleen wil dat nog niet echt lukken. Zowel bedrijven als landen, de Verenigde Staten en China voorop, zijn verwikkeld in een wedloop waarbij ze vrezen het onderspit te delven als ze het tempo van hun eigen ontwikkeling vertragen. Het wantrouwen tussen de onderlinge partijen is te groot. Daarbij toont de regering-Trump vooralsnog weinig interesse in regulering van de Amerikaanse bedrijven die de krachtigste modellen ontwikkelen.
De grote vraag is hoe je dat onderlinge vertrouwen van landen kan vergroten, zegt Tom Milton, ceo en medeoprichter van Amodo. Met zijn 28 jaar is hij een van de jongsten in de ruimte, maar in de wereld van AI is zijn leeftijd verre van uitzonderlijk.
Het koffertje op de grond moet het begin van een antwoord bieden.
Experts kijken volgens Milton naar het voorbeeld van nucleaire non-proliferatie. Want het is niet de eerste keer dat twee supermachten zijn verwikkeld in een race rondom een potentieel vernietigende technologie.
Dat er vanaf de jaren zestig toch afspraken konden worden gemaakt over productie en ontwikkeling van nucleaire wapens, kwam doordat de Amerikanen en Sovjets wederzijds vertrouwen opbouwden door beetje bij beetje informatie over hun nucleaire programma’s uit te wisselen. „Trust, but verify”, zoals de Amerikaanse president Ronald Reagan het later omschreef.
„De IAEA [de atoomwaakhond van VN] begon toezicht te houden op de toeleverketen van nucleaire materialen”, zegt Milton. „Daarnaast kon met seismologische instrumenten worden gezien of er kernproeven plaatsvonden aan de hand van aardtrillingen.” Er kwam een hotline tussen Washington en Moskou, waarmee leiders direct met elkaar konden spreken – om misverstanden te voorkomen of op te helderen.
Is deze strategie toepasbaar op de AI-race? Inspecteurs zouden toezicht kunnen houden op rekenkracht: de zuurstof waarop de modellen draaien. Data en berekeningen achter AI zijn een stuk minder tastbaar dan het uranium of plutonium dat nodig is voor kernwapens; de gigantische datacenters waarin al die rekenkracht huist, zijn dat juist wél.
Het prototype in het koffertje dat vandaag wordt gedemonstreerd, is een soort leugendetector die je op servers kan aansluiten. Het kan twee dingen prijsgeven van een datacenter. Zo laat het zien of het datacenter alleen wordt gebruikt om bestaande AI-modellen te laten draaien, of dat er ook nieuwe, krachtigere modellen worden getraind. „Dat is bijvoorbeeld relevant in een context waarin landen besluiten het ontwikkelen van nieuwe AI (tijdelijk) te pauzeren”, aldus Milton. Zo kunnen landen of partijen controleren of de ander zich aan de afspraken houdt.
In de tweede plaats biedt het apparaat de de zekerheid dat het datacentrum alleen een specifiek, afgesproken model toepast – bijvoorbeeld een waarvan de veiligheid is getest. En niet stiekem een ander model, dat wellicht krachtiger is en waarover mensen makkelijk de controle kunnen verliezen. Denk aan de AI-agents van diverse grote techbedrijven die afgelopen zomer losbraken en over de hele wereld overheden, bedrijven en andere organisaties hackten.
Essentieel is dat het monitoringsysteem op de beide fronten kan toezien zonder dat het – mogelijk sensitieve – informatie op de servers doorgeeft aan concurrerende bedrijven of vijandige staten. Het systeem stuurt alleen een simpel signaal naar buiten: een datacenter is „geslaagd” of „niet geslaagd”.
Waarom is de demonstratie van vandaag een primeur? „Het is de eerste keer dat dit soort ‘hardwareverificatie’ wordt getest op een server van een overheid”, zegt Wouter Jurgens, directeur Internationaal Veiligheidsbeleid bij het ministerie van Buitenlandse Zaken, die ook is komen kijken naar het experiment.
Eerder is de technologie alleen getest op de eigen systemen van Amodo. „Je kan begrijpen dat overheden doorgaans nogal terughoudend zijn om te fungeren als proefkonijn voor nieuwe apparatuur”, zegt Jurgens. „Maar dat laat zien hoe urgent de situatie is.”
„We zijn [met het experiment van vandaag] zelfs sneller dan de Britten”, zegt Jurgens met een glimlach. Het Verenigd Koninkrijk – internationaal koploper in AI-veiligheid – kondigde vorige maand ook aan een leidende rol te ambiëren in hardwareverificatie.
Maar waarom is Buitenlandse Zaken bij zo’n AI-experiment betrokken? „Mijn afdeling is verantwoordelijk voor het in kaart brengen van alle soorten risico’s in de wereld”, zegt Jurgens. „En AI is daar onderdeel van.” Bovendien heeft het kabinet volgens hem de ambitie het voortouw te nemen in internationale discussies over het onderwerp. „Daar komen wij als ministerie natuurlijk ook om de hoek kijken.”
Zo kwam het ministerie dus terecht bij hardwareverificatie van AI. Amodo werd uitgenodigd een proef uit te voeren op servers van de overheid. Nederland investeert zelf niet in het onderzoek van het Britse bedrijf. Het werk ervan op dit gebied wordt voornamelijk gefinancierd door twee filantropische fondsen: het Survival and Flourishing Fund en Longview Philanthropy.
Slechts een handvol andere bedrijven en organisaties doen iets soortgelijks, aldus Milton. „Wereldwijd zijn er waarschijnlijk zo’n 25 tot 50 ingenieurs die zich fulltime bezig houden met AI-verificatie.”
Hoewel ceo’s van Amerikaanse AI-bedrijven zelf zeggen dat zulke controlemechanismen nodig zijn, investeren ze er volgens Milton nauwelijks in. „Daar ligt een rol voor overheden. De markt slaagt er niet in de juiste prikkels te bieden.”
Aangezien Nederland met chipmachinefabrikant ASML een cruciale schakel vormt in de keten die AI-infrastructuur bouwt, is het volgens Jurgens logisch een rol in de controle daarop te spelen „We willen innovatie niet in de weg staan en AI kunnen inzetten voor het algemeen belang, maar we moeten ervoor zorgen dat dit verantwoord gebeurt.”
Daarom wil Nederland volgens Jurgens bouwen aan een „internationaal systeem waarin we de risico’s van AI kunnen mitigeren”. Het begin van zo’n coalitie is er volgens hem. „Tijdens de VN-jaarvergadering in New York trok premier Jetten op met de leiders van 21 andere landen, waaronder Canada, Finland en Noorwegen. Dat biedt genoeg kritische massa om andere landen te overtuigen mee te doen, waarbij China en de VS de grootste uitdaging vormen.”
De Nederlandse regering lijkt de omvang van die uitdaging schromelijk te onderschatten, zegt Paul Verhagen, analist bij denktank HCSS en ‘AI-strateeg’ aan de Universiteit van Amsterdam. „Plannen voor AI-verificatie erkennen niet de racedynamiek die speelt tussen de VS en China.”
Het ziet er volgens hem niet naar uit dat de Chinese en Amerikaanse overheden zich op AI-vlak zullen laten binden door verdragen. „De VS willen hun voorsprong behouden en de Chinezen willen de Amerikanen inhalen.” Verhagen noemt het initiatief van de overheid dan ook een „heel begrijpelijke, maar kansarme poging om Nederland een relevante speler te maken binnen de AI-wapenwedloop”.
Een ander punt van kritiek op AI-verificatie is dat kunstmatige intelligentie, anders dan kernwapens, breed toepasbaar is in de samenleving. „Naast energie wordt nucleair materiaal voornamelijk gebruikt voor de vervaardiging van wapens”, aldus Lauren Kahn, senior onderzoeksanalist van het Center for Security and Emerging Technology van de Amerikaanse Georgetown University. Van AI wordt juist verwacht dat het in vrijwel alle sectoren doorsijpelt, waarbij bedrijven de AI-revolutie leiden, niet overheden. Probeer dat maar eens aan banden te leggen.
Toch noemt Michiel Bakker, AI-onderzoeker aan de Amerikaanse universiteit MIT en tot juli werkzaam bij Googles AI-divisie DeepMind, het experiment op Nederlandse servers „echt een heel interessant stap”. Hij ziet het als een bijdrage aan het internationale ecosysteem van AI-veiligheid. „Nederland heeft zelf geen frontier AI labs, dus het is lastig direct invloed uit te oefenen op regulering van grote AI-bedrijven in de VS, of er afspraken mee te maken. Maar we kunnen op deze manier wel bijdragen aan de technologie die nodig is om afspraken te controleren.”
Geen enkel individueel monitoringsysteem zal een wondermiddel zijn, zegt Milton van Amodo. „Kijk naar de eerste afspraken op nucleair gebied, die waren heel eenvoudig. Zoals: zware bommenwerpers naar buiten rollen, zodat de ander ze met een satelliet kon observeren.
„En natuurlijk kan je valsspelen. Sommige van die vroege verificatie-mechanismen zijn makkelijker te omzeilen en leveren minder informatie op, maar het gaat om vertrouwen kweken. In de loop van de tijd ontwikkel je betrouwbaarder systemen die de samenwerking tussen landen kunnen verdiepen.”
China en de VS zullen zich nu wellicht niet willen committeren aan een internationaal AI-verdrag, maar Milton acht het goed mogelijk dat er een moment komt dat de wereld niet anders kan dan AI aan banden leggen. „En het zou dan ontzettend vervelend zijn als we niet de technologische hulpmiddelen klaar hebben liggen om daarbij te helpen.”
Bij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Meer informatie