Bedrijven, organisaties en overheden maken zich steeds grotere zorgen over online-aanvallen door AI-agents. Zijn menselijke hackers al een enorme bedreiging, de ravage die AI-hackers kunnen aanrichten is vele malen groter. Wat is de oplossing?
is economieverslaggever van de Volkskrant.
Cybersecurity-expert Frank Breedijk (53) is op dinsdagavond 22 september nog maar net op de bank neergeploft voor een avondje Netflix met zijn vrouw als zijn telefoon gaat. ‘Frank, dit zou weleens een crisis kunnen zijn. Kun je helpen?’ Aan de lijn het cyberveiligheidscentrum van het Dutch Institute for Vulnerability Disclosure (DIVD), de ngo waarvoor Breedijk vrijwillig als crisismanager werkt.
Vanachter zijn laptop hoort hij van het team wat er aan de hand is en weet meteen: dit is foute boel. ‘Er waren allerlei accounts ingelogd die niet ingelogd zouden moeten zijn, systemen waren benaderd op manieren die niet zouden moeten’, zegt hij. ‘Alles wees op een hack, een pijnlijke conclusie.’
Pijnlijk, omdat DIVD zo’n zeven jaar geleden juist in het leven werd geroepen om het internet veiliger te maken: 160 vrijwilligers speuren het internet af op zoek naar kwetsbaarheden. Als zij die vinden, brengen ze de eigenaar van het systeem of de website hiervan op de hoogte en adviseren ze welke stappen moeten worden ondernomen. Nu was de organisatie zelf slachtoffer van een cyberaanval, en wel een van het kaliber dat Breedijk in zijn ruim 25-jarige carrière in de cybersecurity nooit eerder had gezien. ‘De aanvaller was niet alleen maar mens. De omvang van de schade en de hoeveelheid dingen die waren geprobeerd: echt een factor honderd meer dan bij een aanval die is uitgevoerd door een mens.’
Hoewel het onderzoek nog loopt, wijst veel erop dat DIVD op 21 september doelwit was van een aangestuurde aanval met AI-agents. Deze programma’s kunnen naast vragen beantwoorden – zoals chatbots ChatGPT en Claude doen – zelfstandig taken uitvoeren om een bepaald doel te bereiken.
Er zijn inmiddels legio voorbeelden van bedrijven, organisaties en zelfs overheden die doelwit zijn geworden van deze overijverige bots. Hoe groot het probleem is, begon cyberexperts deze zomer te dagen na de geruchtmakende hack van AI-bedrijf Hugging Face, dat zijn systemen binnengedrongen zag worden door honderden ontketende agents van OpenAI. Maar ook cybercriminelen maken steeds vaker gebruik van AI. Deze week stelde de Zuid-Koreaanse president Lee Jae Myung dat er aanwijzingen zijn dat hackers met behulp van AI-modellen aanvallen hebben gepleegd op Zuid-Koreaanse banken.
De Nederlandse (cyber)veiligheidsdiensten en -partners sloegen onlangs alarm over de toenemende dreiging die uitgaat van kunstmatige intelligentie op cybergebied. ‘AI versnelt de dreiging, nu handelen is noodzakelijk’, staat in koeienletters boven de gezamenlijke oproep van de veiligheidsdiensten AIVD en MIVD, het Nationaal Cyber Security Centrum (NCSC), de Nationaal Coördinator Terrorismebestrijding en Veiligheid (NCTV), de politie, het Openbaar Ministerie en de zogeheten chief information officer van de Rijksoverheid. De boodschap aan bestuurders in Nederland: geef nu prioriteit aan cyberveiligheid.
De vraag rijst hoe Nederlandse bedrijven en organisaties zich kunnen wapenen tegen deze nieuwe krachten, gezien de omvang van de incidenten en de snelheid waarmee die elkaar opvolgen (volgens nieuwssite Axios staat de teller inmiddels op ‘tienduizenden’). Is dat überhaupt wel mogelijk?
De toenemende cyberdreiging door kunstmatige intelligentie baart Nederlandse bedrijven zorgen, zegt directeur Liesbeth Holterman van Cyberveilig Nederland. ‘Met name in de vitale infrastructuur: telecombedrijven, banken, vervoerders. En terecht. Zij zien dat AI alles versnelt. Waar je vroeger langer de tijd had om kwetsbaarheden te patchen (oplossen, red.), is dat door de opkomst van AI een kwestie van uren dan wel minuten geworden.’
Het is niet eenvoudig om bedrijven zelf te spreken over hun AI-gepieker. Dat is niet zo gek, zeggen onlineveiligheidsdeskundigen: bedrijven zijn bang om zelf doelwit te worden van een hack of om aandeelhouders af te schrikken. Daarom kiezen zij na een hack doorgaans voor wat cybersecurity-expert Breedijk de ‘oesterstrategie’ noemt. ‘Schelp dicht en doen alsof het niet is gebeurd. En als dat geen optie is, zo min mogelijk toelichten.’
Wie wel een boekje wil opendoen, is Dimitri van Zantvliet, directeur cybersecurity bij NS. Bij de vervoerder zitten ze ‘zeker niet in de paniekmodus’, zegt hij. ‘Maar we zitten ook niet stil.’ Of de NS al eens doelwit werd van een AI-cyberaanval, durft hij niet te zeggen. Al kan hij het ook niet helemaal uitsluiten. ‘Je kunt niet altijd zien of het hackers zijn die AI-tools gebruiken, of dat het volledig autonome agents zijn. Dat zie je als ze langere tijd in het systeem zitten, maar dat hebben we nog niet meegemaakt.’
Belangrijk is om onderscheid te blijven maken tussen criminelen die gebruikmaken van AI en de ontketende bots van bedrijven als OpenAI. ‘Je moet je altijd meer zorgen maken over criminelen, die hebben kwade intenties’, zegt Holterman van Cyberveilig Nederland. ‘In ons wereldje is er discussie of de verhalen over ontsnapte agents onderdeel zijn van een fantastische marketingstrategie, of iets waar we ons daadwerkelijk zorgen om moeten maken. Zelf zit ik in de eerste lijn, maar zeker weten doen we het niet.’
De toenemende dreiging van AI hangt ook als een donkere wolk boven de ONE Conference in het World Forum in Den Haag, georganiseerd door het NCSC, het ministerie van Economische Zaken en Klimaat en de gemeente Den Haag. Op dit jaarlijkse cybersecurity-evenement komen cyberexperts van bedrijven, wetenschap en overheden uit heel Europa samen om te praten over de belangrijkste ontwikkelingen in hun vakgebied.
In congreszalen die zijn vernoemd naar continenten en rivieren gaat het deze woensdag veel over de dreiging van kunstmatige intelligentie. Vaak letterlijk, en anders wel als onheilspellende olifant in de kamer.
‘AI is een versneller van bestaande aanvalstechnieken, die worden sneller en efficiënter’, zegt Juriaan Spierenburg een dag na de conferentie via een videoverbinding. In zijn werk als dreigingsanalist bij het NCSC constateert hij dat het gebruik van AI door cybercriminelen in de afgelopen zes tot twaalf maanden een enorme ontwikkeling heeft doorgemaakt.
Kwaadwillenden hebben steeds meer toegang tot zulke technieken, ziet Spierenburg. ‘Aanvallers boeken resultaten met modellen die op ondergrondse fora worden aangeboden of die publiek beschikbaar zijn, terwijl ze vroeger meer afhankelijk waren van een handvol commerciële leveranciers.’
Iets na 12.30 uur beklimt een driekoppige afvaardiging van DIVD het podium van de Amazone-zaal voor een presentatie over de hack van twee weken eerder. Aan belangstelling geen gebrek: op de belofte van ‘volledige transparantie’ zijn zo veel mensen afgekomen, dat voor sommigen geen plek meer is. Allemaal willen ze horen over de aanval met AI-agents.
Breedijk luistert op de eerste rij naar het verhaal van zijn collega’s. Vanwege het nog lopende onderzoek mogen ze niet alles prijsgeven. Zo blijven de vragen wie achter de aanval zat en met welk motief er was onbeantwoord. Wel delen ze met de zaal dat zij een aangestuurde aanval met AI-agents als meest aannemelijke scenario beschouwen.
In een grauw perszaaltje legt Breedijk naderhand uit waar de vermoedens vandaan komen. ‘Als een menselijke hacker inbreekt, moet die een code schrijven om verder in het netwerk te zoeken, een soort stukje gereedschap. Een hacker is een gewoontedier en pakt normaal gesproken gereedschappen die hij al kent. Maar deze aanvaller heeft al zijn gereedschap zelf gebouwd.’
Breedijk wijst verder op de enorme puinhoop die de agents achterlieten in de DIVD-systemen. ‘Alsof iemand de koektrommel wil vinden die jij thuis hebt verstopt, en dat doet door een bus vol te laden met kleuters, die allemaal een blikje energy drink te geven en te zeggen: ergens in dat huis ligt een koektrommel. Die kleuters doen er vervolgens alles aan om die te vinden en slopen daarbij het hele huis. Daarna moet jij er op basis van de ravage achter zien te komen waar ze naar zochten.’
Is er dan niets te doen tegen al dat AI-geweld? Helemaal veilig ben je nooit, zegt cybersecurity-adviseur Bram van Aggelen van het NCSC. Maar de presentatie die hij en zijn collega Spierenburg in het staartje van de conferentie geven, is beduidend optimistischer dan veel lezingen van eerder die dag. Zij leggen uit wat organisaties kunnen doen om zich tegen AI-hacks te wapenen.
Volgens Van Aggelen ligt een belangrijke taak bij bestuurders. Dat is niet alleen een technisch verhaal. ‘Je moest cybersecurity al serieus nemen, maar nu al helemaal. Dat betekent onder andere dat de budgetten omhoog moeten.’
Concreet wijst Van Aggelen op vijf ‘basisprincipes’ waarmee bedrijven de kans op een succesvolle cyberaanval aanzienlijk kunnen beperken. Een daarvan is het verkleinen van je aanvalsoppervlakte: ‘Kijk wat voor software je allemaal hebt, en of ze van buitenaf toegankelijk zijn. Als dat het geval is, kan AI er misbruik van maken.’ Verder is het onder meer zaak om alleen mensen toegang te geven tot bepaalde netwerken als zij die toegang echt nodig hebben.
Het zijn principes die DIVD braaf volgde. Toch wist iemand twee kwetsbaarheden te vinden in de systemen van de organisatie. Breedijk: ‘We zeiden altijd: vraag je niet af óf je ooit wordt gehackt, maar wanneer je wordt gehackt. Dat was theoretisch, maar lijkt nu snel keiharde waarheid te worden.’
Zodra het onderzoek is afgerond, belooft DIVD het openbaar te maken als casestudy. ‘Voor zover wij weten zijn wij de eerste partij die op deze manier is aangevallen en er open over is. Wij hebben besloten om erover te publiceren, omdat we geloven dat iedereen er beter van wordt als we elkaar vertellen wat er is gebeurd.’
Source: Volkskrant