Het jaar van de drone Autonome wapens zijn al ruim tien jaar een schrikbeeld van juristen en mensenrechtenorganisaties. Maar de autonome drone is dichtbij – ook Nederlandse bedrijven werken aan zelfstandig opererende drones.
Beelden die de drone maakt zijn in de auto op een scherm te volgen.
Hij past gemakkelijk in de kofferbak van een auto: de Nederlandse strike drone die zich zonder tussenkomst van een piloot boven op een tank stort met vijf kilo springstof onder de wieken.
De ‘Stormvogel’ heeft geen afstandsbesturing nodig; kunstmatige intelligentie aan boord herkent zelf de vijand en navigeert de drone naar het doel. Het prototype in de kofferbak is daarmee een autonoom wapensysteem – zij het dat ingenieur Miguel Pieters het algoritme zo heeft aangepast dat hij pas aanvalt nadat een menselijke operator op een knop heeft gedrukt.
„Je kunt dat ding niet zomaar over de frontlinie sturen en hem alles laten aanvallen wat hij heeft gedetecteerd”, zegt Pieters. „Er bestaat ook nog zoiets als het humanitair oorlogsrecht.”
Autonome wapens, of killer bots, zijn al ruim tien jaar een schrikbeeld van juristen en mensenrechtenorganisaties. Het internationaal humanitair recht schrijft voor dat militair geweld alleen binnen bepaalde grenzen mag worden toegepast. Zo moet er strikt onderscheid worden gemaakt tussen militaire tegenstanders en burgers en moet het gebruikte geweld proportioneel zijn tot het militaire doel: zomaar alles platgooien mag niet.
Volgens juristen zijn alleen ménsen in staat deze ethische regels toe te passen. „Menselijke controle”, zo schreef de Adviesraad Internationale Vraagstukken (AIV) in 2021, is „essentieel voor het naleven van de kernregels van het internationaal humanitair recht.” Volgens de AIV kunnen „volledig autonome wapensystemen” niet worden ingezet „in overeenstemming met het bestaande internationale recht”. Het gebruik van een killer bot komt dus neer op een oorlogsmisdaad.
Maar dat is de juridische realiteit. In de dagelijkse praktijk van de bloedige oorlog in Oekraïne is de inzet van volledig autonome wapens eerder een kwestie van maanden dan van jaren. Oleksandr Jakovenko, de ceo van de dronefabrikant TAF Industries, zei eerder tegen NRC dat hij verwacht dat de eerste volledig autonome drone in de loop van 2026 op de markt verschijnt. Vooralsnog richten Oekraïense ontwikkelaars zich nog op het vernietigen van ándere onbemande systemen, zoals de Russische Shahed-drones die dagelijks inslaan in Oekraïense woonwijken. De inzet tegen vijandelijke soldaten lijkt echter een kwestie van tijd. Bovendien: ook Rusland werkt aan de ontwikkeling van autonome wapensystemen.
Ook Nederlandse bedrijven werken aan (semi-)autonome wapensystemen. Miguel Pieters en Luc Wentholt zijn de eigenaars van Linear Logic, een start-up die zich aanvankelijk specialiseerde in de analyse van satellietbeelden met behulp van AI, maar inmiddels bouwt aan een aanvalsdrone die de last mile naar het doel volledig zelfstandig aflegt. Op een veldje in de Flevopolder doen de twee een nieuwe ronde testvluchten met de Stormvogel. Wentholt – die financiële economie studeerde – vertelt met enthousiasme over elektrotechniek. „We hebben een nieuwe condensator gevonden die goedkoper is, die gaan we vandaag uitproberen.”
Luc Wentholt kijkt toe hoe Miguel Pieters een ‘Stormvogel’ bestuurt.
Wentholt en Pieters hopen dat de Oekraïense strijdkrachten volgend jaar de eerste – verbeterde – Stormvogels zullen afnemen. Om dat mogelijk te maken moet hun strike drone zo goedkoop mogelijk zijn en geen gebruikmaken van onderdelen uit China – Ruslands bondgenoot. Miguel Pieters wijst naar de microprocessor die de drone aanstuurt. „Deze flight stacks worden in Eindhoven gemaakt. En de aluminium frames zagen we zelf.”
In Oekraïne zijn drones inmiddels verantwoordelijk voor ongeveer 80 procent van alle Russische doden en gewonden, zo meldden commandanten dit najaar aan de New York Times. Volgens de Oekraïense militair analist Volodomyr Havrylov zijn drone-eenheden, die hooguit 10 procent van de Oekraïense strijdkrachten uitmaken, verantwoordelijk voor de helft van alle Russische casualties. Het is een slachting tegen minimale kosten: een gemiddelde kamikaze-drone tegen militair personeel kost hooguit zeventig euro.
De FPV-drones (FPV staat voor First Person View) zijn dodelijk, maar ze zijn afhankelijk van de radiografische aansturing door een militair op de grond. Deze radiogolven kun je verstoren door zélf sterke radiosignalen uit te zenden. Mychajlo Djatsjenko, directeur Ontwikkeling bij TAF Industries, hoort er dagelijks over. „Geef ons de spullen om door de Russische elektronische oorlogsvoering heen te breken, zeggen de jongens op het slagveld tegen ons.”
Het belangrijkste antwoord op Elektronische Oorlogsvoering (EOV) is nu nog een oud middel uit de Koude Oorlog, in een nieuw jasje. De Amerikaanse TOW-anti-tankraket (1968) maakte al gebruik van de aansturing via een elektrisch signaal over een kilometerslange draad. De digitale variant hiervan is de glasvezeldraad, waarover digitale (licht-)signalen worden verstuurd. Op sommige plekken aan het front, zoals bij Pokrovsk, is het slagveld inmiddels bedekt met kilometerslange spinnenwebben van glasvezel.
Op de auto van Wentholt en Pieters ligt een Oekraïense vlag.
Glasvezeldrones zijn niet te storen, maar het gebruik van de draad brengt belangrijke operationele beperkingen met zich mee – denk alleen maar aan de vele kilometers glasdraad die nodig zijn voor een vlucht. Het onafhankelijk (autonoom) maken van de drone is een betere oplossing, en kunstmatige intelligentie maakt dit mogelijk. De kern van de technologie zijn algoritmes voor beeldherkenning. Daarbij scant het algoritme de volgorde van de pixels van een digitaal beeld en vergelijkt deze met een databank van digitale voorbeelden. Door eindeloze herhaling ‘leert’ het algoritme steeds beter om beelden te identificeren, of het nou een poezenfoto op Facebook is of een Russische T-72 in de schaduw van een bosrand.
Het trainen van het algoritme is een intensief proces dat grote hoeveelheden data en enorme hoeveelheden rekenkracht vergt, maar eenmaal ‘opgeleid’ past het op een geheugenkaartje van een paar gigabyte. Het algoritme van de Stormvogel herkent in ieder geval zonder problemen onze huurauto langs de rand van de weg. Op het scherm van Pieters’ laptop verschijnen grote letters: ‘Smash Mode’. Driftig zoemend schiet de strike drone onze kant op: je zou bijna vergeten dat de dikke metalen schijf onder de quadcopter geen antitankmijn is, maar slechts een haltergewicht uit de sportschool.
Inmiddels zijn verschillende bedrijven bezig met prototypes die werken met AI. „We horen daar veel verhalen over”, zegt Miguel Pieters. „Maar hoe goed ze nou precies werken weten we eigenlijk niet.”
De AI-technologie is niet onfeilbaar, vertelt Maurits Korthals Altes, oprichter van het Amsterdamse bedrijf Intelic, dat software voor de bediening van drones bouwt. De camera ziet een vijandelijke tank als een donker silhouet. Op grote afstand, en als de zon laag staat, is de schaduw van een T-72 soms lastig te onderscheiden van de tank zelf. „Dan is het soms een beetje stuivertje wisselen of die drone uiteindelijk de tank pakt, of de schaduw.”
Hoe beter het algoritme is getraind, hoe kleiner de kans op dergelijke fouten is – maar goede software kost tijd en geld. „Oekraïense drone-fabrikanten als TAF werken met flinterdunne marges”, vertelt Maurits Korthals Altes. Volgens hem worden de duurdere algoritmes op dit moment vooral gebruikt voor verkenningsdrones, die al gauw tienduizend euro per stuk kosten. „Dat is waar de meeste grote defensiebedrijven zich op richten.”
Defensie-ondernemer Korthals Altes ziet hoe Europese defensiebedrijven de deur platlopen in Kyiv. „Ze lopen allemaal dezelfde route door de stad en ze posten dezelfde berichten op sociale media. Hoe ze de hele nacht wakker hebben gelegen van de sirenes. Alles om maar op hun website te kunnen zetten dat hun product ‘battle tested’ is. Oekraïners worden er stapelgek van.”
Het eerste defensiebedrijf dat langskwam in Kyiv was een grote speler uit Amerika. In juni 2022 – de oorlog was nog maar net begonnen – reisde Alex Karp, topman van het Amerikaanse techbedrijf Palantir, af naar Kyiv, waar hij persoonlijk werd ontvangen door president Volodymyr Zelensky. Palantir is gespecialiseerd in het analyseren van big data met behulp van AI. Dat is nuttig voor bedrijven die hun logistieke keten willen optimaliseren, of voor banken die zoeken naar fraude. Militairen gebruiken Palantirs toepassingen onder meer voor ’targeting’: het selecteren van doelwitten in het veld. Alex Karp beloofde Zelensky zijn volledige medewerking – al vertelde hij niet wat zijn bedrijf precies levert.
Wat Karp wilde van de Oekraïners laat zich echter gemakkelijk raden: hun battle field data. Voor de automatische herkenning van poezen staan er miljarden gratis foto’s online, maar beelden van Russisch materieel in verschillende soorten terrein onder verschillende weersomstandigheden zijn moeilijk te verkrijgen – en daarom goud waard. Het Oekraïense ministerie van Defensie ontvangt wekelijks duizenden video’s van drone-aanvallen uit het veld. Niet iedereen krijgt daar zomaar toegang toe, vertelt Maurits Korthals Altes. „We krijgen wel veel informatie. Oekraïners zijn wat dat betreft heel open.”
Ook voor de kleinere spelers biedt de oorlog kansen. TAF Industries werkt inmiddels samen met een Nederlandse start-up op het gebied van AI. TAF Industries wil niet zeggen wie het bedrijf is – maar het is in elk geval niet Linear Logic van Pieters en Wentholt. Het betekent dat ten minste twee Nederlandse start-ups werken aan AI-oplossingen voor autonome wapens. „Als je praat met de grote spelers op dit gebied, zoals Rheinmetall, dan kun je nooit op gelijke voet opereren”, vertelt manager Mychajlo Djatsjenko. Zij zeggen: ‘wij zijn groter, wij willen jullie technologie’. Met de Nederlanders werken we echt samen, op gelijk niveau. We zijn een hele goede match.”
In het afgelopen voorjaar kondigde staatssecretaris van Defensie Gijs Tuinman een ‘Security Fund’ (SecFund) aan van 100 miljoen euro voor start-ups die nieuwe defensieproducten naar de markt willen brengen. Afgelopen november vroeg Tuinman het Nederlandse bedrijfsleven om met oplossingen te komen voor de verdediging tegen drones. De ‘challenge’ heeft volgens het ministerie van Defensie inmiddels tot ruim vijftig voorstellen geleid. Volgens Maurits Korthals Altes zijn er zeker „vijf à tien” Nederlandse drone-gerelateerde bedrijven actief in Oekraïne.
Wie echt kansrijk wil zijn in Oekraïne moet het veld in. De Oekraïense gevechtsbrigades hebben een grote autonomie – ook over de aankoop van drones. Succesvolle ondernemers, zo zegt Korthals Altes, zijn vaste gasten aan het front. „Je moet continu investeren in die relatie. Je moet er om de paar weken zijn, en met ze meegaan.”
Dat is niet zonder risico’s, zegt Korthals Altes, wiens medewerkers ter plaatse testen uitvoeren, samen met Oekraïense militairen, trainingen geven en evaluaties houden van de werking van hun producten. „Daarvoor komen we op zo’n twintig kilometer van het front. Voor een Nederlands bedrijf is dat behoorlijk spannend, maar voor hen is dat het veilige achterland.”
Miguel Pieters prepareert de ‘Stormvogel’ voor een volgende testvlucht.
Een Stormvogel-drone valt autonoom een doelwit aan.
„De Oekraïners zijn behoorlijk kritisch”, zegt Wentholt. „Deze prototypes zouden we bijvoorbeeld nooit naar Oekraïne kunnen verschepen, om de simpele reden dat het metaal niet geanodiseerd is – daardoor reflecteert het zonlicht erop en is hij te goed zichtbaar.”
Een van de Stormvogels is naar de verre kant van het veld gevlogen en blijft daar stil in de lucht hangen. „We laten hem nu een missie vliegen”, vertelt Wentholt. Hij wijst naar de open kofferbak van de auto, waar een grote antenne uit steekt. „Mocht hij het signaal kwijt raken, dan is er een safety: dan komt hij return to launch.”
De Stormvogel is nu nog afhankelijk van radiobesturing vanaf de grond – pas als de piloot op de grond opdracht heeft gegeven tot de aanval, neemt het algoritme het over. „Alleen het laatste stukje doet hij zelf”, zegt Pieters. „De volgende stap wordt dat hij naar een aangewezen gebied kan vliegen en daar zelf gaat kijken welke doelen hij kan pakken.”
Over de ethische bezwaren daarvan wordt al ruim tien jaar gedebatteerd, maar tot nu toe zonder resultaat. Al in 2013 wees speciaal VN-rapporteur Christof Heyns op de risico’s van autonome wapensystemen. In zijn rapport aan de Algemene Vergadering van de VN pleitte Heyns voor een moratorium op killer robots totdat er internationale regels zouden zijn opgesteld voor het gebruik ervan. In datzelfde jaar startte Human Rights Watch in samenwerking met andere maatschappelijke organisaties een campagne voor een internationaal verdrag dat ‘killer robots’ zou verbieden.
Destijds onderscheidden de experts drie niveaus van menselijke controle: ‘Human in the loop‘ (de mens stuurt de robot), ‘Human on the loop‘ (de mens heeft de mogelijkheid om een aanval af te breken) en ‘Human out of the loop‘ (de drone beslist alles zelf). Volgens juristen en mensenrechtenorganisaties was de laatste variant onacceptabel en was het essentieel dat er altijd sprake zou zijn van ‘betekenisvolle menselijke controle’.
Nog geen tien jaar later bleek een deel van die definities al achterhaald. Begrippen als ‘human in the loop’, zo meldde de Adviesraad Internationale Vraagstukken (AIV) en de Commissie van advies inzake volkenrechtelijke vraagstukken (CAVV) in een gezamenlijk rapport uit 2021, „zijn niet behulpzaam gebleken”. Binnen VN-verband wordt al jarenlang getracht om afspraken te maken over autonome wapens onder de Convention on Certain Conventional Weapons (CCW). Daarbij verschuift de discussie steeds meer van ‘mens aan de knoppen’ naar ‘menselijke controle’ op de technologie die wordt ingezet.
Dat is ook de denkrichting van een internationale discussie die door Nederland en Zuid-Korea werd gelanceerd: Responsible AI in the Military Domain (REAIM). Ethische principes, zo constateerden internationale experts vorig jaar, zouden al vanaf de ontwérpfase in AI-systemen moeten worden geïntegreerd.
Ook Maurits Korthals Altes vindt de term ‘human in the loop’ verouderd. „Wat nou als je een gebied hebt waar geen burgers lopen in de buurt van een loopgraaf van vijfhonderd bij vijfhonderd meter. En je weet absoluut zeker dat daar alleen maar militairen zitten. Dan zou je tegen het systeem zeggen: vlieg die kant op, en zodra je binnen die vijfhonderd bij vijfhonderd meter bent mag je alles aanvallen wat beweegt. Dus die context is heel bepalend of het ethisch of onethisch is om zo’n AI-systeem te gebruiken.”
Mychajlo Djatsjenko van TAF Industries is het daarmee eens. „Wij weten precies waar de vijand zit”, zegt hij. „Dus vanuit ons perspectief is het goed om een drone af te sturen op een bepaald gebied. Maar op dit moment hebben we nog geen AI die vanaf nul het hele proces autonoom voor zijn rekening neemt: het zoeken van de vijand, het opstijgen, het vinden en het uitschakelen. Je hebt nog steeds een dronebestuurder nodig.”
Lang gaat dat echter niet meer duren. Ontwikkelaars dromen al over de inzet van hele zwermen autonome drones. Het idee is dat tientallen, uiteindelijk mogelijk honderden of duizenden drones gezamenlijk en gecoördineerd – en autonoom – grootschalige aanvallen kunnen uitvoeren, of kunnen worden ingezet als luchtverdediging tegen vijandelijke drones. „Zwermen zijn de volgende stap in een historische evolutie van succesvolle oorlogsvoering”, schreef de Amerikaanse militaire site War On The Rocks afgelopen najaar.
Dergelijke autonome dronezwermen zijn geen sciencefiction. De technologie bestaat al; de grote uitdaging is het ontwerpen van ‘intelligente’ zwermen die betrouwbaar manoeuvreren en die zelf beslissingen nemen om zich aan te passen aan veranderende omstandigheden.
„De technologie beweegt zich nu tussen het herkennen van doelwitten naar de inzet van complete dronezwermen”, zegt Mychajlo Djatsjenko. „Ik denk niet dat die er in 2026 al zijn. Maar wij werken er wel aan.”
Het ministerie van Defensie laat in een reactie weten dat het „kennis opdoet” over de inzet van AI door andere krijgsmachten, om te kunnen leren hoe Defensie kunstmatige intelligentie „op een verantwoorde wijze” kan gebruiken. Voor het departement blijven het internationaal recht en het humanitair oorlogsrecht echter „onverkort” van toepassing. „Dit betekent onder andere dat Defensie het menselijk oordeelsvermogen over de output van AI-systemen moet waarborgen”, aldus het departement: „AI zal de mens nooit vervangen bij militaire operaties.”
Doorzie de wereld van technologie elke week met NRC-redacteuren
Source: NRC