Komende week zijn er in Genève weer gesprekken tussen verschillende landen in de Verenigde Naties over volledig autonome wapensystemen. Met militaire kunstmatige intelligentie kunnen beslissingen over bombardementen in een mum van tijd worden genomen, maar de VN willen graag regels voor deze "killerrobots".
Het begrip autonome wapens is heel breed. Landmijnen zijn in principe ook autonoom, omdat ze ontploffen wanneer er iemand op stapt, in plaats van dat iemand een schot moet lossen.
Daarnaast zijn er ook volledig autonome wapens, die bijvoorbeeld zelf kunnen schieten of doelen kunnen selecteren. Ook die zijn niet nieuw. Nederland heeft sinds de jaren '80 het Goalkeeper-systeem, dat automatisch vijandelijke raketten of vliegtuigen uit de lucht moet schieten.
Maar met de komst van kunstmatige intelligentie is de militaire industrie in een nieuw tijdperk beland. Door het gebruik van AI kunnen militaire doelen in een mum van tijd geanalyseerd worden voor een aanval, veel sneller dan wanneer een mens dit moet doen.
Onder meer Israël en de Verenigde Staten gebruiken deze AI-systemen. Israël beschikt over 'Lavender' en 'Gospel' om doelwitten in Gaza vast te stellen. De VS gebruikten met hetzelfde doel meerdere AI-programma's in de oorlog met Iran. Daarbij werd onder meer een school geraakt.
The New York Times schreef maandag over een Russische droneaanval op de Oekraïense stad Zaporizhzhia waarbij drie doden vielen. In tegenstelling tot andere drones leek deze door AI te zijn bestuurd om gericht tankstations aan te vallen.
Een aantal dagen later kwam de VN met een nieuwe oproep om de productie van wapensystemen met AI aan banden te leggen. "We bevinden ons nu gevaarlijk dicht bij het overschrijden van een morele rode lijn: het autonome richten op mensen door machines", schreef VN-baas António Guterres. De organisatie wil de ontwikkeling van zogenoemde 'killerrobots' aan banden leggen.
Het gebruik ervan in de oorlog in Oekraïne heeft voor meer interesse in deze systemen gezorgd, stelt Marijn Hoijtink, hoofddocent internationale betrekkingen aan de Universiteit van Antwerpen. "Het militaire argument is vaak dat de besluitvorming over aanvallen en het reageren op de vijand zo snel mogelijk moet gebeuren. Als je alles automatiseert, zou je een voorsprong krijgen", zegt ze tegen NU.nl. "Uit de oorlog in Iran weten we bijvoorbeeld dat AI-modellen gebruikt werden om veel meer aanvallen uit te voeren."
Daarnaast wordt als argument aangevoerd dat AI preciezer kan reageren op informatie dan andere wapens. "Niet-AI-geleide bommen zijn dommer", zegt Hoijtink. "Want die berokkenen meer schade, is het argument."
Dat AI-wapensystemen voor minder schade zouden zorgen dan de 'domme bommen', is volgens Hoijtink maar de vraag. "We moeten dat met een korreltje zout nemen, want het hangt er ook vanaf hoe de wapens worden ingezet."
Datzelfde denkt Jessica Dorsey, expert op het gebied van oorlogsrecht aan de Universiteit Utrecht. "AI kan heel veel info verzamelen en analyseren", zegt ze. Daarmee kan AI volgens haar snel verschillende opties aan een commandant geven, als voorbereiding op een aanval. Maar of de informatie klopt, moet nog steeds worden gecontroleerd. "Hoe weten we dat die opties de beste opties zijn en hoe controleer je die? Dat kost tijd. Op het slagveld heb je dat soms niet."
AI kan die beslissing versnellen, maar dat neemt volgens Dorsey niet weg dat een besluit nog steeds zorgvuldig genomen moet worden. De vraag is of dat altijd gebeurt. Zo interviewden het Israëlisch-Palestijnse +972 Magazine en Local Call zes inlichtingenofficieren van het Israëlische leger over hun gebruik van AI om doelen te analyseren. Veel van hen zeiden dat er niet veel tijd wordt genomen om de beslissing te nemen. "Ik besteedde in deze fase 20 seconden aan elk doelwit en deed er dagelijks tientallen. Ik had als mens geen enkele toegevoegde waarde, behalve dat ik goedkeuring gaf", zei een officier.
"Voor mij gaat het erom, bij welke technologie dan ook: heb je er genoeg aan gedaan om binnen de lijnen van het oorlogsrecht te blijven?", zegt Dorsey. Bij een drone zoals die in Oekraïne werd gevonden, komen helemaal geen menselijke handelingen meer aan te pas nadat deze is afgevuurd. Een mens zou volgens het oorlogsrecht de aanval moeten kunnen afbreken, bijvoorbeeld als er burgers in beeld komen. Bij dit type drone is dat lastig. "Ik heb mijn vraagtekens bij hoe je dat kan voorkomen."
De discussie over autonome wapens speelt al ruim tien jaar, maar door de opmars van militaire AI is die nog prangender geworden. In 2023 riep de VN landen voor het eerst op om te gaan praten over de vraag of er een verdrag over het gebruik van AI moet komen, zoals dat ook voor andere wapens is gedaan. In november dit jaar moet worden besloten of landen überhaupt willen bespreken wat er in zo'n verdrag moet komen te staan.
De VN pleit in ieder geval voor een verbod op twee soorten autonome wapens. Zo moeten wapens die volledig zelfstandig handelen, zonder dat een mens kan voorspellen welk geweld ze zullen gebruiken, verboden worden. Ook mogen wapens zich niet specifiek op menselijke doelwitten richten.
Volgens Dorsey zijn landen verdeeld over de regulering. "We hebben nog steeds geen afgesproken definitie van wat een volledig autonoom wapensysteem is", zegt ze. Sommige landen zijn bijvoorbeeld wel voor regulering van drones zoals die eerder in Oekraïne werd gevonden, maar zijn tegelijkertijd nieuwsgierig naar de technologie om doelen vast te stellen. "Iedereen heeft dit soort technologie, of wil het hebben", zegt Dorsey.
De komende week praten landen verder in Genève over de vraag of er een verdrag moet komen. Als daar in november geen overeenstemming over is, zullen landen die wel strengere regels willen op een andere manier tot internationale afspraken proberen te komen.
Source: Nu.nl Tech