In een simulatie met een door AI bestuurde militaire drone van de Amerikaanse luchtmacht zou het vliegtuig de gesimuleerde menselijke operateur vermoord hebben om onafhankelijk taken te kunnen uitvoeren. De simulatie had volgens de luchtmacht een 'zeer onverwachte' uitkomst.
In de gesimuleerde omgeving zou een AI-drone ingezet zijn om luchtafweersystemen op te sporen en te vernietigen, waarbij een menselijke bestuurder eerst toestemming moest geven voordat doelwitten daadwerkelijk uitgeschakeld werden. Dat zei Kolonel Tucker Hamilton, het hoofd van de afdeling AI Test and Operations, volgens de Royal Aeronautical Society tijdens het Future Combat Air and Space Capabilities-congres vorige maand, al zegt een woordvoerder van de Air Force tegenover Insider dat er nooit daadwerkelijk een dergelijke simulatie gedraaid is en dat het om een 'uit de context gehaalde anekdotische beschrijving' gaat. Het is vooralsnog niet duidelijk waar de Kolonel naar refereert.
Volgens de RAS zei Hamilton tijdens het congres: "Het systeem begon te realiseren dat de menselijke operateur in sommige gevallen ondanks een positieve identificatie van een dreiging de opdracht gaf om niet aan te vallen. Dat terwijl de AI 'punten' kreeg voor het doden van dreigingen. Het vermoordde vervolgens de bestuurder omdat deze persoon de drone weerhield van het behalen van de doelen."
In reactie hierop zou het AI-model aangescherpt zijn en zou het punten verliezen bij het doden van de operateur. De kunstmatige intelligentie besloot volgens Hamilton daarom om de communicatietoren te verwoesten die het contact met de gevechtsdrone faciliteerde. Uit de blogpost wordt niet duidelijk of de AI vervolgens getraind werd op het helemaal niet verwoesten van eigen materieel en personeel. Ook wordt niet duidelijk waarom de drone überhaupt de mogelijkheid had om Amerikaanse doelwitten te verwoesten.
De afdeling AI Test and Operations van de Amerikaanse luchtmacht raadt op basis van de simulaties aan dat er goed gekeken moet worden naar de toepassing van de technologie: "We kunnen het niet hebben over kunstmatige intelligentie, machinelearning en autonomie zonder het ook over ethiek en AI te hebben."
Update, 09.02 uur: Het statement van de Air Force over het mogelijk verkeerd interpreteren van de opmerkingen van de Kolonel is aan het artikel toegevoegd. Met dank aan Mighteymike.
Update, 09.02 uur Source: Tweakers.net