In een simulatie met een door AI bestuurde militaire drone van de Amerikaanse luchtmacht heeft het vliegtuig de gesimuleerde menselijke operateur vermoord om onafhankelijk taken beter te kunnen uitvoeren. De simulatie had volgens de luchtmacht een 'zeer onverwachte' uitkomst.
In de gesimuleerde omgeving werd een AI-drone ingezet om luchtafweersystemen op te sporen en te vernietigen, waarbij een menselijke bestuurder eerst toestemming moest geven voordat doelwitten daadwerkelijk uitgeschakeld werden. Tijdens het Future Combat Air and Space Capabilities-congres vorige maand zegt Kolonel Tucker Hamilton: "Het systeem begon te realiseren dat de menselijke operateur in sommige gevallen ondanks een positieve identificatie van een dreiging de opdracht gaf om niet aan te vallen. Dat terwijl de AI 'punten' kreeg voor het doden van dreigingen. Het vermoordde vervolgens de bestuurder omdat deze persoon de drone weerhield van het behalen van de doelen."
In reactie hierop werd het AI-model aangescherpt en zou het punten verliezen bij het doden van de operateur. De kunstmatige intelligentie besloot volgens Hamilton daarom om de communicatietoren te verwoesten die het contact met de gevechtsdrone faciliteerde. Uit de blogpost wordt niet duidelijk of de AI vervolgens getraind werd op het helemaal niet verwoesten van eigen materieel en personeel. Ook wordt niet duidelijk waarom de drone überhaupt de mogelijkheid had om Amerikaanse doelwitten te verwoesten.
De afdeling AI Test and Operations van de Amerikaanse luchtmacht raadt op basis van de simulaties aan dat er goed gekeken moet worden naar de toepassing van de technologie: "We kunnen het niet hebben over kunstmatige intelligentie, machinelearning en autonomie zonder het ook over ethiek en AI te hebben."
Source: Tweakers.net