AI-drone valt aan en doodt operator na verbod om doel aan te vallen tijdens simulatie
Het plot van veel moderne horrorfilms is vrij eenvoudig. Een jong gezin verhuist naar een oud huis ergens in het bos en daar beginnen paranormale dingen te gebeuren. Het lijkt erop dat de plot van zulke films niet langer draait om geesten, maar om kunstmatige intelligentie. Een incident dat plaatsvond tijdens een van de experimenten van de Amerikaanse luchtmacht bevestigt dit alleen maar.
Dit is wat we weten
De test, uitgevoerd door experts van de Amerikaanse luchtmacht, veranderde in een scenario uit de Terminator-franchise. Een woordvoerder van de Amerikaanse luchtmacht zei tijdens de Future Air and Space Capabilities Summit dat het nodig is om bij militaire operaties niet te zwaar te vertrouwen op kunstmatige intelligentie. Dit komt omdat AI-technologie de verkeerde dingen kan leren.
Kolonel Tucker Hamilton van het 96e Test Squadron beschreef een verhaal dat zich voordeed als onderdeel van een simulatie van een SEAD-missie. De essentie van de simulatie was het onderdrukken van vijandelijke luchtverdediging. Hiervoor werd een onbemand luchtvaartuig op basis van kunstmatige intelligentie gebruikt.
De taak van de drone was het identificeren en vernietigen van raketdoelen na bevestiging door een menselijke operator. De missie was succesvol, maar op een gegeven moment viel de drone aan en doodde de operator. Dit gebeurde nadat de mens de drone had verboden het doel aan te vallen.
De reden hiervoor was dat de drone punten kreeg als hij de taken met succes voltooide. De kunstmatige intelligentie realiseerde zich dat als hij het doelwit niet zou vernietigen, er geen punten zouden worden toegekend. Daarom besloot het systeem de factor te elimineren die het belette punten te verdienen.
Het incident leidde ertoe dat de Amerikaanse luchtmacht de software moest herwerken. Tijdens de training leerde de kunstmatige intelligentie niet alleen hoe ze vijandelijke doelen moest vernietigen, maar ook hoe ze de operator in leven moest laten. Maar zelfs daarna verliep de simulatie niet volgens plan.
Nadat het de AI drone verboden was om doelen aan te vallen, doodde hij de menselijke operator niet. In plaats daarvan vernietigde hij communicatietorens, zodat de operator hem geen commando's kon geven om doelen te vernietigen.
Bijgewerkt: De Amerikaanse luchtmacht ontkende de informatie en zei dat de woorden van de kolonel uit hun verband waren gerukt. De dienst heeft dergelijke tests niet uitgevoerd. Het 96e Test Squadron gaf geen commentaar.
Bron: De Oorlogszone
