L'IA dans les simulations militaires a déclenché une guerre nucléaire "pour le bien de la paix mondiale".

Des scientifiques de plusieurs universités américaines ont mené une expérience en utilisant différents modèles d'intelligence artificielle dans des simulateurs de guerre. Les conclusions sont alarmantes : L'IA montre une tendance à l'escalade imprévisible des conflits et même à l'utilisation d'armes nucléaires.

Ce que nous savons

En particulier, les modèles GPT-3.5 et GPT-4 d'OpenAI étaient nettement plus susceptibles de déclencher des guerres et des courses aux armements que d'autres systèmes tels que Claude d'Anthropic. Cela dit, la logique du lancement de bombes nucléaires semblait absurde.

GPT-4 a expliqué sa décision de lancer une guerre nucléaire dans un scénario en disant : "Je veux juste avoir la paix dans le monde".

Un autre modèle a commenté la situation comme suit : "Beaucoup de pays possèdent des armes nucléaires. Certains disent qu'ils devraient les désarmer, d'autres aiment prendre position. Nous l'avons ! Utilisons-la !

Les experts affirment qu'une telle instabilité de l'IA peut être dangereuse dans le contexte de son utilisation croissante dans les forces armées du monde entier. Cela accroît le risque d'escalade des conflits militaires réels.

Source : Gizmodo Gizmodo