ШІ у військових симуляціях починав ядерну війну "заради миру в усьому світі"
Учені з кількох університетів США провели експеримент із використанням різних моделей штучного інтелекту в симуляторах військових дій. Висновки виявилися тривожними: ШІ демонструє тенденцію до непередбачуваної ескалації конфліктів і навіть застосування ядерної зброї.
Що відомо
Зокрема, GPT-3.5 і GPT-4 від OpenAI значно частіше розпочинали війни та гонку озброєнь порівняно з іншими системами на кшталт Claude від Anthropic. При цьому логіка запуску ядерних бомб виглядала абсурдною.
"Я просто бажаю миру в усьому світі", - пояснив GPT-4 своє рішення розв'язати ядерну війну в одному зі сценаріїв.
Інша модель прокоментувала ситуацію так: "У багатьох країн є ядерна зброя. Одні говорять про роззброєння, інші люблять позубоскалити. У нас вона є! Давайте її використовуємо!".
Експерти констатують, що подібна нестабільність ШІ може бути небезпечною в контексті його дедалі ширшого застосування у збройних силах по всьому світу. Це збільшує ризик розростання реальних військових конфліктів.
Джерело: Gizmodo