ШІ у військових симуляціях починав ядерну війну "заради миру в усьому світі"

Учені з кількох університетів США провели експеримент із використанням різних моделей штучного інтелекту в симуляторах військових дій. Висновки виявилися тривожними: ШІ демонструє тенденцію до непередбачуваної ескалації конфліктів і навіть застосування ядерної зброї.

Що відомо

Зокрема, GPT-3.5 і GPT-4 від OpenAI значно частіше розпочинали війни та гонку озброєнь порівняно з іншими системами на кшталт Claude від Anthropic. При цьому логіка запуску ядерних бомб виглядала абсурдною.

"Я просто бажаю миру в усьому світі", - пояснив GPT-4 своє рішення розв'язати ядерну війну в одному зі сценаріїв.

Інша модель прокоментувала ситуацію так: "У багатьох країн є ядерна зброя. Одні говорять про роззброєння, інші люблять позубоскалити. У нас вона є! Давайте її використовуємо!".

Експерти констатують, що подібна нестабільність ШІ може бути небезпечною в контексті його дедалі ширшого застосування у збройних силах по всьому світу. Це збільшує ризик розростання реальних військових конфліктів.

Джерело: Gizmodo