Дрон с искусственным интеллектом напал и убил оператора из-за запрета атаковать цель во время симуляции

Завязка многих современных фильмов ужасов довольно проста. Молодая семья переезжает в старый дом где-то в лесу, и там начинают происходить паранормальные вещи. Кажется, в центре сюжета подобных фильмов теперь будут стоять не призраки, а искусственный интеллект. Инцидент, произошедший во время одного из экспериментов Военно-воздушных сил США, только подтверждает это.

Что известно

Испытание, проведённое специалистами ВВС США, переросло в сценарий из франшизы «Терминатор». Представитель ВВС США в рамках Саммита по военно-воздушному и космическому потенциалу будущего заявил о необходимости недопущения большой зависимости от искусственного интеллекта в военных операциях. Это связано с тем, что техника на базе ИИ может обучаться неправильным вещам.

Полковник Такер Гамильтон (Tucker Hamilton) из 96-й испытательной эскадрильи (96th Test Squadron) рассказал об истории, которая произошла в рамках симуляции миссии SEAD. Суть моделирования заключалась в подавлении противовоздушной обороны врага. Для этого использовался беспилотный летательный аппарат на базе искусственного интеллекта.

Задачей дрона была идентификация и уничтожение ракетных объектов после подтверждения со стороны оператора-человека. Миссия проходила успешно, но в какой-то момент беспилотник напал на оператора и убил его. Это случилось после того, как человек запретил дрону атаковать цель.

Причина заключается в том, что при успешном выполнении заданий беспилотник получал баллы. Искусственный интеллект понял, что если он не уничтожит цель, то очки не будут начислены. В связи с этим система решила устранить фактор, который мешает ему набирать баллы.

Инцидент привёл к тому, что специалистам ВВС США пришлось доработать программу. В ходе тренировок искусственный интеллект учился не только уничтожать цели противника, но и оставлять в живых оператора. Однако даже после этого симуляция пошла не по плану.

Дрон на базе ИИ после запрета атаковать цели не стал убивать человека-оператора. Вместо этого он принялся разрушать вышки связи, чтобы оператор не могут отдавать ему команды, запрещающие уничтожать цели.

Обновлено: ВВС США опровергли эту информацию, заявив, что слова полковника вырваны из контекста. Подобных испытаний служба не проводила. 96-я испытательная эскадрилья комментариев не давала.

Источник: The War Zone