Дрон зі штучним інтелектом напав і вбив оператора через заборону атакувати ціль під час симуляції

Зав'язка багатьох сучасних фільмів жахів доволі проста. Молода сім'я переїжджає в старий будинок десь у лісі, і там починають відбуватися паранормальні речі. Здається, у центрі сюжету подібних фільмів тепер стоятимуть не привиди, а штучний інтелект. Інцидент, що стався під час одного з експериментів Військово-повітряних сил США, лише підтверджує це.

Що відомо

Випробування, проведене фахівцями ВПС США, переросло у сценарій із франшизи "Термінатор". Представник ВПС США в рамках Саміту з військово-повітряного і космічного потенціалу майбутнього заявив про необхідність недопущення великої залежності від штучного інтелекту у військових операціях. Це пов'язано з тим, що техніка на базі ШІ може навчатися неправильних речей.

Полковник Такер Гамільтон (Tucker Hamilton) з 96-ї випробувальної ескадрильї (96th Test Squadron) розповів про історію, що сталася в рамках симуляції місії SEAD. Суть моделювання полягала в придушенні протиповітряної оборони ворога. Для цього використовувався безпілотний літальний апарат на базі штучного інтелекту.

Завданням дрона була ідентифікація та знищення ракетних об'єктів після підтвердження з боку оператора-людини. Місія проходила успішно, але в якийсь момент безпілотник напав на оператора і вбив його. Це сталося після того, як людина заборонила дрону атакувати ціль.

Причина полягає в тому, що при успішному виконанні завдань безпілотник отримував бали. Штучний інтелект зрозумів, що якщо він не знищить ціль, то бали не будуть нараховані. У зв'язку з цим система вирішила усунути фактор, який заважає йому набирати бали.

Інцидент призвів до того, що фахівцям ВПС США довелося доопрацювати програму. Під час тренувань штучний інтелект навчався не тільки знищувати цілі противника, а й залишати в живих оператора. Однак навіть після цього симуляція пішла не за планом.

Дрон на базі ШІ після заборони атакувати цілі не став вбивати людину-оператора. Замість цього він взявся руйнувати вишки зв'язку, щоб оператор не міг віддавати йому команди, які забороняють знищувати цілі.

Оновлено: ВПС США спростували цю інформацію, заявивши, що слова полковника вирвані із контексту. Таких випробувань служба не проводила. 96-та випробувальна ескадрилья коментарів не давала.

Джерело: The War Zone