Розрахунки вчених показали, що керувати надрозумним ШІ буде неможливо

Про ідею знищення чи поневолення людства штучним інтелектом говорять уже багато десятиліть, і в січні 2021 року вчені винесли свій вердикт про те, чи зможемо ми керувати комп'ютерним надінтелектом високого рівня. Відповідь: найімовірніше, ні.

Складність у тому, що для керування надінтелектом, що знаходиться далеко за межами людського розуміння, буде потрібна симуляція надінтелекту, яку ми зможемо проаналізувати. Але якщо ми не можемо його осягнути, то створити таку симуляцію неможливо.

Такі правила, як "не завдавати шкоди людям", не можуть бути встановлені, якщо ми не розуміємо, які сценарії може вигадати ШІ, вважають автори статті 2021 року. Коли комп'ютерна система працює на рівні, що перевищує можливості наших програмістів, ми більше не можемо встановлювати обмеження.

"Надінтелект являє собою принципово іншу проблему, ніж ті, які зазвичай вивчаються під прапором "етики роботів", - пишуть дослідники. "Це пов'язано з тим, що надінтелект багатогранний і, отже, потенційно здатний мобілізувати різноманітні ресурси для досягнення цілей, які потенційно незбагненні для людини, не кажучи вже про те, щоб їх можна було контролювати.

Якщо ми збираємося просувати штучний інтелект, ми можемо навіть не дізнатися, коли з'явиться надінтелект, непідвладний нашому контролю, настільки він незбагненний. Це означає, що нам потрібно почати ставити серйозні питання про те, в якому напрямку ми рухаємось.

Джерело: sciencealert, jair

Ілюстрації: Yuyeung Lau