Ученые оценили в 5% вероятность того, что ИИ выйдет из-под контроля и уничтожит человечество

Автор: Богдан Каминский, 05 января 2024, 16:57

Possessed Photography/Unsplash

Согласно результатам опроса ведущих ученых в области искусственного интеллекта, риск того, что технология станет неуправляемой и ликвидирует людей, составляет 5%.

Что известно

В опросе приняло участие 2778 экспертов по изучению искусственного интеллекта. Это крупнейшее на сегодня подобное исследование.

Большинство респондентов убеждены, что в будущем ИИ сильно продвинется. Например, к 2030 году он научится сочинять музыкальные хиты и писать бестселлеры.

68% опрошенных считают, что сверхразумный ИИ принесет человечеству больше пользы, нежели ущерба. При этом половина из них допускает ненулевую вероятность уничтожения людей искусственным интеллектом.

Авторы подчеркивают: все ученые осознают опасности ИИ и необходимость изучения способов минимизации рисков. Однако в оценках скорости прогресса мнения разделились.

Более 80% экспертов высказали серьезные опасения по поводу использования ИИ для распространения фейков, контроля населения и усугубления неравенства.


Риски искусственного интеллекта, которые беспокоят ученых

Кроме того, респонденты дали прогнозы наступления различных вех в развитии ИИ. Они полагают, что к 2033-му технология научится собирать LEGO и создавать игры, а к 2063-му — выполнять работу хирурга или ученого.

Авторы признают, что их выводы неабсолютны. Тем не менее они могут стать важным элементом в понимании перспектив ИИ, учитывая опыт и знания опрошенных экспертов.

Источник: Gizmodo