Советники премьер-министра Индии призвали к жесткому регулированию ИИ из-за опасений "массовой шизофрении"

Экономический консультативный совет при премьер-министре Индии (EACPM) опубликовал доклад, в котором выражает серьезную обеспокоенность в связи с последствиями нерегулируемого развития искусственного интеллекта.

Что известно

В документе говорится, что благодаря сочетанию слежки, убеждающих сообщений и создания синтетических медиа, злонамеренный ИИ может все больше контролировать информационные экосистемы. Более того, технология сможет создавать индивидуальные обманчивые реальности, чтобы принуждать людей к поведению, вызывая "массовую шизофрению".

EACPM раскритиковал текущие попытки регулирования ИИ в США, Великобритании, ЕС и Китае как несовершенные и неспособные справиться со сложностью и нелинейностью развития технологии. Совет характеризует ИИ как систему, похожую по своей природе на финансовые рынки — нелинейную, самоорганизующуюся и в высшей степени непредсказуемую.

В связи с этим EACPM предлагает ввести правила, основанные на идеях регулирования финансовых рынков. Эти правила включают:

• создание "ограждений и перегородок";
• обеспечение человеческого контроля и авторизации;
• повышение прозрачности алгоритмов;
• четкие протоколы подотчетности;
• создание специализированного регулирующего органа по типу Комиссии по ценным бумагам и биржам США (SEC).

В заключение EACPM отмечает, что подобное регулирование может помешать реализации некоторых сценариев развития ИИ. Однако по мнению Совета, человечество может выиграть от жесткого регулирования.

Источник: The Register