OpenAI формирует команду для обуздания сверхинтеллектуального ИИ

Компания OpenAI приступила к формированию специальной команды для управления рисками сверхразумного искусственного интеллекта.

Что известно

Сверхинтеллект — это гипотетическая модель ИИ, которая превосходит человека сразу в нескольких областях знаний. В OpenAI считают, что такая технология может появиться до конца десятилетия. 

Новую команду возглавят Илья Суцкевер (Ilya Sutskever) и Ян Лейке (Jan Leike). Кроме того, OpenAI выделит 20% своих вычислительных мощностей для разработки автоматизированного исследователя выравнивания. 

Теоретически такая система поможет компании обеспечить безопасность использования сверхразумного ИИ и его соответствие человеческим ценностям. В будущем OpenAI поделится дорожной картой проекта.

Источник: Engadget.