OpenAI создала команду для внедрения идей общественности в управление моделями ИИ

Mariia Shalabaieva/Unsplash

Компания OpenAI анонсировала формирование новой исследовательской группы Collective Alignment, которая займется разработкой системы для сбора и учета общественного мнения при принятии решений о поведении моделей искусственного интеллекта компании.

Что известно

По словам разработчиков, Collective Alignment позволит обеспечить соответствие будущих моделей ИИ ценностям и ожиданиям общества.

Создание команды стало результатом запущенной в прошлом году программы грантов, в рамках которой финансировались эксперименты по внедрению общественного контроля и "демократических процессов" в управление системами ИИ.

Теперь OpenAI публикует код и результаты работ грантополучателей. В дальнейшем команда Collective Alignment займется интеграцией перспективных прототипов в продукты и сервисы компании.

Разработчики заявляют, что инициатива призвана сделать ИИ OpenAI максимально полезным и безопасным для общества. Однако некоторые эксперты отмечают наличие коммерческого интереса и риски регуляторного лоббирования со стороны компании.

Источник: OpenAI