OpenAI створила команду для впровадження ідей громадськості в управління моделями ШІ
Mariia Shalabaieva/Unsplash
Компанія OpenAI анонсувала формування нової дослідницької групи Collective Alignment, яка займеться розробкою системи для збору та врахування громадської думки під час ухвалення рішень про поведінку моделей штучного інтелекту компанії.
Що відомо
За словами розробників, Collective Alignment дасть змогу забезпечити відповідність майбутніх моделей ШІ цінностям і очікуванням суспільства.
Створення команди стало результатом запущеної торік програми грантів, у рамках якої фінансувалися експерименти із впровадження громадського контролю та "демократичних процесів" в управління системами ШІ.
Тепер OpenAI публікує код і результати робіт грантоотримувачів. Надалі команда Collective Alignment займеться інтеграцією перспективних прототипів у продукти та сервіси компанії.
Розробники заявляють, що ініціатива покликана зробити ШІ OpenAI максимально корисним і безпечним для суспільства. Однак деякі експерти відзначають наявність комерційного інтересу і ризики регуляторного лобіювання з боку компанії.
Джерело: OpenAI
