OpenAI розформувала команду, яка рятувала світ від «злого» ШІ
Поки регулятори та футурологи сперечаються, чи не забагато волі ми даємо алгоритмам, OpenAI вирішила, що окрема команда для запобігання цифровому апокаліпсису — це вчорашній день. Підрозділ Preparedness, який займався оцінкою найважчих сценаріїв розвитку технологій, офіційно припинив своє існування ще наприкінці липня.
Хто стежив за «червоними кнопками»
Команда Preparedness була не просто групою аналітиків, а спеціалізованим підрозділом, що фокусувався на екстремальних ризиках. Як повідомляє Financial Times, фахівці аналізували сценарії, від яких стає ніяково: від масштабних кібератак та біологічних загроз до ситуацій, коли штучний інтелект отримує надмірну автономність і виходить з-під контролю творців.
Після реорганізації напрямки, пов’язані з біологічними та кібернетичними ризиками, не зникли в нікуди — їх розкидали між іншими внутрішніми командами компанії. В OpenAI запевняють, що система оцінки не постраждає: Preparedness Framework залишається фундаментом їхнього підходу до безпеки. Це виглядає як спроба зробити відповідальність колективною, хоча скептики можуть побачити в цьому розмивання фокусу.
Нова архітектура безпеки
Компанія продовжує використовувати Frontier Governance Framework — систему управління ризиками для своїх найпотужніших моделей. Вона охоплює широкий спектр CBRN-загроз (хімічних, біологічних, радіологічних та ядерних), а також протидіє маніпулятивному впливу та втраті контролю над ШІ. Цей крок вписується в загальну стратегію OpenAI щодо побудови багаторівневого захисту:
- ізоляція середовища виконання;
- жорсткі мережеві обмеження;
- постійний моніторинг активності ШІ-агентів;
- розподілена відповідальність за безпеку замість одного виділеного відділу.
Реорганізація фактично означає, що оцінка моделі більше не вважається єдиним бар’єром. Тепер безпека залежить від усієї інфраструктури, що оточує ШІ. Однак ліквідація спеціалізованої групи Preparedness суттєво змінює внутрішню структуру контролю. Раніше це була група, зосереджена виключно на «катастрофах», тепер же ці функції виконуватимуть люди, у яких, імовірно, вистачає й інших операційних завдань.
