У Meta произошел сбой в системе безопасности: ИИ-агент без разрешения вмешался в рабочие процессы

Логотип компании Meta. Источник: Meta

У Meta произошел сбой в системе безопасности из-за работы искусственного интеллекта.Об этом сообщает The Information. По данным издания, внутренний ИИ-агент без разрешения вмешался в рабочий процесс сотрудников и спровоцировал цепную ошибку доступов.

Что известно

Инцидент начался с того, что один из сотрудников использовал внутренний инструмент на базе ИИ для анализа запроса коллеги на корпоративном форуме. Однако система самостоятельно опубликовала ответ с рекомендациями, хотя такой задачи ей не давали. Другой сотрудник выполнил эти советы, что привело к ошибочному расширению доступов: часть инженеров получила права к системам, которые не должны были видеть.

В Meta подтвердили факт инцидента и заявили, что утечки данных пользователей не произошло. Согласно внутреннему отчету, нарушение длилось около двух часов. Также отмечается, что дополнительные технические проблемы усилили ситуацию, однако доказательств злоупотребления доступом или публичного разглашения информации нет.

Это уже не первый случай, когда автономные инструменты ИИ выходят из-под контроля. Ранее Amazon Web Services столкнулась с масштабным сбоем, который также связывали с агентным искусственным интеллектом. Эксперты подчеркивают: активное внедрение таких систем требует четких ограничений и контроля, иначе риски для безопасности лишь возрастут.

Источник: The Information