Инструмент для автономного написания кода Kiro мог вызвать длительный сбой AWS: что известно о инциденте?

В декабре в инфраструктуре Amazon Web Services (AWS) произошел 13-часовой сбой, который, по данным Financial Times, мог быть связан с внутренним инструментом с искусственным интеллектом Kiro. Речь идет о системе для написания кода, способной выполнять автономные действия от имени пользователя.

Что известно

По информации четырех источников, знакомых с ситуацией, инженеры использовали Kiro для внесения изменений в среду, после чего система якобы инициировала "удаление и повторное создание среды", что и привело к длительному сбою, который преимущественно затронул Китай.

В Amazon отрицают, что причиной инцидента стала автономность ИИ. В компании заявили, что это было "совпадение обстоятельств", а первопричиной называют ошибку пользователя — некорректно настроенные права доступа. По официальной позиции, инструмент с искусственным интеллектом Kiro по умолчанию запрашивает подтверждение перед выполнением любых действий. Тем не менее, в этом случае сотрудник имел более широкие полномочия, чем ожидалось, что и позволило выполнить критическую операцию без дополнительного контроля.

Компания подчеркивает, что инцидент был ограниченным и касался только сервиса AWS Cost Explorer в одном из 39 географических регионов. По утверждению Amazon, сбой не повлиял на вычислительные мощности, хранилища данных, базы данных или сервисы с искусственным интеллектом. Также в компании заявили, что не получили обращений от клиентов по этому поводу.

После инцидента AWS ввела дополнительные меры безопасности. В то же время источники FT утверждают, что это как минимум второй случай за последние месяцы, когда инструменты с искусственным интеллектом компании оказываются в центре сервисных сбоев.

Ранее, в октябре, AWS пережила более масштабный сбой, который повлиял на работу Alexa, Snapchat, Fortnite и Venmo. Тогда причиной назвали ошибку в программном обеспечении для автоматизации.

Источник: Financial Times