Google расширила программу bug bounty на уязвимости в системах генеративного ИИ

Компания Google дополнила свою программу вознаграждений за нахождение уязвимостей сценариями атак, характерными для генеративного искусственного интеллекта.

Что известно

В программе bug bounty Google выплачивает этичным хакерам денежное вознаграждение за нахождение и ответственное раскрытие уязвимостей. По словам компании, это стимулирует исследования в области защиты ИИ и поможет выявить потенциальные проблемы, чтобы сделать технологию более безопасной.

Учитывая новые проблемы безопасности из-за ИИ, Google решила пересмотреть классификацию ошибок в своих системах. Для этого компания использует данные своей команды AI Red Team, моделирующей различные кибератаки.

В частности, группа обнаружила уязвимости языковых моделей к внедрению вредоносных подсказок и извлечению обучающих данных злоумышленниками. Такие сценарии теперь попадают под действие программы bug bounty.

При этом обнаруженные ошибки, связанные с нарушением авторского права или извлечением нечувствительных данных, не будут вознаграждаться.

Размер вознаграждения будет зависеть от серьезности найденной уязвимости. В 2022 году Google выплатила исследователям более $12 млн.

Источник: TechCrunch