Google розширила програму bug bounty на вразливості в системах генеративного ШІ

Компанія Google доповнила свою програму винагород за знаходження вразливостей сценаріями атак, характерними для генеративного штучного інтелекту.

Що відомо

У програмі bug bounty Google виплачує етичним хакерам грошову винагороду за знаходження і відповідальне розкриття вразливостей. За словами компанії, це стимулює дослідження в галузі захисту ШІ та допоможе виявити потенційні проблеми, щоб зробити технологію безпечнішою.

З огляду на нові проблеми безпеки через ШІ, Google вирішила переглянути класифікацію помилок у своїх системах. Для цього компанія використовує дані своєї команди AI Red Team, що моделює різні кібератаки.

Зокрема, група виявила вразливості мовних моделей до впровадження шкідливих підказок і вилучення навчальних даних зловмисниками. Такі сценарії тепер потрапляють під дію програми bug bounty.

При цьому виявлені помилки, пов'язані з порушенням авторського права або витяганням нечутливих даних, не будуть винагороджуватися.

Розмір винагороди залежатиме від серйозності знайденої вразливості. У 2022 році Google виплатила дослідникам понад $12 млн.

Джерело: TechCrunch