Google ha ampliato il suo programma di bug bounty per le vulnerabilità nei sistemi di IA generativa

Google ha integrato il suo programma di ricompense per la scoperta di vulnerabilità con scenari di attacco specifici per l'intelligenza artificiale generativa.

Ecco cosa sappiamo

Nel programma bug bounty, Google paga agli hacker etici ricompense in denaro per aver trovato e divulgato responsabilmente le vulnerabilità. Secondo l'azienda, questo incentiva la ricerca sulla sicurezza dell'IA e aiuterà a identificare potenziali problemi per rendere la tecnologia più sicura.

Alla luce dei nuovi problemi di sicurezza dovuti all'IA, Google ha deciso di ripensare il modo in cui categorizza i bug nei suoi sistemi. A tal fine, l'azienda sta utilizzando i dati del suo AI Red Team per modellare vari cyberattacchi.

In particolare, il team ha scoperto la vulnerabilità dei modelli linguistici all'introduzione di suggerimenti dannosi e all'estrazione di dati di addestramento da parte degli aggressori. Tali scenari sono ora coperti dal programma di bug bounty.

Tuttavia, i bug scoperti che comportano una violazione del copyright o l'estrazione di dati non sensibili non saranno ricompensati.

L'importo della ricompensa dipenderà dalla gravità della vulnerabilità scoperta. Nel 2022 Google ha pagato ai ricercatori più di 12 milioni di dollari.

Fonte: TechCrunch