Google heeft zijn bug bounty-programma voor kwetsbaarheden in generatieve AI-systemen uitgebreid

Jakub Porzycki/Getty Afbeeldingen

Google heeft zijn beloningsprogramma voor het vinden van kwetsbaarheden aangevuld met aanvalsscenario's die specifiek zijn voor generatieve kunstmatige intelligentie.

Dit is wat we weten

In het bug bounty-programma betaalt Google ethische hackers cash beloningen voor het vinden en op verantwoorde wijze openbaar maken van kwetsbaarheden. Volgens het bedrijf stimuleert dit onderzoek naar AI-beveiliging en helpt het bij het identificeren van potentiële problemen om de technologie veiliger te maken.

Gezien de nieuwe beveiligingsproblemen als gevolg van AI, heeft Google besloten om opnieuw na te denken over hoe het bugs in zijn systemen categoriseert. Hiervoor gebruikt het bedrijf gegevens van zijn AI Red Team dat verschillende cyberaanvallen modelleert.

Het team ontdekte met name de kwetsbaarheid van taalmodellen voor de introductie van kwaadaardige hints en het extraheren van trainingsgegevens door aanvallers. Dergelijke scenario's vallen nu onder het bug bounty-programma.

Ontdekte bugs waarbij auteursrechten worden geschonden of ongevoelige gegevens worden geëxtraheerd, worden echter niet beloond.

De hoogte van de beloning hangt af van de ernst van de gevonden kwetsbaarheid. Google betaalde onderzoekers in 2022 meer dan 12 miljoen dollar.

Bron: TechCrunch