Google hat sein Bug-Bounty-Programm für Sicherheitslücken in generativen KI-Systemen erweitert

Jakub Porzycki/Getty Images

Google hat sein Belohnungsprogramm für das Auffinden von Schwachstellen um spezifische Angriffsszenarien für generative künstliche Intelligenz ergänzt.

Was bekannt ist

Im Rahmen des Bug Bounty-Programms zahlt Google ethischen Hackern Geldprämien für das Auffinden und die verantwortungsvolle Veröffentlichung von Sicherheitslücken. Nach Angaben des Unternehmens schafft dies Anreize für die Erforschung der KI-Sicherheit und soll dazu beitragen, potenzielle Probleme zu identifizieren, um die Technologie sicherer zu machen.

Angesichts der neuen Sicherheitsbedenken im Zusammenhang mit KI hat Google beschlossen, die Kategorisierung von Fehlern in seinen Systemen zu überdenken. Zu diesem Zweck nutzt das Unternehmen die Daten seines KI-Red-Teams, das verschiedene Cyberangriffe modelliert.

Das Team entdeckte insbesondere die Anfälligkeit von Sprachmodellen für das Einschleusen bösartiger Hinweise und die Extraktion von Trainingsdaten durch Angreifer. Solche Szenarien werden nun durch das Bug Bounty-Programm abgedeckt.

Entdeckte Bugs, die eine Verletzung des Urheberrechts oder die Extraktion unsensibler Daten beinhalten, werden jedoch nicht belohnt.

Die Höhe der Prämie hängt von der Schwere der gefundenen Sicherheitslücke ab. Google hat im Jahr 2022 mehr als 12 Millionen Dollar an Forscher gezahlt.

Quelle: TechCrunch