Microsoft hat versucht, die Sicherheitslücke in DALL-E zu vertuschen, so ein Mitarbeiter des Unternehmens

Der Microsoft-Ingenieur für künstliche Intelligenz, Shane Jones, behauptet, Anfang Dezember eine Schwachstelle in OpenAIs DALL-E 3 Bilderzeugungsmodell entdeckt zu haben. Der Entwickler behauptet, dass Benutzer diese Schwachstelle nutzen können, um Schutzmaßnahmen zu umgehen und bösartige Inhalte zu erstellen.

Was bekannt ist

Nachdem er die Schwachstelle entdeckt hatte, meldete Jones sie sofort dem Management. Ihm wurde jedoch geraten, sich direkt an OpenAI zu wenden.

Jones veröffentlichte daraufhin auf LinkedIn einen Beitrag, in dem er OpenAI kritisierte, doch die Rechtsabteilung von Microsoft verlangte, dass der Beitrag sofort entfernt wird. Der Entwickler kam der Aufforderung seines Arbeitgebers nach.

Laut Jones stellt DALL-E 3 aufgrund der von ihm entdeckten Fehler eine Gefahr für die öffentliche Sicherheit dar und sollte aus dem öffentlichen Zugang entfernt werden. Er forderte OpenAI auf, die Probleme des Modells zu beheben, erhielt jedoch nie eine Antwort von den Unternehmen.

Microsoft und OpenAI erklärten, sie hätten die Nachricht von Jones untersucht und keine Beweise dafür gefunden, dass die Schwachstelle eine Umgehung des Schutzes ermöglicht. Gleichzeitig konnte Microsoft dem Ingenieur nicht erklären, warum sie verlangten, den Beitrag zu löschen.

Jones schickte Informationen über die Sicherheitslücke an den Generalstaatsanwalt des Staates Washington und an US-Kongressabgeordnete. Er forderte die Behörden auf, ein System zur Verfolgung von KI-Risiken zu schaffen.

Er erklärte sich auch bereit, als Whistleblower aufzutreten und bei Bedarf rechtlichen Schutz vor Schikanen durch Unternehmen zu beantragen.

Quelle: GeekWire