Microsoft-Mitarbeiter beschwerte sich bei der FTC über die Sicherheit des KI-Generators Copilot Designer
Microsoft
Shane Jones, ein Ingenieur für künstliche Intelligenz bei Microsoft, hat bei der US Federal Trade Commission (FTC) eine Beschwerde über die Sicherheit des KI-Bildgenerators Copilot Designer eingereicht.
Was bekannt ist
Laut Jones, der seit sechs Jahren bei Microsoft arbeitet, hat sich das Unternehmen geweigert", Copilot Designer zu entfernen. Er hat wiederholt davor gewarnt, dass das Tool schädliche Inhalte erstellen könnte.
In seinem Schreiben an die FTC wies der Ingenieur darauf hin, dass die KI bei Tests "Dämonen und Monster sowie Begriffe im Zusammenhang mit Abtreibungsrechten, Teenagern mit Sturmgewehren, sexualisierten Bildern von Frauen in Gewaltszenen und Alkohol- und Drogenkonsum bei Minderjährigen" erzeugte.
Außerdem, so Jones, habe das Tool Bilder von Disney-Figuren vor dem Hintergrund der Zerstörung im Gazastreifen und in Uniformen der israelischen Armee erzeugt.
Der Ingenieur versucht seit Dezember letzten Jahres, Microsoft vor Problemen mit dem in Copilot Designer verwendeten DALLE-3-Konstruktor zu warnen. Er veröffentlichte einen offenen Brief auf LinkedIn, aber die Anwälte des Unternehmens verlangten, dass er gelöscht wird.
"In den letzten drei Monaten habe ich Microsoft wiederholt aufgefordert, Copilot Designer aus der öffentlichen Nutzung zu nehmen, bis bessere Sicherheitsvorkehrungen getroffen werden können. Das Unternehmen hat es erneut versäumt, diese Änderungen vorzunehmen und vermarktet das Produkt weiterhin unter dem Motto 'Anyone. Anywhere. Jedes Gerät", so Jones.
Microsoft sagte, dass es sich verpflichtet hat, auf die Bedenken der Mitarbeiter in Übereinstimmung mit den Unternehmensrichtlinien einzugehen und eine interne Untersuchung der Bedenken des Ingenieurs durchgeführt hat.
Zuvor hatte Microsoft-CEO Satya Nadella die von Copilot Designer erzeugten expliziten Bilder der Sängerin Taylor Swift als "alarmierend und schrecklich" bezeichnet und bessere Kontrollsysteme versprochen.
Für diejenigen, die mehr wissen wollen
Quelle: The Verge