Microsoft-werknemer klaagt bij de FTC over de veiligheid van de Copilot Designer AI-generator
Microsoft
Shane Jones, een ingenieur in kunstmatige intelligentie bij Microsoft, heeft een klacht ingediend bij de Amerikaanse Federal Trade Commission (FTC) over de beveiliging van de Copilot Designer AI-afbeeldingsgenerator.
Dit is wat we weten
Volgens Jones, die zes jaar bij Microsoft heeft gewerkt, "weigerde" het bedrijf Copilot Designer te verwijderen. Hij waarschuwde herhaaldelijk dat de tool schadelijke inhoud kon creëren.
In zijn brief aan de FTC wees de ingenieur erop dat de AI tijdens het testen "demonen en monsters genereerde, samen met terminologie gerelateerd aan abortusrechten, tieners met aanvalsgeweren, geseksualiseerde beelden van vrouwen in gewelddadige scènes en alcohol- en drugsgebruik door minderjarigen".
Daarnaast, beweert Jones, genereerde de tool beelden van Disney-figuren tegen een achtergrond van verwoesting in de Gazastrook en met Israëlische legeruniformen aan.
De ingenieur probeert Microsoft al sinds december vorig jaar te waarschuwen voor problemen met de DALLE-3 constructor die wordt gebruikt in Copilot Designer. Hij publiceerde een open brief op LinkedIn, maar de advocaten van het bedrijf eisten dat deze verwijderd zou worden.
"In de afgelopen drie maanden heb ik er herhaaldelijk bij Microsoft op aangedrongen om Copilot Designer uit het publieke gebruik te halen totdat er betere beveiligingen zouden zijn. Wederom hebben ze verzuimd deze veranderingen door te voeren en blijven ze het product op de markt brengen voor 'Iedereen. Overal. Any Device", aldus Jones.
Microsoft zei dat het zich inzet om de zorgen van werknemers aan te pakken in overeenstemming met het bedrijfsbeleid en dat het een intern onderzoek heeft ingesteld naar de zorgen van de ingenieur.
Eerder noemde Microsoft CEO Satya Nadella de door Copilot Designer gegenereerde expliciete beelden van zangeres Taylor Swift "alarmerend en verschrikkelijk" en beloofde betere controlesystemen.
Ga dieper:
Bron: The Verge