Un dipendente di Microsoft si è lamentato con la FTC per la sicurezza del generatore di intelligenza artificiale Copilot Designer
Microsoft
Shane Jones, un ingegnere di intelligenza artificiale di Microsoft, ha presentato una denuncia alla Federal Trade Commission (FTC) statunitense per la sicurezza del generatore di immagini AI Copilot Designer.
Ecco cosa sappiamo
Secondo Jones, che lavora in Microsoft da sei anni, l'azienda si è "rifiutata" di rimuovere Copilot Designer. Ha ripetutamente avvertito che lo strumento poteva creare contenuti dannosi.
Nella sua lettera alla FTC, l'ingegnere ha sottolineato che durante i test l'intelligenza artificiale ha generato "demoni e mostri insieme a una terminologia relativa ai diritti all'aborto, adolescenti con fucili d'assalto, immagini sessualizzate di donne in scene violente, consumo di alcol e droga da parte di minorenni".
Inoltre, sostiene Jones, lo strumento ha generato immagini di personaggi Disney sullo sfondo della distruzione della Striscia di Gaza e con indosso uniformi dell'esercito israeliano.
Dal dicembre dello scorso anno, l'ingegnere ha cercato di mettere in guardia Microsoft dai problemi del costruttore DALLE-3 utilizzato in Copilot Designer. Ha pubblicato una lettera aperta su LinkedIn, ma i legali dell'azienda hanno chiesto di cancellarla.
"Negli ultimi tre mesi ho ripetutamente sollecitato Microsoft a rimuovere Copilot Designer dall'uso pubblico fino a quando non fossero state messe in atto migliori misure di salvaguardia. Ancora una volta, non hanno implementato questi cambiamenti e continuano a commercializzare il prodotto per 'Chiunque. Ovunque. Qualsiasi dispositivo", ha dichiarato Jones.
Microsoft ha dichiarato di essere impegnata a risolvere i problemi dei dipendenti in conformità con la politica aziendale e di aver condotto un'indagine interna sulle preoccupazioni dell'ingegnere.
In precedenza, il CEO di Microsoft Satya Nadella aveva definito "allarmanti e terribili" le immagini esplicite della cantante Taylor Swift generate da Copilot Designer, promettendo migliori sistemi di controllo.
Approfondimento:
Fonte: The Verge