En Microsoft-ansatt klaget til FTC på sikkerheten til AI-generatoren Copilot Designer.

Shane Jones, en kunstig intelligens-ingeniør hos Microsoft, har klaget til US Federal Trade Commission (FTC) på grunn av sikkerheten til Copilot Designer AI-bildegeneratoren.

Dette er hva vi vet

Ifølge Jones, som har jobbet i Microsoft i seks år, "nektet" selskapet å fjerne Copilot Designer. Han advarte gjentatte ganger om at verktøyet kunne skape skadelig innhold.

I brevet til FTC påpekte ingeniøren at den kunstige intelligensen under testingen genererte "demoner og monstre sammen med terminologi knyttet til abortrettigheter, tenåringer med automatrifler, seksualiserte bilder av kvinner i voldelige scener og mindreårige som drikker og bruker narkotika".

I tillegg, hevder Jones, genererte verktøyet bilder av Disney-figurer iført israelske militæruniformer mot et bakteppe av ødeleggelser på Gazastripen.

Ingeniøren har forsøkt å advare Microsoft om problemene med DALLE-3-konstruktøren som brukes i Copilot Designer siden desember i fjor. Han publiserte et åpent brev på LinkedIn, men selskapets advokater krevde at det skulle slettes.

"I løpet av de siste tre månedene har jeg gjentatte ganger oppfordret Microsoft til å fjerne Copilot Designer fra offentlig bruk inntil bedre sikkerhetstiltak er på plass. Igjen har de unnlatt å gjennomføre disse endringene og fortsetter å markedsføre produktet til 'Anyone. Hvor som helst. Any Device", sier Jones.

Microsoft sier at de har forpliktet seg til å ta hensyn til de ansattes bekymringer i samsvar med selskapets retningslinjer, og at de har gjennomført en intern undersøkelse av ingeniørens bekymringer.

Tidligere har Microsoft-sjef Satya Nadella kalt Copilot Designer-genererte eksplisitte bilder av sangerinnen Taylor Swift for "alarmerende og forferdelige" og lovet bedre kontrollsystemer.

Gå dypere:

• Microsoft forsøkte å kneble en sårbarhet i DALL-E, sier en ansatt i selskapet.

Kilde: The Verge The Verge