Microsoft forsøkte å skjule sårbarheten i DALL-E, sier en ansatt i selskapet.

Microsofts ingeniør Shane Jones, som jobber med kunstig intelligens, hevder å ha oppdaget en sårbarhet i OpenAIs bildegenereringsmodell DALL-E 3 i begynnelsen av desember. Brukerne kan bruke den til å omgå beskyttelsen og skape ondsinnet innhold, hevder utvikleren.

Dette er hva vi vet

Etter at Jones oppdaget sårbarheten, rapporterte han den umiddelbart til ledelsen. Han ble imidlertid rådet til å kontakte OpenAI direkte.

Jones publiserte deretter et innlegg som kritiserte OpenAI på LinkedIn, men Microsofts juridiske avdeling krevde at innlegget ble fjernet umiddelbart. Utvikleren etterkom arbeidsgiverens krav.

Ifølge Jones utgjør DALL-E 3 en trussel mot den offentlige sikkerheten på grunn av feilene han har oppdaget, og bør derfor fjernes fra offentligheten. Han oppfordret OpenAI til å løse modellens problemer, men fikk aldri noe svar fra selskapene.

Microsoft og OpenAI sier at de har undersøkt Jones' melding og ikke funnet bevis for at sårbarheten gjør det mulig å omgå forsvaret. Samtidig kunne ikke Microsoft forklare ingeniøren hvorfor de krevde at innlegget skulle slettes.

Jones sendte informasjon om sårbarheten til statsadvokaten i delstaten Washington og amerikanske kongressmedlemmer. Han oppfordret myndighetene til å opprette et system for sporing av AI-risikoer.

Han sa seg også villig til å bli varsler og be om rettslig beskyttelse mot trakassering fra bedriftens side om nødvendig.

Kilde: GeekWire: GeekWire