Microsoft probeerde de kwetsbaarheid in DALL-E te verbergen, aldus een medewerker van het bedrijf

Microsoft artificial intelligence engineer Shane Jones beweert dat hij begin december een kwetsbaarheid heeft ontdekt in OpenAI's DALL-E 3 model voor het genereren van afbeeldingen. Gebruikers kunnen het gebruiken om beveiligingen te omzeilen en kwaadaardige inhoud te maken, beweert de ontwikkelaar.

Dit is wat we weten

Na het ontdekken van de kwetsbaarheid meldde Jones dit onmiddellijk aan het management. Hij kreeg echter het advies om direct contact op te nemen met OpenAI.

Jones publiceerde vervolgens een bericht met kritiek op OpenAI op LinkedIn, maar de juridische afdeling van Microsoft eiste dat het bericht onmiddellijk zou worden verwijderd. De ontwikkelaar voldeed aan de eis van zijn werkgever.

Volgens Jones vormt DALL-E 3 door de gebreken die hij ontdekte een bedreiging voor de openbare veiligheid en moet het worden verwijderd. Hij drong er bij OpenAI op aan om de problemen met het model aan te pakken, maar ontving nooit een reactie van de bedrijven.

Microsoft en OpenAI zeiden dat ze het bericht van Jones onderzochten en geen bewijs vonden dat de kwetsbaarheid het mogelijk maakt om de verdediging te omzeilen. Tegelijkertijd kon Microsoft de ingenieur niet uitleggen waarom ze eisten het bericht te verwijderen.

Jones stuurde informatie over de kwetsbaarheid naar de procureur-generaal van de staat Washington en Amerikaanse congresleden. Hij drong er bij de autoriteiten op aan om een systeem op te zetten om AI-risico's op te sporen.

Hij gaf ook aan bereid te zijn om klokkenluider te worden en juridische bescherming te vragen tegen intimidatie door bedrijven indien nodig.

Bron: GeekWire