Microsoft ha cercato di mettere a tacere la vulnerabilità in DALL-E, ha dichiarato un funzionario dell'azienda.

Shane Jones, ingegnere di intelligenza artificiale di Microsoft, sostiene di aver scoperto all'inizio di dicembre una vulnerabilità nel modello di generazione di immagini DALL-E 3 di OpenAI. Secondo lo sviluppatore, gli utenti possono usarla per aggirare le protezioni e creare contenuti dannosi.

Ecco cosa sappiamo

Dopo aver scoperto la vulnerabilità, Jones l'ha immediatamente segnalata alla direzione. Tuttavia, gli è stato consigliato di contattare direttamente OpenAI.

Jones ha quindi pubblicato un post di critica nei confronti di OpenAI su LinkedIn, ma l'ufficio legale di Microsoft ha chiesto la rimozione immediata del post. Lo sviluppatore si è conformato alla richiesta del suo datore di lavoro.

Secondo Jones, a causa delle falle scoperte, DALL-E 3 rappresenta una minaccia per la sicurezza pubblica e dovrebbe essere rimosso dall'accesso pubblico. Ha esortato OpenAI a risolvere i problemi del modello, ma non ha mai ricevuto una risposta dalle aziende.

Microsoft e OpenAI hanno dichiarato di aver indagato sul messaggio di Jones e di non aver trovato alcuna prova che la vulnerabilità consenta di aggirare la difesa. Allo stesso tempo, Microsoft non ha saputo spiegare all'ingegnere il motivo per cui ha chiesto di cancellare il post.

Jones ha inviato informazioni sulla vulnerabilità al procuratore generale dello stato di Washington e ai membri del Congresso degli Stati Uniti. Ha esortato le autorità a creare un sistema di monitoraggio dei rischi legati all'intelligenza artificiale.

Ha inoltre espresso la volontà di diventare un whistleblower e di chiedere protezione legale dalle molestie aziendali, se necessario.

Fonte: GeekWire