Microsoft спробувала замовчати вразливість у DALL-E, заявив співробітник компанії

Інженер зі штучного інтелекту з Microsoft Шейн Джонс (Shane Jones) стверджує, що на початку грудня виявив уразливість у моделі генерації зображень DALL-E 3 від компанії OpenAI. З її допомогою користувачі можуть обходити захист і створювати шкідливий контент, стверджує розробник.

Що відомо

Після виявлення вразливості Джонс одразу повідомив про неї керівництву. Однак йому порекомендували звернутися напряму до OpenAI.

Після цього Джонс опублікував пост із критикою на адресу OpenAI в LinkedIn, однак юридичний відділ Microsoft зажадав негайно видалити повідомлення. Розробник виконав вимогу роботодавця.

На думку Джонса, через виявлені ним недоліки DALL-E 3 становить загрозу для громадської безпеки та має бути вилучена з публічного доступу. Він закликав OpenAI вирішити проблеми моделі, однак так і не отримав від компаній відповіді.

Microsoft і OpenAI заявили, що розслідували повідомлення Джонса і не знайшли підтверджень того, що вразливість дає змогу обійти захист. При цьому в Microsoft не змогли пояснити інженеру, чому зажадали видалити пост.

Джонс надіслав інформацію про вразливість генпрокурору штату Вашингтон і конгресменам США. Він закликав владу створити систему відстеження ризиків ШІ.

Також він висловив готовність стати інформатором і попросити юридичного захисту від переслідувань з боку компаній, якщо таке буде потрібно.

Джерело: GeekWire