Співробітник Microsoft поскаржився у FTC на безпеку АІ-генератора Copilot Designer
Microsoft
Інженер зі штучного інтелекту в Microsoft Шейн Джонс (Shane Jones) звернувся до Федеральної торгової комісії США (FTC) зі скаргою на безпеку ШІ-генератора зображень Copilot Designer.
Що відомо
За словами Джонса, який працює в Microsoft шість років, компанія "відмовилася" видалити Copilot Designer. Він неодноразово попереджав, що інструмент може створювати шкідливий контент.
У своєму листі до FTC інженер зазначив, що під час тестування ШІ генерував "демонів і монстрів поряд із термінологією, пов'язаною з правами на аборт, підлітками з автоматами, сексуалізованими зображеннями жінок у сценах насильства, а також неповнолітніх, які вживають алкоголь і наркотики".
Крім того, стверджує Джонс, інструмент генерував зображення персонажів Disney на тлі руйнувань у секторі Гази та у формі ізраїльської армії.
Інженер намагався попередити Microsoft про проблеми з конструктором DALLE-3, використовуваним у Copilot Designer, з грудня минулого року. Він опублікував відкритий лист на LinkedIn, але юристи компанії зажадали його видалити.
"Протягом останніх трьох місяців я неодноразово закликав Microsoft призупинити публічне використання Copilot Designer до впровадження ефективніших заходів захисту. Але вони проігнорували мої попередження", - заявив Джонс.
У Microsoft зазначили, що прагнуть розв'язувати проблеми співробітників відповідно до політики компанії та провели внутрішнє розслідування занепокоєнь інженера.
Раніше гендиректор Microsoft Сатья Наделла (Satya Nadella) назвав згенеровані Copilot Designer відверті зображення співачки Тейлор Свіфт (Taylor Swift) "тривожними та жахливими", пообіцявши поліпшити системи контролю.
Для тих, хто хоче знати більше:
Джерело: The Verge
