Новий інструмент Nightshade дає змогу художникам приховано псувати дані для навчання ШІ

Чиказький університет

Команда Чиказького університету розробила інструмент Nightshade, який дає художникам можливість додавати в роботи невидимі пікселі, що псують навчальні дані для ШІ.

Що відомо

Принцип роботи Nightshade полягає в тому, що він впроваджує свого роду "отруту" в навчальні дані. Це змушує ШІ неправильно інтерпретувати запити користувачів і створювати спотворений контент. Наприклад, система може видавати зображення кішки замість собаки за запитом.

За задумом розробників, такий підхід має стимулювати компанії на кшталт OpenAI, які активно використовують дані художників для навчання ШІ, запитувати дозвіл на це і виплачувати компенсації. Щоб видалити зіпсовані Nightshade дані з навчальної вибірки, їм доведеться вручну відшукати кожен такий фрагмент, що є вкрай трудомістким.

Наразі інструмент проходить експертну оцінку і тестування. Розробники перевірили його роботу на популярній моделі Stable Diffusion, а також на власній експериментальній моделі ШІ.

За їхніми словами, Nightshade не є панацеєю, і дехто може скористатися ним у корисливих цілях. Але щоб завдати серйозної шкоди навчанню ШІ, зловмисникам потрібно буде додати спотворення в тисячі творів мистецтва.

Nightshade став другим подібним інструментом після Glaze, випущеного тією ж командою в серпні 2022 року. Glaze також непомітно для людини вносить зміни в зображення, захищаючи авторські права художників.

Джерело: MIT Technology Review