У США заарештували шкільного вчителя за створення расистського фейку про директора за допомогою ШІ

Поліція округу Балтимор (США) заарештувала спортивного директора середньої школи Пайксвілля Дажона Дар'єна (Dazhon Darien). Його підозрюють у використанні ШІ для створення расистського аудіозапису від імені директора школи Еріка Ейсверта (Eric Eiswert).

Що відомо

Підроблений запис із образами на адресу "невдячних темношкірих дітей" швидко поширився в соцмережах у січні. Це викликало хвилю обурення та погроз на адресу директора, якого тимчасово відсторонили від роботи.

За даними слідства, незадовго до інциденту Ейсверт розпочав перевірку щодо Дар'єна за підозрою в розтраті шкільних коштів. Після цього той подав скаргу на директора, а потім використовував шкільні комп'ютери для пошуку АІ-інструментів, включно з OpenAI та Bing Chat.

У середині січня Дар'єн розіслав підроблений запис нібито від директора колегам і новинним ЗМІ з фейкового акаунта. Однак, як виявилося, анонімна пошта була прив'язана до його номера телефону.

Експертиза підтвердила, що аудіо згенерував ШІ, а потім запис відредагували вручну. У результаті Дар'єну висунули звинувачення в порушенні роботи школи та переслідуванні директора.

Влада попереджає про небезпеку зловживань новими АІ-технологіями для наклепу і провокацій. Вона вважає, що необхідно посилити регулювання в цій сфері.

Для тих, хто хоче знати більше:

• Шкільний округ Беверлі-Гіллз виключив п'ятьох учнів за використання ШІ для створення підроблених оголених фото

Джерело: The New York Times