OpenAI закрила іранську кампанію, яка зловживала ChatGPT для створення фальшивих статей

OpenAI оголосив про успішне припинення впливу кампанії, організованої Іраном, що використовувала ChatGPT для створення фейкових новин і публікацій у соціальних мережах. Організація, відома як "Шторм-2035", поширювала поляризаційні повідомлення на п'яти вебсайтах, націлених на американську аудиторію.

Що відомо

Компанія виявила та заблокувала облікові записи, які поширювали дезінформацію з темами, що включали президентські вибори в США, права ЛГБТК+ і війну в Газі. Операція включала також акаунти в соцмережах X та Instagram, які все ж таки не змогли досягти значного впливу, оскільки більшість публікацій отримали мінімальні перегляди та лайки.

OpenAI оцінив загрозу на рівні 2 за шкалою Інституту Брукінгса, що свідчить про обмежений вплив кампанії.

Вміст включав фальшиві новини про Дональда Трампа і Камалу Гарріс, Олімпійські ігри, Венесуелу, права латиноамериканців і незалежність Шотландії. Кампанія також додавала коментарі про моду і красу, можливо, для підвищення автентичності.

Цей випадок стався після того, як стало відомо про іранську кібератаку на кампанії Харріса і Трампа, яка включала фішинг. ФБР повідомило, що на той момент не було доказів атаки на кампанію Харріса.

Джерело: Bloomberg