OpenAI закрыла иранскую кампанию, которая злоупотребляла ChatGPT для создания фальшивых статей

OpenAI объявил об успешном прекращении влияния кампании, организованной Ираном, которая использовала ChatGPT для создания фейковых новостей и публикаций в социальных сетях. Организация, известная как "Шторм-2035", распространяла поляризационные сообщения на пяти веб-сайтах, нацеленных на американскую аудиторию.

Что известно

Компания обнаружила и заблокировала учетные записи, которые распространяли дезинформацию с темами, включающими президентские выборы в США, права ЛГБТК+ и войну в Газе. Операция включала также аккаунты в соцсетях X и Instagram, которые все же не смогли достичь значительного влияния, поскольку большинство публикаций получили минимальные просмотры и лайки.

OpenAI оценил угрозу на уровне 2 по шкале Института Брукингса, что свидетельствует об ограниченном влиянии кампании.

Содержание включало фальшивые новости о Дональде Трампе и Камале Харрис, Олимпийских играх, Венесуэле, правах латиноамериканцев и независимости Шотландии. Кампания также добавляла комментарии о моде и красоте, возможно, для повышения аутентичности.

Этот случай произошел после того, как стало известно об иранской кибератаке на кампании Харриса и Трампа, которая включала фишинг. ФБР сообщило, что на тот момент не было доказательств атаки на кампанию Харриса.

Источник: Bloomberg