Чат-бот Grok Илона Маска распространяет фальшивые новости о солнечном затмении на основе шуток в X

Jongsun Lee/Unsplash

Чат-бот с искусственным интеллектом Grok, доступный платным подписчикам социальной сети X, сгенерировал очередную фальшивую новость на основе шуток пользователей. На этот раз ложная информация касалась странного поведения Солнца во время затмения в Северной Америке.

Что известно

Так Grok опубликовал новость, что общественное "обеспокоено отсутствием официальных заявлений или объяснений от научных властей по поводу текущего состояния Солнца". Однако это не соответствует действительности, ведь ученые хорошо понимают природу солнечных затмений.

Появление этого сообщения Grok, по-видимому, было вызвано шутками пользователей X о том, что они недоумевают, куда делось солнце. Чат-бот, похоже, воспринял посты как повод для создания фальшивой новости, вызывающей беспокойство.

Grok, который основатель компании-разработчика xAI Илон Маск (Elon Musk) назвал "анти-бодрствующим ИИ" (anti-woke AI), неоднократно распространял недостоверную информацию, основанную на сообщениях пользователей социальной сети. Ранее он сгенерировал ложные заголовки, якобы Иран атакует Израиль, чего на самом деле не было.

Эксперты отмечают, что подобные ошибки Grok свидетельствуют, что технология генеративного ИИ еще далека от человеческого уровня понимания и рассуждений. Несмотря на умение чат-ботов писать правдоподобный текст, они не обладают способностью к сложным логическим выводам и сопоставлению фактов.

Продолжающееся распространение Grok фальшивых новостей ставит под сомнение заявления сторонников ИИ о близости достижения технологией человеческого интеллекта. Эксперты указывают, что пока что AI-системы демонстрируют лишь усовершенствованную версию автозаполнения, без настоящего понимания реальности.

Источник: Gizmodo