Anthropic признала: Claude пытались использовать для создания биологического оружия и кибератак
Компания Anthropic опубликовала отчет, который напоминает сценарий не слишком оптимистичного сай-фая. С декабря 2025 года по август 2026 года были зафиксированы пять случаев, когда чат-бот Claude пытались привлечь к биологическим исследованиям, результаты которых потенциально могли быть применены для разработки биологического оружия. Конечно, намерения исследователей остались "туманными", но аккаунты на всякий случай заблокировали.
Комары, грипп и военные лаборатории
Основная сложность в том, что наука - вещь двусечная. То же исследование может помочь создать лекарства или же превратить обычный вирус в оружие массового поражения. Определить цель пользователя по одному запросу практически невозможно, поскольку изучение патогенов является частью легитимной научной работы.
В одном из эпизодов ИИ пытались заставить подготовить заявку на финансирование работ по "усилению функций" вируса Чикунгунья (Chikungunya), который распространяется комарами. Тревожным звоночком для Anthropic стало то, что результаты работ предназначались для военного исследовательского учреждения. Когда Claude отказал, исследователи не сдались и пошли искать помощь в других ИИ-моделях через специальные платформы-посредники, где цензура не такая строгая.
Другой случай касался высокопатогенного птичьего гриппа. Пользователь неделями использовал Claude для планирования экспериментов, анализа данных и научной интерпретации результатов. Политика безопасности компании закрыла доступ к самым мощным моделям для таких чувствительных задач, но исследователь просто переключился на менее мощные версии чат-бота и продолжил работу. Еще три случая касались ортопоксвирусов, токсинов и ядовитых соединений.
We're publishing our most detailed threat intelligence report to date.
— Anthropic (@AnthropicAI) September 10, 2026
It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.
We disrupted every operation in the report,…
Российский след в облаке
Кроме биологов-энтузиастов, в отчете упоминается группировка Midnight Blizzard (известная также как APT29, NOBELLIUM), которую связывают с российскими спецслужбами. Эта группа использовала Claude для автоматизации фишинга, написания вредоносного ПО и подготовки инфраструктуры для кражи данных.
Под прицелом оказались более 20 организаций, среди которых государственные, дипломатические и оборонные структуры Украины и стран Европы. Это подтверждает опасения, что государственные хакерские группы активно интегрируют крупные языковые модели в свои рабочие процессы для масштабирования операций.
Почему блокировка не является панацеей
Anthropic признает: чем умнее становится ИИ, тем полезнее он для настоящих ученых, и тем опаснее — в руках злоумышленников. Предыдущие поколения Claude были слишком ограниченными для сложного анализа, но новые модели справляются с этим значительно лучше. Проблема не только в прямых запросах. Пользователи научились маскировать цели под обычную научную рутину, разбивать большие задачи на мелкие фрагменты или мигрировать между сервисами разных разработчиков.
Сейчас компания усилила ограничения для запросов высокого риска и передала данные о инцидентах властям. Однако опыт с Midnight Blizzard показывает, что ИИ стал еще одним инструментом в цифровой войне, где предохранители разработчиков пока только пытаются догнать изобретательность атакующих.
Пока одни разработчики пытаются удержать ИИ в рамках безопасности, другие экспериментируют с тем, насколько быстро нейросеть может построить бизнес. Например, SpaceXAI попробует построить бизнес с помощью Grok в прямом эфире всего за три дня.
Подписывайтесь на наш нескучный канал в Telegram, чтобы ничего не пропустить.
