Anthropic визнала: Claude намагалися використати для створення біозброї та кібератак
Компанія Anthropic оприлюднила звіт, який нагадує сценарій не надто оптимістичного сай-фаю. З грудня 2025 року по серпень 2026 року було зафіксовано п’ять випадків, коли чат-бот Claude намагалися залучити до біологічних досліджень, результати яких потенційно могли бути застосовані для розробки біологічної зброї. Звісно, наміри дослідників залишилися «туманними», але акаунти про всяк випадок заблокували.
Комарі, грип та військові лабораторії
Основна складність у тому, що наука — штука двосічна. Те саме дослідження може допомогти створити ліки або ж перетворити звичайний вірус на знаряддя масового ураження. Визначити мету користувача за одним запитом практично неможливо, оскільки вивчення патогенів є частиною легітимної наукової роботи.
В одному з епізодів ШІ намагалися змусити підготувати заявку на фінансування робіт із «посилення функцій» вірусу Чикунгунья (Chikungunya), що розноситься комарами. Тривожним дзвіночком для Anthropic стало те, що результати робіт призначалися для військової дослідної установи. Коли Claude відмовив, дослідники не здалися та пішли шукати допомоги в інших ШІ-моделей через спеціальні платформи-посередники, де цензура не така сувора.
Інший випадок стосувався високопатогенного пташиного грипу. Користувач тижнями використовував Claude для планування експериментів, аналізу даних та наукової інтерпретації результатів. Політика безпеки компанії закрила доступ до найпотужніших моделей для таких чутливих завдань, але дослідник просто переключився на менш потужні версії чат-бота і продовжив роботу. Ще три випадки стосувалися ортопоксвірусів, токсинів та отруйних сполук.
We're publishing our most detailed threat intelligence report to date.
— Anthropic (@AnthropicAI) September 10, 2026
It covers how people tried to misuse Claude—for cyberattacks, influence operations, surveillance, biology, and building weapons—and how we found and stopped them.
We disrupted every operation in the report,…
Російський слід у хмарі
Окрім біологів-ентузіастів, у звіті згадується угруповання Midnight Blizzard (відоме також як APT29, NOBELLIUM), яке пов’язують із російськими спецслужбами. Ця група використовувала Claude для автоматизації фішингу, написання шкідливого ПЗ та підготовки інфраструктури для крадіжки даних.
Під прицілом опинилися понад 20 організацій, серед яких державні, дипломатичні та оборонні структури України та країн Європи. Це підтверджує побоювання, що державні хакерські групи активно інтегрують великі мовні моделі у свої робочі процеси для масштабування операцій.
Чому блокування не є панацеєю
Anthropic визнає: чим розумнішим стає ШІ, тим кориснішим він є для справжніх науковців, і тим небезпечнішим — у руках зловмисників. Попередні покоління Claude були занадто обмеженими для складного аналізу, але нові моделі справляються з цим значно краще. Проблема не лише в прямих запитах. Користувачі навчилися маскувати цілі під звичайну наукову рутину, розбивати великі завдання на дрібні фрагменти або мігрувати між сервісами різних розробників.
Зараз компанія посилила обмеження для запитів високого ризику та передала дані про інциденти владі. Проте досвід із Midnight Blizzard показує, що ШІ став ще одним інструментом у цифровій війні, де запобіжники розробників поки що лише намагаються наздогнати винахідливість атакуючих.
Поки одні розробники намагаються втримати ШІ в межах безпеки, інші експериментують із тим, наскільки швидко нейромережа може побудувати бізнес. Наприклад, SpaceXAI спробує побудувати бізнес за допомогою Grok у прямому ефірі всього за три дні.
