Anthropic представила Project Glasswing, инициативу по усилению кибербезопасности с помощью ИИ

Компания Anthropic объявила о запуске инициативы Project Glasswing, направленной на противодействие кибератакам с использованием искусственного интеллекта. Проект предусматривает сотрудничество с рядом технологических и финансовых гигантов, среди которых Amazon, Apple, Google, Microsoft, NVIDIA и другие.

Что известно

В рамках инициативы партнеры получат доступ к модели Claude Mythos Preview — еще не представленной публично универсальной системе искусственного интеллекта. По данным Anthropic, эта модель уже выявила тысячи потенциальных уязвимостей, в том числе в популярных операционных системах и браузерах. Ее планируют использовать для укрепления киберзащиты и предотвращения злоумышленного использования ИИ.

Project Glasswing направлен на защиту критически важного программного обеспечения от новых типов атак, которые могут возникнуть из-за развития искусственного интеллекта. В компании подчеркивают, что проект ориентирован именно на оборонное применение технологий.

Anthropic, во главе которой стоит Дарио Амодей, ранее неоднократно поднимала вопросы безопасности и этики в сфере ИИ. В то же время компания уже сталкивалась с критикой: сообщалось о использовании ее модели Claude во время хакерских атак на государственные учреждения в Мексике.

Запуск Project Glasswing происходит на фоне роста обеспокоенности по поводу киберрисков, связанных с развитием искусственного интеллекта, и попыток крупных компаний усилить защиту своих систем.

Источник: Anthropic