OpenAI покупает стартап Promptfoo, который тестирует большие языковые модели на уязвимости
Компания OpenAI объявила о приобретении стартапа Promptfoo, который специализируется на безопасности систем искусственного интеллекта. О сделке сообщили в официальном блоге компании. После завершения операции технологии Promptfoo интегрируют в платформу OpenAI Frontier — корпоративное решение для создания и управления агентами ИИ.
Что известно
Promptfoo была основана в 2024 году Ианом Вебстером и Майклом Д’Анджело. Компания разрабатывает инструменты, которые помогают тестировать большие языковые модели (LLM) на уязвимости и защищать их от атак или манипуляций. Среди продуктов стартапа — открытый интерфейс и библиотека для проверки безопасности систем. По данным компании, ее решения используют более 25% компаний из списка Fortune 500.
Развитие автономных агентов ИИ, которые могут выполнять цифровые задачи без участия человека, вызывает большой интерес бизнеса из-за потенциального повышения продуктивности. В то же время такие системы создают новые риски: злоумышленники могут пытаться получить доступ к конфиденциальным данным или влиять на автоматизированные процессы. Именно поэтому компании, работающие с передовыми моделями ИИ, активно инвестируют в технологии защиты.
После интеграции технологий Promptfoo платформа OpenAI Frontier сможет автоматически проводить так называемый "red-teaming" — тестирование систем на возможные атаки, проверять рабочие процессы агентов ИИ на риски безопасности и отслеживать активность для соблюдения требований комплаэнса. В OpenAI также отметили, что планируют продолжить развитие открытых инструментов Promptfoo.
Сумма сделки не раскрывается. По данным PitchBook, с момента основания стартап привлек около $23 млн инвестиций, а после раунда финансирования в июле 2025 года его оценивали примерно в $86 млн.
Источник: OpenAI
Подписывайтесь на наш нескучный канал в Telegram, чтобы ничего не пропустить.
