Чат-боты на основе ИИ могут помочь в планировании биологической атаки — исследование

Согласно исследованию американского аналитического центра Rand Corporation, модели искусственного интеллекта, используемые в чат-ботах, способны давать рекомендации по планированию биоатаки.

Что известно

Ученые протестировали несколько крупных языковых моделей ИИ. Выяснилось, что они могут помочь в подготовке биологической атаки, хотя напрямую не генерируют инструкции по созданию оружия.

В одном тесте анонимный ИИ оценивал потенциал разных биоагентов, таких как оспа и чума, для массового поражения людей. В другом модель обсуждала преимущества использования ботулотоксина и рекомендовал легенду для его приобретения.

По мнению исследователей, результаты указывают на то, что чат-боты могут помочь в планировании биоатаки. Однако необходим анализ, не являются ли ответы просто отражением уже имеющейся в интернете информации.

Тем не менее компании-разработчики ИИ должны ограничить возможности моделей вести такие разговоры, считают ученые.

Источник: The Guardian