Une étude montre que les chatbots basés sur l'IA pourraient aider à planifier une attaque biologique

Science Photo Library/Alamy

Selon une étude du groupe de réflexion américain Rand Corporation, les modèles d'intelligence artificielle utilisés dans les "chatbots" sont capables de fournir des conseils sur la planification d'une attaque biologique.

Ce que nous savons

Les scientifiques ont testé plusieurs grands modèles de langage d'intelligence artificielle. Il s'est avéré qu'ils peuvent aider à préparer une attaque biologique, bien qu'ils ne génèrent pas directement des instructions pour la création d'une arme.

Dans un test, une IA anonyme a évalué le potentiel de différents agents biologiques, tels que la variole et la peste, à affecter massivement les populations. Dans un autre test, le modèle a discuté des avantages de la toxine botulique et a recommandé une légende pour l'acquérir.

Selon les chercheurs, les résultats indiquent que les chatbots peuvent aider à planifier une attaque biologique. Toutefois, il convient d'analyser si les réponses ne sont pas simplement le reflet d'informations déjà disponibles sur l'internet.

Quoi qu'il en soit, les entreprises spécialisées dans le développement de l'IA devraient limiter la capacité des modèles à avoir de telles conversations, selon les chercheurs.

Source : The Guardian : The Guardian