KI-basierte Chatbots könnten bei der Planung eines biologischen Angriffs helfen - Studie

Wissenschaftliche Fotobibliothek/Alamy

Laut einer Studie der US-amerikanischen Denkfabrik Rand Corporation sind Modelle der künstlichen Intelligenz, die in Chatbots eingesetzt werden, in der Lage, Ratschläge zur Planung eines Bioangriffs zu erteilen.

Was bekannt ist

Die Wissenschaftler haben mehrere große KI-Sprachmodelle getestet. Es stellte sich heraus, dass sie bei der Vorbereitung eines biologischen Angriffs helfen können, auch wenn sie nicht direkt Anweisungen für die Herstellung einer Waffe erstellen.

In einem Test bewertete eine anonyme KI das Potenzial verschiedener Bio-Agenzien wie Pocken und Pest, Menschen massiv zu schädigen. In einem anderen Test diskutierte das Modell die Vorteile von Botulinumtoxin und empfahl eine Legende zu dessen Beschaffung.

Den Forschern zufolge deuten die Ergebnisse darauf hin, dass Chatbots bei der Planung eines Bioangriffs helfen können. Es muss jedoch noch untersucht werden, ob die Antworten lediglich eine Widerspiegelung der bereits im Internet verfügbaren Informationen sind.

Dennoch sollten die KI-Entwicklungsunternehmen die Fähigkeit der Modelle, solche Gespräche zu führen, einschränken, so die Forscher.

Quelle: The Guardian