AI-gebaseerde chatbots kunnen helpen bij het plannen van een biologische aanval - onderzoek

Wetenschappelijke fotobibliotheek/Alamy

Volgens een onderzoek van de Amerikaanse denktank Rand Corporation zijn kunstmatige intelligentie-modellen die in chatbots worden gebruikt in staat om advies te geven over het plannen van een bio-aanval.

Dit is wat we weten

Wetenschappers hebben verschillende grote AI-taalmodellen getest. Het bleek dat ze kunnen helpen bij het voorbereiden van een biologische aanval, hoewel ze niet direct instructies genereren voor het maken van een wapen.

In één test evalueerde een anonieme AI het potentieel van verschillende bioagentia, zoals pokken en pest, om mensen massaal te treffen. In een andere test besprak het model de voordelen van botulinetoxine en adviseerde het een legende om het te verkrijgen.

Volgens de onderzoekers geven de resultaten aan dat chatbots kunnen helpen bij het plannen van een bio-aanval. Er moet echter worden geanalyseerd of de antwoorden gewoon een weerspiegeling zijn van informatie die al beschikbaar is op internet.

Toch moeten AI-ontwikkelingsbedrijven het vermogen van de modellen om dergelijke gesprekken te voeren beperken, aldus de onderzoekers.

Bron: The Guardian