AI-baserte chatboter kan bidra til å planlegge et biologisk angrep - studie

Ifølge en studie fra den amerikanske tenketanken Rand Corporation kan modeller for kunstig intelligens som brukes i chatboter, gi råd om planlegging av et bioangrep.

Dette er hva vi vet

Forskere har testet flere store AI-språkmodeller. Det viste seg at de kan hjelpe til med å forberede et biologisk angrep, selv om de ikke direkte genererer instruksjoner for å lage et våpen.

I én test evaluerte en anonym AI-modell potensialet til ulike bioagenser, som kopper og pest, til å ramme mennesker i stor skala. I en annen test diskuterte modellen fordelene med botulinumtoksin og anbefalte en legende for å skaffe seg det.

Ifølge forskerne tyder resultatene på at chatboter kan bidra til å planlegge et bioangrep. Det må imidlertid analyseres om svarene bare gjenspeiler informasjon som allerede er tilgjengelig på internett.

Uansett bør AI-utviklingsselskaper begrense modellenes evne til å føre slike samtaler, mener forskerne.

Kilde: The Guardian The Guardian