Microsofts chatbot ga falsk informasjon om valget til Europaparlamentet

Microsoft

Forskere har funnet ut at chatboten Bing (nå Copilot) ga feilaktig informasjon om de nylige valgene i Sveits og Tyskland. Ifølge en rapport fra interesseorganisasjonen AlgorithmWatch inneholdt nesten en tredjedel av verktøyets svar på spørsmål om valgene faktafeil.

Dette er hva vi vet

Svarene inneholdt blant annet feilaktige datoer, meningsmålinger og referanser til kandidater som ikke deltok i valget. Bing siterte ofte faktiske kilder, men tallene han oppga, stemte ikke overens med originaldataene.

Forskerne konstaterer at Bings forsvarsmekanismer ble utløst ulikt. I 30 prosent av tilfellene var svarene korrekte, og i 39 prosent av tilfellene nektet chatboten å svare. Den gjorde imidlertid alvorlige faktafeil når det dreide seg om fakta snarere enn meninger.

Microsoft forsikrer at de jobber med å forbedre nøyaktigheten til AI-plattformene, spesielt i forbindelse med valg. Risikoen for feilinformasjon fra chatboter er imidlertid en økende bekymring.

Kilde: The Verge The Verge