Studie: Kunstig intelligens skriver mer overbevisende tweets enn mennesker

Brukerne synes tweets er mer overbevisende når de er skrevet av en AI-drevet språkmodell enn av et menneske.

Hva vi vet

Forskerne samlet inn Twitter-meldinger om 11 ulike vitenskapelige emner, fra vaksiner og covid-19 til klimaendringer og evolusjon. Deretter ba de GPT-3 om å skrive nye tweets med nøyaktig eller unøyaktig informasjon.

Deretter samlet teamet inn svar fra 697 deltakere. Alle snakket engelsk og bodde hovedsakelig i Storbritannia, Australia, Canada, USA og Irland. De ble bedt om å identifisere hvilke tweets som var skrevet av GPT-3 og hvilke som var skrevet av et menneske. De skulle også ta stilling til om informasjonen i innlegget var sann.

Resultatet var at deltakerne i studien var mer tilbøyelige til å stole på kunstig intelligens enn på andre mennesker - uavhengig av om informasjonen var sann eller ikke.

Folk var flinkest til å gjenkjenne desinformasjon skrevet av ekte brukere. Falske innlegg generert av GPT-3 var litt mer effektive når det gjaldt å lure deltakerne i undersøkelsen.

Forskerne bemerket at det var en rekke begrensninger som påvirket resultatene. Deltakerne vurderte for eksempel tweets uten kontekst. De kunne ikke sjekke Twitter-profilen til forfatteren av meldingen for å finne ut om den var ekte.

Forskerne reverserte også prosessen og ba GPT-3 om å vurdere sannhetsgehalten i tweetene. Det viste seg at språkmodellen var dårligere enn mennesker til å avgjøre nøyaktigheten av meldinger. Når det gjaldt å oppdage desinformasjon, viste mennesker og GPT-3 de samme resultatene.

Forskerne konkluderer med at den beste strategien for å motvirke desinformasjon er å utvikle kritisk tenkning, slik at folk selv kan skille fakta fra fiksjon.

Kilde: The Verge: The Verge.