Studie: kunstmatige intelligentie schrijft overtuigendere tweets dan mensen

Gebruikers vinden tweets overtuigender als ze zijn geschreven door een AI-gestuurd taalmodel in plaats van een mens.

Wat we weten

De onderzoekers verzamelden Twitterberichten over 11 verschillende wetenschappelijke onderwerpen, van vaccins en COVID-19 tot klimaatverandering en evolutie. Vervolgens vroegen ze GPT-3 om nieuwe tweets te schrijven met nauwkeurige of onjuiste informatie.

Het team verzamelde vervolgens reacties van 697 deelnemers. Ze spraken allemaal Engels en woonden voornamelijk in het Verenigd Koninkrijk, Australië, Canada, de VS en Ierland. Ze werden gevraagd om te identificeren welke tweets waren geschreven door GPT-3 en welke door een mens. Ze moesten ook beslissen of de informatie in het bericht waar was.

Het resultaat was dat de deelnemers aan het onderzoek eerder geneigd waren om AI te vertrouwen dan andere mensen - ongeacht de nauwkeurigheid van de informatie.

Mensen waren het meest succesvol in het herkennen van desinformatie geschreven door echte gebruikers. Nepposts gegenereerd door GPT-3 waren iets effectiever in het misleiden van deelnemers aan het onderzoek.

De onderzoekers merkten op dat er een aantal beperkingen waren die de resultaten beïnvloedden. Deelnemers beoordeelden tweets bijvoorbeeld buiten de context. Ze konden het Twitter-profiel van de auteur van het bericht niet controleren om de echtheid ervan te bepalen.

De onderzoekers draaiden het proces ook om en vroegen GPT-3 om de waarachtigheid van de tweets te beoordelen. Het bleek dat het taalmodel slechter dan mensen was in het bepalen van de juistheid van berichten. Bij het detecteren van desinformatie lieten mensen en GPT-3 dezelfde resultaten zien.

Concluderend denken de onderzoekers dat de beste strategie om desinformatie tegen te gaan het ontwikkelen van kritisch denken is, zodat mensen zelf feiten van fictie kunnen scheiden.

Bron: The Verge.