Elon Musk's Grok chatbot verspreidt nepnieuws over zonsverduistering op basis van grappen in X

Grok, een chatbot met kunstmatige intelligentie die beschikbaar is voor betaalde abonnees van sociaal netwerk X, heeft weer een nepnieuwsbericht gegenereerd op basis van grappen van gebruikers. Deze keer ging de valse informatie over het vreemde gedrag van de zon tijdens de eclips in Noord-Amerika.

Dit is wat we weten

Grok publiceerde het nieuws dat het publiek "bezorgd is over het gebrek aan officiële verklaringen of uitleg van wetenschappelijke autoriteiten over de huidige staat van de zon". Dit is echter niet waar, aangezien wetenschappers de aard van zonsverduisteringen goed begrijpen.

Het verschijnen van dit Grok-bericht werd blijkbaar veroorzaakt door X-gebruikers die grappen maakten over het feit dat ze verbijsterd waren over waar de zon is gebleven. De chatbot lijkt de berichten te hebben aangegrepen als excuus om een reden voor bezorgdheid te creëren in de vorm van nepnieuws.

Grok, die oprichter Elon Musk van xAI-ontwikkelaar heeft bestempeld als "anti-woke AI", heeft herhaaldelijk misleidende informatie verspreid op basis van posts van gebruikers van sociale media. Eerder genereerde hij valse krantenkoppen, waarin werd beweerd dat Iran Israël aanvalt, wat in feite niet is gebeurd.

Deskundigen merken op dat dergelijke fouten van Grok aantonen dat generatieve AI-technologie nog ver verwijderd is van het menselijke niveau van begrijpen en redeneren. Ondanks het vermogen van de chatbots om plausibele teksten te schrijven, missen ze het vermogen om complexe logische conclusies te trekken en feiten te vergelijken.

De voortdurende verspreiding van nepnieuws door Grok doet twijfels rijzen over beweringen van AI-voorstanders dat de technologie dicht in de buurt komt van menselijke intelligentie. Experts wijzen erop dat AI-systemen tot nu toe alleen een verbeterde versie van auto-complete laten zien, zonder echt begrip van de werkelijkheid.

Bron: Gizmodo