Le chatbot Grok d'Elon Musk diffuse de fausses nouvelles sur l'éclipse solaire en se basant sur des blagues dans X

Grok, un chatbot d'intelligence artificielle accessible aux abonnés payants du réseau social X, a généré une autre fausse nouvelle en se basant sur les blagues des utilisateurs. Cette fois, la fausse information concernait le comportement étrange du soleil pendant l'éclipse en Amérique du Nord.

Voici ce que nous savons

So Grok a publié une nouvelle selon laquelle le public est "préoccupé par l'absence de déclarations officielles ou d'explications de la part des autorités scientifiques sur l'état actuel du Soleil". Or, ce n'est pas le cas, car les scientifiques comprennent bien la nature des éclipses solaires.

L'apparition de ce message Grok a apparemment été provoquée par des utilisateurs de X qui ont plaisanté en disant qu'ils étaient perplexes quant à l'endroit où le soleil avait disparu. Le chatbot semble avoir pris ces messages comme prétexte pour créer une fausse nouvelle inquiétante.

Grok, que le fondateur du développeur xAI Elon Musk a qualifié d'"IA anti-éveil" (anti-woke AI), a diffusé à plusieurs reprises des informations trompeuses basées sur des messages d'utilisateurs de médias sociaux. Plus tôt, il a généré de faux titres, prétendant que l'Iran attaquait Israël, ce qui en fait ne s'est pas produit.

Les experts notent que les erreurs commises par Grok montrent que la technologie de l'IA générative est encore loin du niveau de compréhension et de raisonnement humain. Malgré la capacité des chatbots à rédiger des textes plausibles, ils ne sont pas en mesure de tirer des conclusions logiques complexes et de comparer des faits.

La diffusion continue de fake news par Grok jette le doute sur les affirmations des partisans de l'IA selon lesquelles la technologie est proche d'atteindre l'intelligence humaine. Les experts soulignent que, jusqu'à présent, les systèmes d'IA ne font que démontrer une version améliorée de l'auto-complétion, sans véritable prise sur la réalité.

Source : Gizmodo Gizmodo