Des conseillers du Premier ministre indien ont appelé à une réglementation stricte de l'IA par crainte d'une "schizophrénie de masse".

Naveed Ahmed/Unsplash.

Le Conseil consultatif économique auprès du Premier ministre indien (EACPM) a publié un rapport dans lequel il exprime de vives inquiétudes quant aux conséquences d'un développement non réglementé de l'intelligence artificielle.

Ce que nous savons

Le document indique qu'en combinant surveillance, messages persuasifs et création de médias synthétiques, l'IA malveillante pourrait contrôler de plus en plus les écosystèmes d'information. De plus, la technologie sera capable de créer des réalités individuelles trompeuses pour contraindre les gens à se comporter, provoquant ainsi une "schizophrénie de masse".

L'EACPM a critiqué les tentatives actuelles de régulation de l'IA aux États-Unis, au Royaume-Uni, dans l'Union européenne et en Chine, les jugeant imparfaites et incapables de faire face à la complexité et à la non-linéarité du développement de la technologie. Le Conseil décrit l'IA comme un système de même nature que les marchés financiers : non linéaire, auto-organisé et hautement imprévisible.

A ce titre, l'EACPM propose d'introduire des règles basées sur des idées issues de la régulation des marchés financiers. Ces règles comprennent

• Créer des "clôtures et des cloisons" ;
• assurer une surveillance et une autorisation humaines
• accroître la transparence des algorithmes
• des protocoles de responsabilité clairs ;
• la création d'un organisme de régulation spécialisé sur le modèle de la Securities and Exchange Commission (SEC) aux États-Unis.

L'EACPM conclut en notant qu'une telle réglementation pourrait entraver certains scénarios d'IA. Toutefois, le Conseil estime que l'humanité peut bénéficier d'une réglementation forte.

Source : The Register : The Register