Les développeurs d'intelligence artificielle devraient être tenus responsables des dommages qu'ils causent, affirment les "parrains" de la technologie
Image générée par l'intelligence artificielle Bing/DALL-E 3
Les puissants systèmes d'intelligence artificielle menacent la stabilité sociale, selon un groupe d'experts de premier plan, dont deux "parrains" de la technologie.
Ce que nous savons
Selon les experts, la volonté de construire des systèmes d'intelligence artificielle de plus en plus puissants sans savoir comment les rendre sûrs est "tout à fait irréfléchie". Ils ont formulé un certain nombre de suggestions, notamment
- allouer des fonds pour l'utilisation sûre de l'IA
- permettre aux auditeurs d'accéder aux laboratoires d'IA
- l'introduction de licences pour les modèles avancés.
Les experts ont également suggéré de tenir les entreprises technologiques pour responsables des dommages évitables causés par leurs systèmes.
Parmi les coauteurs figurent deux des trois "parrains de l'IA", Geoffrey Hinton et Yoshua Bengio, le lauréat du prix Nobel Daniel Kahneman, l'auteur de Sapiens, Yuval Noah Harari, et d'autres éminents experts.
Ils ont averti qu'il y avait déjà des signes de capacités dangereuses de l'IA, comme dans le modèle GPT-4 sur lequel est basé ChatGPT. Les experts craignent l'émergence de systèmes autonomes échappant au contrôle humain.
Source : The Guardian : The Guardian