Des écoliers britanniques créent un contenu IA obscène avec des images d'autres enfants

Des écoliers britanniques utilisent l'intelligence artificielle pour créer des images indécentes d'autres élèves, a averti un groupe d'experts en maltraitance des enfants et en technologie.

Voici ce que nous savons

Emma Hardy, du UK Safer Internet Centre, a souligné le réalisme effrayant de ces images, dont la qualité est comparable à celle de photographies scolaires professionnelles. Cela pose le risque que les victimes soient reconnues et que le contenu soit distribué à des inconnus sur l'internet.

"Le potentiel d'abus de cette technologie est terrifiant", a-t-elle ajouté.

Selon les experts, les écoles devraient améliorer d'urgence les systèmes de blocage des contenus interdits et éduquer. Il est probable que les enfants ne réalisent pas encore pleinement les effets néfastes de ces expériences d'IA. Mais les rapports qui ont été publiés suggèrent que le problème pourrait s'aggraver rapidement.

Les images d'abus sexuels sur des enfants, y compris celles créées à l'aide de l'IA, sont interdites au Royaume-Uni. Cette interdiction s'applique également aux dessins animés et autres images moins réalistes.

Source : The Guardian : The Guardian