Un district scolaire aux États-Unis utilise le ChatGPT pour décider des livres à interdire.

Dans l'État américain de l'Iowa, l'administration d'un district scolaire a retiré de ses bibliothèques 19 livres contenant des scènes de sexe. Les fonctionnaires ont utilisé ChatGPT pour les rechercher.

Voici ce que nous savons

Les administrateurs ont saisi la requête "description ou représentation d'un acte sexuel" dans ChatGPT pour chaque ouvrage contesté. Si la réponse était positive, le livre était retiré de la circulation et stocké.

Bridgette Exman, directrice adjointe des programmes scolaires, a déclaré que les membres du personnel n'auraient pas été en mesure de lire tous les livres susceptibles de figurer sur la liste. Le district a donc dressé une première liste de livres fréquemment interdits à partir de sources publiques, puis l'a réduite à une cinquantaine de titres figurant dans la collection de la bibliothèque. Exman a ensuite emprunté chaque édition en utilisant ChatGPT.

Les journalistes ont répété l'expérience. Lorsqu'il a été demandé à ChatGPT de vérifier les 19 livres interdits, l'IA a indiqué que certains d'entre eux ne contenaient pas de scènes de sexe.

Parmi les livres interdits figuraient The Kite Runner de Khaled Hosseini, The Handmaid's Tale de Margaret Atwood et I Know Why the Caged Bird Sings de Maya Angelou.

Source : The Verge The Verge