Een schooldistrict in de Verenigde Staten gebruikt ChatGPT om te beslissen welke boeken worden verboden

In de Amerikaanse staat Iowa heeft het bestuur van een schooldistrict 19 boeken met seksscènes uit de bibliotheken verwijderd. Ambtenaren gebruikten ChatGPT om ze te zoeken.

Dit is wat we weten

Beheerders voerden de zoekopdracht "beschrijving of afbeelding van een seksuele handeling" in ChatGPT in voor elk betwist werk. Als het antwoord ja was, werd het boek uit de circulatie genomen en opgeslagen.

Bridgette Exman, adjunct-directeur curriculum, zei dat medewerkers niet in staat waren om elk potentieel boek op de lijst te lezen. In plaats daarvan stelde het district een eerste lijst samen van vaak verboden boeken met behulp van openbare bronnen en beperkte deze vervolgens tot ongeveer 50 titels die zich in de collectie van de bibliotheek bevonden. Exman checkte vervolgens elke editie met behulp van ChatGPT.

De journalisten herhaalden het experiment. Toen ChatGPT werd gevraagd om alle 19 verboden boeken te controleren, gaf de AI aan dat sommige boeken geen seksscènes bevatten.

De verboden boeken waren onder andere The Kite Runner van Khaled Hosseini, The Handmaid's Tale van Margaret Atwood en I Know Why the Caged Bird Sings van Maya Angelou.

Bron: The Verge