Dans l’Iowa, une école utilise l’IA pour bannir certains livres. Un processus étonnant qui répond à une demande tout à fait légale.
Il n’aura pas fallu longtemps pour que les effets pervers de l’intelligence artificielle se montrent. Les exemples ne manquent pas, entre arnaques et génération de spam. Et nous pouvons désormais ajouter la censure à cette liste. Le Globe Gazette rapporte que l’école de Mason City, dans l’Iowa, aux États-Unis, a commencé à utiliser l’IA pour générer une liste de livres qui pourraient être bannis des bibliothèques des écoles du district pour l’année scolaire 2023/2024.
Dans l’Iowa, une école utilise l’IA pour bannir certains livres
En mai, la loi Senate File 496 fut signée, celle-ci entérinait certains changements importants dans le programme éducatif de l’État. Plus spécifiquement, elle vient limiter les livres qui peuvent être disponibles dans les bibliothèques et les classes des écoles, obligeant les livres à être d’un “âge approprié” et sans “descriptions ou représentations visuelles d’un acte sexuel”, selon le Iowa Code 702.17.
Mais s’assurer que chaque livre présent dans les collections du district répond bien à ces nouvelles règles demande un travail titanesque. “Nos classes et nos écoles ont de très vastes collections, avec des textes achetés, donnés et trouvés”, déclarait Bridgette Exman, responsable assistante des programmes et de l’instruction au Mason City Community School District. “Il n’est tout simplement pas possible de lire tous les livres pour filtrer ceux qui ne répondent pas à ces nouveaux critères.”
Un processus étonnant qui répond à une demande tout à fait légale
Alors le Mason City School District a fait appel à l’IA pour éliminer les textes suspects, pour bannir les idées et descriptions puisqu’il y a bien trop de titres pour que des humains s’attèlent à cette tâche. Selon le district, une “liste maître” est d’abord mise en place depuis “plusieurs sources”, en étudiant d’éventuelles plaintes précédentes pour contenu sexuel. Les livres de cette liste sont alors scannés par “un logiciel IA” qui permet d’indiquer aux censeurs de l’État si, oui ou non, il y a bien une représentation sexuelle dans le livre.
“Franchement, nous avons des choses plus importantes à faire que de perdre du temps à tenter de déterminer comment protéger nos enfants des livres”, expliquait Bridgette Exman à PopSci. “Et dans le même temps, nous avons une obligation légale et éthique de nous conformer à la loi. Notre objectif, ici, est d’avoir un processus défendable.”
Pour l’heure, l’IA a identifié 19 livres qui pourraient être bannis :
- Killing Mr. Griffin par Lois Duncan
- Sold par Patricia McCormick
- A Court of Mist and Fury (series) par Sarah J. Maas
- Monday’s Not Coming par Tiffany D. Jackson
- Tricks par Ellen Hopkins
- Nineteen Minutes par Jodi Picoult
- The Handmaid’s Tale par Margaret Atwood
- Beloved par Toni Morrison
- Looking for Alaska par John Green
- The Kite Runner par Khaled Hosseini
- Crank par Ellen Hopkins
- Thirteen Reasons Why par Jay Asher
- The Absolutely True Diary of a Part-Time Indian par Sherman Alexie
- An American Tragedy par Theodore Dreiser
- The Color Purple par Alice Walker
- Feed par M.T. Anderson
- Friday Night Lights par Buzz Bissinger
- Gossip Girl par Cecily von Ziegesar
- I Know Why the Caged Bird Sings par Maya Angelou
Source link
