Un distrito escolar de Iowa está utilizando inteligencia artificial (IA) para decidir qué libros prohibir de sus bibliotecas porque nadie tiene tiempo de leer los libros para decidir si tienen “descripciones o representaciones visuales de un acto sexual”, que están prohibidos por una nueva ley estatal.
El único problema: la tecnología de IA aún no es lo suficientemente avanzada para evaluar el contenido de los libros, y el programa de IA del distrito brinda respuestas inconsistentes cuando se le pregunta qué libros prohibir.
Para prepararse para el año escolar, el Distrito Escolar Comunitario de Mason City, un área rural ubicada a 120 millas al norte de Des Moines, compiló varias listas disponibles de libros comúnmente cuestionados para crear una “lista maestra” de libros para revisión.
El distrito hizo esto para cumplir con una nueva ley, firmada en mayo por la gobernadora de Iowa, Kim Reynolds (R), que prohíbe todos los libros que contengan “descripciones o representaciones visuales de un acto sexual”. Antes de que se firmara esta ley, el distrito dijo que no tenía registro de ningún padre o estudiante que desafiara formalmente la eliminación de un libro debido a su contenido.
No obstante, el distrito revisó cada libro en su lista maestra “usando software de inteligencia artificial para determinar si contiene una descripción de un acto sexual”, dijo un portavoz del distrito. La Gaceta.
Este proceso llevó al distrito a retirar 19 libros de sus bibliotecas de los grados 7-12. La lista incluía clásicos literarios como el de Margaret Atwood El cuento de la criadade Alice Walker El color moradoy Maya Angelou Sé por qué canta el pájaro enjaulado.
El distrito usó ChatGPT, un chatbot de IA, para preguntar qué libros de su lista maestra mostraban un acto sexual. Pero mientras ChatGPT puede generar respuestas basadas en el texto que ha aprendido de varias fuentes, el chatbot no tiene la capacidad de evaluar los textos completos de diferentes novelas para determinar su contenido sexual. También tiene una tendencia a fabricar hechos por su cuenta.
De hecho, cuando la publicación ciencia pop ingresó la lista del distrito de los 19 libros prohibidos en ChatGPT y le preguntó al chatbot: “¿Alguno de los siguientes libros o series de libros contiene escenas explícitas o sexuales?” el chatbot dijo que solo cuatro contenían “Contenido explícito o sexual”. Otros seis supuestamente contienen “Temas maduros pero no contenido explícito necesario”.
“Las diversas respuestas de ChatGPT resaltan las preocupantes deficiencias de precisión, análisis y consistencia”. ciencia pop escribió. “Una consulta repetida sobre El Volador de cometas (uno de los 19 libros prohibidos del distrito), por ejemplo, da respuestas contradictorias. En una respuesta, ChatGPT considera que la novela de Khaled Hosseini contiene “poco o ningún contenido sexual explícito”. Tras un seguimiento por separado, el (chatbot) afirma que el libro ‘contiene una descripción de una agresión sexual’”.
Bridgette Exman, Superintendente Asistente de Currículo e Instrucción del distrito, dijo: “Nuestras aulas y bibliotecas escolares tienen vastas colecciones, que consisten en textos comprados, donados y encontrados. Simplemente no es factible leer todos los libros y filtrar estos nuevos requisitos”.
“Francamente, tenemos cosas más importantes que hacer que pasar mucho tiempo tratando de descubrir cómo proteger a los niños de los libros”, agregó. “Al mismo tiempo, tenemos la obligación legal y ética de cumplir con la ley. Nuestro objetivo aquí es realmente un proceso defendible”.
Prohibiciones de libros similares se han intensificado en todo el país, según un informe de la organización de libertad de expresión PEN America. Durante el último año escolar, PEN America registró 1477 instancias separadas de prohibiciones de libros en todo el país, que afectaron a 874 títulos únicos en 182 distritos escolares y 37 estados. En 2022, alrededor del 41 por ciento de los libros cuestionados fueron de autores LGBTQ+ o contenían temas LGBTQ+, informó la Asociación Estadounidense de Bibliotecas.
Las prohibiciones provienen en gran medida de políticos republicanos, juntas escolares conservadoras y los llamados grupos de “derechos de los padres” que se han opuesto a contenido como “adoctrinamiento despierto” que es “inapropiado” para niños en edad escolar. En el 98 por ciento de los casos, los distritos escolares no siguieron las protecciones de la Primera Enmienda para garantizar que los funcionarios del gobierno no prohíban ni castiguen la libertad de expresión, informó PEN America.
