Casi dos tercios de los libros religiosos muestreados en Amazon fueron probablemente escritos por inteligencia artificial, según un nuevo estudio de más de 2,000 títulos publicados recientemente.
En un informe publicado el miércoles, la firma de detección de IA Originality.ai marcó 1,272 de 2,034 libros, o el 63%, como probablemente escritos por IA en 14 categorías religiosas y de creencias.
La brujería tuvo la tasa más alta, con un 78% de los libros muestreados de la categoría Wicca, Brujería y Paganismo de Amazon clasificados como probablemente escritos por IA. Los títulos cubrían temas que incluían cristales curativos, remedios herbales y limpieza de "energías negativas". Según el autor del informe, Michael Fraiman, muchos de los libros de brujería se centraron en esos temas.
“Uno puede imaginarse al cliente ideal como alguien que busca soluciones para curarse a sí mismo, mejorar su salud mental o 'desintoxicarse' de químicos y drogas comunes”, dijo Fraiman a Decrypt. “Estos libros wiccanos pueden abordar estas preocupaciones sin estar sujetos a ningún estándar científico.”
El hinduismo ocupó el segundo lugar con un 76%, seguido por el taoísmo con un 74%, con el sijismo, el budismo, el islam, el catolicismo, el protestantismo, el cristianismo ortodoxo y el judaísmo cayendo en el medio. El mormonismo se situó en un 42%, el ateísmo en un 40% y el satanismo en un 22%. Los investigadores advirtieron que los tamaños de las muestras variaron significativamente entre las categorías.
Fraiman dijo que los investigadores analizaron descripciones de libros, biografías de autores y muestras, clasificando el texto que obtuvo una puntuación de 50 o más como "Probablemente IA". Advirtió, sin embargo, que los resultados indican probabilidad, no prueba.
“No afirmamos con certeza si los libros están definitivamente escritos por IA”, dijo. “Nuestro modelo determina la probabilidad de que algo haya sido escrito por IA con un cierto grado de certeza.”
Fraiman señaló que los investigadores también revisaron al azar los libros marcados como probablemente generados por IA.
“A estas alturas, nuestro equipo de investigación puede diferenciar entre contenido probablemente escrito por IA y contenido escrito por humanos”, añadió.
Aunque Fraiman expresó confianza en los hallazgos, los detectores de IA han producido falsos positivos y resultados contradictorios.
En octubre de 2024, una prueba de cuatro detectores de IA produjo resultados contradictorios al analizar la Declaración de Independencia de EE. UU. ZeroGPT encontró que el texto era 97.93% generado por IA, mientras que QuillBot lo encontró completamente escrito por humanos y GPTZero le dio una probabilidad del 89% de ser escrito por humanos.
Más recientemente, en marzo, la Corte Suprema de Colombia rechazó una presentación legal después de que los detectores la marcaran como generada por IA. Cuando un abogado presentó el fallo del tribunal al mismo detector, este lo calificó como 93% generado por IA.
Amazon no respondió de inmediato a una solicitud de comentarios de Decrypt.
"Amazon es consciente de lo común que es el contenido escrito por IA en su plataforma, y utiliza el sistema de honor para que los autores autoidentifiquen su trabajo como escrito por IA", dijo, añadiendo que la compañía no compartió sus hallazgos con Amazon. "No tenemos datos sobre cuántos autores realmente lo revelan."
El uso de libros físicos para entrenar a la IA también ha sido objeto de escrutinio, ya que los desarrolladores compran millones de títulos, los desmontan, escanean sus páginas en conjuntos de datos de entrenamiento y desechan los originales.
En agosto, una investigación rastreó un envío de libros raros a una instalación de Amazon en Las Vegas, donde los trabajadores cortaron sus encuadernaciones y escanearon las páginas para obtener datos de entrenamiento de IA. Amazon confirmó que compra libros a través de canales comerciales para esta operación.
