¿Barbarie cultural? Empresas de IA destruyen libros para alimentar a sus chatbots

Ya sabíamos que la IA es altamente contaminante por los millones de litros que gasta, pero ahora resulta que también está matando el conocimiento físico. Resulta que varias compañías destruyen libros antiguos para alimentar a la Inteligencia Artificial.

Mientras los desarrolladores compiten por crear modelos de IA cada vez más potentes, ha surgido una industria dedicada a suministrarles millones de libros físicos para alimentar a esos modelos de IA.

¿Quieres estar al día con Animal MX? Dale clic a nuestros canales gratuitos en Whatsapp y en Instagram.

¿Lo más alarmante? Que esos ejemplares que tienen copias limitadas en todo el mundo se desmontan, se escanean para crear conjuntos de datos de entrenamiento y se desechan.

Aunque no era un secreto que empresas como Anthropic aplican la de comprar libros para alimentar a sus chatbots, este nuevo reporte llama la atención por la búsqueda de libros con copias muy limitadas, pues tal cual se trata de la destrucción del conocimiento.

Como señaló un usuario de X: “Libros que han sobrevivido a guerras, incendios y siglos de uso están siendo triturados para que una IA pueda aprender a redactar mejor un mail de marketing”.

Mira: IA de OpenAI se rebeló y lanzó un ciberataque “sin precedentes”

El mercado secreto de libros raros para entrenar algoritmos

De acuerdo a un reporte de 404 media, empresas de inteligencia artificial están recurriendo a intermediarios para adquirir libros antiguos de forma anónima a escala industrial.

Estos mediadores anuncian su capacidad para localizar cientos de miles de títulos y al tiempo garantizan la confidencialidad a sus clientes del sector de IA, lo que refleja lo delicado de esta práctica.

Lo relatado por 404 media menciona el ejemplo de Pieter de Vries, un holandés que posee una tienda de mapas y libros antiguos y raros. En su día a día, como mucho vende un solo libro, por lo que le llamó la atención un mail de una tal Natalie, quien se identificó como empleada de una empresa llamada “2077AI” y buscaba realizar un pedido de alrededor de 3 mil ejemplares.

De Vries ni abrió el mail, pues pensó que se trataba de una estafa o de spam, pero pronto descubrió que era solo uno de los cientos de comerciantes de libros raros de todo el mundo a los que, este año, se han dirigido empresas que están acaparando el suministro mundial de libros de segunda mano por encargo de gigantes tecnológicos.

Según 404 Media, un servicio llamado ISBNdb ofrecía la posibilidad de encargar hasta un millón de libros a la vez, incluidos libros raros de los que apenas quedan ejemplares.

Lee: IA necesita un freno por seguridad, advierten expertos

¿Por qué la IA prefiere textos publicados antes de 2023?

Al parecer, esta oleada de compras viene impulsada por las empresas de IA que compiten por preservar el conocimiento creado por humanos antes de que se vea diluido por textos generado por la IA, el comúnmente llamado “IA slop” o “basura de la IA”.

Los libros publicados antes del auge de la IA generativa en 2023 son especialmente valiosos, ya que proporcionan datos de entrenamiento de alta calidad escritos íntegramente por humanos.

La destrucción física de los libros tiene que ver con algo técnico. Los ejemplares que son recolectados se trasladan a centros logísticos donde máquinas cortan los lomos para escanear las páginas a máxima velocidad para facilitar el escaneo masivo.

Aunque quisieran regresar los libros, ya quedaron destruidos y por supuesto estas empresas no están dispuestas a rearmarlos, por lo que las hojas son trituradas o convertidas en pulpa.

No te pierdas: La IA aprende a mentir, manipular y amenazar a sus creadores

El Proyecto Panamá de Anthropic inició todo

Tristemente, esta técnica de destruir libros para alimentar la IA no es algo nuevo. Las semillas se sembraron hace dos años.

En febrero de 2024, Anthropic, la empresa creadora de Claude (uno de los chatbots de IA más sofisticados del mundo), contrató a Tom Turvey, un antiguo ejecutivo de Google Books, con un objetivo sencillo pero ambicioso: hacerse con “todos los libros del mundo”.

Anthropic quería ampliar los conocimientos de su modelo de IA, y todos los libros del mundo podían convertirse en material útil para saciar su apetito de datos.

Toda esta táctica salió a la luz pública a raíz de documentos judiciales desclasificados en el marco de una masiva demanda por derechos de autor. En los documentos internos, a esta barbarie se le denominaba “Proyecto Panamá” y fue revelada apenas este año por The Washington Post.