Les entreprises d'IA numérisent des cargaisons entières de livres, parfois rares, et les détruisent souvent dans le processus pour entraîner leurs modèles – et nous avons maintenant une idée de quelles entreprises et comment elles le font.
La publication médiatique technologique indépendante 404 Media a placé un dispositif de suivi à l'intérieur d'une cargaison de livres rares et l'a vu voyager jusqu'à une installation d'Amazon à Las Vegas où l'entreprise scanne et détruit des livres imprimés pour entraîner l'IA.
L'enquête, publiée lundi, est la première à identifier publiquement où se retrouvent les achats de livres en vrac liés à l'entraînement de l'IA.
L'arrêt final était l'équipe VGT3 d'Amazon. Des employés ont déclaré à la publication qu'ils ne faisaient que recevoir d'énormes cargaisons de livres imprimés, puis enlevaient les reliures afin que les pages alimentent un scanner plus rapidement. Le livre est détruit dans le processus. Le logo très approprié de l'équipe est un dinosaure serrant un livre entre ses griffes.
Les livres imprimés avant 2022 contiennent du texte qui n'est pas majoritairement disponible en ligne et, surtout, qui n'est pas écrit par une machine. Entraîner un modèle sur son propre type de production risque un "effondrement du modèle", où la qualité se dégrade à chaque boucle récursive.
Ainsi, le papier d'avant 2022 est un carburant propre pour l'entraînement de l'IA.
Amazon n'est pas le seul. Une industrie artisanale s'est formée pour fournir aux laboratoires d'IA des livres physiques qui sont dépouillés, scannés et jetés – la scène "Fahrenheit 451" de textes détruits pour alimenter des machines que le "Projet Panama" interne d'Anthropic avait déjà exécutée à grande échelle, numérisant des millions de livres par balayage destructif.
Cette course au texte "propre" a déjà mené devant les tribunaux. Un juge fédéral a statué que l'entraînement d'une IA sur des livres légalement achetés peut être qualifié d'usage équitable, une victoire partielle pour Anthropic que Meta et OpenAI ont également revendiquée. Les copies piratées sont une autre affaire : Anthropic a accepté un règlement de 1,5 milliard de dollars pour des titres piratés scannés, et Salesforce fait maintenant face à un recours collectif pour piratage présumé de livres.
L'opération d'Amazon est restée discrète pour une raison structurelle. Les libraires ont remarqué une augmentation des commandes en gros au cours de la dernière année et ont soupçonné que des entreprises d'IA en étaient responsables – les acheteurs n'étaient pas sensibles aux prix et choisissaient des titres apparemment au hasard. Leurs inquiétudes ont finalement été confirmées par un AirTag révélant la destination.
Amazon a déclaré qu'il "achète des livres via des canaux commerciaux pour aider à développer et à améliorer les produits et services que nos clients utilisent."
