L’entraînement des systèmes d’intelligence artificielle nécessite de grandes quantités de textes, d’images, de vidéos et de code. Des modèles tels que ChatGPT et Gemini utilisent ce matériel pour apprendre des schémas, accomplir des tâches et interagir avec les utilisateurs. Toutefois, l’offre de données de haute qualité créées par des humains n’augmente pas aussi rapidement que les modèles, ce qui incite les entreprises technologiques à explorer des moyens toujours plus larges d’obtenir des informations.

Les données peuvent provenir d’Internet, de bases de données publiques ou sous licence, de livres, de dépêches, d’articles scientifiques, de partenaires commerciaux, de spécialistes, d’interactions avec les utilisateurs autorisées par les politiques des services et de matériel synthétique généré par d’autres systèmes d’IA. Le processus comprend généralement un préentraînement à partir de vastes collections, un affinage avec des jeux de données sélectionnés et un alignement fondé sur les retours humains. Des travailleurs évaluent les réponses, classent les contenus et réalisent des tests de sécurité, tandis que les requêtes des utilisateurs, les conversations et les fichiers téléversés peuvent également être utilisés selon les paramètres et les politiques de chaque entreprise.

Les choix effectués pendant l’entraînement influencent ce qu’un modèle peut faire, les erreurs qu’il peut produire et les biais qu’il peut reproduire. Pour les systèmes robotiques, les entreprises collectent également des enregistrements à la première personne réalisés avec des caméras, des téléphones portables ou des dispositifs portables, tandis que des travailleurs accomplissent des tâches telles que plier des vêtements, faire la vaisselle et organiser des objets. Tesla, Figure AI et Agility Robotics investissent dans ce domaine, tandis que des startups comme Micro1 et Objectways recrutent des personnes pour enregistrer ces tâches. Scale AI aurait collecté plus de 100 000 heures de ce type de matériel.

Ces enregistrements peuvent capturer des domiciles, des personnes présentes et d’autres détails de l’environnement, ce qui soulève des questions concernant la vie privée, le stockage et l’utilisation ultérieure des données. Ils créent également un paradoxe professionnel : les travailleurs servent de capteurs humains pour apprendre aux machines à accomplir des tâches qui pourraient finalement remplacer leurs propres emplois.

La pénurie de matériel de haute qualité a également intensifié les conflits concernant les œuvres protégées par le droit d’auteur. Anthropic a téléchargé et stocké plus de 482 000 livres obtenus auprès de bibliothèques numériques pirates pour entraîner Claude, ce qui a conduit à un règlement annoncé de 1,5 milliard de dollars. Dans l’affaire Kadrey v. Meta Platforms, Meta a utilisé des livres d’auteurs parmi lesquels Sarah Silverman et Richard Kadrey provenant de la bibliothèque pirate LibGen pour entraîner LLaMA. Selon l’avocat Diogo Coletta, l’entreprise aurait interrompu les négociations de licences après avoir découvert que la bibliothèque pirate contenait nombre des titres faisant l’objet de discussions avec les éditeurs.

L’avocat Daniel Failla affirme qu’un objectif innovant ne rend pas à lui seul licite la manière dont les données ont été obtenues. Selon lui, l’accès technique ne doit pas être confondu avec l’autorisation légale.

Le travail humain demeure un autre élément essentiel de la chaîne d’approvisionnement de l’IA. Les travailleurs dits fantômes classent des images, évaluent des réponses et modèrent des contenus. Les enquêtes citées dans le rapport original ont constaté que des travailleurs en Inde examinaient pendant de longues périodes des contenus montrant des violences extrêmes et des abus, tandis que des prestataires participant aux tests de Google Gemini aux États-Unis ont fait état d’une exposition à des contenus perturbants sans avertissement, formation ou soutien psychologique adéquats.

Les objectifs de productivité peuvent accentuer la pression. Certains testeurs et annotateurs de données travaillent avec des minuteries de 10 à 15 minutes pour des tâches complexes et des quotas pouvant atteindre 12 évaluations par heure. Les conséquences signalées comprennent des crises d’anxiété et des attaques de panique. Des professionnels hautement qualifiés, notamment des personnes titulaires de masters et de doctorats en journalisme, en droit et en physique, se sont également tournés vers le travail d’entraînement de l’IA comme emploi temporaire ou de substitution, souvent pour une rémunération moindre et sans avantages sociaux ni stabilité.

Au Brésil, le marché des microtâches comprend l’annotation d’images pour les systèmes de véhicules autonomes, l’examen d’analyses médicales et l’enregistrement de phrases répétitives pour des assistants virtuels tels qu’Alexa. L’étude Microtrabalho no Brasil estime que les formateurs d’IA peuvent gagner en moyenne entre 538 et 583 R$ par mois, soit environ 9,36 R$ par heure. Ce montant représente moins de la moitié du salaire minimum brésilien. La professeure Dora Kaufman, de la PUC-SP, décrit cette structure comme un « taylorisme numérique », dans lequel les travailleurs exécutent de petites parties d’une tâche sans nécessairement connaître le système plus vaste qu’ils contribuent à soutenir.

Les entreprises ont également été accusées de tenter de contourner les restrictions techniques imposées par les sites web. Cloudflare a identifié ce qu’elle a décrit comme des robots d’exploration dissimulés utilisés par Perplexity, ainsi que des adresses IP changeantes destinées à donner l’apparence de navigateurs ordinaires. La méthode aurait visé à contourner les directives robots.txt et les blocages appliqués par des sites qui n’avaient pas autorisé la collecte automatisée. Par ailleurs, des inquiétudes sont apparues concernant la collecte d’informations personnelles et biométriques, notamment les profils de réseaux sociaux et les données susceptibles de révéler des liens entre des individus ainsi que des informations sur des mineurs.

La recherche de matériel créé par des humains s’est étendue aux livres anciens et épuisés. Une enquête de 404 Media a rapporté qu’Amazon exploite un site à Las Vegas où des livres rares, anciens et indisponibles au catalogue sont achetés, parfois par l’intermédiaire d’intermédiaires. Les livres seraient découpés et numérisés à grande vitesse. Des documents d’Anthropic présentés au tribunal ont également fait référence au Project Panama, une initiative visant à numériser les livres de manière destructive. Une fois les pages numérisées, le matériel restant est envoyé au recyclage.

Cette pratique est liée aux inquiétudes selon lesquelles l’utilisation excessive de contenus générés par l’IA pourrait dégrader les futurs modèles. Le matériel créé par des humains avant l’adoption généralisée de l’IA générative est donc considéré comme précieux pour maintenir la qualité de l’entraînement. Dans l’affaire Bartz v. Anthropic, un tribunal américain a estimé que l’achat légal d’un livre physique et sa destruction après la création d’une seule copie numérique destinée à l’entraînement pouvait relever de l’usage loyal, selon les circonstances.

Les libraires et les historiens ont averti que la numérisation ne peut pas reproduire la valeur historique de certaines œuvres physiques. Les annotations marginales, les reliures artisanales et d’autres caractéristiques peuvent être perdues, tandis que les fichiers numériques restent dans des bases de données privées d’entreprises.

Les entreprises continuent de rechercher des sources de données vastes et variées parce que la puissance de calcul ne peut pas compenser des informations de mauvaise qualité, incomplètes ou obsolètes. Cela est particulièrement important pour les systèmes spécialisés utilisés en médecine, en droit, dans la finance et l’industrie, où des données inexactes peuvent contribuer à des décisions erronées. Dans le même temps, les informations de haute qualité peuvent être protégées par la confidentialité, des contrats, le droit d’auteur ou des obligations réglementaires.

Les incitations économiques sont également importantes. La capacité de calcul peut être achetée, mais les grandes collections de textes humains de haute qualité sont limitées et ne peuvent pas augmenter aussi rapidement que la demande. L’obtention de licences pour chaque œuvre auprès des éditeurs, des maisons de disques, des journaux et des auteurs peut être coûteuse et lente. Selon Coletta, certaines entreprises peuvent donc juger économiquement préférable d’avancer et de régler les litiges juridiques ultérieurement. L’incertitude est renforcée par l’absence de décisions définitives sur plusieurs questions et par les différences entre les pays, tandis que les auteurs peuvent avoir du mal à prouver que leurs œuvres ont été incluses dans les données d’entraînement d’un modèle.

Sources: Canaltech.