Entrenar sistemas de inteligencia artificial requiere grandes volúmenes de texto, imágenes, videos y código. Modelos como ChatGPT y Gemini utilizan este material para aprender patrones, realizar tareas e interactuar con los usuarios. Sin embargo, la oferta de datos de alta calidad creados por seres humanos no crece tan rápidamente como los modelos, lo que lleva a las empresas tecnológicas a explorar formas cada vez más amplias de obtener información.
Los datos pueden proceder de internet, bases de datos públicas o con licencia, libros, reportajes periodísticos, artículos científicos, socios comerciales, especialistas, interacciones de usuarios permitidas por las políticas de los servicios y material sintético generado por otros sistemas de IA. El proceso suele incluir un preentrenamiento con grandes colecciones, un ajuste fino con conjuntos de datos seleccionados y una alineación basada en comentarios humanos. Los trabajadores evalúan respuestas, clasifican contenido y realizan pruebas de seguridad, mientras que las indicaciones de los usuarios, las conversaciones y los archivos subidos también pueden utilizarse dependiendo de la configuración y las políticas de cada empresa.
Las decisiones tomadas durante el entrenamiento influyen en lo que un modelo puede hacer, los errores que puede producir y los sesgos que puede reproducir. En el caso de los sistemas robóticos, las empresas también recopilan grabaciones en primera persona realizadas con cámaras, teléfonos móviles o dispositivos portátiles mientras los trabajadores llevan a cabo tareas como doblar ropa, lavar platos y organizar objetos. Tesla, Figure AI y Agility Robotics están invirtiendo en esta área, mientras que startups como Micro1 y Objectways reclutan personas para grabar tareas. Según se ha informado, Scale AI ha recopilado más de 100.000 horas de este tipo de material.
Estas grabaciones pueden captar viviendas, transeúntes y otros detalles del entorno, lo que genera interrogantes sobre la privacidad, el almacenamiento y el uso posterior de los datos. También crean una paradoja laboral: los trabajadores actúan como sensores humanos para enseñar a las máquinas a realizar tareas que eventualmente podrían reemplazar sus propios empleos.
La escasez de material de alta calidad también ha intensificado las disputas por obras protegidas por derechos de autor. Anthropic descargó y almacenó más de 482.000 libros obtenidos de bibliotecas digitales piratas para entrenar Claude, lo que dio lugar a un acuerdo de conciliación de 1.500 millones de dólares, según se informó. En el caso Kadrey v. Meta Platforms, Meta utilizó libros de autores como Sarah Silverman y Richard Kadrey procedentes de la biblioteca pirata LibGen para entrenar LLaMA. Según el abogado Diogo Coletta, la empresa habría detenido las negociaciones de licencias después de descubrir que la biblioteca pirata contenía muchos de los títulos que se estaban tratando con las editoriales.
El abogado Daniel Failla afirma que un propósito innovador no convierte por sí mismo en legal la forma en que se obtuvieron los datos. El acceso técnico, sostiene, no debe confundirse con la autorización legal.
El trabajo humano sigue siendo otra parte esencial de la cadena de suministro de la IA. Los llamados trabajadores fantasma clasifican imágenes, evalúan respuestas y moderan contenido. Las investigaciones citadas en el informe original concluyeron que trabajadores en India revisaron violencia extrema y abusos durante largos periodos, mientras que contratistas involucrados en las pruebas de Google Gemini en Estados Unidos informaron haber estado expuestos a material perturbador sin advertencias, capacitación ni apoyo psicológico adecuados.
Los objetivos de productividad pueden aumentar la presión. Algunos probadores y etiquetadores de datos trabajan con cronómetros de 10 a 15 minutos para tareas complejas y cuotas de hasta 12 revisiones por hora. Entre las consecuencias señaladas se encuentran ataques de ansiedad y ataques de pánico. Profesionales altamente cualificados, incluidas personas con maestrías y doctorados en periodismo, derecho y física, también han recurrido al trabajo de entrenamiento de IA como empleo temporal o alternativo, a menudo por un salario menor y sin prestaciones ni estabilidad.
En Brasil, el mercado de microtareas incluye etiquetar imágenes para sistemas de vehículos autónomos, revisar exámenes médicos y grabar frases repetitivas para asistentes virtuales como Alexa. El estudio Microtrabalho no Brasil estima que los entrenadores de IA pueden ganar un promedio de entre 538 y 583 reales brasileños al mes, o aproximadamente 9,36 reales por hora. La cantidad equivale a menos de la mitad del salario mínimo de Brasil. La profesora Dora Kaufman, de la PUC-SP, describe esta estructura como “Taylorismo Digital”, en el que los trabajadores realizan pequeñas partes de una tarea sin necesariamente conocer el sistema más amplio al que contribuyen.
También se ha acusado a las empresas de intentar eludir las restricciones técnicas impuestas por los sitios web. Cloudflare identificó lo que describió como rastreadores ocultos utilizados por Perplexity, junto con direcciones IP cambiantes para aparentar ser navegadores comunes. Supuestamente, el método pretendía eludir las directivas de robots.txt y los bloqueos aplicados por sitios que no habían autorizado la recopilación automatizada. Por separado, han surgido preocupaciones sobre la recopilación de información personal y biométrica, incluidos perfiles de redes sociales y datos que podrían revelar conexiones entre individuos e información sobre menores.
La búsqueda de material creado por seres humanos se ha extendido a libros antiguos y descatalogados. Una investigación de 404 Media informó que Amazon opera una instalación en Las Vegas donde se compran libros raros, antiguos y fuera de catálogo, a veces a través de intermediarios. Según se ha informado, los libros son cortados y escaneados a gran velocidad. Documentos de Anthropic presentados ante un tribunal también mencionaron el Proyecto Panamá, una iniciativa destinada a escanear libros de forma destructiva. Después de digitalizar las páginas, el material restante se envía a reciclar.
La práctica está vinculada a la preocupación de que el uso excesivo de contenido generado por IA pueda degradar los modelos futuros. Por ello, el material creado por seres humanos antes de la adopción generalizada de la IA generativa se considera valioso para mantener la calidad del entrenamiento. En Bartz v. Anthropic, un tribunal de Estados Unidos determinó que comprar legalmente un libro físico y destruirlo después de crear una única copia digital para el entrenamiento puede constituir un uso legítimo, dependiendo de las circunstancias.
Los libreros y los historiadores han advertido que la digitalización no puede reproducir el valor histórico de algunas obras físicas. Las anotaciones marginales, las encuadernaciones artesanales y otras características pueden perderse, mientras que los archivos digitales permanecen en bases de datos corporativas privadas.
Las empresas siguen buscando fuentes de datos grandes y variadas porque la capacidad de cómputo no puede compensar una información deficiente, incompleta u obsoleta. Esto es especialmente importante para los sistemas especializados utilizados en medicina, derecho, finanzas e industria, donde los datos inexactos pueden contribuir a decisiones erróneas. Al mismo tiempo, la información de alta calidad puede estar protegida por requisitos de confidencialidad, contratos, derechos de autor o normas regulatorias.
Los incentivos económicos también son importantes. La capacidad de cómputo puede comprarse, pero las grandes colecciones de textos humanos de alta calidad son limitadas y no pueden ampliarse tan rápidamente como la demanda. Obtener licencias para cada obra de editoriales, compañías discográficas, periódicos y autores puede ser costoso y lento. Según Coletta, algunas empresas podrían considerar económicamente preferible avanzar y enfrentar las disputas legales después. La incertidumbre se ve reforzada por la falta de decisiones definitivas sobre varias cuestiones y por las diferencias entre países, mientras que los autores pueden tener dificultades para demostrar que sus obras fueron incluidas en los datos de entrenamiento de un modelo.
Fuentes: Canaltech.