Un estudio publicado en arXiv el 29 de octubre por Yann LeCun y Randall Balestriero sostiene que el tamaño de un modelo lingüístico quizá no sea el factor decisivo para determinar qué tan bien desarrolla una representación interna del mundo. Sus experimentos sugieren que un JEPA basado en texto de 109 millones de parámetros puede alinearse más estrechamente con codificadores de imágenes que modelos lingüísticos de hasta 72.000 millones de parámetros.

El artículo, titulado «Proving and Improving the Platonic Representation Hypothesis with JEPAs», aborda una idea observada por primera vez por investigadores del MIT en 2024. Esa hipótesis proponía que los modelos entrenados de forma independiente con texto e imágenes desarrollan representaciones internas cada vez más similares a medida que crecen. LeCun y Balestriero afirman convertir esa observación en un teorema para una familia específica de arquitecturas: las Arquitecturas Predictivas de Incrustación Conjunta, o JEPAs.

Según los investigadores, dos JEPAs entrenados con modalidades diferentes pueden aprender la misma representación, sujeta a una rotación, cuando reciben vistas adecuadas de la misma escena. Entre los ejemplos se incluyen una imagen y su descripción. El artículo contrasta este enfoque con la predicción del siguiente token, el método utilizado por los grandes modelos lingüísticos, en el que dos fragmentos del mismo documento no necesariamente describen el mismo tema.

Los experimentos descritos produjeron una comparación destacada. El JEPA de texto de 109 millones de parámetros se alineó más estrechamente con los codificadores de imágenes DINOv2 y CLIP que cualquiera de los modelos lingüísticos evaluados. En DINOv2, alcanzó una puntuación de alineación de 0,184, frente a 0,154 de Qwen2.5-72B, según el informe de la fuente. Los autores también afirman que el JEPA necesitó 42 veces menos ejemplos de entrenamiento para alcanzar la misma alineación que un modelo de predicción de la siguiente palabra.

Los experimentos abarcaron conjuntos de datos que iban desde 145.000 descripciones hasta 940 millones de imágenes. Estos resultados respaldan la opinión de larga data de LeCun de que los grandes modelos lingüísticos convencionales probablemente no puedan, por sí solos, producir una inteligencia artificial capaz de comprender el mundo físico. Su startup, AMI Labs, ha orientado su investigación en torno a este enfoque más amplio.

No obstante, los hallazgos deben tratarse con cautela. El artículo aún no ha sido sometido a revisión por pares y ningún equipo independiente ha reproducido la comparación. Su puntuación central mide la alineación con un modelo de visión; obtener mejores resultados en esa métrica no significa necesariamente que un sistema vaya a resumir documentos o escribir código de manera más eficaz.

El argumento más amplio del estudio es que la calidad de los datos y de las vistas presentadas durante el entrenamiento puede importar más que limitarse a aumentar el número de parámetros. El pequeño JEPA no se presenta como un reemplazo inmediato de sistemas como Qwen o GPT, pero sus resultados cuestionan si escalar únicamente los modelos lingüísticos es el camino más eficiente hacia representaciones más ricas del mundo.

Fontes: Numerama.