Sam Altman, CEO de OpenAI, ha criticado la manera en que se distribuye la RAM en todo el mundo, argumentando que grandes cantidades de memoria de alta gama permanecen instaladas en computadoras personales que pasan buena parte del día inactivas. Sus comentarios se produjeron durante una reciente participación en el pódcast Cheeky Pint.
El argumento de Altman se basa en las diferentes cargas de trabajo de las computadoras personales y la infraestructura de los centros de datos. Mientras una máquina doméstica o de oficina puede utilizar solo una pequeña parte de su procesador y memoria durante largos periodos, los servidores funcionan continuamente y gestionan solicitudes las 24 horas. En su opinión, concentrar una mayor cantidad de estos recursos en la nube podría permitir que la misma cantidad de RAM atendiera a muchos más usuarios.
Esta postura cuestiona el creciente interés por el hardware local para IA. A medida que han aparecido modelos de código abierto más eficientes, algunos usuarios han comprado portátiles y estaciones de trabajo con 64 GB o 128 GB de RAM para ejecutar herramientas de inteligencia artificial localmente. Altman argumentó que las computadoras personales no alcanzarán la escala necesaria para mantenerse al ritmo del desarrollo de los modelos más grandes.
Los comentarios han recibido críticas de consumidores y analistas. La demanda de infraestructura para centros de datos ya ha impulsado al alza los precios de la memoria, haciendo que las nuevas configuraciones de computadoras sean más costosas. Los críticos consideran que la postura de Altman constituye un argumento a favor de trasladar a los usuarios hacia servicios en la nube y modelos basados en suscripciones, en lugar de mantener hardware local independiente.
También existen diferencias técnicas entre la memoria común de las PC y los componentes utilizados en los centros de datos. Los módulos de RAM diseñados para computadoras de consumo no pueden transferirse simplemente a una instalación de procesamiento, donde se utilizan tecnologías de memoria y arquitecturas de bus diferentes. Sin embargo, ambos mercados dependen del mismo ecosistema de fabricación, lo que significa que los proveedores que priorizan los pedidos industriales pueden reducir la capacidad disponible para los componentes estándar.
El debate también implica cuestiones de privacidad y control. Ejecutar tareas localmente mantiene los datos en la Computadora del usuario y evita depender de conexiones de red o de cambios unilaterales en las condiciones de los servicios externos. Mientras los fabricantes continúan dando prioridad a los componentes para servidores, que ofrecen mayores márgenes de beneficio, los consumidores podrían seguir enfrentándose a precios minoristas elevados al decidir si procesan las cargas de trabajo de IA localmente o en la nube.
Fuentes: Pplware.