Sam Altman, CEO da OpenAI, criticou a forma como a RAM é distribuída pelo mundo, argumentando que grandes quantidades de memória de alto desempenho permanecem instaladas em computadores pessoais que passam boa parte do dia ociosos. Seus comentários foram feitos durante uma participação recente no podcast Cheeky Pint.
O argumento de Altman baseia-se nas diferentes cargas de trabalho dos computadores pessoais e da infraestrutura de data centers. Enquanto uma máquina doméstica ou de escritório pode usar apenas uma pequena parte de seu processador e de sua memória durante longos períodos, os servidores operam continuamente e atendem a solicitações ininterruptamente. Concentrar mais desses recursos na nuvem poderia, em sua visão, permitir que a mesma quantidade de RAM atendesse a muito mais usuários.
A posição contesta o interesse crescente por hardware de IA local. Com o surgimento de modelos de código aberto mais eficientes, alguns usuários compraram laptops e estações de trabalho com 64 GB ou 128 GB de RAM para executar ferramentas de inteligência artificial localmente. Altman argumentou que os computadores pessoais não alcançarão a escala necessária para acompanhar o desenvolvimento dos maiores modelos.
Os comentários atraíram críticas de consumidores e analistas. A demanda da infraestrutura de data centers já elevou os preços da memória, tornando mais caras as novas montagens de computadores. Os críticos veem a posição de Altman como um argumento a favor de direcionar os usuários para serviços em nuvem e modelos baseados em assinatura, em vez de manter hardware local independente.
Também existem diferenças técnicas entre a memória comum de PCs e os componentes usados em data centers. Os módulos de RAM projetados para computadores de consumo não podem simplesmente ser transferidos para uma instalação de processamento, onde são usadas diferentes tecnologias de memória e arquiteturas de barramento. No entanto, ambos os mercados dependem do mesmo ecossistema de fabricação, o que significa que fornecedores que priorizam pedidos industriais podem reduzir a capacidade disponível para componentes padrão.
O debate também envolve privacidade e controle. Executar tarefas localmente mantém os dados no computador do usuário e evita a dependência de conexões de rede ou de mudanças unilaterais nos termos de serviços externos. À medida que os fabricantes continuam priorizando componentes de servidor com margens de lucro maiores, os consumidores podem enfrentar uma pressão contínua causada pelos preços elevados no varejo ao decidir se processam cargas de trabalho de IA localmente ou na nuvem.
Fontes: Pplware.