Sam Altman, le PDG d’OpenAI, a critiqué la manière dont la RAM est distribuée dans le monde, affirmant que de grandes quantités de mémoire haut de gamme restent installées dans des ordinateurs personnels qui passent une grande partie de la journée au repos. Il a tenu ces propos lors d’une récente intervention dans le podcast Cheeky Pint.
L’argument d’Altman repose sur les différences entre les charges de travail des ordinateurs personnels et celles des infrastructures des centres de données. Alors qu’une machine domestique ou professionnelle peut n’utiliser qu’une petite partie de son processeur et de sa mémoire pendant de longues périodes, les serveurs fonctionnent en continu et traitent des requêtes jour et nuit. Selon lui, concentrer davantage de ces ressources dans le cloud pourrait permettre à une même quantité de RAM de servir beaucoup plus d’utilisateurs.
Cette position remet en question l’intérêt croissant pour le matériel d’IA local. À mesure que des modèles open source plus efficaces sont apparus, certains utilisateurs ont acheté des ordinateurs portables et des stations de travail équipés de 64 Go ou de 128 Go de RAM afin d’exécuter localement des outils d’intelligence artificielle. Altman a affirmé que les ordinateurs personnels n’atteindront pas l’échelle nécessaire pour suivre le rythme du développement des modèles les plus importants.
Ces déclarations ont suscité des critiques de la part des consommateurs et des analystes. La demande liée aux infrastructures des centres de données a déjà fait grimper les prix de la mémoire, rendant les nouvelles configurations informatiques plus coûteuses. Les détracteurs considèrent la position d’Altman comme un argument en faveur du transfert des utilisateurs vers des services cloud et des modèles fondés sur des abonnements, plutôt que du maintien d’un matériel local indépendant.
Il existe également des différences techniques entre la mémoire ordinaire des PC et les composants utilisés dans les centres de données. Les modules de RAM conçus pour les ordinateurs grand public ne peuvent pas être simplement transférés dans une installation de traitement, où sont utilisées d’autres technologies de mémoire et architectures de bus. Cependant, les deux marchés dépendent du même écosystème de fabrication, ce qui signifie que les fournisseurs donnant la priorité aux commandes industrielles peuvent réduire la capacité disponible pour les composants standard.
Le débat porte aussi sur la confidentialité et le contrôle. L’exécution des tâches en local conserve les données sur l’ordinateur de l’utilisateur et évite de dépendre des connexions réseau ou de modifications unilatérales des conditions des services externes. Alors que les fabricants continuent de privilégier les composants pour serveurs offrant des marges plus élevées, les consommateurs pourraient subir une pression persistante due à la hausse des prix de détail, tout en décidant de traiter les charges de travail d’IA localement ou dans le cloud.
Sources: Pplware.