Une avancée de Google fait trembler les géants des puces et de mémoires informatiques en Bourse. Mardi 24 mars, l’entreprise américaine a publié un billet de blog sur Turboquant, un ensemble d’algorithmes permettant une compression massive pour les grands modèles de langage (LLM). En d’autres termes, Google propose une solution pour réduire les besoins en mémoire vive (RAM), nécessaire aux LLM comme ChatGPT ou Gemini pour fonctionner.
Il n’en fallait pas plus pour que les marchés s’inquiètent des fabricants de puces, semi-conducteurs et autres solutions de stockage. Micron Technology, le plus grand fabricant américain de puces mémoire, a vu son titre chuter à partir du lendemain : il a clôturé en baisse de 3,4 % jeudi. SK Hynix a chuté de 6 % et Samsung Electronics de 4 %.
L’intelligence artificielle a accentué la pénurie de mémoire vive. Ce qui a fait grimper les prix des entreprises du secteur, la demande étant supérieure à l’offre disponible. Or, la solution de Google pourrait réduire la pression sur le marché de la RAM.
« Pour les marchés, le raisonnement est immédiat : si chaque unité d’IA consomme moins de mémoire, alors la croissance structurelle de la demande en DRAM et NAND pourrait ralentir, ce qui remet en question une partie du narratif [récit] ultra-positif intégré dans les valorisations du secteur », explique, dans une note, John Plassard, économiste chez Cité gestion.
Mieux comprendre TurboQuant
« TurboQuant est une méthode de compression qui permet une réduction importante de la taille du modèle sans perte de précision, ce qui la rend idéale pour la compression de caches clé-valeur (KV) et la recherche vectorielle », précise Google dans son article de blog. Et tout ceci, sans perdre la performance des IA.