The Information a révélé, repris par Reuters et confirmé par plusieurs autres sources, que Google développe une nouvelle puce interne dédiée à faire tourner ses modèles Gemini de manière plus efficace. Le nom de code : « Frozen ». L’enjeu de fond : l’inférence — le coût de faire répondre un modèle IA à des millions de requêtes — est en train de devenir l’un des postes de dépense les plus importants pour les entreprises qui déploient l’IA à grande échelle.

Inférence vs entraînement : une distinction qui compte

La plupart des discussions sur les puces IA portent sur l’entraînement — la phase où un modèle apprend à partir de données massives. C’est là que les GPU Nvidia et les TPU de Google sont déjà déployés. Mais une fois le modèle entraîné, l’inférence commence : chaque fois qu’un utilisateur pose une question à Gemini, une requête est traitée, un modèle tourne, une réponse est générée.

Multiplié par des millions d’utilisateurs et des milliards de requêtes, ce coût devient considérable. Une puce optimisée spécifiquement pour l’inférence peut faire la même chose à une fraction du coût énergétique et matériel.

C’est exactement ce que « Frozen » est supposé apporter : non pas une puce généraliste meilleure, mais une puce conçue spécifiquement pour l’exécution efficace de Gemini en production.

Ce que ça révèle sur la marge de l’IA

Google n’est pas seul dans cette situation. Amazon, Microsoft, Meta — tous les grands acteurs investissent dans leurs propres puces d’inférence pour ne pas dépendre uniquement de Nvidia et pour réduire leurs coûts opérationnels. Apple a ses Neural Engine. Amazon a ses Trainium et Inferentia. Microsoft investit dans des puces maison.

La raison est simple : à mesure que l’IA générative est intégrée dans des produits grand public (Google Search, Gmail, Docs, Maps…), le coût d’inférence devient structurel. Une amélioration de l’efficacité de 30 ou 40 % sur ces puces représente des économies à neuf chiffres annuellement.

Ce que ça dit de la stratégie Google

Développer « Frozen » est une décision de long terme. Les puces prennent des années à concevoir, fabriquer et intégrer dans l’infrastructure. Si Google investit maintenant, c’est que l’entreprise parie que Gemini sera déployé à très grande échelle pendant plusieurs années — et que la compétition sur les coûts d’inférence sera un enjeu structurel de l’industrie.

La question que cette information soulève : est-ce qu’une puce d’inférence dédiée donne à Google un avantage compétitif durable, ou est-ce que tout le monde arrive au même endroit à peu près en même temps, et la course se joue alors sur autre chose — la qualité des modèles, l’intégration produit, la distribution ?