Maia 300 : la nouvelle puce IA de Microsoft

Microsoft accélère sur le silicium maison. Le 12 octobre, le groupe a présenté Maia 300, la troisième génération de sa puce d'intelligence artificielle conçue pour Azure. Pensé avant tout pour l'inférence, cet accélérateur doit entrer en production en 2027, avec des déploiements que Microsoft annonce à l'échelle de plusieurs gigawatts. L'objectif est de réduire la dépendance d'Azure aux GPU du marché pour faire tourner ses modèles.

Une architecture taillée pour l'inférence

Maia 300 adopte une conception multi-chiplets : les puces de calcul sont gravées en N2P chez TSMC, tandis que le contrôleur mémoire et les entrées-sorties sont placés sur des puces séparées. Microsoft revendique une puissance de calcul en hausse de 36 % par rapport à Maia 200, sans donner de chiffre absolu.

L'effort porte surtout sur la mémoire, souvent le vrai goulet d'étranglement de l'inférence. Chaque accélérateur embarque huit piles de HBM4, soit 288 Go (33 % de plus que la génération précédente) et 18 To/s de bande passante, 2,5 fois plus que Maia 200, pour un TDP de 950 W. La puce prend en charge des formats de faible précision, dont une version améliorée du MXFP4 et des formats de stockage sous les 3 bits, afin de réduire l'empreinte mémoire des modèles. Microsoft vise explicitement les charges « à long contexte, gourmandes en mémoire et dominées par le décodage ».

Des racks de 96 accélérateurs

Comme Nvidia ou AMD, Microsoft raisonne désormais à l'échelle du rack. Une baie Maia 300 réunit 96 accélérateurs répartis en 24 tiroirs de quatre, dans une enveloppe de 167 kW. Elle totalise 27,6 To de HBM et 1,7 Po/s de bande passante mémoire agrégée. Le refroidissement liquide évacue plus de 80 % de la chaleur, le reste étant géré par air.

Côté réseau, les liaisons internes au rack restent électriques, avec un transport IA maison sur une infrastructure Ethernet. Un second niveau optique relie jusqu'à 128 racks en un « superpod », soit jusqu'à 12 288 accélérateurs.

Des promesses encore à vérifier

Microsoft avance deux chiffres. Maia 300 produirait 40 % de tokens en plus par mégawatt que les « principaux systèmes à base de GPU », et jusqu'à sept fois le débit de tokens de Maia 200 à l'échelle d'un rack complet. L'éditeur ne précise pas quels systèmes GPU servent de référence. Il s'agit donc de projections, qui ne pourront être vérifiées qu'une fois la puce en production.

Maia 200 déjà en service

Annoncé en janvier, Maia 200 est aujourd'hui en production dans des centres de données aux États-Unis, en Europe et en Australie. Il fait tourner Microsoft Copilot ainsi que des modèles d'OpenAI et des modèles maison, et GitHub Copilot comme Microsoft Foundry doivent y migrer d'ici la fin de l'année.

Avec Maia 300, Microsoft rejoint une course déjà engagée par les fondeurs pour l'inférence, comme l'illustrent la carte GPU D-Series d'Intel ou le rack Helion d'AMD. Les hyperscalers cherchent désormais à maîtriser toute la chaîne, de la puce au centre de données.