Microsoft punta ad aumentare la capacità dei propri servizi di intelligenza artificiale attraverso Maia 300, la nuova generazione di acceleratori dedicati all’inferenza, la fase in cui un modello elabora le richieste e genera risposte. Il piano prevede installazioni della famiglia Azure Maia su scala di più gigawatt a partire dal 2027, con l’obiettivo di farne il sistema principale per l’inferenza dei prodotti e servizi del gruppo.
Indice degli argomenti
Le prestazioni attese e i termini del confronto
Nel post di presentazione, Scott Guthrie, vicepresidente esecutivo Cloud + AI di Microsoft, indica un incremento atteso del 40% dei token elaborati per megawatt rispetto ai principali sistemi basati su Gpu, le unità di elaborazione grafica. I token sono le unità di dati trattate dai modelli.
Il confronto con la precedente generazione riguarda invece la capacità del rack: nella configurazione completa con 96 acceleratori, Microsoft dichiara fino a sette volte il volume di token elaborati da Maia 200. Le prime installazioni in produzione di Maia 300 sono previste nel 2027.
Un sistema progettato per le attività agentiche
La piattaforma è pensata per ragionamenti su contesti estesi, conversazioni che richiedono tempi di risposta ridotti e attività agentiche prolungate, articolate in più passaggi.
Fra gli impieghi indicati figurano una maggiore efficienza nella programmazione con GitHub, una distribuzione più flessibile dei modelli attraverso Microsoft Foundry e interazioni più rapide con Copilot, Teams e Dragon Copilot. L’obiettivo è sostenere l’aumento della domanda di questi servizi attraverso una maggiore capacità di elaborazione a parità di potenza disponibile.
La strategia Microsoft per modelli e infrastrutture
Nel post pubblicato il 12 ottobre sul blog ufficiale Microsoft, Scott Guthrie, vicepresidente esecutivo Cloud + AI, colloca il programma nella strategia che il gruppo chiama Frontier Transformation: «La scelta di modelli e chip è parte integrante della nostra visione per la Frontier Transformation», afferma.
L’obiettivo è sviluppare «piattaforme responsabili, accessibili e scalabili», attraverso una progettazione che integra semiconduttori, sistemi e agenti su una piattaforma aperta, eterogenea e capace di supportare modelli diversi.
Memoria e gestione dei dati nell’architettura
L’approfondimento tecnico accessibile dal microsito descrive una progettazione congiunta di software, chip, rete e infrastruttura fisica. L’architettura coordina attraverso il software la collocazione e il trasferimento dei dati, avvicinandoli alle risorse che li elaborano.
Ogni acceleratore dispone di 288 gigabyte di memoria HBM4, con una larghezza di banda di 18 terabyte al secondo. Rispetto a Maia 200, Microsoft indica una capacità superiore del 33% e una banda di memoria pari a 2,5 volte.
La struttura a chiplet separa elaborazione, controllo della memoria e funzioni di ingresso e uscita. I componenti dedicati al calcolo utilizzano il processo produttivo TSMC N2P.
Rete e raffreddamento alla scala del data center
La rete basata su Ethernet permette di collegare fino a 128 rack, per un totale di 12.288 acceleratori, all’interno di un unico sistema di comunicazione.
Ciascun rack integra 96 acceleratori entro un limite di potenza di 167 kilowatt. Il raffreddamento a liquido rimuove oltre l’80% del carico termico; quello ad aria serve memoria, storage e componenti ausiliari. La telemetria su potenza e raffreddamento alimenta gli algoritmi che regolano l’allocazione energetica e la distribuzione dei carichi.
Maia 200 è già utilizzato in produzione
La generazione precedente serve già carichi di Microsoft Copilot e supporta il team MAI nello sviluppo dei modelli. L’estensione a GitHub Copilot e Microsoft Foundry è prevista entro la fine del 2026.
Maia 200 esegue modelli OpenAI, modelli MAI sviluppati internamente e famiglie open source. La distribuzione interessa Stati Uniti, Europa e Australia. Per le funzionalità integrate in Teams, Copilot e nelle esperienze Cowork, Microsoft dichiara fino a 1,7 volte i token per watt rispetto alle principali infrastrutture Gpu. L’esperienza operativa di questa generazione ha contribuito alla progettazione di Maia 300.
Partecipa alla community