De l'entrenament a la inferència
Durant els últims anys, la conversa sobre infraestructura d'IA ha girat al voltant de l'entrenament de grans models i de les GPU que el fan possible. El 12 d'octubre, Microsoft va desplaçar el focus: va presentar Maia 300, la tercera generació del seu accelerador propi, i va anunciar que la família Maia serà el sistema principal d'inferència dels seus productes i serveis, amb desplegaments de diversos gigawatts a partir del 2027.
La inferència és la feina que es repeteix cada vegada que algú fa una pregunta a Copilot, demana codi a GitHub Copilot o una aplicació empresarial crida un model a Azure. És el cost que creix amb l'ús, i per això qualsevol millora d'eficiència en aquesta fase es trasllada directament a l'economia dels serveis d'IA.
Què ha anunciat Microsoft
Segons el blog oficial de la companyia, signat pel vicepresident executiu Scott Guthrie, Maia 200 ja atén càrregues reals de producció, entre les quals Microsoft Copilot, i s'està desplegant als Estats Units, Europa i Austràlia. GitHub Copilot i Microsoft Foundry s'hi sumaran abans de final d'any. En aquestes càrregues, Maia 200 executa models d'OpenAI, els models propis MAI de Microsoft i famílies de models de codi obert.
Maia 300 entrarà en producció el 2027. Microsoft calcula que oferirà un 40 % més de tokens per megawatt que els sistemes basats en GPU de referència i que un rack complet, amb 96 acceleradors, multiplicarà fins per set el rendiment de Maia 200. Són projeccions del fabricant: com va recordar a CNBC l'analista Patrick Moorhead, ningú no ha provat encara aquests xips fora de Microsoft.
Les xifres i el que signifiquen
La mètrica que Microsoft posa en primer pla és reveladora: tokens per megawatt. En un centre de dades, l'energia disponible és un límit físic i una part important del cost d'operació. «L'energia es tradueix de manera força directa en cost operatiu», va explicar a CNBC Alistair Speirs, director general a Microsoft. Si un mateix megawatt produeix un 40 % més de respostes, el cost per resposta baixa, o la capacitat disponible puja sense construir-ne més.
La segona xifra, fins a set vegades més rendiment per rack que Maia 200, parla de densitat: Microsoft duplica el nombre d'acceleradors per rack. Més feina útil per metre quadrat i per megawatt vol dir que la mateixa inversió en edificis i connexions elèctriques atén més usuaris. Per a qui compra serveis d'IA, això sol acabar reflectint-se en preus per ús més baixos o en límits de capacitat més amplis.
Un disseny construït al voltant de la memòria
Microsoft descriu Maia 300 com una arquitectura pensada primer per a la inferència, optimitzada per a càrregues de context llarg, intensives en memòria i dominades per la fase en què el model genera la resposta token a token. Cada accelerador combina vuit piles de memòria HBM4 amb 18 TB/s d'amplada de banda màxima dins d'un consum de 950 watts, i fa servir la memòria SRAM del mateix xip com a espai de treball gestionat per programari.
El xip adopta un disseny de diversos chiplets que separa càlcul, controladors de memòria i entrada i sortida, amb els chiplets de càlcul fabricats en el procés N2P de TSMC. A més, admet formats de baixa precisió com MXFP4, que redueixen la memòria necessària per als càlculs i per desar el context. El resultat, segons la companyia, són finestres de context més llargues i més rendiment amb la mateixa energia, just el que demanen els agents que encadenen passos i consulten documents extensos.
Els gegants del núvol fabriquen el seu propi silici
Maia no és un cas aïllat. Google fa anys que té les seves TPU i Amazon, Inferentia i Trainium, i els grans desenvolupadors de models ja combinen xips de diversos fabricants. La diferència, recordava CNBC, és que els acceleradors de Microsoft no es lloguen per hores a tercers: són una peça interna per abaratir els seus propis serveis. La directora financera, Amy Hood, ja atribuïa als xips propis una millora de marges sostinguda en el temps.
Nvidia continua sent central. Microsoft continua entrenant models amb GPU de Nvidia i AMD, i els analistes d'Evercore ISI estimen que Maia representarà al voltant del 10 % de la despesa de la companyia en xips d'IA a principis del 2027. La tendència, en tot cas, apunta a una infraestructura més diversa, en què cada tipus de feina s'executa en el maquinari que la fa més barata.
- Estimació d'Evercore ISI citada per CNBC. No és una xifra oficial de Microsoft.
Què canvia per a les empreses europees
Per a una empresa de Barcelona o de qualsevol punt d'Europa, la notícia no obliga a comprar maquinari, però sí que canvia el context en què es prenen decisions. Maia 200 ja es desplega en centres de dades europeus i dona servei a funcions de Teams i Copilot que moltes organitzacions fan servir cada dia. Més eficiència en la inferència vol dir més capacitat disponible en regions europees, un factor rellevant quan les dades s'han de processar dins de la Unió.
També reforça una tendència que convé tenir present en pressupostar projectes: el cost de cada resposta d'IA tendeix a baixar, mentre que el valor és en els processos que s'automatitzen amb ella. Les empreses que avui descarten un cas d'ús pel cost dels tokens haurien de revisar aquest càlcul amb certa freqüència, perquè les corbes de preu es mouen de pressa.
Avaluï si la seva organització està preparada
La lliçó pràctica és dissenyar pensant en la portabilitat. Les arquitectures que separen la lògica de negoci del model concret, que mesuren el cost per tasca completada i no només per token, i que permeten canviar de model o de regió sense refer l'aplicació són les que aprofiten millor cada salt d'eficiència del mercat.
El qüestionari següent ajuda a situar la seva organització: si ja té casos d'ús en producció, com en mesura el cost i quant depèn d'un únic proveïdor. No substitueix una anàlisi, però dona una primera orientació.
En quin punt és l'ús d'IA generativa a la seva empresa?
El que ve
Microsoft ha promès més detalls a Ignite 2026, la seva conferència de novembre a San Francisco. Fins que Maia 300 arribi a producció el 2027 i hi hagi mesuraments independents, les seves xifres s'han de llegir com a objectius del fabricant. Tot i així, la direcció és clara: els grans proveïdors competeixen per servir IA de manera més barata i eficient.
Per a les empreses, això obre una finestra favorable. La capacitat de càlcul deixarà de ser el principal fre de molts projectes, i l'avantatge competitiu serà a triar bé els processos, preparar les dades i construir solucions que puguin beneficiar-se de cada nova generació d'infraestructura.
“La cursa de la IA ja no es decideix només en l'entrenament de models: es decideix en quant costa servir cada resposta.”
