MTIA è la nuova generazione di hardware che potrebbe rendere indipendente l’azienda da chip di terze parti
Meta è determinata a primeggiare nel campo dell’intelligenza artificiale. Per farlo, ha deciso di investire nell’hardware. Il Meta Training and Inference Accelerator (MTIA) è un chip di “prossima generazione”, successore del MTIA v1 dello scorso anno, che esegue modelli su un processo a 5 nm. È dotato di più core di elaborazione rispetto al suo predecessore e, sebbene consumi più energia – 90 W contro 25 W, vanta anche più memoria interna (128 MB contro 64 MB) e funziona a una velocità di clock media più elevata (1,35 GHz rispetto a 800 MHz). Meta afferma che il MTIA è attivo in 16 delle sue regioni di data center e offre prestazioni complessivamente migliori fino a 3 volte rispetto a MTIA v1. Meta ha dichiarato spontaneamente che la cifra deriva dal test delle prestazioni di “quattro modelli chiave” su entrambi i chip.
“Poiché controlliamo l’intero stack, possiamo ottenere una maggiore efficienza rispetto alle GPU disponibili in commercio”, scrive Meta in un post sul blog condiviso con TechCrunch. La presentazione dell’hardware di Meta – che avviene appena 24 ore dopo una conferenza stampa sulle varie iniziative di intelligenza artificiale generativa in corso dell’azienda – è insolita per diversi motivi. Innanzitutto, Meta rivela nel post sul blog che al momento non sta utilizzando il MTIA di nuova generazione per carichi di lavoro di formazione sull’intelligenza artificiale generativa, sebbene la società sottolinei di avere “diversi programmi in corso” che esplorano questo aspetto. In secondo luogo, Meta ammette che il MTIA 2 non sostituirà le GPU per i modelli esistenti, ma invece li integrerà.
Leggendo tra le righe, Meta si muove lentamente, forse più lentamente di quanto vorrebbe. I team di intelligenza artificiale del colosso sono quasi certamente sotto pressione per ridurre i costi. L’azienda prevede di spendere circa 18 miliardi di dollari entro la fine del 2024 in GPU per l’addestramento e l’esecuzione di modelli di intelligenza artificiale generativa e, con costi di formazione per modelli generativi all’avanguardia che ammontano a decine di milioni di dollari, l’hardware interno presenta un alternativa attraente. E mentre l’hardware di Meta rallenta, i rivali stanno avanzando. Google ha già reso disponibile il suo chip personalizzato di quinta generazione per l’addestramento dei modelli AI, TPU v5p, e ha rivelato il suo primo processore dedicato per i modelli in esecuzione, Axion. Amazon ha al suo attivo diverse famiglie di chip IA personalizzate e l’anno scorso Microsoft si è lanciata nella mischia con l’acceleratore AI Azure Maia e la CPU Azure Cobalt 100. Nel post sul blog, Meta afferma che ci sono voluti meno di nove mesi per “passare dal primo esperimento ai modelli di produzione” del MTIA di prossima generazione, anche se ha molto da fare se spera di raggiungere una certa indipendenza dalle GPU di terze parti e di eguagliare la sua forte concorrenza.
