Oltre le architetture tradizionali per sfruttare appieno il potenziale dell’AI

A cura di Daniele Cremonini AS & Defence Business Unit Manager E4 Computer Engineering

L’intelligenza artificiale (AI) nelle sue forme, dal Deep Learning (DL) alle GenAI, si sta rivelando un potente strumento che, quando adottata per sfide scientifiche e applicazioni industriali complesse, è in grado di plasmare il futuro del nostro mondo.

Gli algoritmi di AI, che costituiscono la pietra miliare delle scoperte tecnologiche contemporanee, sono progettati per affrontare una vasta gamma di compiti, che vanno dall’analisi di dati complessi al funzionamento autonomo dei sistemi.

Sebbene questi sofisticati algoritmi abbiano ampliato in modo significativo le capacità dell’AI in un vasto spettro di applicazioni e settori, essi richiedono un’ampia potenza di calcolo per funzionare.

La sinergia e l’interazione cruciale tra algoritmi avanzati di AI e lo sviluppo di infrastrutture computazionali dedicate ed efficienti dal punto di vista energetico è dunque di importanza fondamentale per sfruttare appieno il loro potenziale.

Così come sono di assoluta importanza 5 fattori chiave che si sono rivelati cruciali per il successo dell’AI:

1. Disponibilità di dati aperti: l’esplosione di dati liberamente disponibili in vari campi ha fornito un terreno fertile per l’addestramento di modelli di deep learning ed è stata determinante per alimentare i progressi dell’AI.
2. Aumento della potenza di calcolo: i progressi dell’hardware, come le unità di elaborazione grafica (GPU) e i chip acceleratori specializzati nell’AI, hanno reso possibile, in tempi ragionevoli, la costruzione e l’addestramento di reti neurali sempre più sofisticate.
3. Lo sviluppo di tecniche efficienti: i progressi di tecniche come l’apprendimento supervisionato, l’apprendimento non supervisionato e quello semi-supervisionato favoriscono un continuo miglioramento. I modelli di intelligenza artificiale, grazie alle loro capacità di apprendimento, perfezionano continuamente le loro previsioni e decisioni man mano che elaborano un maggior numero di dati, così da adattarsi dinamicamente ad ambienti e condizioni operative mutevoli. Questo consente lo sviluppo di soluzioni innovative, come i veicoli autonomi e le reti intelligenti, un tempo considerate impraticabili.
4. Ecosistema open-source: la vivace comunità open-source ha cambiato le carte in tavola per l’intelligenza artificiale. I framework che ne consentono lo sviluppo, come i progetti aperti Llama, permettono agli sviluppatori di tutto il mondo di condividere le innovazioni, di risolvere i problemi insieme e di ampliare i confini di ciò che l’AI può raggiungere.
5. Partnership industriali strategiche: la crescita di solide collaborazioni tra università, startup e giganti tecnologici ha accelerato le applicazioni dell’AI nel mondo reale, favorendo un miglioramento continuo e garantendo che le soluzioni di AI rimangano innovative e pratiche.

Andare oltre l’architettura tradizionale

Le architetture di calcolo tradizionali, come l’architettura di Von Neumann, che per lungo tempo hanno costituito la spina dorsale dell’elaborazione delle informazioni, sono sempre più carenti quando si tratta di tenere il passo con le esigenze specifiche dell’AI moderna, in particolare nel campo dell’elaborazione delle reti neurali.

Le tradizionali unità di elaborazione centrale (CPU) con architettura Von Neumann devono affrontare sfide significative con il deep learning, soprattutto a causa delle inefficienze nella gestione dell’elevato volume di operazioni di moltiplicazione-accumulazione (MAC), essenziali per il calcolo delle reti neurali.

Questo problema è aggravato dalle limitate capacità di elaborazione parallela, dalle unità di elaborazione vettoriale più strette e dalla minore larghezza di banda della memoria delle moderne architetture di CPU, che creano colli di bottiglia nella gestione dei dati.

Un trampolino di lancio, ma non la soluzione a lungo termine: le GPU

Le GPU, con le loro migliaia di core, eccellono nell’elaborazione in parallelo, consentendo di eseguire simultaneamente un gran numero di calcoli semplici, un requisito comune negli algoritmi di AI e deep learning.

Di solito, le GPU incorporano soluzioni di memoria all’avanguardia, come la High Bandwidth Memory (HBM) e la GDDR6X, per supportare l’intenso trasferimento di dati richiesto da queste computazioni.

Questa elevata larghezza di banda consente alle GPU di eseguire in modo efficiente operazioni di elaborazione in parallelo, come le moltiplicazioni matriciali e le operazioni di accumulo presenti negli algoritmi di deep learning, accelerando così in modo significativo i processi di formazione e inferenza dei modelli di intelligenza artificiale.

Nonostante la loro superiorità rispetto alle CPU nelle applicazioni di AI, le GPU sono però messe in discussione dalla loro natura ad alto consumo energetico, man mano che gli algoritmi di AI aumentano di complessità e di requisiti di dati.

Questo consumo energetico sostanziale deriva dalla loro aderenza all’architettura Von Neumann, che comporta notevoli limitazioni in termini di efficienza energetica, larghezza di banda della memoria e latenza.

Queste limitazioni non solo aumentano i costi operativi, ma impediscono anche la scalabilità e la sostenibilità dei progressi dell’AI. Di conseguenza, sebbene le GPU rappresentino un progresso significativo rispetto alle CPU, non sono la soluzione definitiva per il panorama in evoluzione dell’intelligenza artificiale, soprattutto in un’epoca in cui l’efficienza energetica e i benchmark di area sono fondamentali.

La necessità di hardware su misura per l’efficienza dell’AI

Riconoscendo le carenze delle architetture tradizionali nel soddisfare le richieste di algoritmi avanzati di AI e reti neurali, sono state progettate e sono in fase di sviluppo soluzioni hardware specializzate, che si concentrano su aspetti chiave quali:

• Efficienza energetica: questo obiettivo viene raggiunto attraverso una strategia di ottimizzazione a più livelli, che spazia da algoritmi paralleli raffinati e miglioramenti a livello di circuito nella memoria e nelle unità di calcolo a scoperte all’avanguardia a livello di dispositivo, come l’integrazione di tecnologie di memoria non volatile a risparmio energetico per le funzioni sinaptiche.
• Aritmetica a precisione ridotta: un approccio che sacrifica una certa accuratezza per ottenere significativi guadagni in termini di efficienza computazionale e larghezza di banda della memoria.
• RISC-V: un ISA progettato per istruzioni più semplici e dedicate, che consentono un’esecuzione più rapida e un consumo energetico ridotto. Inoltre, possono essere aggiunti set di istruzioni semplificate o specializzate, ottimizzati per i calcoli più frequenti negli algoritmi AI.
• Elaborazione near-memory / in-memory: l’impiego dell’elaborazione near-memory o in-memory per risolvere il collo di bottiglia del movimento dei dati tra la memoria esterna e l’unità di elaborazione o tra gli acceleratori AI. Questo approccio riduce significativamente la latenza e il consumo energetico.
• Elevata larghezza di banda della memoria: caratteristica essenziale per supportare l’alto throughput dei carichi di lavoro dell’intelligenza artificiale, consente il trasferimento rapido dei dati tra la memoria e le unità di elaborazione, fondamentale per soddisfare la domanda di calcolo degli algoritmi di AI e per evitare che i core di elaborazione siano in carenza di dati.
• Parallelismo estremo: più core di elaborazione per gestire simultaneamente un volume enorme di operazioni MAC. Il parallelismo estremo aumenta drasticamente l’efficienza e le prestazioni rispetto ai metodi di calcolo convenzionali.
• Interconnessione ad alta velocità: la comunicazione continua tra più core e unità di elaborazione è fondamentale per gestire carichi di lavoro complessi di intelligenza artificiale. Le interconnessioni integrate ad alta velocità garantiscono un rapido scambio di dati nell’ecosistema hardware, riducendo la latenza ed evitando i colli di bottiglia nei sistemi distribuiti su larga scala.
• Efficienza termica ottimizzata: le tecniche avanzate di gestione termica sono fondamentali per l’hardware AI che opera con carichi computazionali elevati. Incorporando soluzioni di raffreddamento e materiali per la dissipazione del calore innovativi, i sistemi possono mantenere temperature operative ottimali, assicurando prestazioni costanti, prolungando la durata dei componenti e massimizzando l’efficienza complessiva durante le attività di AI più intense.

Questi aspetti chiave sono fondamentali per sfruttare appieno il potenziale dell’intelligenza artificiale, consentendo di ottenere capacità di elaborazione più efficienti e potenti, adatte alla complessità e alla profondità dei calcoli dell’AI moderna. La disponibilità di acceleratori con queste caratteristiche è essenziale per la prossima ondata di innovazioni nel settore, rappresentando le basi per applicazioni di AI più sofisticate, in tempo reale, per un progresso significativo.