Grazie ai nuovi processori sarà possibile eseguire istante veloci senza l’utilizzo della rete
Il servizio Copilot AI di Microsoft potrà funzionare localmente sui PC. Questo a vantaggio di chi teme per la diffusione di informazioni sensibili via internet, quando un chatbot elabora sia dati sul tenant che in rete. Lo ha affermato Intel, partner di Redmond, ricordando che i PC AI di prossima generazione richiederanno unità di elaborazione neurale integrate con oltre 40 TOPS (trilioni di operazioni al secondo) di potenza, oltre le capacità di qualsiasi processore consumer sul mercato. Intel ha affermato che i PC con intelligenza artificiale saranno in grado di eseguire localmente “più elementi di Copilot”. Attualmente, l’IA esegue quasi tutto nel cloud, anche le piccole richieste. Ciò crea una discreta quantità di ritardo che va bene per i lavori più grandi, ma non è l’ideale per i più piccoli. L’aggiunta di capacità di elaborazione locale ridurrebbe tale ritardo, migliorando potenzialmente anche le prestazioni e la privacy.
In precedenza si diceva che Microsoft richiedesse 40 TOPS sui PC AI di nuova generazione (insieme a un modesto 16 GB di RAM). Al momento, Windows non fa molto uso delle NPU, a parte l’esecuzione di effetti video come la sfocatura dello sfondo per le webcam di Surface Studio. ChromeOS e macOS utilizzano entrambi la potenza NPU per ulteriori funzionalità di elaborazione video e audio, insieme a OCR, traduzione, trascrizione live e altro ancora. Il processore con la NPU più veloce è Apple M3, che offre 18 TOPS in tutta la gamma (M3, M3 Pro e M3 Ultra). I chip per laptop Ryzen 8040 e 7040 di AMD sono i successivi rispettivamente con 16 e 10 TOPS, mentre anche il laptop Meteor Lake di Intel raggiunge 10 TOPS. Qualcomm potrebbe offrire il primo processore con potenza sufficiente per Copilot tramite Snapdragon X Elite, che offrirà 45 TOPS di velocità di calcolo AI. I chip Lunar Lake di Intel, che arriveranno nel 2025, verranno forniti con il triplo delle velocità NPU attuali.
