Gli enormi fabbisogni energetici dei sistemi di intelligenza artificiale stanno puntando i riflettori sulla sostenibilità nell’ecosistema dei semiconduttori. L’industria dei chip deve essere in grado di produrre semiconduttori più efficienti e a basso consumo. Ma le richieste di maggiore velocità di elaborazione stanno aumentando con l’uso diffuso di modelli linguistici di grandi dimensioni e l’aumento complessivo della quantità di dati da elaborare. Gartner stima che il 50% delle organizzazioni adotterà un monitoraggio abilitato alla sostenibilità entro il 2026 per gestire i parametri di consumo energetico e impronta di carbonio per i propri ambienti cloud ibridi. Ciò è necessario, dato che, secondo l’azienda, entro il 2027 il 40% dei data center sarà probabilmente soggetto a vincoli energetici entro il 2027.
I semiconduttori possono contribuire alla sostenibilità se progettati correttamente. Ciò è vero anche per i chip AI/ML progettati per le massime prestazioni, a condizione che possano eseguire i calcoli più rapidamente utilizzando algoritmi più sparsi. Ciò si traduce in una riduzione complessiva della quantità di energia consumata. È qui che entrano in gioco gli acceleratori personalizzati. Possono fornire miglioramenti significativi rispetto ai processori generici, spesso lavorando in tandem.
L’impronta crescente dell’intelligenza artificiale
L’informatica si sta diffondendo ovunque e deve essere più efficiente. Le città intelligenti, le infrastrutture intelligenti e i trasporti intelligenti non sono possibili senza la tecnologia intelligente, e sempre più questa è resa possibile dall’intelligenza artificiale. Man mano che l’intelligenza artificiale diventa sempre più radicata, l’ecosistema dei semiconduttori sta cercando di ridurre al minimo il suo impatto sulle risorse.
I data center di oggi consumano già enormi quantità di energia. A livello globale, ogni anno sono necessari 460 terawattora (TWh) di elettricità. Ciò equivale all'intera quantità di energia prodotta dalla Germania. Negli Stati Uniti, il consumo di elettricità dei data center è stato pari al 2,5% del totale statunitense (~130 TWh) nel 2022, e si prevede che triplicherà fino al 7,5% (~390 TWh) entro il 2030, secondo il Boston Consulting Group. Questo è l’equivalente dell’elettricità utilizzata da circa 40 milioni di case statunitensi, ovvero quasi un terzo del totale delle case negli Stati Uniti.
"L'intelligenza artificiale ha il potenziale per superare tutte le innovazioni trasformative create nel secolo scorso", ha affermato Imran Yusuf, direttore degli ecosistemi hardware presso Arm's Infrastructure Group. "Ma le richieste di potenza del calcolo dell'intelligenza artificiale sono significative e, poiché le aziende si affrettano a sviluppare le proprie capacità di intelligenza artificiale, rischiano di superare i propri obiettivi di sostenibilità. I futuri modelli di intelligenza artificiale continueranno a diventare più grandi e più intelligenti, alimentando la necessità di più calcolo, che aumenta domanda di energia come parte di un ciclo virtuoso. In poche parole, niente elettricità, niente intelligenza artificiale. Come bilanciare la necessità di elettricità con la necessità di continuare ad alimentare la rivoluzione dell’intelligenza artificiale trovando modi per ridurre i requisiti energetici per i grandi data center? Sistemi informatici di intelligenza artificiale."
Altri sono d'accordo. "Si tratta di essere più efficienti nella progettazione", ha affermato Neil Hand, direttore marketing di Siemens EDA. "Puoi considerare qualsiasi algoritmo. Ci sono ordini di efficienza. L'approccio più inefficiente dal punto di vista energetico è eseguire il codice grezzo su un processore generico e lasciarlo girare - e tostare alcuni marshmallow sopra la CPU perché sta andando per diventare molto caldo."
Un rack di server basato sulle GPU NVIDIA Grace Blackwell richiede 120 kilowatt. Ma sono anche 1,000 volte più capaci delle generazioni precedenti, il che equivale a 500 volte più calcoli per unità di potenza, secondo Rich Goldman, direttore di Ansys. "Se costruisci un data center di CPU e vuoi eseguire molti calcoli, puoi sostituire le CPU con le GPU più recenti e ridurre notevolmente la potenza per le stesse capacità di calcolo. Avremo ancora enormi problemi di potenza, perché con l'intelligenza artificiale stiamo facendo più calcoli, ma questo aiuterà."
Hand vede l'hardware specializzato di tipo Grace Blackwell appositamente costruito per l'intelligenza artificiale come il prossimo passo nello sviluppo, ma aggiunge che si può fare molto di più perché si tratta ancora di chip generici. Ha affermato che è possibile costruire chip AI più efficienti destinati a classificare e funzionare con un’ampia classificazione.
"Questo è ciò che vediamo fare da NVIDIA, questo è ciò che vediamo fare da Google e da molti fornitori di servizi cloud", ha osservato Hand. "Ci sono livelli di efficienza che possiamo raggiungere per consentire una produzione più efficiente di questi chip e per consentire tutto ciò che riguarda la sostenibilità che ne consegue. Quindi, si può fare un ulteriore passo avanti con le nuove tecnologie che adottano un modello di intelligenza artificiale completamente addestrato e convertirlo in hardware. Sarà il più efficiente possibile e utilizzerà una frazione della potenza a quel punto, quindi dovrai affrontare la sfida che l'intelligenza artificiale sta accelerando e cambiando così rapidamente. Quanto puoi bloccare? Lo stiamo vedendo con i recenti annunci di Intel e Qualcomm sulle loro CPU mobili, e Apple lo fa da un paio di generazioni. Ora ci sono i TPU o le NPU qualunque rete neurale tu voglia avere sul chip, ci sarà quel continuum."
Steve Roddy, direttore marketing di Quadric, è d'accordo. "Le forze che guidano l'esplosione dei modelli AI/ML hanno una portata enorme. L'ondata di AI generativa sta cambiando il modo in cui lavorano gli individui e le aziende, con un possibile impatto su milioni di posti di lavoro in tutto il mondo. L'ecosistema semiconduttori/EDA/IP non può ragionevolmente piegare la curva di progressi nell’evoluzione di massicci modelli di intelligenza artificiale che vengono spinti da centinaia di miliardi di dollari di investimenti annuali da parte dei titani della tecnologia, ma le industrie dei semiconduttori e della proprietà intellettuale possono aiutare a mostrare la strada per ridurre radicalmente l’impronta del consumo energetico derivante dall’esecuzione di tali modelli GenAI ogni giorno. -uso quotidiano dell'inferenza."
La più grande sfida di sostenibilità per l’inferenza GenAI è la conversione delle modalità in formati quantizzati interi a basso consumo energetico. "I team di data science che creano modelli GenAI sono apparentemente ignari del fatto che i modelli di riferimento che pubblicano in formato a virgola mobile consumano 10 volte l'energia per inferenza rispetto allo stesso modello convertito in formati interi (confrontando un 32b in virgola mobile con moltiplicazione-accumulo rispetto a 8 x 8 o 4 x 8 MAC intero)," ha detto Roddy. "Sia che l'inferenza avvenga nel data center o sul dispositivo, i risparmi energetici - e i conseguenti benefici per la sostenibilità - derivanti dalla conversione in formati interi a basso consumo sono sostanziali. Questo divario esiste oggi perché i data scientist che creano nuovi modelli GenAI sono matematici, non embedded ingegneri."
La tecnologia avanza
Quando il team di progettazione deciderà che è il momento di passare all'hardware, anche se gli algoritmi di intelligenza artificiale stanno avanzando così rapidamente, ci sarà una certa stabilità, ha affermato Hand. "È un po' come quando abbiamo affrontato l'evoluzione di TPU, NPU e XPU. In generale, per un po' non sono stati molto praticabili perché gli elementi costitutivi principali cambiavano con maggiore regolarità. Ma negli ultimi anni, quelle funzionalità principali si sono stabilizzati in modo che ora sia possibile creare hardware più efficienti dal punto di vista energetico. Sarà lo stesso qui quando le cose inizieranno a stabilizzarsi. Ci saranno sempre nuove innovazioni. Ci saranno sempre algoritmi molto più potenti che avranno bisogno di nuovo hardware. Probabilmente finiremo sempre per utilizzare più di quanto diciamo perché i data center sono un enorme consumatore di energia, ma cosa compensano? Questa è l'intera domanda dal punto di vista della produttività. Ci permettono di fare cose che altrimenti non saremmo in grado di fare fare. Ma gran parte di ciò dipende dal fatto che si tratti di un chip AI complesso o di un qualsiasi tipo di chip. Gli aspetti EDA sono più o meno gli stessi. Miglioriamo la resa, miglioriamo le prestazioni, riduciamo la potenza.
Un'altra considerazione è come generare energia sufficiente per il data center. Come si collocano questi data center in luoghi dove non c'è abbastanza energia? "Vedrete i data center più spesso in luoghi che hanno un surplus di energia, e i paesi che hanno un surplus di energia diventeranno hub di data center", ha affermato Goldman. "Individueranno lì il data center, quindi produrranno la conoscenza che ottieni da quel potere."
Ciò sarà accompagnato da nuove e inedite fonti di potere. "Abbiamo sentito parlare di mini centrali nucleari per alimentare singoli data center, e di applicazioni come il loro posizionamento sopra i pozzi petroliferi in modo che il metano che ora entra nell'aria e inquini l'aria, possiamo bruciarlo e creare energia da quelli che gestiscono i data center", ha detto Goldman. "Dobbiamo ottenere qualcosa di simile per alimentare questi data center."
Parte integrante del dibattito sulla sostenibilità dell’intelligenza artificiale è l’efficienza dei data center, dove è in corso un conflitto tra la potenza necessaria per spostare i dati e la distanza effettiva di cui tali dati devono essere spostati. "Vediamo persone che costruiscono processori molto grandi con chiplet, e in parte perché sanno che potrebbero costruire un sistema equivalente con due chip collegati tramite un bus, ma spostare i dati tra loro costerà molto di potere", ha spiegato Steven Woo, collega e illustre inventore della Rambus. "Quanto più si mettono insieme le cose, minore è la distanza che i dati devono percorrere, meno energia si spende per spostare i dati. Ma poi il problema è che la densità di potenza aumenta. Devi fornire più potenza, e devi raffreddare la cosa. Quindi, il tiro alla fune è, come posso raffreddare questa cosa? Sto risparmiando un po' di energia non avendo i chip distanti l'uno dall'altro, ma ora devo fornire più potenza in quel volume, e tu dobbiamo calmarci. Questo è il tiro alla fune che gli architetti a livello di sistema devono affrontare ora."
A livello di data center, si fa sempre più uso di tecniche di raffreddamento avanzate nei server. "Sempre più persone parlano di raffreddamento a liquido, comprese le piastre fredde", ha detto Woo. "Google ha fatto questo, e NVIDIA ne ha parlato per Grace Blackwell. Questa è la tecnologia che alcuni supercomputer usano oggi, e non è una tecnologia nuova o estranea. È solo questione di tempo prima di vederla come pervasivo. Probabilmente ci saranno alcuni sistemi raffreddati ad aria nel prossimo futuro, ma vedrete più sistemi che adottano una sorta di liquido pompato con un sistema di raffreddamento a due fasi."
All’estremità estrema di questo approccio c’è il raffreddamento per immersione. "Questa potrebbe non essere una soluzione praticabile per il raffreddamento dei server del data center in tempi brevi, ma potrebbe esserlo se finissimo la pista per i liquidi convogliati", ha aggiunto. "Una volta che sei in grado di gestire il calore con un liquido, o qualcosa del genere, puoi limitare l'intervallo di temperature attraversato da un chip, il che significa che se esegue un ciclo termico, potrebbe non raggiungere temperature estreme. Questo è positivo. , perché in questo caso non si ha l'espansione e la contrazione termica su questo intervallo più ampio, e alcuni degli altri guasti legati all'affidabilità si attenuano un po'."
Anche l’analisi dei big data svolge un ruolo nella sostenibilità identificando le tendenze nella progettazione dei chip in base all’utilizzo del data center. "C'è un intero treno di potere", ha detto Adam Cron, illustre architetto di Synopsys. "Le preoccupazioni sono a livello dello stampo. Poi c'è la scheda su cui si trova, il rack in cui si trova, l'azienda agricola in cui si trova, e poi tutto torna indietro fino alle linee di trasmissione. E ciò che i manager dei data center amano vedere è un bella anche la chiglia. Non scuotere troppo la barca, perché se vuoi molto qui, allora potresti dover scendere laggiù, o viceversa."
Idealmente, la potenza dovrebbe essere ridotta ovunque. "I data center utilizzano tra l'1 e il 2% dell'elettricità mondiale e sono in corsa per utilizzarla tutta", ha affermato Cron.
Resa, collegamenti alla producibilità
Esiste un collegamento interessante tra lo sforzo di produrre semiconduttori sostenibili e la resa e la producibilità, ha osservato Siemens' Hand. "Questi chip stanno diventando sempre più grandi. Pertanto, la resa diventa sempre più un problema. Più possiamo fare con la resa, meglio possiamo essere per la sostenibilità, perché un dado morto è uno spreco di risorse. Un buon dado è sempre una cosa migliore Cosa possiamo fare lì? C'è molto lavoro che facciamo nell'ecosistema dei semiconduttori EDA per migliorare la resa, alcune di esse utilizzano l'intelligenza artificiale il costo di sostenibilità dell'intelligenza artificiale e l'opportunità di sostenibilità dell'intelligenza artificiale e il modo in cui lavorano insieme In generale, è un netto positivo. Ma come si misura, non so se è possibile, perché è difficile trovare i dati grezzi dice quanto costa addestrare questi modelli. È costoso usarli. Ma come si misurano le intuizioni? Probabilmente è necessario un intero dottorato per cercare di calcolare tale impatto. Credo che ci sia un'opportunità per perfezionare maggiormente l'automazione. e le tecnologie di intelligenza artificiale possono essere sfruttate qui. E' semplicemente l'EDA che fa il suo lavoro."
Anche l’analisi termica e l’invecchiamento giocheranno nella sostenibilità dei data center AI. Questo non è esclusivo dell’intelligenza artificiale, ovviamente. Si applica a tutti i chip", ha detto Hand. "Puoi iniziare a capire quali sono le temperature a livello del die, a livello del sub-die, per comprenderne le implicazioni. Ora, posso mettere insieme uno stack 3D e renderlo affidabile? Posso far funzionare queste cose a un livello di potenza sufficiente da non accelerarne la scomparsa? Queste capacità ci permetteranno di andare ancora oltre. Inoltre, man mano che iniziamo ad espandere la definizione di gemello digitale e iniziamo ad espandere ciò che è incluso in esso, puoi iniziare a vedere gli impatti a livello di sistema. E anche se non è specifico per l'intelligenza artificiale e la sostenibilità, è qui che inizieremo a vedere grandi balzi in termini di efficienza, perché quanto c'è di troppo ingegnerizzato al momento? Quanto ha troppi rifiuti al suo interno? Una volta che potremo iniziare ad avere una progettazione più coerente a livello di prodotto e di problema, ci saranno vantaggi anche in questo caso. Riportandolo specificamente all'intelligenza artificiale, per arrivare a veri gemelli digitali completi multidominio, l'intelligenza artificiale sarà necessaria perché l'intelligenza artificiale eseguirà l'analisi interdominio per te, l'estrazione del modello surrogato e l'adattamento automatico della fedeltà. Ci saranno tutti quelli. Più intelligenza artificiale abbiamo bisogno, più intelligenza artificiale utilizziamo."
Conclusione
La sostenibilità non è un argomento nuovo, ma è sempre stato argomento di discussione futura. Non è più così.
"I fornitori di hardware e software hanno capito da anni che la scalabilità e la sostenibilità dell'elaborazione potrebbero essere in rotta di collisione con la realtà, ma non è necessario che lo sia se l'industria sfrutta le capacità del proprio ecosistema", ha affermato Yusuf di Arm. "Prendiamo Arm Total Design, ad esempio, che è un ecosistema di aziende leader del settore dei semiconduttori dedicato a consentire soluzioni di silicio efficienti e personalizzate per casi d'uso AI/ML. In quanto tale, fornisce ai partner un accesso preferenziale ai sottosistemi di calcolo Arm Neoverse (CSS), strumenti IP ed EDA preintegrati, servizi di progettazione, supporto di fonderia e supporto di software commerciale Rappresenta anche una nuova mentalità che promuove la collaborazione, la flessibilità e l'innovazione, pur comprendendo che l'era dell'intelligenza artificiale deve coesistere. con obiettivi di sostenibilità globale."
Ciò che è cambiato è che la sostenibilità è passata da “bello da avere” a “indispensabile”. Dal suo punto di vista come leader del settore, Intel ha creato Seven Tips per utilizzare l’intelligenza artificiale senza alti costi ambientali. Inoltre, Intel ritiene che essere intenzionali nel modo in cui l'intelligenza artificiale viene implementata nella progettazione sia fondamentale per raggiungere gli obiettivi di sostenibilità. Con intenzionalità, coloro che eseguono iniziative di intelligenza artificiale possono sfruttare i vantaggi di carichi di lavoro ottimizzati (vedi qui per ulteriori informazioni) e un approccio proattivo alla progettazione del progetto e alla gestione IT è fondamentale per massimizzare l'impatto delle iniziative di intelligenza artificiale e ridurre al minimo l'impronta di carbonio (vedi qui per ulteriori informazioni casi d'uso).
Fondamentalmente, la riduzione dell’impatto dell’intelligenza artificiale sulla sostenibilità dipenderà dalla tecnologia stessa. Roddy di Quadric ha affermato che l'ecosistema dei semiconduttori può aiutare "aumentando la consapevolezza generale della necessità di utilizzare formati di dati a precisione inferiore, nonché costruendo strumenti più automatizzati per colmare il divario tra matematico e ingegnere embedded".
