La narrativa più comoda sull’intelligenza artificiale è che sia immateriale: algoritmi, dati, probabilità. Ciò che non appare in questo racconto è la rete elettrica che fa funzionare tutto. L'addestramento GPT-4 ha consumato all'incirca la stessa quantità di elettricità consumata da 1.000 case americane in un anno. L'inferenza su scala moltiplica questo numero. Quando metti l’intelligenza artificiale al centro della tua architettura, stai prendendo una decisione energetica, anche se nessuno nella stanza ci sta pensando.
Cosa significa il consumo reale di un data center
I moderni data center non consumano energia solo per elaborare i dati. Lo consumano per raffreddare l'hardware che elabora questi dati, mantenere la ridondanza energetica, gestire le reti e sostenere interi livelli di infrastruttura di supporto. L’arrivo delle GPU ad alta densità per i carichi di lavoro AI ha portato la domanda di rack a livelli che molti data center legacy semplicemente non riescono a soddisfare fisicamente.
Un rack convenzionale consuma tra 5 e 15 kilowatt. I rack con GPU per AI raggiungono 80 o 100 kilowatt. Ciò modifica la progettazione dell'edificio, il sistema di raffreddamento, la capacità elettrica contrattata. Non è un aggiornamento incrementale. È un'infrastruttura diversa. Quando i grandi fornitori di servizi cloud annunciano nuovi data center, non si limitano ad aggiungere capacità di elaborazione, ma negoziano contratti energetici a lungo termine con i distributori e, in alcuni casi, costruiscono le proprie sottostazioni.
C’è anche la questione dell’acqua. Il raffreddamento a liquido, richiesto per le densità termiche dei moderni cluster GPU, consuma notevoli volumi di acqua. Questo costo operativo appare raramente nelle conversazioni sui costi dell’intelligenza artificiale, ma sta cominciando a essere regolamentato nelle regioni con scarsità d’acqua e ad essere incluso nei calcoli di approvazione ambientale per i nuovi progetti.
Perché appare negli account cloud
Il costo dell’energia non è isolato nel bilancio dei fornitori. Passa ai clienti, con un certo grado di ritardo e opacità. Le istanze GPU sono già sostanzialmente più costose delle istanze per uso generale e una parte significativa di tale differenza è la potenza. Poiché la domanda di capacità di intelligenza artificiale aumenta e i fornitori competono per terreni con accesso a energia abbondante ed economica, la posizione geografica dell’elaborazione inizia a influenzare il prezzo del servizio.
Ciò ha un'implicazione diretta per i team che prendono decisioni sull'architettura: chiamare un modello API di grandi dimensioni con alta frequenza non è solo una scelta tecnica, è una scelta di costo con una componente energetica incorporata. Le aziende che considerano l’uso dell’intelligenza artificiale come gratuito o come un costo fisso rimarranno sorprese quando la fattura del cloud rifletterà la reale crescita dell’utilizzo, soprattutto nei prodotti con un elevato volume di inferenza.
Pressione sui luoghi in cui vengono costruiti i data center
La disponibilità di energia sta diventando un criterio di localizzazione tanto importante quanto la connettività di rete. Le regioni con energia abbondante, economica e rinnovabile sono diventate una destinazione preferita per nuovi investimenti nelle infrastrutture di intelligenza artificiale. I paesi nordici, che combinano energia idroelettrica a basso costo con un clima freddo naturale, attirano da anni i data center. Il Brasile, con la sua matrice elettrica prevalentemente rinnovabile e una significativa capacità idroelettrica, appare sempre più in queste conversazioni strategiche.
Il problema è che la disponibilità di energia, la disponibilità di infrastrutture di rete e il talento tecnico raramente coincidono nello stesso luogo. La tensione tra dove è più economico operare e dove ha senso essere presenti geograficamente crea compromessi precedentemente invisibili nelle decisioni sulle infrastrutture. Per le aziende che operano in più regioni, questa equazione inizia a influenzare quale fornitore cloud utilizzare per ciascun carico di lavoro, non solo a causa della latenza o della conformità dei dati, ma a causa dei differenziali costi energetici tra le zone.
La risposta tecnica: modelli più piccoli e inferenza efficiente
L’industria non aspetta che la rete elettrica risolva il problema. Un'intera linea di ricerca e sviluppo è focalizzata sulla riduzione del costo energetico per attività utile eseguita. Tecniche come la quantizzazione, la distillazione del modello e architetture più efficienti come i modelli di miscelazione esperta ci consentono di fornire prestazioni comparabili con una frazione del consumo energetico di modelli densi più grandi.
Per chi decide in merito all’infrastruttura, ciò apre una vera e propria scelta strategica: utilizzare il modello più capace disponibile per tutto, oppure selezionare il modello più efficiente che soddisfi il caso d’uso specifico. La seconda opzione non è solo più economica. Nella produzione di grandi volumi, può fare la differenza tra un’architettura finanziariamente sostenibile e una che ridimensiona il problema con l’utilizzo. Modelli ben calibrati da 7 miliardi di parametri per compiti specifici spesso superano modelli molto più ampi per scopi generali nel lavoro che conta davvero.
Cosa inserire adesso nella pianificazione delle infrastrutture
Tre variabili meritano di essere incluse esplicitamente nelle decisioni architetturali di qualsiasi team che utilizza l'intelligenza artificiale in produzione. Il primo è il costo per inferenza, mappato con l’utilizzo reale e non con stime ottimistiche. Il secondo è l’impronta energetica dei modelli scelti, che sta cominciando a comparire nei rapporti di sostenibilità aziendale e nei requisiti di alcuni clienti e regolatori. La terza è l'architettura fallback: quando il modello più pesante può essere sostituito da uno più leggero senza una notevole perdita di qualità per l'utente finale.
Ignorare queste variabili non protegge nessuno dall'account. Arriva in diversi modi: nel costo diretto dell’API, nella pressione ESG, nelle trattative contrattuali con grandi clienti che chiedono informazioni sulle emissioni di carbonio, o semplicemente nell’impossibilità di ridimensionare un prodotto quando il costo dedotto cresce più rapidamente dei ricavi. I team che oggi aggiungono queste tre variabili al processo decisionale sull’architettura ottengono un margine di manovra che sarà scarso quando la pressione normativa e competitiva sull’argomento si intensificherà. Trattare l’energia come un dettaglio ingegneristico è un errore di pianificazione, non una questione tecnica.
Leggi anche
- Energia, il nuovo petrolio dell'IA: chi controlla la risorsa controlla l'era
- Data center sostenibili: il costo ambientale diventato una questione pubblica
- Energia IA e sovranità: cosa devono pianificare i governi adesso
- Elettrificazione: cosa cambia quando tutto comincia ad accendersi alla presa
- Infrastruttura sostenibile per data center AI: sfide e migliori pratiche
- Energia: il collo di bottiglia che nessuno ha inserito nella roadmap informatica