La narrazione che il mercato del cloud ha venduto per anni è stata quella della mercificazione: l'hardware sottostante non ha importanza, ciò che conta è il servizio. Scegli il fornitore in base al catalogo dei servizi gestiti, al prezzo per ora di istanza e al supporto. Il chip era un dettaglio dell’infrastruttura, invisibile e intercambiabile: conveniente mentre tutti acquistavano lo stesso silicio da Intel e AMD e la vera differenza era nel software e nelle operazioni. Il problema è che questa narrazione non è più vera e i fornitori che lo hanno capito prima stanno raccogliendo benefici che altri non possono permettersi.
Perché costruire il tuo chip quando puoi acquistarlo
La risposta diretta: perché su scala hyperscaler, l’efficienza dell’hardware si trasforma in numeri di margine che giustificano qualsiasi ragionevole investimento in ricerca e sviluppo. I processi AWS calcolano i volumi che rendono qualsiasi guadagno percentuale per watt rilevante per centinaia di milioni di dollari all'anno. Se un chip progettato specificamente per i tuoi carichi di lavoro offre il 20% in più di prestazioni per watt rispetto all'equivalente standard, tale differenza non è una curiosità tecnica: è un vantaggio competitivo convertito in prezzo, margine o entrambi.
La seconda ragione è l’indipendenza. Chiunque acquisti tutta la capacità di calcolo da un unico fornitore – nel caso dell’intelligenza artificiale, essenzialmente da Nvidia – è soggetto alla coda di allocazione, al prezzo dettato da chi ha il monopolio pratico sul prodotto e alla roadmap tecnologica di un altro. Per un'azienda concorrente nel cloud computing, questo è un rischio strategico nella stessa categoria della dipendenza da un singolo cliente. Nessuno nel consiglio tollererebbe la seconda; il primo è diventato routine finché le grandi tecnologie non hanno deciso di schierarsi dalla parte della propria produzione.
Come ogni hyperscaler ha giocato questa mano
AWS Graviton è il caso più leggibile come decisione aziendale. Basato su ARM, Graviton4 offre significativi miglioramenti delle prestazioni per dollaro rispetto alle istanze x86 equivalenti su AWS stesso e AWS lo utilizza sia per ridurre i costi interni sia per offrire istanze più economiche ai clienti in migrazione. L'adozione è cresciuta perché la proposta di valore è quantificabile: esegui lo stesso carico di lavoro e paghi meno, oppure esegui di più allo stesso prezzo.
Google ha fatto la mossa più radicale con i TPU. L'unità di elaborazione tensore è stata progettata da zero per un carico di lavoro specifico: la moltiplicazione di matrici ad alta dimensione, che è l'operazione principale delle reti neurali. TPU v5p viene utilizzato sia per l'addestramento che per l'inferenza, profondamente integrato con TensorFlow e JAX. Il dettaglio rilevante per chiunque stia pensando di utilizzarlo: il TPU non esiste come hardware isolato. Accedi alla capacità tramite Google Cloud: l'adozione della TPU è una decisione della piattaforma, non solo una decisione di calcolo. La performance è legata all’obbligazione.
Apple è il caso più estremo di integrazione verticale e il più antico. Dall'M1, Apple ha controllato il chip, il sistema operativo, il compilatore e il software di sistema. La conseguenza pratica è che le ottimizzazioni che sarebbero impossibili in uno stack frammentato diventano routine: il chip conosce la cache, il sistema operativo conosce il chip, il compilatore conosce entrambi. L'M4 Ultra raggiunge le prestazioni del server in un fattore di forma desktop non per un singolo miracolo ingegneristico, ma perché ogni livello è progettato per gli altri.
Meta e Microsoft arrivarono più tardi con obiettivi più chirurgici. Il MTIA di Meta è stato progettato per ridurre la dipendenza da Nvidia specificatamente per i modelli di raccomandazione: miliardi di inferenze al giorno con uno standard sufficientemente stabile da giustificare silicio specializzato. Maia 100 di Microsoft copre formazione e inferenza su Azure, incluse alcune infrastrutture GitHub Copilot. In entrambi i casi, l’obiettivo non è sostituire completamente la GPU, ma ridurre la dipendenza laddove il carico prevedibile rende la specializzazione economicamente ovvia.
Il chip come fossato: perché è difficile da copiare
Ciò che rende il silicio personalizzato un vantaggio duraturo sono i costi e i tempi di replica. La progettazione di un chip competitivo richiede anni prima che il primo wafer lasci la fabbrica. La produzione su larga scala richiede rapporti con TSMC o Samsung che non siano costruiti trimestralmente. L’ecosistema software che ottiene il massimo dal chip richiede ancora più tempo. Chi ha iniziato nel 2016 – Google con il TPU, Apple con i suoi chip di transizione – si trova in una posizione che un concorrente che decide di iniziare domani non raggiungerà, nella migliore delle ipotesi, prima del 2030. Non è un vantaggio che può essere acquistato in un round di investimento o copiato in uno sprint di prodotto.
Per i fornitori di servizi cloud più piccoli, ciò crea un problema competitivo senza una soluzione ovvia. Puoi acquistare gli stessi chip Nvidia o AMD del concorrente, ma non puoi acquistare l'efficienza che Graviton offre ad AWS dopo anni di iterazione su vasta scala. Il divario performance-per-dollaro si allarga con ogni generazione – e non esiste alcuna scorciatoia.
Cosa cambia per chi usa il cloud, non per chi lo vende
Il cambiamento più rilevante per chi utilizza servizi cloud è che il benchmark delle prestazioni dell’istanza ha perso una dimensione. Confrontare vCPU e gigabyte di RAM tra provider come se l'hardware sottostante fosse equivalente è un'analisi incompleta. Le istanze AWS Graviton e le istanze AWS x86 equivalenti sono carichi di lavoro diversi su silicio diverso, con standard prestazionali che variano in base al tipo di applicazione.
Il secondo cambiamento è che il cloud lock-in ha ottenuto un livello hardware che non era nel contratto originale. Un'applicazione ottimizzata per TPU ha un costo di migrazione molto più elevato rispetto a un'applicazione su elaborazione generica. Questo non è un argomento per evitare chip specializzati – le prestazioni spesso lo giustificano – ma è un costo che deve essere incluso nell’analisi prima dell’adozione, non dopo.
La terza dimensione è che le differenze in termini di costi e prestazioni tra i fornitori aumenteranno. Graviton rende già alcuni carichi materialmente più economici su AWS rispetto alle alternative hardware standard. Man mano che ogni hyperscaler matura il proprio silicio, confrontare i cloud richiederà la comprensione di quale chip si trova dietro a quale carico di lavoro: una conoscenza tecnica che molte aziende oggi delegano all’integratore di turno, senza rendersi conto che stanno delegando anche la decisione al fornitore.
Leggi anche
- Chip di inferenza e ASIC: quando lo specializzato batte il generico
- Chip specializzati e la fine dell'era delle CPU generiche
- Edge computing: perché l'informatica lascia il cloud e si avvicina ai dati
- Geopolitica del silicio: perché la guerra dei chip è importante per chi decide in merito alla tecnologia
- Deduzione al limite: quando eseguire l'intelligenza artificiale sul dispositivo ha più senso che nel cloud
- Infrastrutture come vantaggio competitivo: cosa imparano le startup dalle grandi tecnologie