Jahrzehntelang wurde die CPU als generische Ressource behandelt: Man erhöhte die Frequenz, fügte Kerne hinzu und Verarbeitungsprobleme lösten sich einfach von selbst. Diese Bequemlichkeit hat eine gefährliche intellektuelle Sucht geschaffen. Technologieführer begannen, Hardware als strategische Variable zu ignorieren und delegierten die Entscheidung an Infrastrukturteams, die kauften, was im Katalog enthalten war. Dies war eine akzeptable Vereinfachung in einer Welt, in der geschäftliche Arbeitslasten – Berichte, Transaktionen, Webseiten – ähnliche Rechenprofile hatten. Dieses Modell funktionierte, solange die Arbeitsbelastung relativ homogen war. Mit generativer KI, groß angelegter Inferenz und eingebettetem Computing ist es endgültig kaputt. Hardware ist wieder einmal eine Entscheidung mit echten Konsequenzen.
Warum die CPU ihre führende Rolle verlor
Die CPU ist auf Vielseitigkeit ausgelegt. Es führt sequentielle Anweisungen mit viel Steuerlogik, ausgefeilten Caches und Sprungvorhersagemechanismen aus. Für eine Transaktionsdatenbank oder einen Webserver ist dies genau das, was Sie brauchen. Ein neuronales Netzwerk mit Milliarden von Parametern zu trainieren ist eine enorme Verschwendung. Der größte Teil des Siliziums ist mit Logik belegt, die bei dieser Art von Last nie aktiviert wird.
Das Kernproblem besteht darin, dass sich maschinelle Lernvorgänge mathematisch wiederholen. Matrixmultiplikationen, Faltungen, Aktivierungsoperationen: All dies profitiert von massiver Parallelität, nicht von Flexibilität. Die GPU war die erste, die dies ausnutzte, indem sie Tausende einfacher Kerne zusammenarbeitete. Aber auch die GPU ist ein Kompromiss, ursprünglich für Grafik konzipiert und für KI angepasst. Das Ergebnis ist leistungsfähige Hardware, die jedoch bei Energie- und Kosteneffizienz immer noch Raum für etwas Spezialisierteres lässt.
Was TPU, NPU und ASIC anders machen
Die von Google entwickelte TPU wurde speziell für groß angelegte lineare Algebra-Operationen entwickelt. Er versucht nicht, ein KI-fähiger Allzweckprozessor zu sein: Er kann eines sehr gut, nämlich die Tensoroperationen ausführen, die TensorFlow und neuerdings auch JAX-Modellen zugrunde liegen. Die Kosten pro Vorgang sinken dramatisch, wenn die Hardware nicht über das Gewicht von Funktionen verfügt, die in diesem Zusammenhang niemals genutzt werden.
Die NPU wiederum spielt ein anderes Spiel. Anstatt Modelle in der Cloud zu trainieren, werden Inferenzen direkt auf dem Gerät ausgeführt, sei es ein Smartphone, ein Industriesensor oder ein selbstfahrendes Auto. Apple integriert seit 2017 NPUs in Chips der A-Serie und die Ergebnisse sind sichtbar: Gesichtserkennung, Echtzeitübersetzung und lokale Textgenerierung, die nicht auf eine Verbindung zu Servern angewiesen sind. Qualcomm und MediaTek sind mit ihren SoCs nachgezogen. Was wie eine ferne Zukunft schien, ist bei Premium-Telefonen zum Standard geworden und dringt schnell in den Mittelklassemarkt vor.
ASIC repräsentiert das Extrem der Spezialisierung. Sie entwerfen einen Chip, um ein bestimmtes Problem und nur dieses Problem zu lösen, mit maximaler Effizienz und sehr niedrigen Grenzkosten in der Massenproduktion. Bitcoin-Miner waren die ersten, die das Ausmaß dieser Argumentation demonstrierten. Heutzutage bauen Unternehmen wie Groq und Cerebras ASICs für LLM-Inferenz mit Latenz und Kosten pro Token, mit denen Allzweck-GPUs bei gleichem Leistungsumfang einfach nicht mithalten können.
Das FPGA als Zwischenpunkt, den nur wenige berücksichtigen
Zwischen dem ASIC und der GPU gibt es ein Gebiet, das von Produktteams wenig erforscht wird: das FPGA. Der programmierbare Bereich der Logikgatter ermöglicht die Neukonfiguration der Hardware nach der Herstellung, wodurch das Risiko eliminiert wird, sich auf ein festes Design zu verlassen, bevor das Produkt ausgereift ist. Microsoft verwendet FPGAs auf Azure-Servern zur Netzwerkbeschleunigung und modellspezifischen Inferenz. Intel hat Altera genau deshalb gekauft, um diesen Markt zu erobern.
Für Produkte, die eine individuelle Beschleunigung benötigen, aber noch nicht über genügend Volumen verfügen, um einen eigenen ASIC zu rechtfertigen, bietet das FPGA einen intelligenten Mittelweg. Die Kosten pro Einheit sind höher als bei einem Volumen-ASIC, aber das Entwicklungsrisiko ist drastisch geringer. Teams, die diese Option ignorieren, neigen dazu, einen von zwei Fehlern zu begehen: Sie bleiben aus Konservatismus bei der CPU hängen oder sie setzen zu früh auf ASIC und müssen das Design überarbeiten, wenn sich das Produkt ändert. Mit dem FPGA gewinnen Sie Zeit zum Lernen, ohne die Investition zu verschwenden.
Die Chip-Entscheidung als Produktentscheidung
Hier ist der Punkt, den die meisten Unternehmen noch nicht verinnerlicht haben: Die Wahl der Hardware ist nicht mehr ausschließlich eine Infrastrukturentscheidung und hat sich zu einer Produktvariable mit direktem Einfluss auf Kosten, Latenz, Datenschutz und Benutzererfahrung entwickelt. Die Siliziumschicht ist wieder wichtig, und wenn Sie sie ignorieren, geben Sie einen Vorteil an Ihren Konkurrenten ab.
Wenn Sie sich dafür entscheiden, KI-Inferenz auf Ihrem Gerät statt in der Cloud auszuführen, entscheiden Sie sich für Datenschutz, keine Latenz und Offline-Betrieb. Dies ist keine technische Präferenz. Es ist ein Produktversprechen. Und es kommt auf eine adäquate NPU auf der Zielhardware an. Wenn Ihre Zielgruppe Geräte mit Chips verwendet, die über keine effiziente NPU verfügen, wird das Produkterlebnis schlecht sein, unabhängig davon, wie gut das Modell ist.
Ebenso geht es bei der Entscheidung, die proprietären TPUs von Google Cloud gegenüber den GPUs von NVIDIA und nicht um ASICs wie die von Groq zu verwenden, nicht nur um den Preis pro Rechenstunde. Es geht um die Antwortlatenz, um die Fähigkeit, Nachfragespitzen zu skalieren, um die Kosten pro Abfrage, die Ihr Geschäftsmodell unterstützen muss. Produktteams, die diese Entscheidung vollständig der Infrastruktur überlassen, lagern in der Praxis eine zentrale Wettbewerbsvariable aus.
Die richtige strategische Frage lautet nicht mehr: „Wie viele GPUs brauchen wir?“ und lautete: „Welche Chip-Geometrie eignet sich am besten für diese spezifische Arbeitslast, in diesem Bereitstellungskontext, mit diesem Kosten- und Latenzrahmen?“ Bei dieser Frage müssen Produkt, Technik und Infrastruktur an einem Tisch sitzen. Unternehmen, die Hardware immer noch als Beschaffungsdetail betrachten, werden dies auf die harte Tour erfahren, wenn ein Wettbewerber die gleiche Funktionalität zu einem Drittel der Betriebskosten liefert, weil sie diese Entscheidung bewusst getroffen haben.
Lesen Sie auch
- Inferenzchips und ASIC: wenn das Spezialisierte das Generische schlägt
- Die neue Generation von Chips: GPU, NPU, ASIC und RISC-V für diejenigen, die sich entscheiden
- KI-PCs und NPU: Was ändert sich, wenn das Gerät KI-Beschleuniger erhält
- Neuromorphes und bioinspiriertes Computing: Wenn der Chip beginnt, vom Gehirn zu lernen
- Wie man ein Geschäftsszenario für KI in Industriebetrieben erstellt
- KI-Energie und Souveränität: Was Regierungen jetzt planen müssen