Die neue Chipgeneration: GPU, NPU, ASIC und RISC-V für Entscheider

Ein Jahrzehnt lang war Hardware etwas, das die meisten Technologieführer mental auslagern konnten. Sie haben sich für eine Cloud entschieden, weitere Maschinen bestellt und die Rechnung bezahlt. Die physische Ebene war Abstraktion, und Abstraktion ist genau das, was ein Manager will: nicht über das Problem nachdenken.

Diese Pause ist vorbei. Die Kosten für den Betrieb künstlicher Intelligenz verwandelten die Art des Chips in eine Geschäftsentscheidung, mit direkter Auswirkung auf Marge, Latenz und Lieferantenabhängigkeit. Das Gespräch über GPU, NPU, ASIC und RISC-V hat die Technik verlassen und den Produktausschuss erreicht, auch wenn es immer noch eine Sprache spricht, die nur wenige im Ausschuss verstehen.

Dieser Artikel übersetzt diese Sprache. Nicht, damit Sie Silizium entwerfen können, sondern damit Sie erkennen können, wann eine Hardware-Auswahl tatsächlich die Obergrenze für eine Strategie festlegt.

Warum die Hardware in die Mitte zurückgekehrt ist

Die kurze Erklärung: Software ist in einer Weise hungrig geworden, mit der Allzweckprozessoren nicht mehr gut mithalten können.

KI-Modelle führen eine Art sich wiederholender und umfangreicher Berechnung, die Matrixmultiplikation, in einem Umfang durch, der nicht bequem auf eine gewöhnliche CPU passt. Wenn sich die Arbeitslast in der Natur ändert, wird die generische Hardware zum Engpass. Und Hardware-Engpässe können nicht mit intelligenterem Code gelöst werden, sondern mit einem anderen Chip.

Hinzu kommt die Wirtschaft. Die Ausbildung und Betreuung von Modellen verbraucht Energie in einem Ausmaß, das in der Rechnung und Nachhaltigkeitsbilanz ausgewiesen wird. Jedes pro Abfrage eingesparte Watt wird zur Marge, wenn Sie es mit Millionen von Anfragen multiplizieren. Hardware ist kein unsichtbarer Fixkostenfaktor mehr, sondern ein variabler Kostenhebel, und alles, was sich auf die variablen Kosten auswirkt, wird zur Agenda derjenigen, die entscheiden.

Die praktische Konsequenz: Unternehmen, die Chips als austauschbare Ware behandeln, zahlen mehr oder liefern langsamer als Konkurrenten, die sich bewusst dafür entschieden haben.

GPU: das flexible Arbeitstier

Die GPU (Grafikverarbeitungseinheit) wurde für Spiele und Rendering entwickelt und löste durch einen glücklichen Zufall das KI-Problem, bevor KI in Mode kam. Es führt parallel eine Menge Mathematik durch, was genau das ist, was das Training eines neuronalen Netzwerks erfordert.

Der Vorteil der GPU ist Flexibilität. Es führt nahezu jede KI-Nutzlast aus, vom Training bis zur Inferenz, von Computer Vision bis hin zu Sprachmodellen. Wenn Sie noch nicht wissen, wie hoch Ihre Hauptlast sein wird, ist die GPU die sichere Wahl, da sie in jedem Szenario nur wenige Fehler macht.

Die Kosten dieser Flexibilität treten an zwei Stellen auf: Preis und Energie. High-End-GPUs sind teuer, hart umkämpft und verbrauchen viel. Sie zahlen für die allgemeine Kapazität, auch wenn Ihre Auslastung spezifisch und vorhersehbar ist. Für den Leiter ist die mentale Regel einfach: GPU ist das, was Sie verwenden, wenn Sie noch lernen, was Sie brauchen, oder wenn die Vielfalt der Lasten es rechtfertigt, sich nicht zu spezialisieren.

NPU: der Beschleuniger, der auf dem Gerät lebt

Die NPU (Neuronale Verarbeitungseinheit) ist ein Chip, der für eine begrenzte Aufgabe entwickelt wurde: die Ausführung von KI-Inferenz bei geringem Stromverbrauch. Es trainiert keine riesigen Modelle, sondern führt vorgefertigte Modelle effizient aus und taucht deshalb in Notebooks und Mobiltelefonen auf.

Die Änderung, die NPU ermöglicht, ist lokale Inferenz. Anstatt alle Benutzerdaten an einen Server zu senden, zu verarbeiten und zurückzusenden, findet ein Teil der Arbeit auf dem Gerät selbst statt. Dadurch ändern sich drei Dinge, die ein Manager versteht, ohne dass er ein Diagramm benötigt: Latenz (sofortige Antwort), Datenschutz (Daten werden nicht übertragen) und Kosten (Sie bezahlen die Cloud nicht für diese Abfrage).

Die NPU ist der Motor hinter der Welle von KI-PCs und -Apps, die sich selbst als NPU-first bezeichnen und von Anfang an für die Ausführung auf dem Gerät konzipiert sind. Für das Produkt eröffnet es eine Kategorie von Funktionalitäten, die bisher zu teuer oder zu langsam waren, um zu existieren. Es lohnt sich, tiefer in die lokale KI auf Gerät einzutauchen, denn die Entscheidung darüber, wo Inferenz stattfindet, ist strategischer Natur und nicht technischer Natur.

ASIC: spezialisieren, um Kosten und Energie zu sparen

Der ASIC (anwendungsspezifischer integrierter Schaltkreis) ist philosophisch das Gegenteil der GPU. Anstatt für alles verwendet zu werden, ist er darauf ausgelegt, eine Sache zu tun, und zwar mit einer Effizienz, die kein generischer Chip erreichen kann.

Der Austausch erfolgt direkt. Sie verzichten auf Flexibilität und erzielen deutlich geringere Kosten pro Vorgang und Stromverbrauch für die spezifische Last, die der Chip bedient. Bei maßstabsgetreuer Inferenz, bei der Sie denselben Modelltyp milliardenfach ausführen, wird diese Spezialisierung zu einem wirtschaftlichen Vorteil, der sich summiert.

Der Eintrittspreis ist hoch. Das Entwerfen eines ASIC ist teuer und zeitaufwändig, und der Chip bleibt bei der Geburt stecken: Wenn sich seine Last ändert, kann das Silizium nicht mithalten. Deshalb macht ASIC nur dann Sinn, wenn das Volumen groß und die Last stabil ist. Es ist die Entscheidung derjenigen, die bereits genau wissen, was und in welchem Umfang gedreht wird.

RISC-V: Offene Architektur vom Rand

RISC-V ist kein Chip, sondern eine Spezifikation dafür, wie der Chip mit der Software kommuniziert, eine ISA (Befehlssatzarchitektur). Der entscheidende Unterschied: Es ist offen. Jeder kann es nutzen, modifizieren und herstellen, ohne dem Eigentümer eine Lizenz zu zahlen.

Dies scheint eine Formsache zu sein und ist in Wirklichkeit eine Frage der Macht. Geschlossene Architekturen konzentrieren die Abhängigkeit auf eine Handvoll Lieferanten, die Lizenzgebühren verlangen und die Roadmap diktieren. Eine offene ISA verteilt diese Kontrolle neu: Sie senkt die Lizenzkosten, ermöglicht umfassende Anpassungen und gibt denjenigen Souveränität, die nicht von einer Kette, die sie nicht kontrollieren, als Geisel gehalten werden wollen.

RISC-V macht zunächst am Rand und im IoT Fortschritte, wo Chips einfacher sind und die Kostensensitivität hoch ist. Da reicht Reife. Bei schweren und allgemeinen Belastungen befindet sich das Ökosystem noch im Aufbau. Tools, Support, Software und die Reife des Ökosystems können nicht freiwillig gekauft werden, sie werden im Laufe der Zeit aufgebaut.

Wie der Leiter dieses Forum liest

Die Versuchung besteht darin, einen Gewinner anzufeuern. Das eigentliche Board ist ein Board der Koexistenz, und die Verantwortung desjenigen, der entscheidet, besteht darin, die Last auf den richtigen Chip abzustimmen.

GPU für das, was noch ungewiss oder unterschiedlich ist. NPU für Rückschlüsse auf dem Gerät, nah am Benutzer. ASIC für maßstabsgetreue Inferenz mit stabiler Last. RISC-V für den Rand und zur Reduzierung der Abhängigkeit dort, wo die Reife es bereits zulässt. Maßgeschneidertes Silikon ist ein Thema, das ein eigenes Kapitel verdient, wenn Sie in einem Maßstab arbeiten, der die Entwicklung Ihres eigenen Silikons rechtfertigt.

Die richtige Frage ist nicht, welcher Chip besser ist. Es kommt darauf an, was Ihre dominante Last ist, wie stabil sie ist und wie stark Latenz, Leistung und Anbieterabhängigkeit Ihr Geschäftsmodell belasten. Die Antwort darauf ist Silizium und nicht umgekehrt. Und der Gewinn an Energieeffizienz in IA resultiert in der Regel eher aus der Wahl der Hardware als aus einer nachfolgenden Codeoptimierung.

Wenn Sie technologisch führend sind und Chips immer noch als Infrastrukturlinie betrachten, lohnt es sich, diese Entscheidung noch einen Schritt weiter zu gehen. Hardware ist wieder zur Strategie geworden, und eine durch Trägheit delegierte Strategie ist eine verlorene Strategie.