La nouvelle génération de puces : GPU, NPU, ASIC et RISC-V pour ceux qui décident

Pendant une décennie, le matériel était quelque chose que la plupart des leaders technologiques pouvaient mentalement sous-traiter. Vous avez choisi un cloud, commandé plus de machines et payé la facture. La couche physique était une abstraction, et l’abstraction est exactement ce que souhaite un manager : ne pas penser au problème.

Cette pause est terminée. Le coût de fonctionnement de l’intelligence artificielle a transformé le type de puce en une décision commerciale, avec un impact direct sur la marge, la latence et la dépendance aux fournisseurs. La conversation sur les GPU, NPU, ASIC et RISC-V a quitté l'ingénierie et atteint le comité produit, même si elle parle encore un langage que peu de membres du comité comprennent.

Cet article traduit cette langue. Non pas pour que vous puissiez concevoir du silicium, mais pour que vous puissiez reconnaître quand un choix matériel fixe réellement le plafond d'une stratégie.

Pourquoi le matériel est revenu au centre

La brève explication : les logiciels sont devenus si gourmands que les processeurs à usage général ne peuvent plus suivre le rythme.

Les modèles d’IA effectuent un type de calcul répétitif et massif, la multiplication matricielle, dans un volume qui ne tient pas confortablement sur un processeur commun. Lorsque la nature de la charge de travail change, le matériel qui était auparavant générique devient un goulot d'étranglement. Et les goulots d'étranglement matériels ne peuvent pas être résolus avec un code plus intelligent, ils peuvent être résolus avec une puce différente.

Ajoutez à cela l’économie. La formation et le service des modèles consomment de l'énergie à une échelle qui apparaît sur la facture et le bilan de durabilité. Chaque watt économisé par requête devient une marge lorsque vous le multipliez par des millions de requêtes. Le matériel n’est plus un coût fixe invisible mais est devenu un levier de coûts variables, et tout ce qui affecte les coûts variables devient l’agenda de ceux qui décident.

Conséquence pratique : les entreprises qui considèrent les puces comme un produit interchangeable paient plus ou livrent plus lentement que leurs concurrents qui ont fait un choix conscient.

GPU : le bourreau de travail flexible

Le GPU (unité de traitement graphique) est né pour les jeux et le rendu, et par un heureux hasard, il a résolu le problème de l'IA avant que l'IA ne devienne à la mode. Il effectue beaucoup de mathématiques en parallèle, ce qui correspond exactement à la formation d’un réseau neuronal.

La vertu du GPU est la flexibilité. Il exécute presque toutes les charges utiles d'IA, de la formation à l'inférence, de la vision par ordinateur aux modèles de langage. Si vous ne savez pas encore quelle sera votre charge dominante, le GPU est la valeur sûre car il fait peu d'erreurs dans tous les scénarios.

Le coût de cette flexibilité apparaît à deux endroits : le prix et l'énergie. Les GPU haut de gamme sont chers, âprement disputés et consomment beaucoup. Vous payez pour une capacité générique même lorsque votre charge est spécifique et prévisible. Pour le leader, la règle mentale est simple : le GPU est ce que vous utilisez lorsque vous êtes encore en train d'apprendre ce dont vous avez besoin, ou lorsque la variété des charges justifie de ne pas vous spécialiser.

NPU : l'accélérateur qui réside sur l'appareil

Le NPU (unité de traitement neuronal) est une puce conçue pour une tâche précise : exécuter l'inférence de l'IA à faible consommation. Il ne forme pas de modèles géants, il exécute efficacement des modèles prêts à l'emploi, et c'est pourquoi il apparaît dans les ordinateurs portables et les téléphones portables.

Le changement permis par NPU est l’inférence locale. Au lieu d’envoyer toutes les données utilisateur à un serveur, de les traiter et de les renvoyer, une partie du travail se déroule sur l’appareil lui-même. Cela change trois choses qu'un responsable comprend sans avoir besoin d'un diagramme : la latence (réponse instantanée), la confidentialité (les données ne voyagent pas) et le coût (vous ne payez pas le cloud pour cette requête).

Le NPU est le moteur derrière la vague de PC et d’applications IA qui se décrivent comme étant NPU-first, conçus dès le début pour fonctionner sur l’appareil. Pour le produit, cela ouvre une catégorie de fonctionnalités qui étaient auparavant trop coûteuses ou trop lentes à exister. Cela vaut la peine d'approfondir l'IA locale sur l'appareil, car la décision quant à l'endroit où l'inférence se produit est stratégique avant d'être technique.

ASIC : se spécialiser pour gagner en coût et en énergie

L’ASIC (Application Specific Integrated Circuit) est à l’opposé du GPU en philosophie. Au lieu d’être utilisé pour tout, il est conçu pour faire une chose, et ce avec une efficacité qu’aucune puce générique ne peut atteindre.

L'échange est direct. Vous renoncez à la flexibilité et obtenez un coût par opération et une consommation d'énergie bien inférieurs pour la charge spécifique servie par la puce. Pour l’inférence à grande échelle, où vous exécutez le même type de modèle des milliards de fois, cette spécialisation devient un avantage économique qui s’accumule.

Le prix d'entrée est élevé. Concevoir un ASIC est coûteux et prend du temps, et la puce naît bloquée : si sa charge change, le silicium ne suivra pas. C'est pourquoi l'ASIC n'a de sens que lorsque le volume est important et que la charge est stable. C’est la décision de ceux qui savent déjà exactement ce qui sera abattu et à quelle échelle.

RISC-V : une architecture ouverte venue de la périphérie

RISC-V n'est pas une puce, c'est une spécification de la façon dont la puce communique avec le logiciel, une ISA (architecture de jeu d'instructions). La différence qui compte : c’est ouvert. N’importe qui peut l’utiliser, le modifier et le fabriquer sans payer de licence à son propriétaire.

Cela semble être un détail technique et c’est en fait une question de pouvoir. Les architectures fermées concentrent la dépendance à l'égard d'une poignée de fournisseurs qui facturent des redevances et dictent la feuille de route. Un ISA ouvert redistribue ce contrôle : il réduit les coûts de licence, permet une personnalisation approfondie et donne la souveraineté à ceux qui ne veulent pas être pris en otage par une chaîne qu'ils ne contrôlent pas.

RISC-V progresse d'abord à la périphérie et dans l'IoT, où les puces sont plus simples et la sensibilité aux coûts est élevée. Là, la maturité suffit. Dans les charges lourdes et polyvalentes, l'écosystème est encore en formation. Les outils, le support, les logiciels et la maturité de l'écosystème ne peuvent pas être achetés volontairement, ils se construisent au fil du temps.

Comment le leader lit ce tableau

La tentation est de rechercher un gagnant. Le véritable tableau est celui de la coexistence, et la responsabilité de celui qui décide est de faire correspondre la charge à la bonne puce.

GPU pour ce qui est encore incertain ou varié. NPU pour l'inférence sur l'appareil, proche de l'utilisateur. ASIC pour l'inférence à grande échelle avec une charge stable. RISC-V pour la périphérie et pour réduire la dépendance là où la maturité le permet déjà. Du silicone sur mesure, quand on opère à une échelle qui justifie de concevoir la vôtre, un sujet qui mérite un chapitre à part.

La bonne question n’est pas de savoir quelle puce est la meilleure. Il s'agit de déterminer votre charge dominante, sa stabilité et le poids de la latence, de la puissance et de la dépendance vis-à-vis du fournisseur sur votre modèle économique. La réponse à cette question choisit le silicium, et non l'inverse. Et le gain en efficacité énergétique dans IA provient généralement davantage du choix du matériel que de toute optimisation ultérieure du code.

Si vous êtes à la pointe de la technologie et que vous traitez toujours les puces comme une ligne d'infrastructure, cela vaut la peine de prendre cette décision d'un cran. Le matériel est redevenu une stratégie, et une stratégie déléguée par l’inertie est une stratégie perdue.