Le discours le plus confortable sur l’intelligence artificielle est qu’elle est immatérielle : algorithmes, données, probabilités. Ce qui n’apparaît pas dans ce récit, c’est le réseau électrique qui fait fonctionner tout. La formation GPT-4 a consommé à peu près la même quantité d’électricité que 1 000 foyers américains consomment en un an. L'inférence à grande échelle multiplie ce nombre. Lorsque vous placez l’IA au centre de votre architecture, vous prenez une décision énergétique, même si personne dans la pièce n’y pense.
Que signifie la consommation réelle d'un data center
Les centres de données modernes ne consomment pas seulement de l'énergie pour traiter les données. Ils le consomment pour refroidir le matériel qui traite ces données, maintenir la redondance de l'alimentation, exploiter les réseaux et entretenir des couches entières d'infrastructure de support. L’arrivée des GPU haute densité pour les charges de travail d’IA a poussé la demande de racks à des niveaux que de nombreux centres de données existants ne peuvent tout simplement pas physiquement satisfaire.
Un rack classique consomme entre 5 et 15 kilowatts. Les racks équipés de GPU pour l'IA atteignent 80 ou 100 kilowatts. Cela modifie la conception du bâtiment, le système de refroidissement et la capacité électrique souscrite. Il ne s'agit pas d'une mise à jour incrémentielle. C'est une infrastructure différente. Lorsque les grands fournisseurs de cloud annoncent de nouveaux centres de données, ils ne se contentent pas d'ajouter de la capacité informatique : ils négocient des contrats d'électricité à long terme avec les distributeurs et, dans certains cas, construisent leurs propres sous-stations.
Il y a aussi la question de l'eau. Le refroidissement liquide, nécessaire aux densités thermiques des clusters GPU modernes, consomme des volumes d'eau importants. Ce coût opérationnel apparaît rarement dans les discussions sur les coûts de l’IA, mais il commence à être réglementé dans les régions confrontées à une pénurie d’eau et à être inclus dans les calculs d’approbation environnementale pour les nouveaux projets.
Pourquoi cela apparaît-il dans les comptes cloud
Le coût de l’énergie n’est pas isolé dans le bilan des fournisseurs. Il est transmis aux clients, avec un certain décalage et une certaine opacité. Les instances GPU sont déjà nettement plus chères que les instances à usage général, et une partie importante de cette différence réside dans la puissance. À mesure que la demande de capacité d’IA augmente et que les fournisseurs se disputent des terrains offrant un accès à une énergie abondante et bon marché, la situation géographique du traitement commence à influencer le prix du service.
Cela a une implication directe pour les équipes qui prennent des décisions architecturales : appeler une API de grand modèle à haute fréquence n'est pas seulement un choix technique, c'est un choix de coût avec une composante énergétique intégrée. Les entreprises qui considèrent l’utilisation de l’IA comme gratuite ou comme un coût fixe seront surprises lorsque la facture du cloud reflète la croissance réelle de son utilisation, en particulier dans les produits à fort volume d’inférence.
Pression sur l'endroit où les centres de données sont construits
La disponibilité électrique devient un critère de localisation aussi important que la connectivité réseau. Les régions disposant d’une énergie abondante, bon marché et renouvelable sont devenues une destination privilégiée pour les nouveaux investissements dans les infrastructures d’IA. Les pays nordiques, qui combinent une hydroélectricité bon marché avec un climat naturel froid, attirent les centres de données depuis des années. Le Brésil, avec sa matrice électrique majoritairement renouvelable et sa capacité hydroélectrique importante, apparaît de plus en plus dans ces conversations stratégiques.
Le problème est que la disponibilité de l’énergie, la disponibilité des infrastructures de réseau et les talents techniques coïncident rarement au même endroit. La tension entre l’endroit où il est le moins cher d’opérer et l’endroit où il est logique d’être présent géographiquement crée des compromis qui étaient auparavant invisibles dans les décisions en matière d’infrastructures. Pour les entreprises opérant dans plusieurs régions, cette équation commence à influencer le fournisseur de cloud à utiliser pour chaque charge de travail, non seulement en raison de la latence ou de la conformité des données, mais aussi en raison des coûts énergétiques différentiels entre les zones.
La réponse technique : des modèles plus petits et une inférence efficace
L’industrie n’attend pas que le réseau électrique résolve le problème. Toute une ligne de recherche et développement est axée sur la réduction du coût énergétique par tâche utile effectuée. Des techniques telles que la quantification, la distillation de modèles et des architectures plus efficaces telles que les modèles de mélanges experts nous permettent d'offrir des performances comparables pour une fraction de la consommation d'énergie des modèles denses plus grands.
Pour ceux qui décident de l'infrastructure, cela ouvre un véritable choix stratégique : utiliser le modèle le plus performant disponible pour tout, ou sélectionner le modèle le plus efficace qui répond au cas d'utilisation spécifique. La deuxième option n’est pas seulement moins chère. Dans le cadre d’une production à grand volume, cela peut faire la différence entre une architecture financièrement viable et une architecture qui résout le problème d’utilisation. Les modèles bien réglés à 7 milliards de paramètres pour des tâches spécifiques surpassent souvent les modèles à usage général beaucoup plus grands pour le travail qui compte vraiment.
Que faut-il mettre maintenant dans la planification des infrastructures
Trois variables méritent d’être explicitement incluses dans les décisions architecturales de toute équipe utilisant l’IA en production. Le premier est le coût par déduction, mappé sur l’utilisation réelle et non sur des estimations optimistes. La seconde est l’empreinte énergétique des modèles choisis, qui commence à apparaître dans les rapports de développement durable des entreprises et dans les exigences de certains clients et régulateurs. La troisième est l'architecture de repli : lorsque le modèle le plus lourd peut être remplacé par un modèle plus léger sans perte notable de qualité pour l'utilisateur final.
Ignorer ces variables ne protège personne du compte. Cela se manifeste de différentes manières : dans le coût direct de l'API, dans la pression ESG, dans les négociations contractuelles avec de gros clients qui s'interrogent sur les émissions de carbone, ou simplement dans l'impossibilité de faire évoluer un produit lorsque le coût d'inférence augmente plus vite que les revenus. Les équipes qui ajoutent ces trois variables au processus de prise de décision architecturale bénéficient aujourd’hui d’une marge de manœuvre qui sera rare lorsque la pression réglementaire et concurrentielle sur le sujet s’intensifiera. Traiter l’énergie comme un détail technique est une erreur de planification et non un problème technique.
A lire aussi
- L'énergie, le nouveau pétrole de l'IA : celui qui contrôle la ressource contrôle l'ère
- Datacenters durables : le coût environnemental devenu un enjeu public
- IA Énergie et souveraineté : ce que les gouvernements doivent planifier maintenant
- Electrification : ce qui change quand tout commence à s'allumer sur prise
- Infrastructure durable pour les centres de données d'IA : défis et meilleures pratiques
- Énergie : le goulot d'étranglement que personne n'a mis sur la feuille de route informatique