几十年来,组织计算的问题是可以预测的:芯片上有多少个晶体管,以及它们的速度有多快。整个行业都围绕原始性能展开。谁每秒执行的操作最多,谁就赢得了对话。
这个问题已经过时了。新的限制并不在于处理器设计或模型的优雅程度。它在插座里。组织一切的问题是不同的:能源从哪里来,成本是多少,以及保证多长时间。
对于那些决定技术的人来说,这改变了规划词汇。瓦特不再是基础设施的细节,而是与人才、预算和期限一样的战略变量。
筹码不再是最严格的限制
曾经有一段时间,瓶颈显然是硅。计算能力不足,每一次跨越都解决一个特定的问题。
如今,尖端硅已经存在,并且已经批量生产,并且可供那些有能力购买的人使用。缺少的不是组件,而是为其提供动力的环境。现代训练集群消耗的电力相当于一个小城市的电力消耗,而这笔费用在地图上的任何地方都找不到。
该模型也不再是孤立的限制。架构已经先进,训练技术已经成熟,社区已经学会从每个参数中提取很多东西。知识存在。实际上,阻碍进展的是需要支持大规模运行的物理基础设施。
当瓶颈从组件转移到环境时,问题就不再是产品工程之一,而是成为地域工程、电网工程和长期合同工程之一。
AI将消费变成赛车
训练大型模型的能源成本已经很高。改变问题规模的是推理,即数百万人同时持续使用这些模型。
训练是循环进行的。推理一直在发生。回答每个问题、生成每个图像、生成每个摘要都会消耗电力,而这些总和一天二十四小时都在运行。
这引发了一场远远超出软件范围的竞赛。公司争夺芯片的使用权,但他们也争夺电力供应合同、变电站附近的土地和传输能力。如今,人工智能人才的争夺与兆瓦电量的争夺并存。
城市开始感受到这种压力。大型数据中心与当地居民争夺能源和冷却水,这已经引发了公众的紧张情绪、许可证审查以及有关使用优先级的争论。联合国呼吁人工智能公司提高环境透明度,这表明该账户不再是内部账户,而是已成为公共政策问题。
对于领导者来说,后果是直接的:人工智能项目的可行性不再仅由实验室决定。它还决定项目所在区域的电气地图。
当瓦特成为规划单位时
衡量结果的方式正在悄然发生变化。之前,我们通过速度来比较系统。现在,在做出决定时重要的指标是每瓦特提供的功率。
两个系统可能具有相似的性能和截然不同的电力成本。从规模上来说,这种差异决定了谁有利润,谁在亏损。最高效的系统并不是纸面上最优雅的系统,而是每消耗单位能量产生最多结果的系统。
这重新定位了看似纯粹技术性的决策。选择一个较小的模型来解决问题,而不是最大的可用模型,就不再是琐碎的经济学,而是成为一门工程学科。选择在哪里存放货物不再是一个操作细节,而是一个首要的财务决策。
对于经理来说,读起来很清楚。任何将能源视为发票上出现的固定成本的人都晚了。那些将能源视为项目约束并从一开始就进行计划的人可以获得可预测性,并避免出现意外情况,以免在准备就绪后导致操作变得不可行。
这对领导者有何要求
第一个变化是地平线。能源合同和网络容量是按年规划的,而不是按季度规划的。今天,无论谁决定 2028 年的人工智能基础设施,都需要以建造工厂的人的思维来思考,而不是以每月租用服务器的人的思维来思考。
第二个变化是供应商。与能源公用事业公司、数据中心运营商和云提供商的关系现在具有战略重要性。了解能源来源、锁定价格和供应保证成为尽职调查的一部分,而不是合同的脚注。
第三个变化是团队。在决策者身边,值得拥有一个了解电力负载和效率而不仅仅是算法的人。此配置文件仍然很少见,因此很有价值。将人工智能能力与物理基础设施能力相结合的团队可以做出更好、更便宜的决策。
在公共部门,推理是相同的,但有额外的分量。投资数字化和人工智能支持服务的市政当局需要确保支持这一服务的能源可靠且预算可持续。如果没有这个基础,服务就会承诺连续性和间歇性的交付,从而削弱人们的信任。
接下来的对话不是关于速度的
该行业花费了数年时间来优化性能。下一个周期将优化效率和供应保证。不是因为性能不再重要,而是因为它不再是稀缺资源。
谁控制了廉价而丰富的能源,谁就控制了利润、扩张的速度,并最终控制了谁可以大规模运营人工智能,谁不能。精力已经成为区分意图和执行的因素。
下一阶段的竞争优势并不属于在演示中拥有最令人印象深刻的模型的人。它属于那些能够以可预测的方式保持连接并以结账的成本的人。这就是瓶颈,而且已经到了。
如果你领导技术或预算,那么在危机出现之前就值得在路线图上投入精力。查看您的 AI 有效负载所在的位置、它们的消耗量以及支持它们的电源的安全性。
另请阅读
- [人工智能能源与主权:政府现在需要规划什么0
- [人工智能能源危机:数据中心消耗对基础设施决策者意味着什么1
- 【能源,人工智能新石油:谁掌握了资源,谁就掌握了时代2
- [电气化:当一切都开始打开插座时会发生什么变化3?
- [自主计算:当系统在你注意到错误之前自行纠正时4
- 【人工智能时代的人类策展:稀缺性已改变位置5
