大多数关于人工智能未来的讨论都集中在同一个瓶颈上:能源。训练一个大型语言模型消耗的电力足够一个小城市使用几天。大规模运行推理并没有太大不同。与此同时,人脑处理复杂的语言、视觉和决策模式时的功耗约为 20 瓦——比白炽灯泡还少。这种差异并非出于学术好奇心,而是出于学术好奇心。是五金行业面临的最重要的工程问题。
神经形态计算是解决这个问题最重要的赌注之一。并不是因为它将取代运行当前模型的 GPU,而是因为它解决了不同类别的问题,其效率是冯·诺依曼架构(自 20 世纪 40 年代以来几乎控制着每台计算机的架构)无法达到的。
大脑与 GPU 有何不同
GPU 以密集且同步的方式进行处理:所有核心并行工作,时钟连续脉冲,无论是否发生有用的计算,都会消耗能量。这对于批量线性代数来说非常有用——这正是深度神经网络在训练过程中所做的事情。
大脑以完全不同的方式工作。神经元响应事件而不是时钟周期而放电。大多数时候,大多数神经元都是沉默的。当刺激到来时,只有相关的子集被激活——稀疏、异步,并且能量消耗与完成的工作成正比,而不是与流逝的时间成正比。
神经形态芯片试图在硅中重现这种架构。例如,英特尔 Loihi 2 实现了行为类似的人工神经元和突触:基于事件的触发、同一元素中的本地内存处理和计算、仅在有活动时才消耗能量。 IBM TrueNorth 遵循类似的原理,有 4096 个神经形态核心,运行功耗为几毫瓦。它们不是传统意义上的快速芯片;它们是 CPU 和 GPU 所不具备的高效芯片。
这项技术在今天的意义何在
在现实世界中,神经形态芯片现在在边缘连续传感问题上的性能优于 GPU,并且具有低延迟和最低功耗。
想想需要实时检测数据流中的异常情况而不将所有内容发送到云端的工业传感器。或者需要使用小电池连续数月识别音频或振动模式的物联网设备。或者嵌入无人机中的视觉系统需要在附近没有电源线的情况下在几毫秒内做出反应。在这些场景中,能源效率是决定生存能力的变量,而神经形态架构的优势是随着每一代芯片的发展而提高。
目前,这些芯片做得不好的是训练大型模型或运行密集语言推理。在这方面,GPU 仍然占据主导地位。该类别是互补的,而不是替代的。
DNA 计算和生物前沿
除了硅之外,还有一个更激进的前沿:使用生物分子作为计算基底。 DNA 计算不是一个隐喻——它是用 DNA 链进行字面计算,其中数据以碱基序列编码,分子反应执行逻辑运算。
其动机是荒谬的存储密度:理论上,一克 DNA 可以存储 EB 数据。耐用性:从数万年前的样本中回收了完整的 DNA。微软和其他公司已经展示了合成 DNA 中的功能性数据存储和检索。它还不是产品,但已经是一个先进的实验室。
基于分子电路和忆阻器(将内存和处理结合在同一物理元件中的组件)的模拟计算也在以相应的速度发展。出现的模式是,控制所有传统架构的数据存储位置和处理位置之间的严格划分开始在物理层面受到质疑。
领导者应该如何看待这个问题
这里最容易犯的战略错误就是将神经形态计算视为一种研究好奇心,这种研究兴趣在十年内才会发挥作用。运营相关性的范围比看起来要短,尤其是对于在边缘、制造、物流、医疗保健或嵌入式传感器和设备做出本地决策的任何领域开展业务的公司而言。
现在采用神经形态并不是重点。这项工作是为了了解等式何时会根据您的用例发生变化。如果您付费购买云推理来处理传感器可以使用专用芯片在本地分析的数据,那么有关能源效率和延迟的讨论就已经很重要了。如果您正在为能源消耗和连接成本受到真正限制的市场开发产品(在巴西,这是工业和农业市场的很大一部分),那么这项技术进入雷达的速度比您想象的要早。
今天,领导者必须做的是在不影响生产预算的情况下维持有关该行业的情报渠道。了解英特尔、IBM 以及 BrainChip 和 Innatera 等初创公司正在推出的产品。维护一名内部工程师或研究人员来监控该区域。当临界点到来时(它会的,因为物理学有利于效率),你希望提前一个学习周期,而不是从头开始。
另请阅读
- [推理芯片和 ASIC:当专业化战胜通用化0
- [节能人工智能:更小、更便宜击败更大1
- [专用芯片和通用CPU时代的终结2
- [AI PC和NPU:当设备获得AI加速器时会发生什么变化3
- [如何构建人工智能在工业运营中的商业案例4
- [人工智能能源与主权:政府现在需要规划什么5
