技术与创新

OpenAI 正在打造自己的硅脑以摆脱中间商

OpenAI 发布 Jalapeño 芯片基准测试,效率超越英伟达 Blackwell。了解定制硅芯片将如何让 AI 在 2027 年前变得更快、更便宜。
OpenAI 正在打造自己的硅脑以摆脱中间商

每当你要求聊天机器人总结会议或写诗时,一场物理连锁反应便开始了。屏幕上的文本最初是一个请求,穿过数英里的光纤电缆到达数据中心。在那里,一块硅和铜组成的板卡消耗的电量足以让灯泡亮上几分钟,仅仅是为了预测你回复中的下三个词。这个过程被称为推理。多年来,OpenAI 一直依赖英伟达(Nvidia)为这项任务提供硬件。现在,OpenAI 披露了 Jalapeño 的首批数据,这是一款旨在内部处理 AI 重任的定制芯片。

在 Hot Chips 大会上,OpenAI 分享了 Jalapeño 的首批公开基准测试结果。数据表明,与当前的行业标准相比,这种新硬件能以更低的功耗处理更多的工作。使用来自 SemiAnalysis 的 InferenceX 基准测试,Jalapeño 在为每位用户生成更多单词(或标记/Token)的同时,耗电量比英伟达的 Blackwell 架构更低。OpenAI 硬件负责人 Richard Ho 表示,该系统提供了显著的性能飞跃。其目标是让 AI 交互感觉像瞬间完成一样,同时控制住数据中心巨额的电费账单。

数字厨房中的瓶颈

要理解 OpenAI 为什么要制造自己的硬件,可以将 AI 推理想象成一个繁忙的餐厅厨房。当你发送指令时,系统会经历两个阶段。第一阶段是预填充(prefill)阶段,AI 会阅读你的整条消息并整理思路。这就像厨师阅读一份冗长复杂的食谱。第二阶段是解码(decoding)阶段,AI 实际上是在逐字写出回复。这就像厨师在实际摆盘。

大多数现代芯片擅长摆盘,但在阅读部分却很吃力。当指令非常长时,系统会变慢,因为数据必须在处理器和内存之间来回移动。这种移动会产生热量并浪费时间。Jalapeño 通过改变芯片与内存的对话方式解决了这种摩擦。OpenAI 设计这款芯片是为了保持模型状态的本地化。简单来说,厨师不再需要为了每一种食材都穿过厨房跑到储藏室。所有东西都留在柜台上,随时可以使用。

这种全栈方法之所以可行,是因为 OpenAI 同时开发软件和硬件。英伟达的通用芯片必须适用于从汽车制造商到天气预报员的所有公司,而 Jalapeño 只有一个任务:运行 OpenAI 模型。这种专业化使公司能够最大限度地减少数据移动和通信延迟,而这些延迟通常是大规模 AI 系统的瓶颈。

追逐不断变化的行业顶尖水平

Jalapeño 的基准测试令人印象深刻,但它们存在于一个动荡的市场中。OpenAI 将其新硅片与英伟达的 Blackwell 系统进行了比较,后者是目前数据中心的王者。Jalapeño 显示出更好的每千瓦吞吐量,这是重工业效率的主要指标。然而,部署的时间表很长。Richard Ho 指出,Jalapeño 要到 2026 年底才会极小批量出现。有意义的推广要到 2027 年才会实现。

到 2027 年到来时,竞争格局将会发生变化。英伟达并没有停滞不前。芯片行业呈周期性波动,在 Jalapeño 达到全面规模之前,英伟达可能已经有两代以上的硬件在开发中。OpenAI 实际上是在玩一场“跳跃式”游戏。为了获胜,他们必须确保其定制硅片对特定模型的效率极高,足以证明投入的数十亿美元开发费用是值得的。从历史上看,谷歌和亚马逊等公司在这种策略上取得了成功,但它需要软件公司运营方式的根本性转变。

OpenAI 与博通(Broadcom)紧密合作,将 Jalapeño 变为现实。博通在帮助科技巨头构建连接数据中心不同部分的定制芯片方面有着悠久的历史。有趣的是,OpenAI 甚至使用自己的 AI 模型来帮助设计芯片。这创造了一个反馈回路,AI 帮助构建了它最终将居住的大脑。因此,该硬件是大型语言模型特定数学需求的反映,而不是一个通用的处理器。

这对你的日常聊天意味着什么

对于普通用户来说,芯片发布的消息听起来像是科技界的背景噪音。但实际上,Jalapeño 的效率决定了你未来如何与 AI 互动。如果推理成本居高不下,AI 公司就必须限制你使用其工具的次数。你可能会看到发送消息数量的上限,或者为了支付电力和硬件成本而支付更高的月度订阅费。

如果 Jalapeño 实现了每千瓦更高吞吐量的承诺,生成回复的成本就会下降。这可能会导致 AI 产品定价方式发生切实变化。我们可能会看到更慷慨的免费额度,或者能够运行更长、更复杂的任务而系统不会变慢,而不是固定的月费。低延迟是最终目标。当你与 AI 助手交谈时,你希望回复感觉像自然的对话,而不是像在等一封邮寄的信件。

在市场方面,此举表明 OpenAI 希望减少对其他公司供应链的依赖。全球高端 AI 芯片市场虽然分散,但由少数几家关键参与者主导。通过制造自己的硅片,OpenAI 获得了更多掌控自己命运的权利。他们可以精确选择何时升级以及如何优化其数据中心,而无需等待第三方的发货计划。这种韧性对于一家每周服务数亿人的公司来说至关重要。

AI 时代隐形的骨干

我们经常把 AI 当作魔法,但它实际上是一个工业过程。它需要物理材料、大量的冷却水以及数百万个晶体管的一致触发。Jalapeño 是那根隐形骨干的一部分。通过优化预填充和通信阶段,OpenAI 正试图让这个数字实习生的雇佣速度更快、成本更低。该公司计划将其打造成一个多代平台,这意味着 Jalapeño 只是长期路线图的开始。

放大来看,向定制硅片的迈进代表了科技行业的系统性转变。我们正在从通用计算机时代走向高度专业化机器的世界。正如重型卡车的构造与跑车不同,AI 服务器内部的芯片也正在与笔记本电脑内部的芯片分道扬镳。正是这种专业化,让 AI 从一个巧妙的客厅小把戏转变为日常生活的强大工具。

最终,Jalapeño 的成功取决于 OpenAI 是否能跟上硬件创新的绝对速度。设计芯片是一回事;在全球数据中心大规模制造和部署它是完全不同的挑战。2027 年的部署窗口给行业的其他公司留出了充足的反应时间。目前,OpenAI 已经表明它不再满足于仅仅编写软件。它想要拥有软件赖以生存的土地。

从消费者的角度来看,你应该关注这些进展如何影响你最喜欢的应用程序的速度。如果回复突然变得更敏捷,或者你可以上传整本书进行分析而无需等待,那么像 Jalapeño 这样的芯片底层工作就是原因。通用 AI 硬件的时代正在结束,专用硅脑时代已经到来。

来源:OpenAI Press Briefing, Hot Chips 2026 Presentation, SemiAnalysis InferenceX Benchmark Report.

bg
bg
bg

另一边见

我们的端到端加密电子邮件和云存储解决方案提供了最强大的安全通信手段,确保您的数据安全和隐私。

/ 创建免费账户