OpenAI Jalapeno ASIC:为什么 AI 回答成本开始进入硬件战

OpenAI Jalapeno ASIC 博客封面

OpenAI 和 Broadcom 合作的 Jalapeno ASIC,表面看是一颗新芯片。放到 ChatGPT、Codex 和大规模推理负载里看,它更像 OpenAI 给自己找的一条降本路线。

你用 ChatGPT 时,看到的是几秒钟等待。OpenAI 看到的是另一张账单:GPU、显存、网络、电力、数据中心、冷却、排队延迟,还有数以亿计用户每天发出的请求。训练模型很贵,但产品进入日常使用以后,更持续的成本来自推理,也就是每一次回答。

所以 Jalapeno 值得关注。它不是为了替代所有 GPU,也不是马上把 Nvidia 打下去。它更现实的目标,是把 OpenAI 最确定、最重复、规模最大的推理工作,尽量搬到更专用的硬件上。

Jalapeno 是什么

据当天多家媒体报道,Jalapeno 是 OpenAI 与 Broadcom 合作开发的自研 AI 推理 ASIC。ASIC 是专用集成电路,不是“什么都能跑”的通用芯片,而是为某类负载专门设计。

对 OpenAI 来说,这类负载很清楚:ChatGPT 回答、Codex 代码请求、多轮对话、企业 API 调用,以及未来更多 agent 类任务。如果你更关心 Codex 的日常使用稳定性,可以顺手看站内这篇Codex 账号风控与稳定使用检查

报道里最值得看的,不是名字有多有趣,而是两个细节:

  1. 它面向推理,不是优先面向训练。
  2. 它从合作推进到 tape-out 的节奏很快,说明 OpenAI 对推理成本的压力不是远期问题。

换句话说,OpenAI 不是突然想做芯片。它是在用户规模和算力账单逼近之后,开始把模型公司该控制的东西往上游收。

为什么推理成本比训练更像日常账单

训练像一次大工程。贵,复杂,周期长,但不是每个用户每次点击都重新发生。

推理不一样。用户每问一句,模型就要算一次。回答越长、上下文越长、模型越强、并发越高,成本就越明显。ChatGPT 这类产品一旦变成日常入口,推理成本就不再是实验室成本,而是平台运营成本。

推理成本被压缩

这就是自研推理芯片成立的原因。OpenAI 不一定需要一颗万能芯片,它需要一颗能把固定高频负载跑得更便宜、更省电、更容易规模化部署的芯片。

GPU 的价值在通用性。ASIC 的价值在确定性。只要 OpenAI 能把足够多的请求稳定地压到同一类负载上,定制芯片就有机会摊薄成本。关于普通用户怎么在多款 AI 工具之间做取舍,可以参考站内的AI 工具订阅省钱思路

Broadcom 在这件事里赚什么

Broadcom 不是只给 OpenAI 做一颗芯片。它真正押的是 AI 基础设施从“买通用 GPU”走向“为大客户定制系统”的趋势。

Broadcom 过去就参与过很多定制芯片和网络方案。现在 AI 公司、云厂商和大模型平台都在追求更高的性能功耗比,Broadcom 的位置就变得更重要:把客户的模型负载、网络需求、封装能力和数据中心部署做成一套更具体的硬件方案。

市场报道中提到,Broadcom 的 AI 相关收入已经明显增长,增长来源主要是定制加速器和 AI 网络。这个背景能解释它为什么愿意陪 OpenAI 做 Jalapeno。

Nvidia 不会因此失去核心位置

Jalapeno 不是 Nvidia 的终结者。

Nvidia 仍然有 CUDA 生态、训练平台、GPU 通用性和供应链优势。对模型训练、研究实验、架构快速变化的工作来说,通用 GPU 仍然更稳。你不知道下一代模型结构会怎么变时,GPU 贵,但它能兜底。

Jalapeno 更像一把窄刀。它不追求什么都能做,而是专门砍一个 OpenAI 最疼的地方:大规模推理。

这也是自研 ASIC 的边界。它可以把某些已知负载跑得更有效率,但如果模型架构变得太快,或者推理方式发生变化,今天的专用设计可能会变得僵硬。

ASIC 的灵活性风险

把 Jalapeno 放进 Stargate 看

OpenAI 在 2025 年公布 Stargate Project 时,官方说法是未来四年投资 5000 亿美元建设美国 AI 基础设施,并立即启动 1000 亿美元部署。后来围绕 10GW 级算力基础设施的讨论不断出现。

在这个尺度上,芯片不是单独的问题。电力、土地、机房、网络、散热、供应链、资本开支都绑在一起。

Jalapeno 的意义在这里更清楚:OpenAI 不想永远只在 GPU 供货、价格和功耗之间被动选择。它想把模型、芯片、网络和数据中心变成一条更垂直的供应链。站内之前也写过OpenAI 的产品和生态变化,可以和这次硬件动作放在一起看。

如果这条路走通,OpenAI 可以获得更好的成本控制。代价是它会更深地绑定少数硬件合作方和自己的基础设施路径。

对普通用户有什么影响

短期内,你不会因为 Jalapeno 立刻看到 ChatGPT 会员降价。

更可能先发生的是三件事:

  1. OpenAI 可以承受更高的使用量。
  2. 企业和 API 侧的单位成本有机会下降。
  3. 代码生成、多轮 agent、长上下文处理这类高频功能,可能更容易被做进日常套餐。

但这不是确定承诺。芯片从测试到大规模部署还有时间,数据中心建设也受电力、资本和供应链限制。

真正值得观察的是:当 AI 公司开始自研推理芯片,AI 服务的竞争就不只看模型分数了。谁能用更低成本服务更多请求,谁就更有可能把 AI 做成稳定生意。

风险:便宜但不一定自由

自研芯片带来的问题也很直接。

第一,专用芯片效率高,但灵活性差。模型架构如果大变,ASIC 可能没法像 GPU 那样快速适配。

第二,垂直供应链会提高进入门槛。能自研芯片、谈定制网络、建数据中心的公司只会是少数。AI 服务可能更便宜,也可能更集中。

第三,成本下降不一定自动传导给用户。公司可以把节省下来的成本用于更强模型、更长上下文、更高并发,也可以用于改善利润率。

所以 Jalapeno 不只是芯片新闻。它更像一个信号:AI 行业已经从“谁能训练出更强模型”,进入“谁能长期支付模型运行账单”的阶段。

FAQ

Jalapeno 是训练芯片还是推理芯片?

目前公开报道主要把它描述为推理芯片,重点是服务 ChatGPT、Codex 和类似 LLM 请求。它不是为了马上取代训练 GPU。

OpenAI 会不用 Nvidia 吗?

短期不会。Jalapeno 更像补充和分流,用来承接确定性更强的大规模推理负载。训练、研究和通用计算仍然离不开 GPU 生态。

Jalapeno 会让 ChatGPT 降价吗?

不一定。它有助于降低单位推理成本,但最终价格取决于部署规模、竞争压力、产品策略和基础设施成本。

为什么 Broadcom 参与这件事?

Broadcom 擅长定制 ASIC、网络和数据中心相关芯片。OpenAI 有真实负载,Broadcom 有落地经验,这是一种典型的大客户定制硬件合作。

参考来源

总结

Jalapeno 的重点不是“OpenAI 终于有自己的芯片了”,而是 OpenAI 开始认真控制每一次回答背后的成本。

模型能力决定用户愿不愿意来,推理成本决定公司能不能长期接得住。AI 下半场可能不是只拼谁的模型更聪明,而是拼谁能用更便宜、更稳定的基础设施,把聪明模型变成每天都能用的服务。

上一篇 OpenAI 终于有芯片了:Jalapeno 亮相,但这次重点不是技术
下一篇 Notion 亲手埋葬邮箱:一个 productivity 工具为什么要和 Gmail 分手

站点性能

运行正常
实时心跳0 ms
页面加载
0
SQL 查询
0
服务端响应
0 ms
峰值内存
0 MB

探索站点内容

搜索文章、标签、分类

热搜 教程 主题