OpenAI披露，其自研 AI 芯片 Jalapeño 主要面向大规模推理场景，强调在单位功耗下处理更多请求，并缩短响应时间。公司硬件负责人 Richard Ho 称，测试结果显示其性能较现有方案有明显提升。
2026年底先小规模部署
按照 OpenAI 的说法，Jalapeño 当前展示的性能对比对象包括 Nvidia Blackwell 系统。不过，这款芯片距离全面铺开仍有时间差。Richard Ho 预计，Jalapeño 将在 2026 年底以很小规模部署，更大范围的应用要等到 2027 年。
这意味着，等到芯片真正进入大规模上线阶段时，市场上的竞品也可能已经继续迭代，届时实际竞争格局仍有变数。
与博通合作开发
Jalapeño 最早于去年 10 月公布，由 OpenAI 与博通合作开发。OpenAI 还表示，公司自己的模型也参与了芯片开发过程。
OpenAI 计划把 Jalapeño 做成多代延续的平台，不只是一颗单独芯片。按照这一思路，未来 AI 产品、模型、芯片和内存将尽量协同设计，以提升整体系统效率。
重点优化推理瓶颈
OpenAI称，这种全栈协同方式让公司可以直接针对推理流程中的具体瓶颈做优化，尤其是预填充和通信两个阶段。公司认为，这两个环节往往会拖慢推理处理速度。
在博客中，OpenAI表示，Jalapeño 的设计目标之一是减少数据搬运和通信延迟。为此，模型状态，包括生成回复时使用的 KV 缓存，可以被更明确地放置在本地，并在不同推理阶段调用合适的计算、内存和网络资源。
从已披露信息看，Jalapeño 的核心卖点并不只是单点算力，而是围绕推理过程中的延迟、能效和系统协同做整体优化。这也反映出，随着生成式 AI 服务规模扩大，芯片竞争正从训练能力进一步延伸到推理成本与响应速度。
