8月25日,OpenAI硬件负责人Richard Ho在Hot Chips大会上公布了首款芯片Jalapeño的公开跑分。在SemiAnalysis的InferenceX基准测试中,OpenAI与博通联合打造的这款推理芯片,在GPT-OSS 120B、DeepSeek R1 670B和Kimi K2.5 1T三款大模型上,峰值每瓦吞吐量达到英伟达Blackwell系统的1.5至1.9倍。
低延迟场景下差距更大,运行DeepSeek R1时,单用户生成速度最高约700 token/s,而英伟达GB300仅约169 token/s,为后者的4.9倍。该芯片额定功耗700W,搭载HBM4,单封装内存带宽约15.4TB/s,B0版MXFP4理论算力为13.4 PFLOPS。Jalapeño从初始设计到完成流片仅用9个月,AI生成的kernel比人工版本快1.5至1.8倍。
按计划,这颗芯片将于2026年底以“极小规模”部署,真正上量要等到2027年。跑分由OpenAI提供,SemiAnalysis仅现场见证,未独立完成全部测试。
