💬 观点OpenAI
OpenAI and Broadcom unveil LLM-optimized inference chip — OpenAI与Broadcom合作推出专为大模型推理优化的芯片Jalapeño。
OpenAI与Broadcom合作推出专为大模型推理优化的芯片Jalapeño。
2026-06-24原文
本文为要点摘要,完整细节以原文为准。
- Jalapeño芯片专为LLM推理设计,优化了矩阵运算和注意力机制,显著提升推理速度。
- 该芯片采用3D堆叠和近存计算,减少数据搬运延迟,降低功耗。
- 对开发者而言,专用硬件将降低推理成本,使更大规模模型部署成为可能。
原文:OpenAI and Broadcom unveil LLM-optimized inference chip · 作者 OpenAI