首页 > 正文
智谱公布GLM-5底层基础设施重大工程进展,系统吞吐最高提升132%
2026-04-30 10:28
在底层基础设施上,智谱实现重大工程进展,系统吞吐最高提升132%,相同硬件条件下服务能力的显著扩容。KV cache 修复方案获SGLang开源社区采纳,此外,公司推理优化还在进一步加速,大晚上幅提升单位算力token吞吐效率,降低推理成本。(澎湃新闻记者 范佳来)