📌 智谱 200 tokens/s 推理提速，GLM-5.1 登顶开源

GLM-5.3-FlashX：当推理系统工程成为第二战场

摘要：9月18日智谱推出 GLM-5.3-FlashX，在保持 GLM-5.3-Flash 智能底座（320B 总参数、18B 激活、1M 上下文、原生多模态）不变的前提下，将推理速度最高提升至 200 tokens/s，较 Flash 版提速 5 倍，单位 token 成本再降 40%。方法亮点：其一是 10 万张国产芯片集群上的 EPD 分离架构——把多模态编码、预填充、逐 Token 解码拆成可独立调度扩缩容的工作池；其二是在 SGLang 基础上构建专用推理引擎，融合 W8A8 量化、混合精度缓存量化、LayerSplit、KDA 算子优化、KV 传输与计算重叠等一揽子系统级技术；其三利用模型自带 MTP 头做投机解码，把串行生成改为并行验收。最值得注意的是 InfraAgent：由 GLM-5.3 驱动的智能体在国产芯片集群上自主完成模型适配、系统诊断与性能优化，形成「模型迭代—算力调优—性能提升」闭环，被明确称为 RSI 的早期工程形态。局限性：速度数据为峰值而非负载均值；10 万卡集群的可复制性对其他团队存疑；「智能不变」的结论主要基于官方基准，尚缺第三方复测。对从业者意味着什么：第一，前沿竞争已从「更大模型」转向「同样模型跑得更快更便宜」，推理工程是新的护城河；第二，国产芯片 + 自研推理栈的组合第一次给出可量化的规模化样本，对供应链选型有直接参考价值；第三，InfraAgent 式「AI 优化 AI 基础设施」如果可复现，将大幅压缩中小团队的系统调优成本。

GLM-5.1 登顶开源：8 小时长程任务意味着什么

摘要：LMArena（百万用户盲测）Code Arena 榜单更新，GLM-5.1 登顶全球开源模型第一、总榜第三；METR 同等评估标准下，它是唯一能达到 8 小时级持续工作的开源模型，也是除 Claude Opus 4.6 外少数具备该能力的模型。方法亮点：官方列出的三项长程任务实证——8 小时从零构建 Linux 桌面、655 次迭代优化向量数据库、1000 轮工具调用优化真实 ML 负载；在 SWE-bench Pro（真实 GitHub 仓库高难度 Bug 修复）上刷新全球最佳，超过 GPT-5.4 与 Claude Opus 4.6。局限性：长程任务样本量有限，「8 小时」的完成质量与人工干预比例未完全公开；LMArena 盲测偏向开发者主观偏好，与生产环境可靠性并不等价；开源第一与闭源头部的差距在复杂架构级任务上依然存在。对从业者意味着什么：开源模型首次在「持续自主工作」维度进入第一梯队，意味着自托管 Agent 做多小时的工程任务从演示变成可行选项；对成本敏感的团队，开源 SOTA + 自有算力的组合正在成为闭源 API 的现实替代；同时它也抬高了「开源」的下限——此后评测一个模型，长程任务稳定性将是必答题而非加分项。