跳到正文
量子位· 关注前沿科技·· 3 小时前AI 评分52

是石科技发布 TokenFleet 分布式调度框架,首Token延迟降低32.4%

首Token延迟降低32.4%!是石科技放出集群调度大招,国产推理再提效

AI 导读

是石科技在2026 CCF全国高性能计算学术大会期间发布 TokenFleet 分布式调度框架,聚焦请求路由、跨机房容量协同和混合负载治理。其 TokenPilot 在 GLM5.3 调优数据中使 P95 首Token延迟降低32.4%、P50 降低71.3%;SLOMax 的收益测算示例显示达标输出吞吐提高约29.4%,达标比例从约67%升至约86%。

来源:量子位 · mp.weixin.qq.com