← 返回日程
算力与基础设施核心

低成本上线:模型路由、缓存与上下文治理

15:20 - 16:20A 厅2026/3/10

演讲摘要

不换卡也能降成本的三类工程策略,以及它们的适用边界。

对比不同模型路由、缓存命中和上下文裁剪方案在吞吐与成本上的真实收益。

演讲嘉宾

David Chen
算力架构师

关注推理服务、成本治理与 AI 基础设施的长期演进。

报名参加活动