返回社区动态
S
sarah_k
#模型优化
#工程实践
#推理

小模型蒸馏之后,线上质量为什么反而更稳定?

我们先用大模型收集高质量轨迹,再针对高频任务做蒸馏和规则兜底。成本下降的同时,错误类型也更容易被定位和回归。

360 浏览

DISCUSSION

评论讨论

3 条评论
L
lin_yi

小模型配合清晰的任务边界,实际效果确实比盲目上大模型稳定。