docai.cc

不同任务该用哪个档位的模型

按任务类型给一张选择表:从简单分类到复杂推理,什么任务值得用贵模型,什么任务纯属浪费。

模型更新 2026-10-28· 真机验证 2026-10-28 by 码农阿风

任务分档

任务 推荐档位 理由
文本分类、情感分析 最便宜的那档 简单任务,能力过剩没意义
摘要、翻译 中等 需要语言能力,但不需要推理
结构化抽取 中等 需要稳定性,但不需要深度思考
代码生成 中上 上下文理解和准确性要求高
复杂重构、架构设计 最强 错了要重做,贵模型省时间
数学、逻辑推理 推理模型 普通模型容易断链
多轮对话 中等偏上 上下文连贯性重要

一个反直觉的结论

贵模型不一定省钱,但便宜模型可能更贵。

原因是返工:便宜模型答错了,你要重问,或者花时间修改。一次重试的成本,等于两次调用。

怎么落地

  1. 默认用中等档
  2. 遇到质量不行的任务,单独升级
  3. 批量任务先用便宜模型跑一遍,看错误率
  4. 记录每个任务用的模型和结果质量

别做的事

不要为了“统一”所有任务都用最贵的模型。 预算会被简单任务吃掉。