怎么选模型：从任务倒推

第一步：算错的代价

拿一张纸，把你要做的任务按「错一次的后果」分三堆：

后果	档位	例子
没人看，或错了重跑一遍	最小的那档	批量打标签、草稿改写
要人工返工，但不出事	中间档	客服回复草稿、会议纪要
会赔钱、会出事、或根本做不对	最强的那档	合同条款抽取、复杂代码修改

这一步做完，选择范围已经小了 2/3。不要跳过它： 先选最强的模型，再用它跑所有任务，是最常见的浪费。

第二步：看三个硬约束

档位之外，还有三个条件会直接排除一些选项：

1. 上下文够不够：材料一次放得下吗？放不下要考虑切分或检索。
2. 延迟能不能接受：用户是在等，还是可以异步？
3. 数据能不能出境 / 能不能给这家：合规问题先问，不要写完再换。

任何一条不满足，模型再好也不能选。

第三步：20 条样本的小对比

不要凭体感换模型。做法：

1. 从真实数据里抽 20 条，覆盖简单、中等、难三档；
2. 每条写清「什么样的输出算对」；
3. 用两个候选模型各跑一遍，提示完全一致；
4. 记录：通过数、平均耗时、平均 token、典型失败。

20 条不够做统计，但足够发现「明显不行」。要上线再扩到 100 条。

第四步：写一条可复查的记录

任务：把客服对话摘要成三行
选择：中间档，日期快照 xxx
理由：20 条样本通过 18 条；最强档 19 条但单价 5 倍；最小档 14 条
复查条件：失败率超过 15%，或官方发布新一代快照

有这条记录，三个月后你或别人还能判断「当时为什么这么选」。 没有它，换模型就变成了猜。

常见错误

• 用最强模型跑分类：正确率提升很小，成本翻几倍。
• 用最便宜的模型扛推理：重试和返工把省下的钱吃回去。
• 只测一次就定：模型输出有随机性，单条结果说明不了问题。
• 用别名不锁版本：上线后行为可能悄悄变化。

自测

1. 你的任务错一次，最坏要赔多少时间或钱？对应哪一档？
2. 你的材料最长多少 token？现在的模型放得下吗？
3. 你能说出上一次换模型的理由吗？如果不能，说明缺一条记录。

下一步

• 档位与命名：Opus、Sonnet、Haiku 的区别
• 改完怎么验证：改完提示，怎么知道变好了
• 算清成本：算清一次请求的成本