AI 模型选择笔记

从任务复杂度、上下文长度、响应速度、成本和可验证性几个维度选择 AI 模型。

不同任务需要不同模型

选择 AI 模型时,不要只看模型名字或排行榜。真正重要的是任务需要什么能力:理解长上下文、写代码、总结资料、调用工具、推理规划,还是快速生成草稿。

一个简单的判断方式是先区分任务类型:

  • 简单改写和摘要:优先速度和成本
  • 代码修改和调试:优先上下文理解和可靠性
  • 多步骤研究:优先推理能力和工具使用能力
  • 大量批处理:优先稳定性、成本和吞吐

看上下文而不是只看输入长度

上下文窗口越大,不代表效果一定越好。长上下文任务要关注模型能否抓住关键约束,以及是否会忽略早期信息。

对于长文档或代码库,最好先组织结构化上下文,再让模型执行具体任务。

评估要贴近真实任务

模型选择应该用自己的任务做小型评估。比如博客写作可以比较标题、结构、事实准确性和可读性;代码任务可以比较测试通过率、改动范围和解释质量。

小结

模型选择不是一次性决定。随着任务、成本和工具链变化,模型策略也应该定期复盘。

使用 Hugo 构建
主题 StackJimmy 设计