小团队以前常问：哪个模型最聪明？到 2026 年，这个问题已经不够用了。真正能指导采购和上线的问题是：哪个模型和交付路径，能在这个具体工作流里同时满足质量、成本、延迟、隐私和可迁移性。
决定选型的七个检查项
| 检查项 | 要测什么 | 为什么重要 |
|---|---|---|
| 成本 | 输入、输出、缓存输入、reasoning/thinking tokens、搜索或 grounding 费用、重试和 batch 折扣 | 只看输入单价，很容易低估真实月账单。 |
| 上下文 | 长 prompt、检索文件、引用、冲突信息和预期输出长度下的有效召回 | 大窗口有帮助，但仍可能漏细节，并显著增加延迟。 |
| 推理 | 用自己的高难任务做 pass/fail，而不是只看公共榜单 | 代码、数学、政策审查和客服分流需要的能力不同。 |
| 工具调用 | schema 准确率、参数质量、重试表现、危险调用和人工确认点 | agent 最常在语言和真实动作的边界失败。 |
| 延迟 | 首 token 时间、输出速度、p95 延迟、流式体验和 fallback 速度 | demo 里好用的模型，放进产品闭环后可能太慢。 |
| 隐私 | 训练使用、保留时间、ZDR、人工审阅、区域控制、免费与付费服务条款 | API、企业版和消费者产品的数据规则经常不同。 |
| 锁定 | prompt 可迁移性、工具 API、文件存储、托管 agent、模型专用语法和迁移成本 | 最便宜的原型，可能变成最贵的迁移。 |
如何阅读 2026 年模型格局
OpenAI、Anthropic 和 Google 都有模型与价格页面，但它们呈现取舍的方式并不一样。OpenAI 平台文档强调模型族、价格、数据控制和 Responses API 下的函数调用。Anthropic 的 Claude 文档把模型比较、工具使用、价格和 API 保留控制分开说明。Google Gemini 文档则更突出长上下文、多模态、搜索 grounding，以及免费服务和付费服务的数据条款差异。
这不意味着某一家是通用答案。客服分类可能适合更便宜更快的模型。代码库迁移审查可能值得调用更强推理模型。带大量来源材料的研究助手，应该重点测试长上下文能力。受监管的内部流程，可能更适合企业 API、云厂商合同或开权重模型，哪怕运维成本更高。
用成本公式，不要用价格截图
月成本应按请求量、输入 token、输出 token、缓存命中、reasoning/thinking 开销、工具或搜索收费、重试和存储一起估算。然后用真实调用轨迹验证。很多团队会漏算输出 token、工具调用失败后的重试，以及每次请求都重复塞入政策或知识库的成本。
长上下文不是记忆
当模型必须审阅合同、代码库切片、研究资料包或长转录文本时，长上下文很有价值。但它仍然需要评测。要测试模型是否引用了正确段落，是否能处理冲突说明，是否会忽略无关文件，以及延迟和成本是否可接受。对常规知识库问答来说，一个带好检索的小模型，可能胜过一个巨大上下文窗口。
工具调用要配产品控制
OpenAI、Anthropic 和 Gemini 都有工具或函数调用文档。共同点很关键：模型不是你的权限系统。应用侧必须校验参数，按角色限制工具，对不可逆操作加人工确认，保证调用幂等，记录每次动作，并在模型选错工具时提供 fallback。
上线前做自己的评测
- 从真实工作流里收集 50 到 200 个任务，包含失败样例和边界情况。
- 先写评分规则，再看模型输出：正确性、可溯源、格式、安全、延迟、成本和人工修改量。
- 至少用两个 provider、两个价格档位，在同一组 prompt 和工具 schema 下盲测。
- 记录 p50/p95 延迟、token 使用、重试率、拒答率、工具调用错误和人工编辑时间。
- 用 OWASP 风格的 prompt injection、敏感数据和 excessive agency 场景攻击候选方案。
- 保留测试集和 adapter，方便在模型、价格或条款变化时重新比较。
轻量评分表
| 维度 | 权重 | 通过证据 |
|---|---|---|
| 任务质量 | 30% | 用真实任务和边界样例做盲测 pass/fail。 |
| 单位成本 | 20% | 用调用轨迹实测输入、输出、缓存、重试和工具成本。 |
| 延迟 | 15% | p50 和 p95 能放进产品闭环。 |
| 数据控制 | 15% | 保留、训练使用、区域和人工审阅条款匹配数据级别。 |
| 工具可靠性 | 10% | 参数、重试、权限和审计日志能通过失败测试。 |
| 可迁移性 | 10% | prompt、评测和工具 schema 能迁移到第二个 provider。 |
给小团队的建议
现在开始的小团队，不应该把最终答案写成某一个模型名。更稳的答案是：一层薄的模型网关、一份书面评分表、两个已批准 provider，以及在重要模型、价格或隐私条款变化时重跑评测的习惯。这个月选赢你工作流的模型，但系统要随时能迁移。