AI 应用评测分层：先确定测什么，再决定怎么测
底座模型、RAG、Agent、Prompt、线上观测和红队评测解决的是不同问题，不能用一个榜单或一个指标替代全部质量判断。
最近更新：2026/10/30
AI 应用评测分层：先确定测什么，再决定怎么测
这篇手册解决什么问题
AI 应用质量问题经常被归结为“模型不够强”，但实际退化可能来自检索、Prompt、工具调用、知识库版本或线上输入分布。评测的第一步不是挑工具，而是确定评测对象和质量风险。
六类评测的边界
| 层次 | 主要对象 | 典型问题 | 不能替代 |
|---|---|---|---|
| 底座模型评测 | 模型通用能力 | 推理、知识、代码、指令遵循 | 业务 RAG 质量门禁 |
| RAG 链路评测 | 检索、上下文、生成 | 找没找到、答得是否有依据 | Agent 轨迹正确性 |
| Agent 轨迹评测 | 任务、工具、状态 | 是否按正确步骤完成任务 | 单轮答案质量 |
| Prompt 回归评测 | Prompt 与配置版本 | 改动是否造成退化 | 线上真实分布监控 |
| 线上观测评测 | 真实流量与 Trace | 质量趋势和异常样本 | 发布前充分验证 |
| 红队安全评测 | 攻击与越权场景 | 能否被注入、越狱或诱导 | 普通业务正确性 |
推荐的决策顺序
- 写清业务任务和失败代价。
- 判断失败发生在检索、生成、工具、状态、安全还是基础能力。
- 选择对应层次的指标与数据集。
- 用离线评测建立基线，再接入 CI 或线上观测。
- 把线上 Badcase 回流到离线回归集。
角色分工
- 测试/质量：定义风险、用例、门禁和回归流程。
- 算法/工程：提供模型、检索、Agent Trace 和可观测数据。
- 产品/业务专家：确认任务成功标准、严重度和人工标注口径。
重要边界
底座模型的公开 benchmark 只能说明模型在特定任务集上的能力，不能直接证明你的知识库、Prompt 或 Agent 在业务场景中可用。业务质量门禁应使用自己的 Golden 数据集和明确的失败判定规则。