https://yun7211.github.io/tags/%E4%B8%8A%E7%BA%BF%E6%A3%80%E6%9F%A5/Recent content in 上线检查 on Yun 的个人博客Hugo -- gohugo.iozh-cnMon, 18 May 2026 12:20:00 +0800https://yun7211.github.io/ai/ai-engineering/ai-feature-checklist/Mon, 18 May 2026 12:20:00 +0800https://yun7211.github.io/ai/ai-engineering/ai-feature-checklist/<h2 id="为什么需要检查清单">为什么需要检查清单 </h2><p>AI 功能很容易在演示阶段看起来不错，但上线后遇到长尾输入、成本波动、上下文缺失和不可复现问题。上线前需要把这些风险尽量显性化。</p> <h2 id="数据和上下文">数据和上下文 </h2><p>先确认模型能看到完成任务所需的信息：</p> <ul> <li>数据来源是否可靠</li> <li>上下文是否过长或过少</li> <li>用户隐私和敏感信息是否被保护</li> <li>引用或检索结果是否可追溯</li> </ul> <h2 id="评测和日志">评测和日志 </h2><p>至少准备一组代表性样例，覆盖正常输入、边界输入和失败输入。日志要能回答：用了什么提示词、传了什么上下文、模型返回了什么、最终是否被用户接受。</p> <h2 id="失败兜底">失败兜底 </h2><p>AI 功能必须允许失败。失败时应该给出可理解的提示，必要时回退到人工处理、传统规则或安全默认值。</p> <h2 id="小结">小结 </h2><p>AI 工程化的重点不是让模型永远正确，而是让系统在模型不稳定时仍然可诊断、可回退、可持续改进。</p>