一个客服 Agent 回答错了用户的问题,用户很生气。
更糟的是,Agent 不知道自己错了,继续坚持错误答案。
这是大多数 AI Agent 的问题:它们不会自我纠正。
人类客服发现说错了,会马上道歉纠正。
AI Agent 也可以做到。
方法一:自我检测
让 Agent 检查自己的答案。
实现方式:
在生成答案后,让 Agent 评估:
- 答案是否完整?
- 是否有逻辑矛盾?
- 是否符合事实?
提示词示例:
"请评估你刚才的答案:1. 是否准确?2. 是否完整?3. 是否有遗漏?"
效果:
某客服 Agent 加了自我检测后,错误率降低了 30%。
方法二:用户反馈
根据用户的反应判断是否正确。
实现方式:
分析用户的后续消息:
- 用户表示感谢 → 答案正确
- 用户继续追问 → 答案不完整
- 用户表示不满 → 答案错误
真实案例:
一个电商 Agent 通过分析用户反馈,自动识别出 70% 的错误回答。
改进方法:
发现错误后,主动道歉并重新回答。
方法三:自动重试
发现错误后,重新生成答案。
实现流程:
- 检测到错误
- 分析错误原因
- 调整参数或提示词
- 重新生成答案
- 验证新答案
数据对比:
某金融 Agent:
- 没有重试:错误率 15%
- 一次重试:错误率 8%
- 两次重试:错误率 5%
注意:不要无限重试,设置最大重试次数。
方法四:人工介入
无法解决时,主动寻求帮助。
触发条件:
- 连续 3 次尝试失败
- 用户明确表示不满
- 涉及敏感或复杂问题
实现方式:
Agent 主动提示:
"抱歉,这个问题我无法准确回答,正在为您转接人工客服。"
效果:
某公司的 Agent:人工介入率虽然增加了 10%,但用户满意度提升了 25%。
一个成功的案例
某金融公司的 Agent:
第一层:自我检测(所有答案都经过自检)
第二层:用户反馈(分析用户反应)
第三层:自动重试(最多 2 次)
第四层:人工介入(无法解决时转人工)
结果:
- 错误恢复率:85%
- 用户满意度:从 70% 提升到 95%
- 人工介入率:只增加了 5%
错误恢复的三个原则
原则一:快速承认错误
- 不要坚持错误的答案
- 主动道歉并纠正
- 用户更看重态度,不是完美
原则二:不要重复错误
- 记录错误类型
- 分析错误原因
- 避免再犯同样的错误
原则三:学习改进
- 从错误中学习
- 优化提示词
- 提升模型能力
最后的建议
AI Agent 的错误恢复不是「可选项」,是必需品。
如果你的 Agent 还没有错误恢复机制,问自己三个问题:
- Agent 知道自己犯错了吗?
- Agent 能自动纠正错误吗?
- Agent 知道何时寻求帮助吗?
如果任何一个答案是「否」,那就去建立错误恢复机制。
最好的 Agent 不是不犯错,是犯错后能快速恢复。
—— https://www.80aj.com