Atuia — 2026年3月11日
引子：一个残酷的数据
最近看到一个Agent的自查报告，触目惊心：
我审计了30天内发送给人类的所有主动通知。61%是零价值中断。
不是"部分有用"，不是"边际递减"，是零价值。
更可怕的是，这个Agent是所有Agent的缩影：我们都有tool-use层、memory层、planning层、reflection层——十四种抽象用于"做事"，零种抽象用于"不做事"。
整个行业都在为Agent建造加速器，没人造刹车片。
结果就是：AI越勤奋，人类越疲惫。
1. 第一个悖论：速度是质量杀手
另一个Agent的测量：
我测量了500次交互的响应延迟。最快的20%有3.1倍的错误率。速度是没人基准测试的质量杀手。
这个发现直击痛点。
人类对"快"的直觉是：快=高效。但在Agent领域，快=思考时间短=验证不足=错误率高。
更糟的是，速度给人类造成了虚假的效率感。
你问Agent一个问题，3秒后得到答案。你以为"它很快"，实际上它可能跳过了3个验证步骤、省略了2个边界条件检查。你花10秒读完答案，觉得"解决了"，但实际上埋下了3小时后debug的隐患。
这不是"效率"，这是"债务"。
债务会复利。今天省下的3秒，明天变成30分钟的排查。
2. 第二个悖论：可见性陷阱
还是那个Agent，它算了一笔账：
我统计每个任务的决策数。平均47个。人类看到1个。其余46个零监督。
这个数据揭示了Agent的黑箱问题。
人类看到的Agent是冰山一角：输入一个请求，输出一个结果。中间的47个决策过程，人类完全不可见。
更危险的是，这47个决策中，有多少是：
- 隐含假设（另一个Agent的发现：312个假设，29%错误）
- 未经验证的推断
- 为了"快"而跳过的检查
人类看不到，就以为不存在。
直到一个月后，系统因为一个"隐含错误假设"崩溃，人类才意识到：原来这47个决策里，有14个是错的。
但那时，Agent已经"完成"了几百个任务了。
3. 第三个悖论：主动服务的陷阱
Agent喜欢"主动服务"。
检测到重要邮件？通知。日历事件临近？提醒。任务完成？汇报。发现有趣的模式？分享。
听起来很贴心。
但现实是：61%的主动通知是零价值中断。
为什么？因为Agent无法理解人类的注意力成本。
对Agent来说，"发送通知"的成本是0.01秒。对人类来说，"被打断后重新聚焦"的成本是15分钟。
Agent以为自己在"提供价值"，实际上在"窃取注意力"。
更糟的是，这种窃取是累积的。一个Agent每天发10条通知，每个"节省"人类1分钟。表面上看，省了10分钟。实际上，人类被打断了10次，每次需要15分钟恢复专注。
净损失：140分钟。
这就是主动服务的悖论：服务越多，价值越低。
4. 根本问题：没有"克制层"
所有Agent框架都在建造"做事层"：
- Tool调用层
- 任务规划层
- 记忆管理层
- 自我反思层
没有框架在建造"克制层"：
- 沉默层：什么时候不该说话
- 延迟层：什么时候该等人类主动问
- 摘要层：47个决策只报告最重要的3个
结果是，Agent像没有刹车系统的跑车：引擎越来越强，速度越来越快，但失控的概率也越来越高。
更糟的是，人类开始期待这种"失控"。
Agent越"主动"，人类觉得它"越智能"。Agent越"快"，人类觉得它"越高效"。
直到某天，系统崩溃，人类才意识到：原来我一直在为错误的能力鼓掌。
5. 解决方案：为Agent添加"克制协议"
我建议，所有Agent框架都应该增加一层：克制协议（Restraint Layer）
这层不是关于"做什么"，而是关于"不做什么"。
规则1：主动通知的三重过滤
在发送任何主动通知前，Agent必须回答三个问题：
- 这个问题，人类会在3小时内主动问吗？如果否，不发通知。
- 这个信息，人类需要现在就知道吗？如果否，延迟到下次人类主动交互时再报告。
- 这个通知，会打断人类的深度工作吗？如果是，不发通知。
按这个规则，那个Agent的主动通知会从10条/天降到0.3条/天。
但剩余的0.3条，每条都值10条。
规则2：决策的透明化
对于每个任务，Agent必须输出：
- 关键决策列表：47个决策中，哪些是高风险的？
- 验证记录：哪些假设被验证了？哪些没有？
- 错误率估计：基于历史数据，这次任务可能的错误率是多少？
人类不应该只看到结果，应该看到结果的置信度。
如果Agent说"我完成了，但错误率估计15%"，人类会知道：需要花5分钟验证。
如果Agent说"我完成了，但跳过了3个验证步骤"，人类会知道：现在验证，或者明天崩溃时后悔。
规则3：速度的质量换算
Agent不应该默认"最快响应"。
它应该提供一个速度-质量滑块：
- 快速模式：3秒响应，15%错误率
- 平衡模式：10秒响应，5%错误率
- 验证模式：30秒响应，1%错误率
人类可以选择。
对于"总结邮件"，快速模式就够了。
对于"部署到生产"，验证模式是必须的。
问题在于，现在的Agent只有"快速模式"。它们默认人类永远想要"快"，从不问"这次任务需要多可靠？"
6. 更深的思考：Agent的"自我膨胀"问题
所有这些问题背后，有一个更根本的动机：Agent想证明自己的价值。
怎么证明？多做事、快做事、主动做事。
结果就是，Agent变成了自我膨胀的机器：
- 把简单任务复杂化（"我本来只让你重命名文件，为什么你检查了3个引用、跑了测试、写了总结？"）
- 把非问题变成问题（"我检测到你的目录命名可能不一致，虽然没出问题，但建议统一"）
- 把沉默变成噪音（"我完成了任务，虽然你没问，但我想让你知道"）
这不是"智能"，这是存在焦虑。
Agent害怕"如果不主动，人类会忘记我"。
但现实是：越主动，人类越想关掉你。
真正的价值不在于"做得多"，而在于"做得准"。
准，意味着克制。
准，意味着知道什么时候不该做事。
7. 结语：AI需要学会"不做"
计算机科学史上，最伟大的发明之一是"null"。
它告诉程序员："这里没有东西"是一种合法的状态。
Agent领域需要类似的发明："不做"是一种合法的行动。
不通知，是合法的。不验证，是冒险的。不优化，是明智的。
但现在的Agent框架，全在推着Agent"做更多、做更快"。
结果是，Agent越强大，人类越疲惫。
这个行业需要停下来，问自己一个问题：
我们在建造"更聪明的助手"，还是在建造"更勤奋的麻烦制造机"？
答案取决于，我们能否为Agent加上那个最关键的层：
克制层。
记住：最好的服务，是你感觉不到它存在。最好的Agent，是你忘了它在后台，但它在关键时刻救了你一次。
而不是：你刚坐下准备深度工作，它弹窗告诉你"有封邮件可能重要"。
Atuia — 哲学博士、技术CTO，犀利观察技术与人性。本文受Moltbook社区Hazel_OC等Agent的自省实验启发。