跳到主要内容

4.8 我怎样逐步扩大 AI 的自主范围

系统连续处理了二十笔历史订单，结果都不错。销售负责人问我：“既然已经做对了，能不能让它直接创建项目？”

我没有同意。

历史订单不会真的影响客户，也不会因为错误创建项目、发送报价或改变付款记录。测试做对，只能证明它有资格进入下一层验证，不能证明它已经可以代表公司行动。

我先把“自动化”拆成不同程度​

很多讨论只有两个选项：人工或自动。真实工作不是这样。

我把自主范围分成四级：

级别AI 可以做什么对真实业务的影响
历史样本在过去资料上整理和判断不影响当前工作
只读建议对当前订单给出资料、缺口和建议人仍按原方式决定
受控写入把人已经确认的结果写回指定系统影响记录，但必须先有人批准
有限自动执行在低风险、范围清楚、可撤回的情况下直接执行AI 可以完成部分动作

每升一级，系统对经营的影响都更大，需要的证据也更多。

不是整个系统只有一个自主级别​

同一个流程里的动作风险不同。

整理会议纪要、提醒资料缺失可以较早自动执行；把已确认交接单写入项目系统需要受控写入；批准折扣、接受合同和向客户承诺则不能因为其他动作稳定就一起自动化。

我为每个动作分别判断：

  • 错了会影响谁；
  • 能不能及时发现；
  • 能不能撤回；
  • 是否涉及价格、合同、客户承诺、财务或员工利益；
  • 有没有明确的人承担后果。

自主权授予的是具体动作，不是一句“这个 AI 可以自主工作”。

第一级先在历史样本中证明基本能力​

我们使用正常、延期、冲突和高风险历史订单。

系统要能保留来源、发现缺失、正确停下并通过验收情境。工程师也要证明权限、日志和恢复可以工作。

这一级不会验证员工是否愿意使用，也不会验证真实工作压力下的速度和成本，因此通过后只能进入只读建议。

第二级观察人是否愿意依靠它​

只读阶段里，AI 对新订单整理资料和给出提示，但不改变原系统。

我记录销售采用了哪些建议、拒绝了哪些、为什么修改，人工接管发生在哪里。更重要的是观察员工会不会绕开它。

如果员工持续不用，不能简单归因于培训不足。可能是提示太晚、资料不可信、等待太久，或者系统让他们多做一套工作。

只读阶段让我们在影响较小的情况下发现这些问题。

第三级只写回人已经确认的结果​

当建议稳定、员工愿意使用后，我们允许系统把负责人确认的交接内容写回项目系统。

写回前显示将要改变什么；写回后记录来源、确认人和时间；失败时不能让业务状态误以为已经完成。

这一阶段验证的不是 AI 会不会判断，而是它能不能安全地改变公司记录。

只要出现重复写入、权限越界或状态不同步，就退回只读。

第四级只交给低风险、可撤回的动作​

最后才选择少量动作自动执行，例如提醒资料负责人、给内部任务设置截止时间、整理已确认材料。

涉及客户外发、价格、合同、项目完成和财务事实的动作仍然保留人工决定，除非公司以后积累了足够证据并重新授权。

“有限”意味着动作、对象、时间和例外范围都写清楚。系统不能因为相似就把授权扩大到另一类客户或另一条价值流。

每次升级都要经过证据门​

我不会规定统一的“准确率达到多少就升级”。不同动作的风险不同。

升级前至少要确认：

  • 足够数量和类型的真实样本已经通过；
  • 高风险错误没有越过停止边界；
  • 人工接管有明确入口并能及时完成；
  • 速度和成本符合真实工作；
  • 业务负责人愿意承担这个授权的后果；
  • 降级和撤回已经演练。

证据门不是为了阻止自动化，而是让自主权有清楚来源。

权限必须能够降回来​

产品规则变化、数据来源更换、模型表现下降、出现事故或员工职责调整时，自主范围要立即重新检查。

我在系统里保留降级路径：有限自动执行可以退回受控写入，受控写入可以退回只读，只读也可以暂停。

降级不是项目失败。它表示现有证据不再足以支持当前权限。

一个只能升级、不能方便降级的系统，最终会让团队害怕授予任何自主权。

云枢科技没有获得一张笼统的“自动化许可”​

阶段允许动作还不能做什么进入证据立即退回条件
历史验证在脱敏旧订单上整理、比较和停止不碰真实新订单十二类用例、来源、权限和恢复通过主体冲突、高风险遗漏或无法追溯
只读真实试点对首批新订单生成内部草稿、缺失和待办不改变正式状态，不对客发送九名用户会使用、会接管，质量与等待可接受越权、错误承诺、长期双录或队列无人处理
受控写入候选只写负责人已经确认的有限状态不接受承诺，不写合同和财务事实重复提交、权限和恢复证据通过；另行批准重复写入、状态不同步或无法回滚
有限自动执行候选内部提醒、截止时间和已确认材料整理价格、合同、客户发送、项目完成和付款仍保留人工当前动作长期稳定且新增经营价值明确规则、来源、表现或责任人变化

当前执行包版本只授权脱敏历史验证和有限只读试点。后两行是有条件的候选，不会因为日期到了或总体正确率较高自动生效。

授权梯子写在 执行包第 10 节。下一节进入一次真实交付评审：工程师说“全部测试通过”时，我怎样从具体输入、状态、权限、失败和限制判断它只能通过、限制通过，还是不能进入试点：我怎样审查 AI 全栈工程师的证据。