工程文章

智能体工作流:先设计可追溯,再谈自动执行

检索、建议、审批和执行需要独立的证据与状态,避免把流畅回答误认为可靠自动化。

  • 智能体
  • 人工审批
  • 可追溯性

自动执行之前,先回答谁在负责

把模型接到工具上,并不等于形成可靠的业务流程。模型可能整理得很清楚,却引用了用户无权读取的资料;也可能给出合理建议,但执行参数已经偏离审批内容。问题不只在回答质量,还在责任和权限边界。

开始之前,应先问:谁发起任务,允许读取哪些数据,哪些动作需要审批,失败后由谁接管。只有这些问题有答案,才适合决定模型、工具和运行方式。

四种证据不要混在一起

检索证据说明信息来自哪里;建议记录说明为什么推荐某个动作;审批记录说明谁允许执行哪一组参数;执行记录说明外部系统实际返回什么。四者可以关联,但不能相互替代。

一条“操作成功”的模型回复不能取代接口结果。用户同意建议,也不能自动推导为所有后续调用都获准。审批范围要与具体动作绑定,参数或目标改变时需要重新判断。

权限应由服务端执行

提示词可以解释规则,但不能作为唯一权限机制。检索层需要按用户身份过滤资料,工具层需要检查资源和动作权限。即使模型产生了格式正确的请求,也应由真实接口拒绝越权行为。

敏感数据外发前,还要明确模型供应方、处理地区、保留配置和可访问人员。没有提供这些资料时,不应宣称数据已满足某个隔离或隐私保证。

重试需要知道当前事实

网络失败、限流、业务拒绝和权限不足不是同一种错误。可以重试的情况也需要次数与间隔上限。重试前若订单或任务状态发生变化,应重新读取当前事实,不要继续执行已经过期的计划。

取消同样需要贯穿全过程。任务在等待审批时、执行中、结果写回时,取消分别意味着什么?迟到的响应能否覆盖取消状态?这些规则应该通过可复现用例确认。

用业务样本评估,不用演示感觉评估

评估集应包含缺少依据、资料互相冲突、旧文档、越权请求、重复执行和工具失败。检索是否找到正确来源、回答是否忠于来源、动作是否符合授权,需要分开检查。

不要因为几次演示都顺利就承诺准确率,也不要用任务完成数代替业务结果。指标要有样本范围、判定规则和人工复核方法;没有真实评估,就明确保持未知。

让人工接管成为正常路径

人工接管不应只是一个报错按钮。界面应展示已经读取的资料、已批准动作、外部执行结果和仍未完成的步骤,帮助操作者安全地继续或终止。

Agent Workbench 展示了这类流程的概念拆分,没有连接真实模型或企业系统。可以把它作为需求讨论材料,先确认数据、审批和失败边界,再决定值得自动化的部分。