概念演示 / 流程自动化

Agent Workbench · 智能体工作台

围绕检索依据、受限工具和人工审批组织智能体任务。此概念演示 仅用于讨论设计与验收。

概念演示:没有接入真实模型、企业知识库或客户系统,不宣称答案准确率、自动化收益或实际执行能力。

智能体工作台概念图,示意任务步骤、资料依据与人工审批
概念示意图

项目背景

概念方案用于讨论检索依据、人工审批和受限工具,不对应已部署智能体。

问题与挑战

  • 让资料来源、工具权限和人工决定保持可见,避免把一段流畅回答当作可信执行结果。

解决方案

拆分检索、建议、审批和执行状态,设计有限权限、重试预算、取消与失败接管。

能力与范围

  • 拟议:检索来源与回答依据分开记录
  • 拟议:工具执行前检查审批
  • 拟议:有限重试、取消和人工接管

架构说明

概念分层:TypeScript 工作台、FastAPI 任务接口、Python 检索与工具适配、Redis 任务协调;未连接真实模型、知识库和业务工具。

结果与证据

  • 已整理任务权限与人工复核的讨论范围
  • 尚无真实业务数据评估、准确率或效率收益证据

先把任务与回答分开

智能体的回答可以很完整,但回答并不证明任务已经完成。这份概念方案围绕资料准备、检索、建议、人工审批和实际执行分别记录状态,讨论一个人应该在什么时候介入,以及失败后如何继续。

封面仅展示界面结构的方向。没有真实模型、客户知识库或外部工具接入,也没有经过测量的准确率与效率提升。

资料进入系统之前

需要先明确哪些资料可以被读取、哪些可以发送到模型供应商,以及哪些只能保留在指定环境。数据权限不能只靠提示词,检索服务和工具接口都需要独立执行权限校验。

对资料更新、撤回和删除,也要定义索引何时同步,旧引用是否仍能访问。模型输出不应把过期内容描述成当前有效的事实。没有依据时,应允许返回无法确定,而不是补出一个看似完整的答案。

建议并不等于授权

检索步骤可以生成摘要和引用,建议步骤可以整理下一步操作,但修改记录、发送消息或调用付费工具之前,需要根据风险设定明确的审批条件。

审批对象应是可检查的动作清单,包括目标、参数范围和预期影响。用户同意一个建议,不应被扩大解释为之后所有工具调用都已授权。审批后参数改变时,也需要重新确认是否仍在允许范围内。

失败、重试与取消

建议为任务设置明确状态,并区分网络超时、供应商限流、业务拒绝和权限不足。只有可恢复的错误才进入有限重试,业务状态已改变时应重新读取事实,而不是重复旧动作。

取消需要覆盖等待、执行和结果落地。一个迟到的成功响应不能覆盖用户已经确认的取消状态。人工接管应展示已完成动作与未完成项,帮助操作者决定下一步,而不是只显示“失败”。

评估应该检查什么

  • 检索依据是否来自用户有权访问的资料。
  • 引用是否能支持回答中的具体事实。
  • 缺少资料、冲突资料和过期资料能否被识别。
  • 未审批的工具调用是否被服务端拒绝。
  • 重复执行、超时和取消是否保持状态一致。

实施时需要使用经过授权和脱敏的业务样本,分别衡量检索、回答与动作结果。模型选择、成本和外发保留策略都需要单独核对。若工具涉及订单操作,可结合 Commerce Lab 的状态与金额边界继续讨论。