执行 Agent 上线全景架构与问题清单

结论:现有项目已经完成业务样机验证,沉淀了剧本、话术、bad case 和评分经验;下一步建议先收敛问答助手,同时单独建设生产级 Agent 主线。

现在 沙盘一体机 能演示,能沉淀案例;还不是生产执行系统。
本月 阶段性问答助手 + benchmark 把剧本、话术、失败案例变成可验收资产。
后续 生产控制面 + pi Runtime 真实输入、真实动作、真实回执分层建设。
复用业务素材 / benchmark
拆出沙盘测试环境
新建生产执行主线
接入pi Agent Runtime
执行摘要 先承接现有成果,再补齐生产能力
1 现有成果 完成了业务样机验证,沉淀了剧本、话术、bad case、评分经验和场景理解。
2 本月交付 基于现有素材先交付可上线问答助手,同时把 bad case 转成 benchmark。
3 后续建设 生产级 Agent 需要独立的工程化主线;8 月开发到位后承接真实输入、动作回执和评测闭环。
附页:关键问题答疑 默认隐藏,需要时展开查看 20 个细项

这部分把你最开始问的 6 个问题和我补充的 14 个问题合并到一起。阅读方式很简单:每章先看“业务结论”,再看“现在是什么样”,最后看“应该怎么落到需求池”。技术名词只保留必要的边界词,核心用业务逻辑讲清楚。

1. 执行 Agent 和测试环境到底要不要拆?

要拆,而且这是上线主线

业务结论:现在更像“沙盘里长出了一个会干活的 Agent”,不是“我们的业务后端在调用一个独立 Agent Runtime”。如果月底要接真实业务,必须先把业务执行后端、pi Runtime、沙盘测试环境拆清楚。

现在点一次沙盘,沙盘负责造客户、造达人、造事件,也顺手调用执行 Agent。
问题测试环境和被测对象绑在一起,测试通过不等于真实可用。
目标我们的业务后端负责任务和动作闭环,pi 负责 Agent Runtime,沙盘只是测试输入源。
落地先做统一输入输出契约,再让沙盘和真实环境都按同一套业务后端入口接入。
需求池

新增“业务后端接 pi Runtime”P0,不再继续只优化沙盘页面。

验收

沙盘不能直接摸执行内部状态,只能像真实环境一样提交一轮业务事件。

风险

如果不拆,月底上线会变成把内部测试工具包装成生产系统。

2. 每个会话和外界的输入输出现在是什么逻辑?应该怎么设计?

现在是沙盘会话,不是真实业务会话

业务结论:当前会话的外部输入只有“开始跑一个剧本、查询进度、停止”。真正的客户和达人消息不是从外部系统进来的,而是沙盘内部模拟出来的。输出也不是发到真实群里,而是变成页面日志和历史记录。

开始选择剧本、轮数、提交人,启动一次模拟。
运行沙盘自己生成客户和达人消息,执行 Agent 只在这个模拟世界里回应。
展示页面轮询日志、调试信息和最终结果。
缺口没有真实消息入口,也没有真实动作回执。
合理设计:真实世界收到消息后,先进入我们的业务后端。业务后端整理任务上下文、权限和可用动作,再调用 pi Runtime 让 Agent 判断下一步。pi 返回动作计划后,仍然由我们的业务后端执行发消息、转文件、改状态,并把成功或失败回写成回执。
输入要包含

任务、群、用户、消息、附件、当前业务状态、允许动作。

输出要包含

回复内容、文件动作、阶段动作、是否需要人工确认。

回执要包含

是否真的发出、外部消息编号、失败原因、是否需要重试。

3. 之前跑过的剧本怎么变成可观测回归测试?

材料有了,但还不是上线门禁

业务结论:现在有不少真实案例沉淀成剧本,也能跑出结果和评分。但它更像案例库,不是严格的回归测试。团队要判断“这一版能不能上线”时,不能只回答“跑过几个剧本”。

案例真实合作记录沉淀成剧本。
分类按核心流程、坏案例、边界场景、权限场景分层。
断言每个剧本写清必须做到和绝不能做的事。
门禁每次发版跑同一批剧本,看有没有退步。
  • 核心流程:正常寄样、脚本、拍摄、发布、结案能跑通。
  • 坏案例:客户临时改需求、达人拖延、文件没给全、跨群信息漏同步。
  • 边界场景:空文件、重复文件、阶段提前、等待过久、多人并发。
  • 上线门禁:不要只看 AI 分数,要看“有没有做错动作”。
4. 多任务并行能不能放在同一个上下文里?

不能,共用上下文会串单

业务结论:多个商单可以共用同一套业务后端和 pi Runtime,但不能共用同一份记忆。每个商单都应该有自己的消息、文件、阶段、动作记录和失败记录。

服务可以共用

一套业务后端 + pi Runtime 可以同时处理多个任务。

上下文必须隔离

商单 A 的文件、阶段和客户要求不能被商单 B 看见。

产品要能解释

每个任务打开后,都能看到自己独立的进度和动作历史。

5. 多任务同时执行时,环境隔离怎么做?

沙盘有初步隔离,生产隔离还没成型

业务结论:现在能做到“多个沙盘运行别互相覆盖”。但真实上线要解决的是“多个真实客户、多个真实群、多个真实文件、多个真实动作别互相串”。这是更高一层的隔离。

任务隔离每个商单一个独立任务。
权限隔离只看当前任务允许看的群和文件。
动作隔离每个动作有唯一编号,重复执行能识别。
预算隔离模型成本、超时、失败次数按任务记录。
6. 现在上下文管理是什么,Agent 是一直在线还是每轮重新判断?

业务状态在项目里,模型每轮重新看材料

业务结论:模型本身不是一直开着一个长会话。项目会保存消息、记忆、当前阶段、文件状态;每来一轮,再把这些材料整理给模型,让它判断下一步。

收到新消息客户或达人有新输入。
整理上下文取最近对话、关键记忆、当前文件和业务阶段。
模型判断先判断局势,再决定动作。
保存结果把回复、动作和新记忆写回任务状态。
上线后也建议继续用这种“显式上下文”方式,不要赌模型自己记得。区别是这些状态不能只放内存,要能恢复、回放、审计。
7. 我们的业务后端和 pi Agent Runtime 各负责什么?

现在混在一起,产品边界应该重新画清楚

业务结论:我们的业务后端才是执行闭环的主人:接真实世界、整理业务上下文、管权限、落动作、记回执。pi Agent Runtime 不是业务后端,它负责把“当前材料 + 可用工具”跑成一次 Agent 决策。沙盘只负责测试,不负责生产执行。

业务后端负责闭环

接真实消息、查业务状态、管文件权限、组装上下文、执行发消息/转文件/改状态、记录回执。

pi Runtime 负责决策

拿到业务后端给的当前材料和工具说明后,跑 Agent 推理,输出结构化动作计划。

沙盘负责测试

模拟客户和达人,制造案例压力,用同一入口验证业务后端 + pi Runtime 是否靠谱。

输入源真实环境或沙盘产生一条业务事件。
业务后端整理任务、权限、文件、阶段和可用动作。
pi Runtime判断下一步,返回结构化动作计划。
业务后端执行动作、写回执、沉淀审计和可接管状态。
  • 需求池 P0:定义业务后端到 pi Runtime 的调用契约、动作计划格式、动作回执和任务状态存储。
  • 沙盘改造:沙盘以后也走业务后端入口,不再直接绑执行内部实现。
  • 上线目标:真实环境和测试环境只换输入源,业务后端和 pi Runtime 的主链路不换。
8. 动作成功性现在怎么判断?

现在知道沙盘里做了什么,不知道真实外部是否成功

业务结论:Agent 说“我会发给达人”不等于消息真的发出去了。生产里每个动作都要有回执:成功、失败、失败原因、能不能重试、是否需要人工接管。

回复动作

要拿到真实外部消息编号。

文件动作

要确认文件存在、权限允许、目标真的收到。

阶段动作

要确认业务系统状态真的更新。

9. 文件可见性和权限怎么接真实环境?

业务结论:文件权限不能交给模型猜。模型只能看到“当前任务、当前群、当前身份允许看到的文件”。真正转发前,后端还要再做一次权限判断。

文件出现客户或达人发了文件。
权限快照后端判断谁能看、谁能转。
Agent 决策只基于可见文件判断要不要转。
执行确认真正转发时再次校验并记录结果。
10. 沙盘的“上帝视角”会不会污染 Agent?

会,这是测试转生产最容易踩的坑

业务结论:沙盘知道剧本、未来事件、评分点、导演意图,但真实 Agent 不应该知道这些。如果这些信息混进业务后端给 pi 的上下文里,测试会显得很聪明,上线就会失真。

不能给 Agent

未来剧情、评分答案、导演意图、未释放的私有文件。

可以给 Agent

真实对话、真实可见文件、当前业务状态、已授权知识。

验收方式

沙盘跑分时检查输入里有没有偷带答案。

11. 进程重启后任务能恢复吗?

现在还不够

业务结论:沙盘更像“跑完后保存记录”。真实商单可能跑几天,服务重启、模型超时、外部接口失败都要能继续。上线前必须把任务状态从内存里搬到可恢复存储里。

  • 每轮输入要保存。
  • 每次模型决策要保存。
  • 每个外部动作和回执要保存。
  • 恢复时要知道下一步从哪里继续。
12. 现在的评测能不能当上线门禁?

不能单独当门禁

业务结论:现在评测能帮助看趋势,但不能独立证明“可以上线”。上线门禁要回答的是:这版有没有比上版退步,有没有做错危险动作,真实动作有没有回执。

要固定样本

同一批剧本每次都跑。

要硬判断

禁止提前推进、禁止乱转文件、禁止漏同步关键事。

要版本对比

不是看单次分数,而是看趋势和退化。

13. 现在有哪些观测能力,缺什么?

业务结论:沙盘复盘能力已经有基础,能看日志、模型调用、历史记录。但生产观测还缺一条从真实消息到真实回执的完整链路。

真实消息谁在什么时候说了什么。
Agent 判断为什么决定这样回复或转文件。
外部动作消息和文件是否真的发出。
人工接管失败后谁处理、怎么恢复。
14. 现在的服务面能不能直接上线?

不建议直接作为生产服务暴露

业务结论:现在一个服务里混着沙盘启动、剧本管理、历史删除、评分、模型明细查看、本地工具。这是内部平台形态,不是面向真实业务的生产运行时。

生产接口

只处理真实任务输入、状态查询、动作回执。

管理接口

剧本、评分、调试、删除留在内网管理面。

安全底线

鉴权、脱敏、限流、审计必须先补。

15. 数据库启动逻辑有什么上线风险?

生产服务启动不应该顺手改库

业务结论:内部工具启动时顺手建表、回填、修结构还能接受;生产运行时不行。上线服务启动应该只检查依赖是否可用,不应该做迁移、删旧表或大规模回填。

  • 迁移和回填要变成独立发布步骤。
  • 启动失败要可预期,不要边启动边改状态。
  • 回滚时要知道数据库版本和服务版本是否匹配。
16. 真实环境第一版应该接多深?

业务结论:第一版别做“大而全自动托管”。先证明一件事:真实消息能进来,Agent 能判断,动作能被外部执行,失败能查清并接管。

先接真实消息输入和授权上下文。
先做回复动作、文件可见性、动作审计。
先控高风险动作走人工确认。
先验小流量真实任务可追踪。
17. 人工审核应该放在哪里?

业务结论:人工审核不要放进模型脑子里。pi 只给出建议动作,真正执行前由业务后端动作层按规则判断:直接执行、拦截、排队人工确认,或者只生成建议。

低风险

常规同步、简单确认,可以自动执行。

中风险

文件转发、阶段推进,可以先做规则拦截。

高风险

对外承诺、合同/费用/敏感资料,必须人工确认。

18. 需求池应该怎么分 P0/P1/P2?

业务结论:P0 解决“能不能可控上线”,P1 解决“上线后能不能运维”,P2 再做体验和能力扩展。

P0

资产定界、生产控制面契约、动作计划协议、动作回执和最小 benchmark 门禁。

P1

真实输入输出小闭环、人工审核台、失败队列、任务恢复、版本对比。

P2

复杂业务写入、自动结案、长期记忆优化、多模型路由、运营面板。

19. 月底交付应该怎么切?

业务结论:月底不要承诺完整生产 Agent,应该承诺三个可验收交付:资产定界、架构契约、最小 benchmark。这样既保住已有投入,也不给真实上线背过量承诺。

资产定界剧本、话术、评分、失败案例、可抽取内核和不可上线边界。
架构契约业务事件、pi 请求、动作计划、动作回执和任务状态。
最小验收10-20 个代表剧本,输出通过率、失败类型和退化结论。
不承诺不承诺真实商单全自动托管,不承诺沙盘服务直接上线。
20. 最低上线成功标准是什么?

业务结论:最低标准不是“Agent 能聊天”,而是“出了问题能知道为什么,危险动作能拦住,坏版本能回滚”。

  • 一条真实业务消息能进入业务后端,并触发一次 pi Runtime 决策。
  • pi Runtime 只能看到业务后端裁剪过的授权上下文。
  • 输出是明确动作,不是散文式建议。
  • 外部动作执行后有回执。
  • 全链路可追踪,失败可人工接管。
  • 固定回归测试能对比版本退化。

现状:沙盘一体机,生产边界需要拆清

现状沙盘一体机长什么样
能力集中在沙盘中,适合验证和沉淀;生产边界需要单独拆清
当前项目 = 沙盘一体机 测试环境、剧本导演、虚拟角色、执行 Agent、自写 Runtime、评分历史都在一个沙盘里 沙盘一体机 测试环境、导演、执行 Agent、评分混在一起 剧本 导演 虚拟角色 执行 Agent 雏形 回复 / 转文件 / 推阶段 自写 Runtime prompt + tool loop 输出:页面日志 / 历史记录 / AI 评分 能做什么 有限场景问答助手 可复用价值 业务素材 + benchmark 生产 Agent 需要补齐主线 真实输入、动作和回执要单独工程化 统一输入契约 任务状态 权限 / 文件 工具协议 动作回执 恢复 / 接管 结论 结论:现在先交付问答助手;真正生产 Agent 需要另建生产执行主线
它现在是什么 一个业务验证沙盘 它把客户、达人、导演、剧本、执行 Agent、评分都放在一个模拟世界里,适合演示和试错,但不是面向真实商单的生产系统。
这两个月沉淀了什么 有价值,但主要是业务样本价值 它帮团队把场景、话术、失败点和评分经验跑出来了;这些适合转成问答助手能力和 benchmark,后续由生产 Agent 工程主线承接。
它能落什么 可以先收敛成可上线问答助手 已有剧本和话术可以支撑固定场景辅助:帮人写回复、整理下一步、提醒缺文件和风险。能复用的是业务材料,生产工程主线单独建设。
它缺什么 缺的是生产工程闭环,需要按新主线做 真正 Agent 要有真实输入契约、权限裁剪、动作协议、执行回执、失败恢复和人工接管。这些属于生产主线能力,不适合在沙盘里继续堆。

对比:真正要做出来的 Agent 架构长什么样

目标生产架构:三套东西分开,统一入口打通
真实执行链路必须从沙盘里拆出来
我们最重要要做出来的架构 真实输入和沙盘输入都走同一入口;执行闭环在业务后端;Agent Runtime 接 pi 真实输入 消息 / 文件 / 人工触发 来自真实业务系统 沙盘输入 剧本 / 虚拟客户 / 虚拟达人 只负责测试,不拥有 Agent 业务执行后端 生产控制面 任务状态 权限文件 动作执行 回执接管 pi Runtime 模型会话 / 工具编排 / 上下文 返回动作计划 真实动作层 发消息 / 转文件 / 改阶段 必须有成功/失败回执 Benchmark / 可观测验收 历史剧本 + 失败标签 + 动作回执 + 版本对比,回答“能通过哪些场景、通过率多少” 真实事件 测试事件 上下文 + 工具 动作计划 真实副作用 回执 真实流 测试流 Agent 决策
和现状最大差别 1 执行主线从沙盘里拿出来 现在是沙盘包着 Agent 跑;目标是业务后端拥有生产执行主线。真实消息、状态、权限、动作和回执都在业务后端形成闭环。
和现状最大差别 2 runtime 用成熟框架承接 pi 负责模型会话、工具编排、上下文压缩、动作计划和过程事件。它不直接发真实消息,也不直接改业务状态。
和现状最大差别 3 沙盘变成测试输入源 沙盘不再是生产系统本体,而是用来制造场景、回放历史、打标签、比较版本退化。它验证生产主线,不拥有生产主线。

所以还缺什么:后续要并行构建三套东西

后续不是一条线顺序做,而是三条线并行建
测试环境、Agent 架构、benchmark 评测集互相配合,但职责独立
后续要并行构建三套东西 旧项目先沉淀资产;新项目补生产 Agent 架构;历史跑过的剧本转成 benchmark 测试环境 把沙盘独立出来 剧本 / 虚拟角色 / 回放 Agent 架构 真实生产主线单独建设 业务后端 / pi Runtime / 动作层 Benchmark 评测集 把过去跑过的转为验收标准 场景分类 / 通过率 / 退化 测试环境产出历史回放和失败样本,沉淀到 benchmark 被评测 三者关系 测试环境:造场景 Agent 架构:跑真实主线 Benchmark:定性验收 本月不承诺:真实商单全自动托管、模型后训练、把沙盘直接包装成生产系统
测试环境 沙盘独立成测试系统 保留剧本、虚拟客户/达人、历史回放能力,但它只负责造输入和复盘,不再包着生产 Agent 跑。
Agent 架构 生产 Agent 主线补齐工程规则 补统一业务事件、任务状态、权限裁剪、工具协议、动作执行、动作回执、失败恢复、人工接管和观测链路。
Benchmark 评测集 把跑过的剧本提炼成验收体系 先做 10-20 个代表场景,按场景分类、必须做到、绝不能做、通过率、失败类型和版本退化来验收真实 Agent。
7-9 月三步规划
1 上线助手采样本,2 建设生产主线,3 生产 Agent 上线
三步走:7 月问答助手,8 月建设生产主线,9 月生产 Agent 7 月先上线问答助手并收集 bad case;8 月全职开发到位后建设生产级 Agent 主线;9 月用 benchmark 闭环验收生产级 Agent 1. 7 月 沙盘整理交付问答助手 目标:先把能上线的助手版本做出来 固定回复 / 人工确认 / bad case 2. 8 月 开发到位,建设生产主线 目标:新建 Agent 架构,三线并行 全职开发 / 真实主线 / 版本评测 3. 9 月 生产级 Agent 正式上线 目标:小流量真实商单可控运行 真实输入 / 真实动作 / 可回滚 数据飞轮怎么形成 问答助手采集 bad case → benchmark 量化失败类型 → Agent 架构补工具、状态、权限和回执 → 再回到测试环境回归