智能体能跑起来,谁愿意把账本交给它?|AI Engineer

中文深度整理,非逐字翻译
原始标题
The Agent Works. Does Anyone Trust It? — Michele Grant, Leading at Scale
节目 / 来源
AI Engineer
嘉宾
Michele Grant
原始发布日期
2026-10-14
内容类型
演讲 / 企业智能体治理
原始内容
前往原始来源 ↗

上线证明系统存在,不证明有人会用,更不证明交易模型里的钱会到账。Michele Grant 做了二十多年企业转型,也做过十多年并购整合。她在 AI Engineer 上的问题很窄:智能体能干活之后,谁敢让它碰核心流程。

原始来源:The Agent Works. Does Anyone Trust It? — Michele Grant, Leading at Scale。中文深度整理,非逐字翻译。本文依据视频英文字幕,数字和角色都来自讲者举的例子,不是一份已披露的交易报告。

试点测的是软件,日常测的是价值

她把场景放进一笔已经交割的并购:目标公司 150 亿美元,协同目标 4 亿美元,整合管理办公室盯着 40 条工作流,从供应商合同到 ERP 合并。每条都有业务负责人对利润负责。分析师每周对总账、追状态、比计划,再做成指导委员会的材料。委员会里有 CFO、首席风险官、业务负责人和整合负责人。

工程团队做了一个智能体,吃进周报、对账、算差异、标出落后项目。四周试点里,草稿和分析师的报告逐行一致。技术过关了。她认为真正的问题从这里才开始:委员会在把什么交给它之前,必须先写下一份价值说明。

三个指标要在碰生产数据之前说死。周期:周报如果现在要五个工作日,目标可以设成两天。人力:四个分析师各花半周,就是每周 80 小时;这些时间只有被派去补落后的协同,并且扣掉算力、许可和人工复核之后,才算价值。最重要的是发现时间:数据里第一次出现滑坡,到委员会看见它,中间隔了多久。报告从五天缩到两天,不保证滑坡被更早看见。没有上线前的基线,就不要部署。量不出起点,就证明不了针动过。

三道防线,外加一张一页纸

风险按三道防线摊到智能体上。第一道是管理层:整合负责人对产出负责,和以前对手工数字负责是同一件事。第二道是风险与合规,深度取决于暴露。内部草稿、高级分析师先看过,和直接把数字送到董事会,不是同一个审查标准。第三道是内审,按重大风险决定它何时进年度审计计划。

每天还要有一个具体的人盯着。例子里是高级分析师。这个人得懂边界、能结合上下文读输出、有权推翻或回滚,并且有清楚的关停办法。

权限停在哪里,她写成一页的“人工工作标准”。每个分叉写明:决定是什么、谁有权做、要什么证据、往哪升级。分析师判断差异是会计时点还是真的现金缺口;工作流负责人决定怎么补;整合负责人决定要不要正式标成风险。智能体把分析准备到决策前面,然后停下。做决定的人承担后果。她认为把决定留在人手里不会拖慢智能体。唯一该推迟上线的理由,是一个决定没有主人:没人有权宣布项目脱轨,智能体标出来也不会有动作。

自主权是挣来的,不是默认的

更大的自主权要有三样东西,而且要工程师交出来。

第一是可审计的决策日志。每个工作流记下吃进的原始数据、工具调用、提示、模型版本、输出和人工签字。核心对账必须跑在财务认可的确定性代码里,不能让大模型用散文生成。文字摘要只是解释,证据在遥测里:拉了哪些记录、跑了哪些确定性工具、谁签了字。和总账对不上,智能体不准改数字,只能标出差异并往上送。

第二是模型台账:负责的高管、数据血缘、依赖的源系统、验证结果、升级路径、关停手册,以及回归触发器。底座模型或来源接口一更新,就要完整再验证,才能回到生产。

第三是自主权记分卡,分四段。影子模式:人照旧做报告,智能体并行,两边对照。监督草稿:智能体出第一稿,分析师逐行看。例外加抽样:看落后项目,再随机抽一部分。只看例外:人只看高风险异常,并做定期独立抽样。她特别提醒第四段。人只看例外之后,最大的洞是智能体没标出来的东西。推翻率下降,可能是它更准,也可能是复核变浅。独立抽样用来区分这两种。记分卡把周期、分析师工时、发现时间放在控制指标旁边。委员会用这一页决定升级、按住、退回监督,或停掉。

她的收束是:4 亿美元协同不是智能体变出来的,是采购、供应链和业务负责人在整合里磨出来的。智能体能交付的,是提前几周、经过核对的证据,让人还来得及插手。能跑只是第一步。三个问题才是规模化的门票:它创造什么价值,谁对它负责,什么证据允许它自己往前走。