让 AI 真正“上班”一天,办公 Agent 还差什么?

1 个月前4.1k
AI Agent 差的三道坎

办公 Agent 的赛道,正从「百模大战」走向真实价值的检验。

WorkBuddy、豆包、Kimi Work、千问办公等,各类应用层出不穷,随手一搜就是一堆横评。很快就能知道谁在某个任务上表现更好、更容易上手以及自由选择模型程度。

但大多数的测评,往往还是停留在功能对比、上手简易程度以及模型选择自由程度。

而有一类评测,其实是最稀缺的:「Agent 在真实工作里的实际完成效果」。

当给到一份真实的任务需求时候:整理发票、搜集资料、做汇报,让它从头干到尾,交付的结果,离「可以直接用」还有多远?

这些才最符合真实用户的日常使用需求,只有端到端的交付能力,才能衡量办公 Agent 的真实价值。

1、办公是比 Coding 更难的战场

我把主流的评测集都翻了一遍,与办公相关的评测集真的很少。而且绝大多数模型的跑分,在这些真实场景下任务的成功率,也是低得可怜,跟大家在 Coding 领域的体感完全不一样。

这两年,Coding 能力是大模型训练的主旋律,模型公司针对 Coding 方面,对模型做了极大程度的优化和提升。

当把需求扔给 Claude Code、Codex 之类的 Agent,让它自己改代码、跑测试、修 Bug,Coding Agent 已经形成相对成熟的「生成—执行—验证—修复」闭环。

但在办公场景下,情况却完全不同。

让 Agent 写一份 PPT、整理一批文档、做一次竞品调研,看起来同样是「给 AI 任务干活」,但真正交付的时候,翻车概率明显更高。

大模型在 Coding(写代码)领域体感极好,那是因为代码有编译器,报错了可以反复 Debug。

在写代码的过程中,Agent 完成的是这样一套的闭环流程:生成、执行、报错、定位、修改、再执行、测试通过。

模型在这中间也会犯错,但是这个错误很容易被发现。

但办公任务并不是这样。

你让 Agent 做一份 PPT,它做完告诉你「任务完成」。但字体有没有重叠、模板是不是被破坏、页面层级是不是乱了?

这些问题通常都没有一个类似编译器的机制,在出错后,会立刻告诉 Agent:「这里错了,需要重新改。」

所以这种「即时纠错」是缺失的。缺乏客观的运行环境来验证对错,因此模型无法感知排版是否错位、数据有无遗漏,这种工作只能由人工来审核。

目前 Coding Agent 已经有成熟的编译器、测试框架和运行环境,而办公 Agent 最缺的,恰恰就是这一层。

Coding Agent 已经进入「能自己干活」的阶段,但办公 Agent 仍然没有跨过及格线。

我找到一个最近刚开源,比较成熟的电商评测的评测集,里面包含了一些最新模型的测试。

这个评测集叫 RealReplicaBench,是阿里国际站发布的,他们是做外贸的,内部的数据比较权威,可以清晰的反映出 Agent 在真实电商场景下的水平。

阿里国际站有一个 Accio Work,是他们自己做的电商 Agent。

这套评测一共有 107 个任务,他们从大概 160 万条完整对话中整理出 20 万条工作流,再归纳出约 2000 条商业价值高的,按照可复现性和结果可判定性,最终整理出来 107 个任务。

这些任务基本把电商领域涉及到的工作场景都覆盖了,像供应商采购、商品发布、店铺经营、订单对账、国际物流、售后争议等。

RealReplicaBench 的 107 个真实电商任务中,排名第一的 Claude Opus 5 也只完成了 65 个,通过率 60.75%。

国模中 Qwen 3.8 Max 和 DeepSeek V4 Pro 以 49.53% 的通过率并列第三,更值得注意的是,多数模型的任务通过率仍未达到 50%——也就是说,把真实业务交给今天的 Agent,它仍然很可能在关键环节犯错。

关于评测的规则,对于模型的得分判定,是非常严格的,一旦在任务中间检验出来 1 个错误就给到 0 分。

在测试中,没有过程分这个东西,只有全对才有分。当模型去解决真实电商问题的时候,如果中间出了差错,可能就会丢了单子,这才是真实的商业世界。

如果在他们自己的 Agent 产品 Accio 框架下测试,通过率就会比较高一点,模型通过率 50% 以上的,从 2 个增加到了 6 个,毕竟这个 Agent 是专门做电商,对电商中的真实场景,肯定会有很多的优化。

如果说 benchmark 告诉我们,模型距离「可靠完成真实工作」还有多远,那么接下来更值得看的,是应用层的办公 Agent 有没有通过产品设计,把模型的能力真正变成生产力。

2、四大办公 Agent 真实场景实测

我挑选了市面上几个主流的办公 Agent 应用,WorkBuddy、Trae Work、Dumate、千问办公。

说明一下测试方法:

  • 本次测试均使用各产品默认配置下的最新版本,开启完全访问权限;
  • 每个任务允许一次完整执行,不做多次重试取最优;
  • 任务是否「成功」以第三方人工核验最终交付物是否可直接使用为准,允许必要的人工介入被记录但不计入「自动完成」评价。

我拿了三个比较常见的活实测:

把思维导图截图整理成汇报 PPT、把一堆发票邮件归成清单、店铺商品调研。

这些都是比较贴近日常办公场景的任务,看看这些办公 Agent,究竟离真实的生产力还有多远的距离。

这三个任务并不是三个孤立的测评题,对应着办公 Agent 需要跨越的三次能力跃迁:

从生成到保真、从局部正确到全局正确、从指令执行到自主应变。

先快速过一下各 Agent 在这次测试中的表现:

首先是制作汇报 PPT,这是第一道坎:需要从「内容生成」到「格式保真」。

制作 PPT 算是打工人的高频使用场景了,这项任务最能反映出做出来的产物是否具备「直接交付」的可用性,它不仅要理解内容,更要遵循制作的模板规范,是办公 Agent 距离真实生产力还存在多远的真实写照。

我给了一份 XMind 思维导图,一张版式参考图以及一份 PPT 模板,要求 Agent 严格遵循模板规范,将导图内容转化为排版规范的 PPT。

在这个任务中,暴露出的是 Agent 从「能生成」到「能交付」的差距。

这种差距背后,其实是模板解析能力、视觉自检机制是否存在的差异。

Trae Work 实测效果

千问办公实测效果

WorkBuddy 实测效果

Dumate 实测效果

「贴图式」交付:

Trae Work 和千问办公暴露了同样的问题。它们没能正确解析模板中的占位符,粗暴地将生成的内容以「贴图」的方式覆盖在模板上。

结果是,内容虽然没有缺失,但原有的排版结构被破坏,文本重叠、元素错乱,成品基本无法使用。这说明这两款产品目前更多是在「填内容」,而没有真正理解文件的结构层级。

「规范级」交付:

相比之下,Dumate 的表现令人惊喜。它不仅准确提取了内容,还在模板解析、排版逻辑和视觉一致性上表现出色,内容层级清晰,风格统一,几乎无需二次修改就能直接用于演示。WorkBuddy 的表现同样可圈可点,对模板的遵循度很高,排版规整,可用性强。

要说生成 PPT,这四个办公 Agent 都可以完成任务。但是生成一个文件,并不代表它完成了工作。

用户真正需要的是一份可以直接拿去用的结果。这中间还隔着模板理解、版式控制、内容层级、格式检查,以及最重要的:对最终交付结果负责。

这其实也说明了办公 Agent 下一阶段的竞争重点:需要从简单的内容填充,到对版式、风格和视觉逻辑的理解。更需要的是能把「生成—修改—交付」这一整条链路做得更完整。

任务二:从局部正确到全局正确:把发票邮件归成清单。

这是第二道坎:从「局部正确」到「全局一致」。

如果说 PPT 任务考验的是格式一致性,那这个任务考验的就是全局一致性。在处理大量、重复、琐碎的数据时,能否在全局范围内保持逻辑一致性,是衡量其可靠性的关键。

Agent 需要处理一个混乱的邮箱,里面混杂着几百封发票、单据、推广和回复邮件。筛选出所有真实票据,完成归档,并生成一份准确无误的汇总清单。

这项任务中,几乎所有 Agent 都可以出色的完成单文件信息提取,但在全局汇总阶段,问题开始浮现。

这说明单文件的信息提取能力,和跨文件的长上下文追踪能力,是两种完全不同的能力。

WorkBuddy 实测结果

Trae Work 实测结果

Dumate 实测结果

千问办公实测结果

「算不对总账」:

WorkBuddy 是一个典型例子。它对每一封邮件的内容提取基本准确,文件归档也做得井井有条。但在最后的汇总阶段,却漏掉了一个分类、将同一张发票重复计算、把一张单据的新旧两个版本都统计在内。

最终结果是:明细看着都没错,但总账是错的。同样 Trae Work 也犯了同样的毛病,给出了完整的报告结构,不过记录的「20 个必填字段」,实际列出字段数量并非 20 个。

「丢三落四」:

Dumate 完成了核心的归档和报告,但却把生成过程中的脚本、工作区里的空白模板等无关文件,也一并留在了交付目录里,造成了混淆。

「严丝合缝」:

在这次测试中,千问办公是唯一一个在第三方核验中没有出现错误、能直接交付成果的 Agent。这说明,在多文件交叉验证和全局数据一致性上,它具备更强的能力。

对于办公任务来说:「大部分都对」并不等于「可以交付」。

尤其是数据处理类任务,往往不是一次性的操作,是需要持续跟踪状态的流程。逐个读取文件难度不高,一旦进入长上下文追踪、跨文件版本合并与全局数据求和环节,模型注意力就容易出现漂移,导致犯错。

未来的办公 Agent 必须具备更强的长上下文追踪和跨文件逻辑校验能力,才能从「处理单据」的工具,升级为「管理账目」的助手。

任务三:也是最后一道坎,让 Agent 自己上网搜商品,需要从「指令执行」到「自主应变」。

任务需要让 Agent 自动上网,浏览电商平台,根据商品信息、店铺风格等因素,选出一个「标杆店铺」和一个「待优化店铺」,并截图取证,形成一份优化报告。

这是三个任务里最值得展开的一个,因为它触及了 Agent 和传统 Copilot 最大的区别——前两个任务本质上是在处理已有信息,这个任务要求 Agent 进入开放世界:感知环境、制定路径、操作工具、遇到异常、调整策略,最终完成目标。

这和前两个任务最大的不同是:

真实世界,从来不是一个封装好的 API 接口。

文件可以提前准备好,模板可以固定,输入也可以控制。

但网页不是。

登录状态、页面结构会变化,权限可能失效,验证码可能突然出现。

这考验的不再是简单的指令执行能力,更多的注意力是 Agent 在面对意外时,是否具有自主应变和策略调整能力。

换句话说:工具调用能力不等于 Agent 能力,真正的 Agent 能力是目标不变、路径可以变。

「卡住就死循环」:

WorkBuddy 在这一轮没能完成任务。由于不具备浏览器自动化功能,它试图通过无头浏览器执行任务,但从登录环节就卡住了。在长达 50 分钟的时间里,它一直在不断尝试不断失败,最后被我人工终止了。这暴露了一个经典问题:当预设路径走不通时,Agent 是否有能力改变策略?

「能干活的调研助理」:

Trae Work 在这一轮表现最好。它顺畅地跑完了自动化流程,并且交付的报告参考价值高,不仅罗列了基础信息,还总结了核心差距,给出了具体的优化建议、行动清单和效果评估,真正有了「助理」的感觉。

「表现平平的助手」:

Dumate 虽然也完成了任务,但过程并不容易。它忽视了「无需登录」的指令,强制退出了已有的登录状态,需要人工介入提供新的登录环境。千问办公同样也完成了任务,但是耗时 40 分钟,操作网页的能力没有什么突出点。

从左到右依次是 WorkBuddy、Trae Work、Dumate和千问办公

真正的自动化,需要在动态环境中实现目标。

当遇到登录失败、页面改版、数据格式变化等意外时,Agent 需要能够自主诊断问题、调整策略,或者与用户沟通以寻求帮助。

真正的 Agent,不应该只会调用工具,而应该能够在工具失效之后继续完成目标。

当 Agent 这方面的能力提升后,才能从「脚本执行器」进化为可靠的「办公室助手」。

3、办公 Agent 下一阶段,比的不是模型,而是「交付系统」

这次实测可以看出,办公 Agent 拼的不单单是模型能力,还需要考虑,如何将这些能力应用于复杂、多变、且需要高度严谨的真实办公场景。

「内容生成」到「格式保真」,「局部正确」到「全局一致」,「指令执行」到「自主应变」,这三道坎是办公 Agent 走向「可靠的助手」必须跨越的障碍。

把这三道坎连起来看,从理解任务、制定计划、调用工具、执行任务、感知结果、验证结果、发现错误、自主修正再到最终交付,其实有一个完成的能力闭环。

模型能力只是这个闭环的底座,真正决定 Agent 能不能进入生产环境的,是工具、环境、验证、记忆、数据和工作流的完整程度。

行业的竞争,已经从比拼模型参数,转向了对业务场景的深度适配和对交付结果的极致追求。

办公 Agent 的赛道已经从单纯比拼底层代码能力,转向对复杂业务场景的深度适配。

从三个任务的表现来看,Agent 并不是「不能干活」,但目前更适合承担可验证、可回滚、低风险的工作,比如内容整理、信息提取、格式转换。而涉及财务确认、对外沟通、核心数据、最终决策的环节,仍然需要人来把关。

未来一段时间,最合理的办公 Agent 并不是「替你完成所有工作」,更重要的是把人从执行者变成监督者:Agent 负责执行、整理、搜索和反复操作;人负责目标设定、异常处理和最终验收。

Accio 团队开源 RealReplicaBench 时提到,他们会持续提炼真实业务中的工作任务,让评测集数据滚动更新并向行业开放。

从「能生成」到「可交付」,办公 Agent 仍有一段路要走。

接下来办公 Agent 的核心竞争赛道,或许就看谁能打造出更贴合业务的优质数据集,并将 Agent 框架与底层模型做好场景化适配。

格隆汇声明:文中观点均来自原作者,不代表格隆汇观点及立场。特别提醒,投资决策需建立在独立思考之上,本文内容仅供参考,不作为实际操作建议,交易风险自担。

App内直接打开
商务、渠道、广告合作/招聘立即咨询

相关文章

2026年全球气囊式,隔膜式和活塞式蓄能器市场规模达到16.05亿美元

细分市场报告智库 · 昨天 23:46

cover_pic

2026年全球轴向活塞液压马达市场规模达到7.68亿美元

细分市场报告智库 · 昨天 23:43

cover_pic

2026年全球心脏消融市场规模达到94.48亿美元

细分市场报告智库 · 昨天 23:37

cover_pic
我也说两句