现阶段 Agent 技术发展,最大瓶颈是什么

当前Agent技术最突出的瓶颈,可以简单概括,这类智能体就像聪明但是稳定性很差的实习生,重要业务无法完全托付给它处理。

各类演示案例效果出色,落地到真实业务场景,缺陷就会暴露。相关数据显示,超过93%的企业Agent项目,卡在概念验证到正式投产的阶段。

核心问题

  • 错误持续传导,造成整体任务失败。Agent执行任务分为连续步骤,每一步输出依赖上一步结果。大模型本质依靠概率预测文字,无法做到绝对精确。单步正确率达到95%,连续执行10步之后,整体成功率下降至60%左右;执行20步,成功率低于35%。某一步出现偏差,后续所有流程都会出错。曾经出现案例,Agent误将0.01美元作为正常售价,后续流程直接按照错误价格执行售卖。
  • 长文本记忆缺陷,信息量大时丢失重点。就算大模型支持很长上下文窗口,也不代表可以稳定记住全部内容。输入几十页文档、API接口说明,模型容易忽略核心信息,被无关内容干扰。任务流程变长之后,逻辑规划容易出错,无法稳定推进长期任务。
  • 运行成本高昂。Agent每一轮思考、调用工具,都会消耗大量Token。有团队测试自动化系统,Agent陷入死循环,产生的Token账单达到数千美金。行业内将这类消耗称作Token刺客、算力吞噬兽,中小团队很难持续承担成本。
  • 实验室环境和真实业务差距巨大。测试环境数据标准、干扰少,现实环境会遇到网络波动、权限限制、复杂业务规则,原始数据质量参差不齐。Agent在测试场景表现良好,上线之后频繁出现低级错误。工程化落地难度高,模型定制、安全边界定义都存在难题。
  • 缺少可信评估体系,难以授权执行高风险操作。很难放心让成功率60%的Agent操作企业核心数据库。Agent缺少标准化安全评估方案,还存在提示词注入等安全漏洞。同时还有法律与伦理争议,Agent操作引发事故,责任归属难以界定。超过60%企业有部署Agent的计划,但实际落地比例仅17%。

Agent技术当前的核心矛盾,模型能力持续提升,但是听懂指令和稳定完成业务之间,存在巨大能力缺口。特斯拉前AI总监提出观点,真正成熟可用的Agent,或许还需要十年时间。

科技

这项技术好比把跑车钥匙交给新手,车辆速度很快,但使用者还没有掌握稳定操控的能力。Agent的短板不在于语言表达,核心难点是稳定完成指定任务。

⚠️免责提示

本文内容整理于互联网,仅供参考,不构成任何投资、决策建议。部分素材来源于公开网络,如有侵权请联系平台进行删除处理。

索尼声明数字游戏不归玩家所有,账号封禁会丢失数字资产,该声明怎么看待 曹原提出 AI4S 验证环节难度最大,验证为何是 AI 科研核心瓶颈