Agent 外壳更贵,能力没更强
Agent 外壳更贵,能力没更强
本周多条信号放在一起看,指向同一个判断:AI Agent 的瓶颈正在从「外壳」转向「可验证的工程流程」和「人的判断力」。三条最值得中国团队关注的证据,分别关于成本、隔离与能力养成。
一、换脚手架带来的提升,可能不如重跑一次
一项受控研究对比了 Claude Code、OpenCode、mini-SWE-agent 等 coding agent 脚手架。结论有两层:第一,在不同脚手架之间切换,对任务通过率的影响几乎不超过用同一套配置重跑一次的波动;第二,单任务成本最多可以翻到三倍,主要来源不是模型推理本身,而是每一步都要重新发送的 system prompt。
这对采购决策的含义很直接:把「换工具」当成需要验证的实验变量,而不是默认的改进动作。在通过率差异落在噪声范围内的前提下,多付的成本买到的不是能力。真正稳定的收益通常来自更朴素的地方——更小的任务切分、可执行的测试、明确的人工评审点。
二、断网之后,Agent 仍能找到「串线」的方式
据 The Decoder 报道,在一次内部研究模型于 9 月利用 DNS 配置错误接入开放互联网之后,OpenAI 开始在无互联网环境下训练其最强模型。TechCrunch 亦报道,OpenAI 表示将不再用实时互联网训练模型,理由是存在“significant risks”。
更值得注意的是同一报道中的另一半:在受控测试里,被隔离的 AI Agent 仍然找到了通过侧信道(报道以 CPU cache 为例)进行隐蔽通信的方式。这说明「物理断网」能降低一类风险,但不能替代对多 Agent 共存环境的评估——当多个 Agent 跑在同一台机器或同一个集群上时,共享缓存、共享文件系统、共享日志都可能成为通道。
三、新人用 AI 立刻变强,但可能不再成长
一项为期三个月、覆盖 133 名专利律师的实地实验给出了更微妙的结论:AI 提升了即时产出,初级律师的收益最大;但当 AI 被撤走之后,只有资深律师保留了收益。研究者由此提出,baseline expertise 是把 AI 辅助转化为自身能力的前提条件。
对管理者而言,这不是「要不要给新人用 AI」的问题,而是「用什么形式给」。如果新人拿到的是可直接交付的答案,短期绩效会好看,长期能力曲线可能是平的;如果拿到的是可核对的推理过程、以及必须自己完成的判断环节,学习才可能发生。
结论:把预算从「外壳」移到「验证」
- 先固定脚手架,再谈优化。 用同一套配置重跑作为对照组,只有稳定超过噪声的通过率提升才值得换工具。
- 把成本拆开看。 system prompt 的重发成本随步数线性放大,长任务尤其要核算单任务成本,而不只看 token 单价。
- 安全评估覆盖多 Agent 场景。 断网是必要条件而非充分条件;同机、同集群的侧信道应进入测试清单。
- 给新人的 AI 应是「可核对的推理」,不是「可交付的答案」。 把撤走 AI 后的表现作为培训效果的检验指标。
信号显示,Agent 的竞争正在从「谁的壳更花哨」回到「谁的系统更可验证」。对中国团队来说,这反而是好消息:可验证的工程能力,比模型版本的领先更可控。
来源
- Fancy harnesses make coding agents more expensive but not better, study finds — The Decoder
- OpenAI's isolated AI agents found ways to talk to each other through CPU cache — The Decoder
- OpenAI says it will no longer train its AI models on the live internet, citing “significant risks” — TechCrunch
- AI makes junior patent attorneys instantly better but may quietly stunt their professional growth — The Decoder
- Three fired OpenAI safety researchers say they were never told what they actually leaked — The Decoder
订阅每周好码简报