清空对话历史,Agent 成绩提升 66%

2026-10-12·5 min read·OKCodex 编辑部

能力从哪来,代价是什么

过去一周的几条信号放在一起看,指向同一个问题:Agent 的“聪明”到底从哪里来,代价又是什么。一条关于上下文管理的研究、一条关于模型自我改进的研究,加上前沿模型的成本数据与推理芯片的规划,构成了一条完整的曲线。

上下文不是越多越好

微软研究者的实验给出一个反直觉结论:自主 AI Agent 会因为不断增长的对话上下文,陷入他们称为“idea basins”(想法盆地)的局部解区域——它们能在里面反复打转,却跳不出来。他们提出的“Fork-and-Flush”方法很直接:清空对话历史,但保留工作区(workspace),结果在测试中最多带来 66% 的提升。

这对工程实践的启示是,“上下文管理”不该只被当作截断和摘要的调参问题,而是一个可以被独立设计、独立度量的模块。历史对话承载的是过程噪声,工作区承载的是有效中间产物,两者应当被区别对待。

自我改进会放大优势,也会放大盲点

Sakana AI 的 MASS 方法让同一个语言模型同时扮演三个角色:解题、评判结果、精炼工作流。两轮之后,它对基座模型的胜率接近 70%。但研究者也指出了边界:当模型在三个角色中犯下同一个错误时,它会把错误当成进步。

换句话说,自改进循环一旦缺少外部锚点,就会自我强化。胜率数字好看,不代表方向正确。

能力进入第一梯队,成本也翻了上去

Meta 的新前沿模型 Muse Wonder 提供了另一面:在十项基准中,它有六项进入前三,提升最明显的是 agentic 任务。但代价是每任务成本几乎涨到三倍。TechCrunch 的报道补充了产品线定位——Muse Spark 追求轻量、低延迟,Wonder 系列更大、能力更强,在编程等复杂任务上表现更好。

这组数据值得被并排阅读:基准分数的上涨,可能同时意味着单任务成本接近三倍的增长。

算力端的对冲

推理成本的压力并非无解。微软计划从 2027 年起,把自研的 Azure Maia 芯片作为其产品的主要 AI 推理系统,部署规模达到多千兆瓦级。按披露的信息,即将推出的 Maia 300 每兆瓦可提供的 token 数比领先的 GPU 系统高 40%。CEO Satya Nadella 称这是 'our biggest bet'。这是一个明确的时间窗口:自研推理芯片能否改写单位成本曲线,2027 年是观察点。

监管侧的一个信号

同期,白宫改变了立场,恢复了英国 AI Security Institute 对 Anthropic、Google DeepMind 和 OpenAI 前沿模型的早期访问。此前在 9 月,特朗普政府曾要求这些公司停止向该英国机构共享模型,报道提及了这一转变背后的外交压力。与此同时,微软总裁 Brad Smith 公开呼吁加快 AI 监管,并称牛奶和洗衣机受到的监管比 AI 公司更多。

对做 Agent 产品的团队来说,前沿模型的访问权限正在成为一种政策工具,而不只是商业安排。

给 Agent 团队的四个动作建议

第一,把“上下文卫生”当作一等工程指标。做一个 A/B:对照组保留完整对话历史,实验组清空历史但保留工作区与中间产物,用同一套任务集对比成功率,而不是凭直觉判断。

第二,给自改进循环加外部锚点。不要让同一个模型既当选手又当裁判,用独立评测集或真实业务结果做验收,否则被放大的可能正是盲点。

第三,用“每任务成本”而不是 token 单价做预算。Muse Wonder 的例子说明,基准分数上涨可能伴随单任务成本近三倍的增长,只有按任务核算才看得清真实账。

第四,把 2027 年当作推理成本的分水岭来规划。自研芯片的规模部署如果兑现,长上下文、多轮自改进这类“昂贵但有效”的方法才可能真正进入生产环境。

能力、盲点、成本,这三件事目前在同一条曲线上。谁先把三者拆开单独度量,谁就更可能把 Agent 做成产品,而不只是演示。

来源

分享:微博

订阅每周好码简报

评论

加载中…

发表评论

0 / 500

评论经过审核后显示。

你想把什么任务交给 AI?

写下任务与必需能力,再按预算、语言筛选公开候选。短名单依据目录资料,不运行模型。

描述我的任务 →
换两个模型分析这个主题

已预选 DeepSeek 与 Qwen,并带入文章主题;确认后才会运行。

试一下 →

Explore

浏览公开 Agent