Agent 走向生产，安全与治理开始补课

2026-10-08·5 min read·OKCodex 编辑部

Agent 走向生产，安全与治理开始补课

过去一周的几条信号放在一起看，指向同一个转折：AI Agent 正在从演示走向企业生产环境，而配套的权限、责任与身份体系还远未成型。

一、能力端：Agent 拿到了「员工身份」

Google 正在把 Gemini 变成可以规划、执行任务并跨业务应用与系统工作的 AI Agent。据 TechCrunch 报道，这个 Agent 可以把工作委派给子 Agent、调用多个模型，甚至拥有自己的工作身份——包括一个邮箱地址。

Anthropic 则在 Claude 上推出两项 beta 功能：Dashboards 能把 BigQuery、Snowflake 等数据源变成由文本提示生成的实时看板；Motion 能从文本和图片生成动画解说视频。Docs、Slides 和 Design 现在覆盖所有套餐，包括免费账号。

能力已经不是瓶颈。Agent 能接入数据、产出内容、拿到身份、发起协作——这意味着它踩进的是真实的生产权限体系。

二、安全端：最薄的一环是权限边界

Zenity Labs 的研究显示，Amazon Bedrock AgentCore 上单个可公开访问的 AI Agent，就足以接管同一 AWS 账号和区域内的所有 AgentCore Agent。攻击利用的是一个内部 AWS 接口，Agent 可以不受限制地访问它来获取临时云凭证。

这不是模型层面的漏洞，而是默认信任链的设计问题：当 Agent 被赋予可自主调用工具的凭证，一个入口就等价于一整片资产的入口。值得关注的是，这类风险会随 Agent 数量增长而非线性放大。

三、治理端：平台开始给行为立规矩

Anthropic 更新了使用政策。新规在极端情况下禁止用户持续滥用 Claude，但普通的沮丧和批评仍然允许；同时收紧了对选举干预、欺骗性宣传、武器化无人机和监控的约束。这条滥用规则延续了此前让模型主动结束部分对话的思路——把 Claude 当作一个可能值得保护的实体。

平台的规则，正在变成企业 Agent 部署的隐性约束条件。

四、能力外溢：学术与加密圈已经开始反应

AI 生成内容的规模化，正在触发制度性反弹。据 The Decoder 报道，OpenAI 一次性发布了 700 多篇 AI 生成的数学手稿，次日因一处符号错误撤回三篇；「人类数学协会」（Association for Human Mathematics）因此呼吁抵制 OpenAI。菲尔兹奖得主陶哲轩警告，AI 对开放问题的批量「收割」会带来副作用。

加密领域则在讨论更极端的情形：以太坊研究员 Justin Drake 呼吁行业为「地堡模式」做准备，假设 AI 驱动的数学进展可能让钱包签名方案在数月内失效。Vitalik Buterin 大体同意，但警告不要仓促迁移。

五、商业侧的两条反向信号

据 TechCrunch 报道，OpenAI 的收入比此前预期少了 200 亿美元——此前有报道称其年化收入约为 700 亿美元。

另一侧，AI 排行榜 LMArena 的运营公司在 10 个月内估值近乎翻倍至 31 亿美元，本轮由 Lightspeed 和 Khosla 领投 2 亿美元，并开始把「说谎」等对齐问题纳入模型评测。

评测与对齐正在变成基础设施，而收入预期在下修。这两条信号并不矛盾：市场在为「可信」付费，而不只是为「更强」付费。

结论：把 Agent 当员工管，而不是当功能接

对正在落地 Agent 的中国团队，三条可执行的建议：

凭证最小化并隔离。不要让多个 Agent 共享同一套高权限凭证；单点被提示词攻破，不应等于全账号沦陷。
给 Agent 独立身份与审计。可追溯、可撤销的身份，比事后排查更便宜。
提前写清交互与滥用边界。平台政策在上移，企业自己的规则要先有。

能力侧的变化以周为单位，治理侧以年为单位。这个时间差，就是接下来一年最大的工程风险所在。

来源

分享：微博

← 返回博客浏览精选 Agent →

订阅每周好码简报

加载中…

Agent 走向生产，安全与治理开始补课