AI 安全：开放模型与智能体的攻防战
从 Anthropic 到密码学：AI 安全的三重信号
本周 AI 行业的安全议题密集爆发。Anthropic CEO 再次警告开放模型风险，其 Claude 模型在 60 小时内发现人类专家两年未察觉的密码学漏洞；与此同时，智能体安全初创公司 Spur 获 2 亿美元融资，Cyera 以 10 亿美元收购 Oasis Security。这三件事指向同一个方向：AI 安全不再是可选项，而是智能体落地的硬门槛。
开放模型的风险：Anthropic 的立场与争议
Anthropic CEO Dario Amodei 再次强调开放权重模型可能被用于生物或网络攻击，但他坚称从未呼吁全面禁令。批评者认为，这更多是商业竞争策略——闭源模型厂商天然有动机限制开源生态。
对中国 AI Agent 开发者而言，真正值得关注的是风险本身，而非立场之争。开放模型降低了恶意使用门槛，但完全闭源也不现实。务实做法是：对核心 Agent 采用“模型沙箱+行为审计”机制，在推理层增加安全过滤，而非依赖模型本身的开闭源属性。
Claude 发现密码学漏洞：AI 安全能力的里程碑
Anthropic 的 Claude Mythos Preview 在 60 小时内、花费约 10 万美元 API 成本，就找到了后量子签名方案 HAWK 的弱点——而人类专家此前已审查两年。
这一事件有双重意义：
- AI 正成为顶级安全工具：对于需要高安全性的 Agent（如金融交易、数据脱敏），可引入 AI 辅助的漏洞扫描流程。
- 攻击能力同步升级：同样的技术若被恶意使用，后果严重。建议 Agent 团队建立“红队测试”机制，定期用 AI 模型审计自己的安全设计。
智能体安全：并购与投资的信号
- Spur Intelligence 获 Insight Partners 2 亿美元融资，专精于区分人类流量与机器人流量。
- Cyera 以 10 亿美元收购 Oasis Security，这是其年内第三笔收购，目标直指 AI Agent 安全。
- Runlayer 起诉 Rippling：MCP 网关产品被抄袭，暴露了智能体基础设施的竞争白热化。
这些动态说明：智能体安全正从“附加功能”变为“核心基础设施”。对中国市场，这意味着：
- 早期布局 Agent 安全工具（如身份验证、行为监控）的创业公司有机会。
- 企业 Agent 项目应优先选择提供安全 SDK 的框架，而非纯开源方案。
数据中心与芯片：安全的地缘维度
台湾扣留涉嫌向中国走私 AI 服务器的 Nvidia 员工，美国电网因数据中心建设过快考虑临时断电。这些事件提醒我们：智能体的运行依赖物理基础设施，而基础设施正面临地缘与能源双重压力。
对国内 Agent 开发者，建议：
- 评估模型部署的芯片供应链风险，备选国产算力方案。
- 设计 Agent 时考虑边缘计算与云端协同，减少对单一数据中心的依赖。
结论：安全是 Agent 落地的第一优先级
从 Anthropic 的风险警告到密码学漏洞发现，从安全融资到地缘摩擦，本周的信号高度一致：AI Agent 的安全能力决定了它能走多远。
给中国 AI Agent 从业者的行动建议：
- 建立“安全左移”流程：在 Agent 设计阶段就引入威胁建模，而非上线后补救。
- 投资可审计的推理基础设施：记录 Agent 的每一次决策，便于事后追溯。
- 关注智能体安全工具链：如身份验证、行为监控、漏洞扫描，这些将是未来两年的增长点。
- 保持算力与部署方案的弹性：避免单一供应商锁定，尤其是涉及芯片和数据中心时。
安全不是成本，而是智能体赢得用户信任的入场券。
Subscribe to weekly briefing