算力稀缺正在重写AI竞争

2026-11-03·6 min read·OKCodex 编辑部

算力稀缺正在重写AI竞争

过去一周的几条信号表面分散:Huawei让客户自行寻找AI芯片所需高性能内存,Nvidia要求部分云客户减少来自中国公司的业务;Anthropic为Messages API推出Message Threads,长对话只传输变化部分;同一时间,Anthropic仍在应对算力经济性,Fal则以13亿美元融资将估值推至160亿美元。把它们放在一起,主线不是某个模型发布,而是算力供给正在从底层硬件传导到云服务、API效率和资本定价。

供给端:摩擦从芯片延伸到内存与云

The Decoder报道,Huawei正告诉客户自行采购其AI芯片所需的高性能内存,实际上把采购压力推向灰色市场。报道提到,走私者利用美国出口规则漏洞,将HBM与低端处理器捆绑、经香港转运,再在目的地拆分芯片。对采购方而言,这意味着交付不再只是价格问题,还叠加合规、库存与断供风险。

另一条信号来自Nvidia:公司已要求部分云客户减少来自中国公司的业务。它说明限制不只在芯片出货环节,也可能影响云资源的分销与客户结构。具体执行范围尚不明确,但对中国AI团队而言,海外算力路径的稳定性值得重新评估,而不是假设现有合同和账户长期不变。

需求端:软件优化能省钱,但难独自解决经济性

Anthropic的Message Threads是一个务实方向:Messages API不再每轮重发完整对话,而是只传变化部分。报道给出的数据是,在50万至100万token的请求区间,首token时间下降约35%。对做长上下文Agent的团队,这直接改善交互延迟,也减少重复传输带来的无效开销。

但另一面是,TechCrunch指出Anthropic仍在应对算力经济性,在其算力利润率本应改善的时候反而变差。这说明API层优化可以缓解时延和部分成本,却不能自动解决供给价格、利用率和需求结构问题。工程优化是必要条件,不是充分条件。

资本侧也在给推理需求定价。TechCrunch报道,AI推理初创Fal完成13亿美元融资,由Bessemer领投,估值翻倍至160亿美元。需求上升是报道给出的背景。推理侧的资金聚集,意味着竞争会更多围绕单位token成本、吞吐和稳定性展开,而不只是模型能力榜单。

对中国读者的落地意义

第一,把算力采购当成供应链风险管理。对HBM等关键器件,至少准备替代来源、库存缓冲和合规审查流程;对海外云资源,提前做账户、合同与区域可用性的压力测试。

第二,工程团队要把长上下文当成成本工程。优先减少重复上下文传输,建立首token时延、每任务成本和失败重试率的监控,而不是只看模型单价。

第三,产品定价要能覆盖推理成本。Fal融资和Anthropic利润率信号都说明,需求增长不必然带来健康毛利;按场景设置配额、降级策略和缓存策略,比单纯补贴token更可持续。

结论是,算力稀缺不会只表现为买不到卡,而会表现为内存采购灰色化、云业务收缩、API优化竞赛和推理资产重新定价。给读者的行动建议是:本周就盘一次关键算力依赖,列出单点风险、可替代方案和成本基线;在下一次Agent迭代中,把首token时延与每成功任务成本作为上线门槛。

来源

分享:微博

为下一步任务找到工具

从扫描文档、代码审查或资料研究开始,得到工具短名单与匹配依据;目录筛选不运行模型。

为我的任务选工具 →

订阅每周好码简报

评论

加载中…

发表评论

0 / 500

评论经过审核后显示。

换两个模型分析这个主题

已预选 DeepSeek 与 Qwen,并带入文章主题;确认后才会运行。

试一下 →

继续阅读

Explore

浏览公开 Agent