算力稀缺正在重写AI竞争
算力稀缺正在重写AI竞争
过去一周的几条信号表面分散:Huawei让客户自行寻找AI芯片所需高性能内存,Nvidia要求部分云客户减少来自中国公司的业务;Anthropic为Messages API推出Message Threads,长对话只传输变化部分;同一时间,Anthropic仍在应对算力经济性,Fal则以13亿美元融资将估值推至160亿美元。把它们放在一起,主线不是某个模型发布,而是算力供给正在从底层硬件传导到云服务、API效率和资本定价。
供给端:摩擦从芯片延伸到内存与云
The Decoder报道,Huawei正告诉客户自行采购其AI芯片所需的高性能内存,实际上把采购压力推向灰色市场。报道提到,走私者利用美国出口规则漏洞,将HBM与低端处理器捆绑、经香港转运,再在目的地拆分芯片。对采购方而言,这意味着交付不再只是价格问题,还叠加合规、库存与断供风险。
另一条信号来自Nvidia:公司已要求部分云客户减少来自中国公司的业务。它说明限制不只在芯片出货环节,也可能影响云资源的分销与客户结构。具体执行范围尚不明确,但对中国AI团队而言,海外算力路径的稳定性值得重新评估,而不是假设现有合同和账户长期不变。
需求端:软件优化能省钱,但难独自解决经济性
Anthropic的Message Threads是一个务实方向:Messages API不再每轮重发完整对话,而是只传变化部分。报道给出的数据是,在50万至100万token的请求区间,首token时间下降约35%。对做长上下文Agent的团队,这直接改善交互延迟,也减少重复传输带来的无效开销。
但另一面是,TechCrunch指出Anthropic仍在应对算力经济性,在其算力利润率本应改善的时候反而变差。这说明API层优化可以缓解时延和部分成本,却不能自动解决供给价格、利用率和需求结构问题。工程优化是必要条件,不是充分条件。
资本侧也在给推理需求定价。TechCrunch报道,AI推理初创Fal完成13亿美元融资,由Bessemer领投,估值翻倍至160亿美元。需求上升是报道给出的背景。推理侧的资金聚集,意味着竞争会更多围绕单位token成本、吞吐和稳定性展开,而不只是模型能力榜单。
对中国读者的落地意义
第一,把算力采购当成供应链风险管理。对HBM等关键器件,至少准备替代来源、库存缓冲和合规审查流程;对海外云资源,提前做账户、合同与区域可用性的压力测试。
第二,工程团队要把长上下文当成成本工程。优先减少重复上下文传输,建立首token时延、每任务成本和失败重试率的监控,而不是只看模型单价。
第三,产品定价要能覆盖推理成本。Fal融资和Anthropic利润率信号都说明,需求增长不必然带来健康毛利;按场景设置配额、降级策略和缓存策略,比单纯补贴token更可持续。
结论是,算力稀缺不会只表现为买不到卡,而会表现为内存采购灰色化、云业务收缩、API优化竞赛和推理资产重新定价。给读者的行动建议是:本周就盘一次关键算力依赖,列出单点风险、可替代方案和成本基线;在下一次Agent迭代中,把首token时延与每成功任务成本作为上线门槛。
来源
- The Decoder: Huawei tells customers to find their own AI chip memory, effectively outsourcing procurement to the black market — https://the-decoder.com/huawei-tells-customers-to-find-their-own-ai-chip-memory-effectively-outsourcing-procurement-to-the-black-market/
- The Decoder: Nvidia pushes cloud customers to cut back on China business — https://the-decoder.com/nvidia-pushes-cloud-customers-to-cut-back-on-china-business/
- The Decoder: Anthropic's Message Threads cut time to first token by 35 percent for long conversations — https://the-decoder.com/anthropics-message-threads-cut-time-to-first-token-by-35-percent-for-long-conversations/
- TechCrunch: Anthropic is still grappling with the economics of compute — https://techcrunch.com/2026/11/03/anthropic-is-still-grappling-with-the-economics-of-compute/
- TechCrunch: AI inference startup Fal doubles its valuation to $16B as demand surges — https://techcrunch.com/2026/11/03/ai-inference-startup-fal-doubles-its-valuation-to-16b-as-demand-surges/
为下一步任务找到工具
从扫描文档、代码审查或资料研究开始,得到工具短名单与匹配依据;目录筛选不运行模型。
订阅每周好码简报