AI 推理初创公司正在蚕食英伟达的市场份额——华尔街也注意到了

AI 基础设施的淘金热不再仅仅关乎芯片——而是谁能在每瓦特上榨取更多性能。本周的融资头条揭示了一个关键转变：投资者正在押注数百万美元给那些承诺提供比英伟达单片GPU更快、更便宜且更高效模型的AI推理初创公司。

Castelion的3亿美元国防科技融资占据了头条，但真正的故事却在AI推理领域。Groq、SambaNova和Tenstorrent等初创公司正通过优化推理——即AI模型实际运行的阶段——而不是仅专注训练，来开辟自己的细分市场。例如，Groq的LPU（语言处理单元）架构声称能以传统GPU十分之一的功耗实现LLM推理速度提升10倍。而SambaNova的DataScale系统则专为需要同时运行多个模型且不想破产的企业而设计。

这为何重要？因为推理占据了AI模型终身成本的高达90%。在训练阶段占据主导地位的英伟达，正在努力跟上对实时低延迟推理部署的需求。Groq和Tenstorrent等初创公司正填补这一空白，提供模块化、分解式架构，实现横向扩展——这与英伟达垂直整合、昂贵的黑盒系统形成鲜明对比。

对于老牌企业而言，单位经济学极为残酷。英伟达的GPU每台售价数万美元，而推理初创公司则在推销可在商品硬件甚至边缘设备上运行的解决方案。对于依赖高效推理为客户提供服务的Mistral AI或Cohere等公司而言，这可能意味着盈利与持续亏损扩张之间的差异。

投资者正用钱包投票。曾经默默无闻的Groq如今在完成3亿美元D轮融资后估值超过20亿美元。由行业资深人士Jim Keller领导的Tenstorrent刚刚完成1亿美元融资。就连较晚获得关注的SambaNova也在企业寻求替代英伟达垄断市场之际重新获得青睐。

最大的问题在于：这些初创公司能否快速扩张，挑战英伟达的主导地位？历史表明，在AI领域，抢先入市者往往胜出——但在这个案例中，市场等不及了。如果推理效率成为新的战场，我们可能会看到AI部署方式发生根本性转变，从云数据中心到智能手机。

有一点很明确：AI推理之战才刚刚开始。而这一次，落后者不仅仅是在追赶——他们正在领跑。

图片：BoliviaInteligente / Unsplash (https://unsplash.com/@boliviainteligente)