DeepSeek让英伟达H20都被疯抢，但AI推理爆发不只靠囤卡 需求激增推动变革！最近有消息称，原本不太受欢迎的英伟达H20咨询量暴涨几十倍，8卡H20机器的价格也较年前涨价十万（单价约110万左右）。业内人士预测，价格可能不会回落。H20是中国特供版，显存带宽等方面受限，性能及性价比远不如H100。但市场风向发生变化，某互联网大厂已经下单10-20万卡，整体市场H20订单量大幅增加。

背后的原因主要是AI推理需求激增。尽管H20性能只有H100的十分之一，但它在做推理任务时绰绰有余，显存足够且适合运行大规模参数模型，价格也更便宜。AI Infra厂商PPIO派欧云联合创始人兼CEO姚欣透露，去年年底H20还没有这么抢手，春节后情况大变，AI算力供需极速变化。英伟达CEO黄仁勋也在最新财报中表示，当前AI模型所需的算力是此前模型的100倍，主要推动力是AI推理。

DeepSeek以算法创新重构AI算力逻辑，推动AI计算从“训练为主”转向“推理为主”，AI推理需求因此迎来全面爆发。今年开源的两款模型，在架构和算法上提升了训练推理效率。DeepSeek-V3采用MoE架构，提出大规模跨节点专家并行，提高GPU矩阵乘法效率，降低延迟。DeepSeek-R1-Zero则通过纯强化学习过程进行自我进化，获得推理能力，并将训练成本降至560万美元，远低于OpenAI。这种低成本模式使得模型能够更广泛应用于AI推理场景。

从大模型发展进程来看，预训练Scaling Law放缓，推理Scaling Law成为新方向。推理Scaling Law的核心是通过增加推理时的计算资源提升模型性能。o1等推理模型通过多步骤思维链和强化学习显著提升了推理能力，导致推理计算需求大幅增加。DeepSeek提供了一个性能优秀的开源替代方案，迅速改变整体局面。凭借低成本、高性能的特点，DeepSeek引发全社会热潮，不仅普通人可以免费使用，大中小企业也能将其与自身业务融合。

尤其是在ToB领域，优质开源模型解决了企业在数据维度的顾虑，没有人愿意将自己或用户的数据免费贡献给闭源模型做训练。DeepSeek暂时没有将模型商业化的考虑，更接近真正意义上的开源，点燃了企业拥抱AI的热情，加速了AI落地进程，推理需求空前爆发。

特别声明：以上文章内容仅代表作者观点，不代表本站观点或立场。如有关于作品内容、版权或其它问题请于作品发表后与我们联系。