纸面算力与实际产出之间的鸿沟究竟有多大?在WAIC 2026现场,多位行业人士给出了一个令人不安的参考数字:不足30%。这意味着,一台AI服务器交付到用户手中后,真正被有效利用的算力,可能连规格表上标注的三成都不到。这并非个例,不同领域的芯片企业正不约而同地将话题重心从“算力有多大”转向“算力用得好不好”。这种叙事的转变本身就是一种信号:AI产业已跨越了“能不能”的第一道门槛,正向“好不好”的阶段迈进。此阶段的核心矛盾,也正从芯片本身向上迁移。
**01 推理超越训练:从预测到既成事实**
2024年,行业热钱几乎全部涌向训练侧;而到了2026年,推理对于算力的调用量已超过训练。训练芯片追求的是“学得更好”,推理芯片追求的是“用得更省”。曦望智能商业产品与解决方案高级总监付庆平指出,这两种不同的设计哲学,对应着两种截然不同的商业逻辑。如今,推理调度的粒度已从任务级细化到算子级:“粒度越细效率越高,每提升一分效率,token成本就降低一分。”这意味着,推理芯片的竞争已深入到模型层的调度效率——一个看似属于软件范畴的维度,正成为芯片产品的核心卖点。
从视频处理的视角来看,推理需求的爆发更为直观。VPU厂商判断未来80%的视频将由AI生成,而据测算,视频生成的token消耗是文字生成的1000倍。据介绍,通过将视频相关计算从GPU中剥离并交给专用芯片处理,VPU与GPU协同有望将视频生成成本降低八成。
后摩智能战略生态VP杨大卫表示:“训练决定模型能力的上限,推理决定AI能否大范围落地。”当推理成为产业主轴,芯片行业的需求结构随之改变。云端需要规模化推理芯片,视频场景需要VPU,端侧快思考需要NPU,低功耗端侧推理需要存算一体架构。通用GPU不再是唯一答案,专用化正从理论讨论走向商业现实。
**02 算力经济学:行业共识的形成**
镕铭微电子联合创始人兼CEO朱照远认为,算力成本降低的根本原因在于效率提升。用交通方式的升级来理解硬件产品的迭代:从马车到汽车再到火车,同样从A点到B点,成本是降低的,但降低的根本原因不在于“省”,而在于效率的“升”。这解释了为何WAIC 2026上,多家企业不再把TOPS数字放在首位,而是开始谈论“综合成本”。
数据中心客户在评估芯片方案时,关注的维度已至少包括六个:稳定性、性能、延时、功耗、画质和TCO(总拥有成本)。“客户不关注你叫什么PU”,这句话背后的真相是:当AI从实验室进入生产环境,评价标准不再是考试分数,而是工作结果。
推理芯片通过硬件裁剪掉训练相关的冗余功能来降低成本,这体现了从通用向专用的趋势。从最早的CPU,到GPU,再到DPU、VPU,每一次专用化都对应着某一类计算需求从通用平台中剥离出来。VPU与GPU协同降低成本的案例,已为这一趋势提供了商业验证。
关于国产芯片路线,现阶段选择GPU路线是市场选择。硬件厂家需面对市场,产品迭代不能断,风险最可控的是通用GPU。但长远来看,各类算力芯片会向细分领域发展,在局部形成独角兽。边缘芯片的降本方案是依靠算法合作伙伴在不同场景上做适配,如果品类足够大(如手机、汽车),可以承担定制化成本;其他场景则靠通用底座覆盖,才能让底层降本的红利惠及更多行业。
从端侧角度看,问题更为复杂。端侧推理的三大刚需是隐私、成本和物理世界交互的延时,这三个维度决定了端侧芯片的设计逻辑与云端不同。爱芯元智联合创始人、副总裁刘建伟指出了端云之间的逻辑差异:云端先看体验再降成本,端侧则先看成本再提体验。这个顺序差异直接影响芯片设计的取舍。端侧AI的商业模式也因此发生变化,当用户发现订阅费可能比硬件本身还贵时,从订阅制转向一次性买断的诉求开始出现。
AI芯片行业正进入以TCO为核心考量的成熟期。在这个阶段,软件优化能力和系统工程能力的价值,可能超过硬件参数本身。
**03 物理AI元年:具身智能的演进**
具身智能被多家企业提及为下一个爆发点。WAIC现场的机器人展区提供了佐证:不同于往年表演型机器人拿水、打拳击,今年已有机器人能长时间连续完成细致性工作,从展台秀真正进入工厂产线。但具身智能的产业形态远未收敛。有观点主张广义——扫地机、割草机这类能自主干活的机器就可称为机器人;也有观点倾向人形路线,理由是人类所有基础设施都为人形设计,人形机器人适用性最广,规模化后成本可降。但现阶段人形制造成本仍高,最终取决于哪种形态先做到成本可行。
机器人对AI的依赖程度与其他终端有本质区别。存算一体路线的企业给出了一个尖锐对比:PC离开AI还是PC,汽车离开AI还是汽车,但机器人离开AI就是一块铁。这意味着机器人对端侧AI的刚需最为迫切,体现在三个维度:隐私(数据不能上云)、Token成本(频繁调用云端太贵)、物理交互的实时性和安全性(隧道无信号时不能失控,机器人命令不能依赖云端)。
在这三个维度上,端侧芯片的低功耗和高能效比成为关键变量,而存算一体架构可将功耗能效比提升一到两个数量级。对于具身智能行业来说,数据瓶颈已有所缓解。行业巨头已收集大量视频和操作数据,算法基本可用,WAIC上多家机器人公司的展示已证明。真正的挑战在于算法如何高效跑在算力上:模型剪枝、低功耗、低延时必须协同优化,本质仍是系统工程问题。数百家具身智能创业公司正在不同场景试水——物流、装配、陪伴——但尚未出现公认的杀手级应用。底层的芯片行业相信,给客户打开一道通往万物智能的大门,自然会涌现出很多应用。
**04 软件生态:比芯片更厚的壁垒**
如果说成本效率是竞争的终点,软件生态就是通往终点的关键路障。回到开篇提到的纸面算力与实际产出的巨大差距,其根源在于模型选型、微调、知识库建设、底层软件栈优化和机房配置等环节。交付一台AI服务器和实施一个AI项目,就像买了一口锅和炒出一盘菜,中间还隔着相当大的工作量。
芯片的生态壁垒核心不仅是技术问题,更是开发者习惯问题。存算一体等新架构面临的核心挑战:不是芯片做不出来,而是软件生态跟不上。即便芯片参数已经很漂亮,但系统工程——适配、调优、客户场景打磨——还需要大量工作。
在端侧AI场景中,模型迭代速度极快。云侧大模型已经从半年一个版本加速到两个月一个版本,端侧模型同样在快速演进。每一次模型迭代都需要与芯片重新适配,工程落地的速度直接决定商业化速度。“一项技术从能用到好用,需要很多脏活累活。”有观点指出,底层软件栈可以把同样硬件的算力输出提高2到5倍,但此次WAIC上深入讨论这个方向的并不多。全栈落地需要多方面专业人才协同:智能体、模型优化、知识库、底层算力调度和运维,把这些角色凑齐,才有可能实施一个真正高效的全栈。
当被问及国产AI芯片最需要发展的是性能还是生态时,一家推理芯片企业的回答是:两者都不构成当前瓶颈,最缺的是产业协同。从存算一体到端侧NPU,从VPU到全栈集成,不同技术路线的企业全部指向软件生态而非硬件性能。
芯片架构的专用化方向已有行业共识,但各企业对专用化的速度、深度和最终形态存在实质分歧。分歧的底层逻辑是:AI应用场景的碎片化程度,是否足以支撑多种专用架构共存?还是最终会收敛到少数几个通用平台?当硬件参数竞赛接近边际收益递减的拐点,竞争主阵地必然上移到软件层。而这个上移的过程,恰恰是国产芯片从“追赶性能”转向“追赶体系”的关键窗口期。
行业人士进一步指出,国产生态的普及率已经非常高,高校直接在国产生态上教学,关键领域客户选用国产生态,这种自上而下的生态建设路径,是中国独有的优势。更进一步的判断是:国产AI芯片在性能和生态上都不构成当前瓶颈。这个判断如果放在三年前几乎不可想象。但芯片参数已经很漂亮,系统工程还需要大量工作。差距不在“能不能”,而在“好不好”。一个考了70分、80分的模型已经可以干活了,但要干好活不是一个模型、一颗芯片单独的问题,是需要工具链、编译器、调度系统、行业适配的全面跟进。
从AI推理芯片到真正落地,需要大量的产业协作:解决方案合作、用户场景合作、超节点网络合作,每一个环节都需要有人去做。全栈整合的样本确实存在,从CPU到软件集成公司再到硬件制造,集团化的体系在关键领域的大型全栈工程上具备优势。但这种能力在行业中并不普遍,更多企业仍在各自为战。从客户侧看,据行业反映,数据中心芯片从接触到大规模上线通常需要6到24个月,测试周期长、导入门槛高。这意味着即使芯片技术达标,商业化落地仍需要漫长的验证周期。这个周期不是单点技术能压缩的,需要芯片厂商、软件供应商和客户方的深度协同。2026年的AI芯片行业正在经历一个微妙转向:竞争的主阵地从晶圆厂和流片车间,迁移到了编译器、工具链和系统调度层。当多家企业从不同技术路线出发,却不约而同地指向同一道鸿沟时,这已经不再是某一个人的判断,而是一种行业集体认知。
