在我们的咨询工作中,越来越多的企业客户会问:未来算力将朝什么方向发展?今天,当人们谈到AI算力时,注意力通常会集中在大型数据中心、高端GPU(图形处理器)和规模越来越庞大的训练集群上。但未来是不是依然这样?

众所周知,全球*的科技企业正在投入巨额资金建设新的AI数据中心。Meta位于路易斯安那州的Hyperion园区总投资已正式扩大至超过500亿美元,IT计算容量提升至5吉瓦(GW)。该项目将成为Meta全球*的AI数据中心及世界*的AI基础设施项目之一。

为了训练更大的模型,这些设施需要更多芯片、更高速的网络、更强的电力供应和更复杂的冷却系统。大型算力园区似乎已成为AI时代最重要的基础设施。

不过,AI算力的发展是不是只会沿着不断集中、大规模的方向前进?

我们认为不一定。在大型训练中心持续扩张的同时,另一种变化也正在发生。AI算力正在逐渐进入分散式的区域数据中心、企业机房、工厂、汽车、机器人和其他智能设备。

未来的AI算力并不会简单继续走向集中或开始分散,而是形成两种并存的趋势:前沿模型预训练的算力组织仍将相对集中,推理则会根据任务类型呈现更加明显的分化。

但这并不意味着云端的重要性会下降。前沿和复杂推理仍会大量运行在云端,企业私有化部署将继续增加,更多推理也会进入边缘和端侧。不同计算任务将在不同层级的基础设施中运行。

这种变化不仅将重塑AI基础设施的格局,催生新的芯片需求,还将进一步改变企业的组织、流程和决策方式。

前沿预训练为何仍相对集中

前沿模型训练是一项高度复杂的系统工程。

训练大型模型通常需要成千上万颗GPU或其他AI处理器共同完成同一项任务。芯片之间必须保持紧密、持续和低延迟的通信。任何通信瓶颈都可能降低整个集群的效率。

因此,决定训练能力的并不只是单颗芯片的性能,还包括整个系统能否把大量芯片有效地连接起来。

英伟达通过NVLink(GPU高速互联技术)和NVLink Switch(高速交换芯片)提高GPU之间的通信能力。谷歌的TPU(张量处理器)体系也通过专用高速网络,将数千颗芯片组织成统一的计算节点集群。

这些系统的共同特点是将大量算力集中起来,让不同芯片能够像一个整体一样运行。这种“集中”主要发生在前沿模型预训练阶段,因为它高度依赖大规模、高带宽、低延迟的芯片协同。大型AI数据中心因此仍将承担前沿模型预训练和其他高度同步的计算任务。

但算力相对集中,并不意味着模型开发也会进一步集中在少数公司手中。随着开源模型的发展,越来越多的企业和研究团队可以在基础模型之上进行二次开发。

一些拥有深厚专业知识和数据壁垒的企业,例如金融、工业和医药等领域的企业,可能会进一步微调、继续训练和业务适配,以形成更贴近自身业务的模型能力。这些任务所需的算力规模远小于前沿模型预训练,可以由云平台、专业服务商或企业自身提供。

而消费品、零售和一般服务行业的大多数企业,往往不需要进一步训练模型,更重要的是利用已有的通用模型,并将自身的知识、数据和业务工具与之结合。

但训练并不是AI的全部。

推理正在走向分化

推理是模型训练完成后的实际运行,例如回答问题、运行智能体、识别图像、分析现场信息或协助企业作出判断。

与前沿训练不同,许多推理任务可以独立完成,并不需要成千上万颗芯片同时协作。它们可以根据用户、数据和应用所在的位置,运行在云端,也可以部署到企业内部、边缘节点或端侧设备。

近年来,随着长程智能体、上下文工程以及多步骤工具调用的发展,一些复杂推理任务对算力的要求在提高。它们需要处理更长的上下文、调用更多模型和工具,并维持持续运行的状态。在可预见的未来,大部分复杂推理仍可能留在云端。云端数据中心可以在不同用户和任务之间共享算力,并通过较高的设备利用率、成熟的软件工具和专业运维,降低单位推理成本。

另一方面,现场感知、实时预测以及与设备运行相关的部分推理,具有更强的分布式部署条件。随着AI进入更多实际场景,推动推理离开云端向外延伸的两股力量也变得愈发清晰。

*类力量是企业内部的私有化部署。

医疗、工业、金融和政府等领域的部分数据具有较高敏感性,受到不同的监管要求限制,不能轻易进入公共云。这些领域推动AI从公共云进入自身可控的环境,最重要的原因往往是数据安全、隐私、监管要求以及对数据和系统的控制权。

在这些场景中,企业可以通过自有数据中心、私有云或专属算力节点运行AI,使敏感数据和关键业务留在自身可控的环境中。

微软的分布式基础结构解决方案Azure Local允许企业在本地基础设施中运行云服务和AI模型。这使部分敏感数据可以留在企业内部,同时完成推理和分析。

第二类力量是边缘和端侧计算。两者都让计算能力更加接近数据和业务发生的位置,但所处位置不同。边缘计算主要运行在靠近业务现场的服务器或计算节点,如工厂、园区或运营商网络中的边缘节点;端侧计算则直接运行在汽车、机器人、摄像头和其他智能设备本身。

边缘和端侧计算的主要驱动力,是数据产生和业务执行本身就在现场,以及部分任务对响应速度、网络连续性和离线运行具有较高要求。

距离本身会直接影响AI系统的响应速度。数据从现场传到云端,再返回结果,需要经过多次网络传输与处理。节点越远,延迟越高,不确定性也越大。

对于一般的知识问答或后台分析,短暂延迟通常不会造成严重后果。但在一些关键场景中,实时性的要求非常高。例如汽车制动和工业设备紧急停机,都要求系统在极短时间内作出反应。

因此,在涉及安全与实时控制的任务中,关键控制链路必须留在现场。云端可以承担模型训练、版本更新与数据分析等相对非实时的工作,边缘或端侧的AI则可以参与感知、预测和辅助判断,并与经过验证的实时控制系统协同运行。

换句话说,更适合边缘和端侧部署的并不一定是复杂的大模型推理,往往是感知、现场预测和辅助判断等更加贴近物理世界的任务。

单个端侧设备所需要的算力未必很大,但汽车、机器人和各类智能设备的数量可能十分庞大。因此,从长期来看,端侧可能成为分布式推理的重要增长来源之一。

亚马逊云计算服务(AWS)等企业已经开始将部分实时推理能力部署到工厂、现场乃至设备端,并支持部分节点在离线状态下仍可继续运行。

AI基础设施正在形成多层体系

未来的AI基础设施或将形成从云端到边缘、再到端侧的多层体系。大型AI数据中心承担前沿模型预训练和复杂推理;边缘节点承担靠近业务现场的实时推理和数据处理;端侧设备则直接在汽车、机器人等设备上完成感知、预测和辅助判断。安全关键任务的最终控制仍由现场经过验证的实时控制系统完成。

与此同时,对于数据安全、隐私和合规要求较高的企业,部分AI还会以私有方式运行在企业自有数据中心、私有云或边缘节点中。

这一多层体系也会受到能源条件的影响。国际能源署预计,到2030年,全球数据中心用电量可能接近翻倍,达到约945太瓦时(TWh)。

大型算力中心一旦建成,它的地理布局通常较为固定,电力供应就成为影响其持续扩容的主要约束。电力供应能力、输配电条件与并网水平,会直接影响算力中心的扩展空间与承载上限。

相比之下,边缘节点的位置更多取决于业务现场、实时性要求与网络条件。汽车、机器人和其他智能设备上的端侧算力必须跟随设备本身,难以单纯依据能源成本进行迁移。

因此,与其说分布式计算是在“解决”能源问题,不如说它正在重塑算力的空间分布逻辑:大型训练和复杂推理仍将主要运行在具备稳定电力与基础设施条件的算力中心,更多现场推理则会随着业务需要进入边缘和端侧。与此同时,部分企业也会出于数据安全和控制权要求采用私有化部署。

新的算力布局将催生新的芯片

分布式推理并不意味着把大型训练GPU直接搬进小型机房或智能设备。

训练GPU追求尽可能高的算力、大规模并行能力和高速互联。但部署在边缘节点和端侧设备中的芯片,往往受到电力、空间、散热和成本的限制。

这些场景需要的是高能效、低延迟、较大的本地内存,以及更紧凑、更容易部署的硬件。

即使未来AI模型的基本结构逐渐趋于收敛,推理芯片仍然存在很大的定制空间。不同场景对模型规模、计算精度、内存带宽、响应速度、功耗和成本的要求并不相同。

通用GPU的优势在于灵活,可以支持不同模型和任务。但这种通用性也会带来效率上的代价。在工作负载相对稳定、任务边界较为明确的推理场景中,针对特定模型、计算方式或设备环境设计的芯片,往往可以实现更高的能源效率和更低的运行成本。

这并不意味着通用GPU会被取代,而是AI芯片市场将形成更清晰的分工。大型GPU继续承担模型训练和部分复杂推理,云端推理芯片服务规模化工作负载,边缘芯片支持靠近业务现场的推理,而端侧芯片则更多承担设备本身的实时感知、预测和辅助判断。

GPU、NPU(神经网络处理器)和各类专用加速器将因此服务不同的工作负载,存算一体等新型架构也可能在部分推理场景中获得发展。

最近,我们与后摩智能探索了这方面的趋势。它的漫界M50面向端侧和边缘侧的大模型推理,采用存算一体架构,减少模型参数在存储与计算单元之间的反复搬运,以提高推理效率。

这类芯片不一定会全面取代大型GPU,但很可能进一步扩大AI半导体市场的边界。

未来,企业之间的竞争不仅在于谁拥有最强的训练芯片,还在于谁能针对不同推理场景,在性能、成本、功耗和部署难度之间找到更好的平衡。

当然,新型芯片和新的算力架构能否真正形成商业价值,最终仍要进入真实场景,经受性能、成本、可靠性和部署难度等多方面的检验。在这方面,中国也可能成为重要的试验场。

一方面,中国拥有大量制造、汽车、机器人、物流、能源和城市基础设施场景。这些行业对实时响应、本地处理和成本控制都有大量AI需求。

另一方面,中国也拥有从芯片、服务器、运营商网络和产业园区,到整机厂商、汽车企业、机器人企业和大量工业用户的完整产业体系。这使新的芯片、模型和解决方案能够较快进入真实业务环境,在应用中不断验证,并在产业链上下游的协同中持续调整。

政策层面也正在推动这种趋势。2026年1月,工业和信息化部等八部门发布“人工智能+制造”专项行动实施意见,在推动训练芯片发展的同时,也提出发展端侧推理芯片、边缘计算服务器,并推进“云—边—端”模型体系建设。

在这样的环境中,企业需要验证的不只是某一颗芯片的性能,而是芯片、模型、软件、网络、数据和业务流程能否组合成完整解决方案。

一项新技术可以先进入少数场景,在实际应用中反复调整,再通过运营商、整机企业和行业合作伙伴推广至更多场景,形成“试验—调整—规模化”的循环。

中国因此不仅可能成为新型AI芯片的试验场,也可能成为新的AI基础设施和解决方案走向规模化应用的重要试验场。

新算力格局重塑企业组织

算力结构的变化,对企业的意义是深远的。

今天的很多企业,既有总部人员,也有区域团队和一线员工。总部负责战略、标准、资源配置和共同能力;一线员工则贴近客户、设备与实际业务,需要更迅速地理解现场情况并作出反应。

随着AI进入越来越多业务场景,企业需要管理的也不再只是后台的模型和工具。今天,许多智能体以通用大模型为底座,连接企业知识库、软件工具和执行接口。当这些智能体能够围绕明确职责,在一定权限下调用企业知识和工具,并持续完成具体任务时,它们就会越来越接近企业中的“数字员工”。

随着数字员工逐渐增加,它们也可能形成类似于人类组织的分工。一部分数字员工运行在中央平台,掌握企业共同知识、规则和能力;另一部分面向区域、工厂、门店等具体业务场景运行,调用当地的数据和系统,承担更贴近一线的任务。

企业管理数字员工的方式将越来越接近管理人。企业需要决定它们可以访问什么数据、掌握什么知识、拥有什么权限,又可以自主完成哪些任务。

从这个角度看,企业最终管理的并不只是AI、模型或算力,而是由人类员工与数字员工共同组成的新型组织。

这种变化首先要求企业改变“一种部署方式解决所有问题”的思维。复杂推理可以继续利用云端的规模优势;敏感数据和受监管业务可以采用私有化部署;需要靠近业务现场的任务可以进入边缘;需要直接在设备上处理数据的场景,则可以进一步采用端侧计算。

部署方式不同,但背后的原则相同:不同AI应用应该根据实际业务需要,被放在最适合的位置。

这种思路也为大型企业的AI转型提供了更现实的路径。企业不必一开始便推动覆盖全公司的大型改造,可以先从一个岗位、一支团队、一条生产线或一个具体业务问题开始,在较小范围内形成可以运转的闭环。

宝马集团的Factory Genius提供了一个具体例子。它是一款面向工厂设备维护的AI助手。当生产设备发生故障时,维修人员可以直接向它提问,系统会从设备手册、质量数据、内部故障报告、规划文件以及每天更新的交接班记录中寻找相关信息,并迅速提出针对具体问题的建议,从而帮助维修人员更快定位和处理故障。

Factory Genius最初在德国丁戈尔芬工厂试点,美国斯帕坦堡和南非罗斯林等工厂也进行了类似探索。随后,宝马慕尼黑总部的AI团队整合不同工厂的需求和经验,形成集团级应用,并通过内部平台向更多工厂推广。

宝马的做法说明,AI应用可以从具体业务问题和场景开始探索,在验证有效后,再由总部整合经验、沉淀共同能力,并逐步推广至其他业务单位。

当然,从小处开始并不等于各自为政。

未来,企业的AI基础设施大概率不会由单一云平台、单一硬件体系或单一供应商提供,同时使用公共云和私有环境,并在部分业务中部署边缘节点和端侧设备。不同模型和芯片也可能来自多个供应商。

但采用多个供应商,不意味着企业应当无限增加技术栈。总部需要建立共同的底座、标准和规则,业务单位则可以根据实际需要进行试验和应用。企业既要保留选择权和系统韧性,也要避免不同业务单位各自建立彼此割裂的AI系统。

企业应追求“治理集中、应用分布、技术体系受控”,而不是技术无限分散后,再依靠中央治理事后补救。

数字员工也需要像人类员工一样被训练、评估和持续更新。企业需要明确它们的知识来源、数据和权限边界、与人类员工之间的职责分工,以及如何根据实际工作结果持续纠正行为,并将一线形成的经验转化为整个组织的共同能力。

AI基础设施的部署方式会影响数字员工在哪里运行,以及如何调用不同业务场景中的数据和系统。数字员工进入不同业务场景,又会进一步影响信息如何流动、决策在哪里发生,以及人类员工与数字员工如何分工。

技术架构、组织结构与业务流程将逐渐融合为一个系统。随着数字员工能力不断积累,其掌握的企业专属知识、记忆和协作方式,也可能逐渐成为一种新的组织资产。

从这个意义上说,AI不仅改变企业运营方式,也正在重塑企业的价值逻辑。

AI竞争正在进入新阶段

AI竞争不仅取决于谁拥有*的训练集群。

大型数据中心仍将继续推动前沿模型训练和复杂推理的能力边界;与此同时,不同的推理任务会根据数据、业务场景和实时性要求,运行在云端、边缘节点或端侧设备;对于数据安全和控制权要求较高的企业,部分AI还会采用私有化部署。与之相应,不同芯片也会形成更加明确的分工。

更深层次的变化发生在企业内部。随着数字员工进入越来越多业务场景,企业需要重新思考它们与人类员工之间的分工。

真正的挑战不是购买更多芯片,而是能否把算力、数据、数字员工和人类员工组织成一个能够持续学习、有效协作和规模化运行的整体。

企业需要的不只是AI技术,还需要一套新的系统思维。我们正在见证的不只是AI算力的新格局,也是组织学的新时代。

(谢祖墀系高风咨询公司创始人兼董事长,蒋逸明系高风咨询公司合伙人、高风数智董事总经理)

最新快讯

2026年08月25日

12:03
入职刚满一年的工程师,仅用一天时间就完成了通常需要耗费一个月的USB模型搭建与Android驱动编写任务。他甚至未曾使用过Claude Code,也不了解USB底层的工作原理。这项工作原本需要先啃透USB通信标准,再为键盘鼠标等设备建立模型,最后完成驱动开发。然而,在AI的辅助下,他只需将需求和参考代码投入,AI便自动补全、生成并迭代代码,最终在一天内完成了...
12:03
七月,DigClaw 的预测框架 Rhizome v1 在 FutureX 评测平台表现出色,斩获了第一名、第三名和第七名。这三个席位分别来自三个不同的基础模型,包括 Kimi-K3 和 DeepSeek-V4-Pro 等。在同一个榜单上,同一套框架让三个不同的模型都进入了前十,DigClaw 是唯一做到这一点的参赛方。这组成绩基于 59 道覆盖政治、经济、...
12:01
鼓狮财经8月25日电,江龙船艇午间发布公告,宣布于8月24日与客户J签订一份《40米工作船建造合同》。合同总金额为8700万美元,折合人民币约5.9亿元,占公司2025年度经审计营业收入的83.99%。公告指出,该合同对2026年度经营业绩无重大影响,但若顺利履行,将对公司未来年度的经营业绩产生积极推动作用。
12:00
今日港股光纤龙头爆发,长飞光纤光缆表现尤为抢眼。该股早盘低开 137.70 港元后一路拉升,盘中最高触及 155.40 港元,涨幅超过 9%,半日成交额逾 30 亿港元。今年以来,该股累计涨幅已接近 200%。与此同时,A股长飞光纤也同步走强,在 8 月 24 日科技股大跌、光模块股重挫的背景下,逆势收涨逾 4%,盘中一度站上 390 元,较 8 月 19 ...
12:00
**美债危机加剧,贝森特干预受挫,华尔街泼冷水** 随着美债危机警报拉响,财政部长贝森特试图通过市场干预来稳定局势,但屡次受挫。此前,美国财政部宣布将大幅增加美债回购规模。据传,为填补资金缺口,贝森特计划动用接近1万亿美元的“应急资金池”(TGA账户)。然而,华尔街对此泼了冷水,并担忧这种“强压美债”的做法可能带来副作用。 **救市措施与短暂效果** 上周三...
11:28
据鼓狮财经8月25日报道,Cantor Fitzgerald高级董事总经理兼科技行业分析师C.J. Muse指出,英伟达备受争议的财务举措——包括循环融资以及为他人提供担保——实际上可能巩固其市场领先地位。 美东时间周三,英伟达将公布2027财年第二季度财报。作为AI交易的风向标,这份财报不仅关乎英伟达自身的股价,更将牵动整个AI芯片板块及美股科技股的走向。...
11:28
8月25日,港股市场一片愁云惨淡,东方甄选的股价却逆势冲高。截至发稿,东方甄选股价23.58元,涨超8%,盘中一度涨超10%,市值升至250亿港元。近三个交易日,东方甄选股价涨近20%。就在几天前的8月21日晚间,东方甄选刚刚交出了一份让市场颇为意外的成绩单。2026财年(2025年6月1日至2026年5月31日),东方甄选总营收57.01亿元,同比增长29...
10:56
据鼓狮财经8月25日报道,消费电子领域的涨价潮如今迎来了亚马逊这一新成员。上周末,亚马逊大幅上调了其硬件产品的售价,部分商品涨幅惊人,最高达60%。亚马逊旗下的核心电子产品,涵盖流媒体设备Fire TV、智能音箱Echo、电子书阅读器Kindle以及路由器品牌Eero,均已进行价格调整。其中,平价智能音箱Echo Dot的价格从49.99美元上涨至79.99...
10:49
8月25日,豆包工作正式发布。作为豆包面向生产力场景推出的全新Agent产品,豆包工作能够围绕用户目标自主拆解任务、调用工具并持续推进复杂工作流程。该产品已与飞书深度打通,使Agent能够基于企业上下文更精准地完成任务。 目前,豆包工作电脑版已开放下载,用户也可在最新版豆包电脑端直接使用。即日起登录或升级,即可免费领取30天订阅权益。针对日常办公中最耗时的工...
10:49
鼓狮财经8月25日讯,据媒体报道,韩国存储芯片巨头SK海力士工会成员周二否决了经过两个月谈判达成的初步薪资协议。在参与投票的15045名员工中,超过半数投出反对票,赞成与反对票的差距仅为25票。这意味着管理层与工会预计将恢复谈判,后续讨论重点很可能围绕绩效奖金支付制度展开。 此次投票否决的核心原因在于劳资双方对奖金发放形式的分歧。不少员工反对将超过一半的奖金...
10:48
8月25日,成都市住房和城乡建设局、成都市规划和自然资源局、成都市财政局、成都住房公积金管理中心联合发布通知,进一步优化房地产政策以促进市场平稳健康发展。新政明确,购买本市新建商品住房申请住房公积金贷款的,最低首付款比例降至15%,并给予一年期限、20%的利息补贴,补贴金额最高不超过2.5万元;购买设计达到绿建一星级标准及以上新建商品住房的,住房公积金最高贷...
10:48
**博纳西亚递表港交所,深耕临床CRO领域** 创新药作为医药行业景气度最高的细分领域,其带动下的CXO产业链在经历一轮周期调整后,于今年再度迎来上升期。药明康德、康龙化成、金斯瑞生物等企业的股价一路走高,吸引了大量资金关注。在此背景下,又有一家CXO公司迎来了IPO进展。鼓狮财经获悉,博纳西亚(杭州)医药科技股份有限公司(简称“博纳西亚”)已于8月20日向...