一 | 出品 | 虎嗅科技组 作者 | 梁卡尔 编辑 | 苗正卿 头图 | 虎嗅拍摄 这是虎嗅WAIC“追踪Token商业新范式”系列文章第【20】期。 “被逼着喝尿、电击生殖器官、动不动就挨打……”当时电影《孤注一掷》上映的时候，里面有很多场景让人感觉非常残酷，可实际上，这部电影的导演表示，能拍出来的电影尺度已经是非常克制的了，很多都是点到为止，真实情况比这还要黑暗、残酷百倍千倍。而一位亲历过境外电诈的受害者，在讲述完自己当时的经历之后，更是让人对那些电诈分子恨之入骨。
二 | 被骗过去的“水果店老板”张先生是一位水果店的老板，他在上海从事水果批发贸易。 聚光灯下，国产AI芯片的竞争正在变“重”。
三 | 漫步在今年世界人工智能大会（以下简称“WAIC”）的芯片算力展区，会发现往年厂商们引以为傲、精心陈列在橱窗里的单片硅晶圆变少了，取而代之的是看上去“重达数百公斤、塞满核心器件的巨型算力柜”。信息来源：新法制报一般来说，这种生意就算是挣不了多少，但至少是可以维持家里人的温饱的。其中拿出硬核实力的是华为，这家公司首次在线下展出的昇腾Atlas 950超节点真机，一个旨在将1024张芯片死死绑定在一起的系统级庞然大物。 按华为的官方资料，该产品基于灵衢互联协议和超节点架构，支持1024卡规模，拥有256TB全局统一内存编址空间，并提供1 EFLOPS FP8、2 EFLOPS FP4算力。如果记不住这些参数，那么只需要记住一个变化，也就是国产AI算力竞争重心正在发生变化。 从拼单卡参数走向拼系统交付。2021年9月的时候，张先生想要前往迪拜进行考察，看看那里的生意怎么样，毕竟迪拜有钱这也是众所周知的。面对先进制程受限、高端HBM断供以及CUDA生态壁垒等一连串硬件短板，中国AI芯片厂商正试图通过超大带宽、低时延互连以及全域调度，将无数个“不完美”的单卡，拼凑成一个“相对完美”的“巨型计算机”。越来越多厂商开始强调这种新趋势。 系统级突围不是抹平单卡差距，是一种向现实妥协的突围，但它绝不是一条捷径。在出发之前，张先生就提前在网上联系了可以办理迪拜工作签证以及一些相关手续的人，并且跟他们也有着联系。所有的准备工作做好之后，张先生便从武汉乘坐飞机到香港转机，然后直接飞往迪拜了。迪拜机场一下飞机，张先生就先联系了那些帮自己办理手续的人，对方还派了四个人前去接应了张先生，一行人处的还算不错，路上也是有说有笑的。可是让张先生没想到的是，上了那辆车之后，等待他的，却是无敌的深渊……下车之后，张先生以为是到了酒店，可实际上，却被那几个人带到了诈骗分子的窝点，并且对方也一改刚见面时候的那种态度，张先生刚一说话，直接就被对方给了两嘴巴子，甚至还言语威胁张先生，让干啥就干啥，不然死了都没人给你收尸。而当时张先生也看到了，周围的人全部都是真枪实棍，而且到处都是拿着枪巡逻的保安。这个时候的张先生也意识到：自己被骗了！对于这些刚被骗进去的人，对方都会直接拿着手铐拷着，就算是想跑其实也根本出不去这栋大楼，几乎上每时每刻都要被监视着。当竞争从微观的芯片设计蔓延至宏观的系统工程，面对复杂的网络互连、艰难的模型迁移，以及数据中心那不堪重负的散热与功耗，厂商们眼前的是一笔更难算清的账目。后来，张先生还被带到了办公区域，而这里，也正是电诈分子进行诈骗的场所，他们的主要目标群体就是国内的白领，或者是单身女性。 为什么今年大家都在讲“超节点”？ 虎嗅和行业上下游十多位从业者交流发现，超节点热的直接原因，是模型和推理需求都变大了。其实就是给自己一个人设，然后跟对方聊天，想尽办法和套路去获得对方的信任，要么把人骗过来，要么就把对方的钱给骗走，这就是他们的目的。最让人想不到的是，那些诈骗分子还非常嚣张，如果有人想要报警的话，他们也会把手机给那个人，但是不管怎么求救，就算是打电话也没有警察会去的。
四 | 诈骗分子的恶毒手段张先生不愿意去干诈骗，他知道如果自己把对方骗了的话，那么对方可能就活不下去了。
五 | 但是你不干，那么就要遭受非人的折磨，比如说我们在电影里看到的画面：电击。
六 | 在那些诈骗分子的眼中，一个活生生的人是没有任何人权的，你就只是他们挣钱的工具而已，如果你不听话，那么他们就会想办法让你听话。 从需求端来看，模型变大的速度快过了单卡能力提升的速度。随着模型参数向万亿级迈进，以及上下文窗口拉长至1兆以上，单个芯片的性能早已不堪重负。摩尔线程高级副总裁董龙飞将这种“超节点”技术生动地形容为“让256张GPU像一张卡一样工作”，实现跨卡显存的直接访问。 图片来源：摩尔线程 华为昇腾950所强调的统一内存编址与全域调度，本质上也是在解决同一个痛点，就是在单卡能力触及天花板时，必须靠“人多力量大”来拼凑出更大的算力空间。拿扳手扳手指头、用电警棍打等这些在那里都是非常常见的事情。不仅如此，他们还会把打人的视频和照片给不听话的人看，甚至还直接当着那么多人的面把一个人的手指头给掰断。 更具戏剧性的是，智能体让推理算力的消耗方式变了。摩尔线程创始人、董事长兼CEO张建中指出，算力消耗的主体正在从人类转向AI自身，“已经不是我们在用AI，是我们的Agent在用AI”。为了不干诈骗，张先生被迫练习打字的时候，一直假装自己不会打，脑子转不过来，反正就是各种干不了，结果却是一顿折磨。
七 | 在这中间，张先生也尝试过逃跑，但是就算是当时已经到警局报警，警察也只是非常敷衍的说知道了，根本没有任何的行动，反而是逃跑的张先生又被抓了回去。这一次，被抓回去的张先生又是一顿痛打，大小便都失禁了，而且躺在床上半个多月动都动不了。当Agent开始替人调用模型，Token消耗量呈指数级增长。
八 | 后来对方也表示，如果想要离开，那么就需要交钱，没钱就让家里人凑，实在凑不出来他们就把张先生网上各种贷款全部办了个遍，甚至还要求张先生的亲朋好友替他们“洗钱”，什么时候洗够一个亿的流水就可以放人。 一位百度云的工作人员在现场向虎嗅印证了这一趋势。在这个过程中，对方还直接把张先生扔到了沙漠里，一口水都不让喝，甚至还会直接朝着张先生撒尿，尿完之后还会问张先生甜不甜。相比训练，目前国产算力在应用端的推理需求正占据绝对主导。如果张先生的答案不是他们想听的，那么可能等到他的就又是一顿暴打，而且还会威胁张先生，要是没钱也好办，直接把器官摘了拿去卖就可以了。这也解释了为什么万卡集群会和Agent推理放在同一套故事里，因为它们都指向算力需求从单次请求转向高并发、长上下文和多模型协同。
九 | 然而，在这场由万卡和超节点堆砌的“繁荣”背后，有多少是真实的市场需求，有多少是展会上的“军备竞赛”？ 在业内人士眼中，万卡集群不仅是一个技术指标，更是一张证明自身出货与交付能力的“商业名片”。一位昆仑芯展台的工作人员告诉虎嗅，服务头部客户必须具备万卡级集群能力。除了要把张先生榨干之外，他们还把张先生包装的很好，然后给他拍视频和照片，让其他人以为张先生在那边混的很好，然后骗人过去。 但这种狂热下也有人在理性反思，海光信息的工作人员表示，万卡绝不是百卡系统的简单放大，当规模跨过临界点，系统的稳定性、网络拓扑、功耗和散热挑战将面临指数级飙升。可以说，张先生的身上基本上到处都是伤，烟头烫的、扳手扳的、外力打的，各种类型的伤全部都有。被骗过去的女性张先生在一次假装约了人的过程中，经历了非常大的困难才成功的逃离了那里，但是却还是有很多人在那里回不来。一位芯片架构师告诉虎嗅，公司目前支持的是千卡级扩展，但大部分实际商用场景在8卡或16卡规模下已绰绰有余。而张先生说，女性在那里的生活更是非常不好过，那些人会逼着女性接客，而且每天至少需要接十个人以上。
十 | 所以，能拿出万卡方案的厂商很多，但真正能落地的有待检验。一位芯片公司参展商工作人员对虎嗅说，“你要问问看这些卡是不是真的被用起来了”。 系统级突围的第一道墙 然而，要将成百上千张芯片绑成一个“超节点”，厂商们撞上的第一道墙，是严苛的物理学定律。要是谁不听话或者是接不够那么多客人的话，那么后果也是一样的：挨打。在那里的晚上，基本上被打的尖叫声从来都没有停止过，而且每天都有人在流血和死亡，可能所有人都是在心惊胆战中睡觉的，甚至都不知道自己能不能活到第二天。不仅如此，他们还会把女性分为三六九等，一些长得好看的，可能会被派去接客，但是像那些相貌平平，长的没有姿色，而且家里面也拿不出赎金的女性，在他们眼里就是没有任何价值的。 超节点的前提是通信速度。
十一 | 为了让数百张GPU像“交响乐队一样协同”，摩尔线程和华为等中国厂商不得不各自开发了MTLink和灵衢等互连协议。 华为工作人员告诉虎嗅，灵衢本质上是试图在服务器内部和服务器之间建立更可控的数据通路，并推动CPU、网卡和存储等部件都接入同一生态。而这些女性，她们最终的归宿，就是被扔到公海医疗船上。所谓的公海医疗船，说难听点就像是一个“大型屠宰场”一样，而他们屠杀的，是人。
十二 | 那些没有任何价值的女性就会被扔到船上被割器官，对于那些人来说，这就是被骗过去的人最后的一丝价值，如果被骗到那里的话，很有可能就是这样的下场。 但无论是互连协议，还是更高层的调度架构，都无法绕开底层传输介质的物理边界。铜互连的物理边界很具体，当铜缆距离超过约三米后，信号衰减会明显加剧，所以为了保证信号完整性，线缆需要做得更粗，这又带来了发热、散热、布线和重量的问题。对于这些事情，张先生其实提起来就非常难受，他说，那些都是我们的中国同胞。张先生说出自己的遭遇，就是希望能够让多一个人看到，就能少一个人上当受骗。 这种物理极限，正在催生一场“光进铜退”的底层革命。
十三 | 电诈分子无处不在，可能你正在聊天的网友，或者是你很长时间没有联系的朋友，或者是想要给你介绍高薪资的人，可能都藏着巨大的“凶险”。光电芯片厂商曦智科技展示的“光互连”方案，试图用光纤打破“三米魔咒”，将稳定连接距离扩展至数十米，从而让超节点不再被严格限制在单个机柜内，进而有机会向多机柜形态扩展。 图片来源：虎嗅拍摄 不过，光互连不是对铜互连的一次性替代，随着互连速率从过去的10G级别提升到100G、200G，铜缆能够稳定互联的距离越来越短，光互连因此从柜间继续向柜内甚至机内推进。展台上一位曦智科技产品经理告诉虎嗅，电缆仍会长期存在，不同技术仍会在各自适合的场景中长期共存。
十四 | 虽说我们不能以最坏的角度去看人，但是却也不能随意相信任何人。
十五 | 不仅如此，光互连方案还必须面对商业化是否可行的拷问。一位行业专家坦言，相比于技术尚不成熟、成本高企的光互连，传统的铜互连依然凭借极其低廉的价格和成熟的产业链占据主导地位。
十六 | 对于客户而言，业务真的需要如此大规模的超节点，答案或许是“不一定每个人都需要”。 这个答案直指要害，系统级路线在技术上能连起来只是第一步，商业技术落地才是关键。 超节点不是摆进机房就能跑 互连之外，系统级算力的另一道硬约束在机房。 一个完整的超节点设备造价可能高达数亿元，其功耗也往往会飙升至惊人的400千瓦。这种庞然大物看似是一台性能怪兽，但也是一个极其脆弱的系统。董龙飞表示，一旦某张卡、某个模组或交换节点故障，就会影响整套系统利用率。这意味着，超节点必须同时解决卡间互连、链路可靠性、模组解耦、散热和软件协同等问题。 一位芯寒智能的工作人员从液冷角度给出了解读，过去业内常以单柜功率10至15千瓦作为是否考虑液冷的参考门槛。但如今，随着高性能AI服务器纷纷上柜，单柜功率轻而易举地突破了这一门槛。在高功率、高热流密度AI算力柜场景下，液冷正在从可选项变成越来越难绕开的工程选项。芯寒智能是一家专注于智算中心相变液冷技术的创新企业。 但这并不意味着所有机房都会立刻转向液冷。上述技术人员表示，对于大量传统的中小型数据中心而言，转向液冷意味着一场伤筋动骨的重构。它们不仅缺乏液冷所需的一次侧水机等基础设施，更面临一个致命的商业代价，就是改造机房往往意味着必须中断现有的服务器负载。对于绝大多数承担着核心业务的单位机房来说，拉闸停机是不可承受之重。 华为这次展示的Atlas 850E风冷超节点，正是试图降低传统机房改造门槛。华为方面称，该产品无需对现有风冷IDC机房做液冷基建改造，标准机柜可直接上架部署，并支持单个风冷超节点扩展至96卡商用部署。试图在物理约束和改造成本之间搭建一条折中的道路。
十七 | 这笔账最后会落到机房改造和运维上。AI芯片的竞争早已不再局限于硅片本身。它是一场包含电力供应、散热物理、机柜结构乃至旧基建运维在内的系统级重资产升级。 芯片路线分化，买方只看算力账本 虎嗅在WAIC现场观察发现，国产AI芯片并不是一条路线。 摩尔线程强调兼顾渲染与仿真的全功能GPU；昆仑芯则认为GPU与AI专用芯片的传统边界正在变得模糊；创始人有着谷歌背景的中昊芯英押注在TPU架构芯片上，奕行智能则展示了RISC-V架构路线，这两家都在试图通过更低的功耗或定制化的架构打开市场缺口。 然而，在挑剔的买方市场面前，技术路线标签并不是最终语言。
十八 | 正如一位公有云服务商（百度云）一线人员所讲，客户在实际采购中根本不关心是什么架构，关心的指标只有具体卡型、价格、软件平台适配度，以及进入国产合规体系所需的工作量。 也就是说，软件生态仍是国产算力最难的一关。 更换底层硬件的“迁移”背后往往是一笔财务支出。
十九 | 但对有些芯片厂商来说，路线决定了其具备一定的竞争优势。上述昆仑芯工作人员表示，其从一开始就走兼容主流生态的路线，包括CUDA和PyTorch。原因并不复杂，就是客户原来大量模型和底层代码都跑在CUDA体系上。 但对于大多数不得不更换国产芯片的客户来说，迁移是一项繁重的“苦力活”。
| 正如奕行智能技术与解决方案总监廖显所形容，从CUDA生态迁出，本质上是企业要扮演“搬运工”的角色，把模型和算子重新写到新平台上。中昊芯英解决方案架构师刘辉也提到，开源模型迁移相对容易，但闭源模型仍可能需要额外开发算子。 图片来源：虎嗅拍摄 百度云等头部云厂商正试图通过全栈自研体系，向市场兜售低代码改造成本的乐观愿景，但国产算力迁移不是一个统一答案，而是需要耗费巨大人力、时间和不确定性风险的定制化工程项目。如果客户对算力性价比进行考量，软件生态仍是最关键的判断依据。 国产卡最重要的是可用 WAIC展台上，一些产业热词很容易制造一种全面追赶的气氛。但廖显给出的判断颇为冷静：国产AI芯片当前第一关是“可用”，“你不可用，其他都吹牛”。在他看来，市面上仍有不少芯片停留在Demo阶段，一旦真正扔进客户的真实机房，就会暴露出无数的工程漏洞。 当被问及客户是否关注单Token成本时，廖显回答，不能仅着眼于单卡吞吐量的提升，更应综合评估集群部署后的整体TCO（总拥有成本），其中芯片的供应稳定性与稀缺性导致的采购成本同样是不可忽视的变量。 不过，也有芯片行业人士的回答更直接，可用性尚未夯实的阶段，盲目在Token成本上与英伟达贴身肉搏，并不现实，因为“基本上没有办法跟它比”。
| 这并不是唱衰国产算力，而是说明国产算力目前更现实的任务，不用立刻以绝对成本优势击败英伟达，要先在供应链安全、本地部署、生态适配和特定场景中，建立“不被卡脖子”的防御性替代能力。
| 在这个过程中，客户更注重眼下的采购经济账，并不为“峰值性能”这样的期货概念买单。 昆仑芯工作人员告诉虎嗅，客户通常先明确自己要跑哪些模型，再拿这些模型到芯片平台上测试性能。只有性能过关后，才会进入价格和性价比讨论。对于大客户而言，还要继续考察持续稳定供货能力，“几万张卡、几千张卡，签完合同供不上货也不行”。 图片来源：虎嗅拍摄 这种务实导致了国产算力应用场景分化。董龙飞把训练和推理的商业账拆得很清楚。也就是，训练对性价比容忍度相对更高，如果产品性能低10%，原本训练30天的任务多跑3天仍可接受；但推理不同，如果成本比别人高10%，商业上就很难竞争。 因此，对成本和并发更敏感的“推理场景”，正成为国产算力最关键的突破口，也是最残酷的考场。它不是让国产卡立刻在公共云低价Token服务里正面击败英伟达，而是先在场景中建立可用性。上述公有云工作人员也表示，目前市场对国产算力的最大需求，正来自模型部署后的推理服务。 这也最终决定了国产算力的核心客户画像。他们并不是那些资金紧绷、追求极致性能的大模型创业公司，而是合规、安全、本地部署和流程改造需求更刚性的国家队、运营商、金融巨头与交通电力系统。 华为昇腾在WAIC展示的行业案例，也说明行业客户衡量国产算力的方式并不是单卡峰值，而是业务指标。无论是在运营商基层流程中缩短的30秒，还是在证券行业客户服务或投资服务场景中降低80%的首次Token响应时延。这些行业客户衡量国产算力的标尺，从来不是被用来市场营销的单卡跑分，而是业务流程能否闭环、系统是否足够稳定，以及在关键时刻有没有人出来为故障兜底。 不是所有推理都要进云端 WAIC现场一个容易被亮点遮住的变化是，端侧算力也在形成自己的系统级路线。端侧是云侧的另一面，有芯片厂商工作人员跟虎嗅感叹，今年WAIC展会现场已经三七开，三成是端，七成在云。 “未来AI的发展一定是端云协同的”，后摩智能联合创始人、产品副总裁信晓旭对虎嗅表示，以情感陪伴机器人等新兴硬件为例，用户与AI的私密对话天然排斥将数据上传至中心化的云端，而低延迟的交互与24小时不间断的在线需求，更适合在本地完成推理。 安谋科技NPU产品线负责人舒浩表示，端侧AI不是云端AI的缩小版，而是由功耗、实时性、软件、数据和可靠性共同定义的新计算市场。他的同事、CPU产品总监朱晓鸣指出，端侧设备无法像数据中心一样用高功耗和大规模散热换性能。 为了突围，安谋科技正在其CPU、NPU以及存内计算之间进行精密的物理空间调度，试图在有限的功耗和面积下，死磕AI推理的效率极限。 更有野心的是，端侧正在复制云端的“系统集成”策略，有的厂商试图将智能体直接封装进桌面设备中。此芯科技在其最新发布的AGX智能体计算平台上，就展现出了明显的“软硬一体化”企图，向下连接CPU、GPU、NPU和扩展AI卡，向上提供Agent OS、模型接入和行业应用。 摩尔线程也在把算力向端侧延伸。WAIC上，这家展品显示，AIBOOK定位为面向开发者的个人智算平台，预装OpenClaw智能体，AICUBE则定位为家庭AI中枢，整合AI PC、AI NAS和智能体能力。
| 这说明，推理时代的算力不会只往云端集中，也会向端侧重新分配。云端负责大模型训练、高并发服务和复杂任务；端侧负责隐私、低延时、本地数据和持续在线。两条路线不是替代关系，而是分工关系。 突围，还是绕远？ 图片来源：太初元碁 回到最初的问题，国产算力的“超节点”热的根源。
| 答案可能并不是二选一。
| 它当然是一种突围。
| 先进制程和高端GPU供应受限后，国产AI芯片不能只等单卡性能追平。
| 通过互联、统一内存、超节点、软件栈和系统集成，把更多“不完美”的芯片组织成可用算力，是中国AI算力产业必须走的一步。 然而，它也确实是更重的一条路。因为系统级的路线从来没有消除问题，它只是将原本属于微观层面的半导体瓶颈，重新分配到了更宏观、也更复杂的商业世界中。 在这种路线下，单卡性能的不足必须依赖成百上千张卡的协同来弥补，但这随即把网络拓扑、信号时延与整套系统的可靠性推向了新的物理极限。当庞大的卡群终于被塞进算力柜时，高密度的算力又立刻转化为功耗与散热压力，将电力扩容、液冷改造的代价，变成了必需的成本。 硬件的整柜交付也远非终点，隐藏在冰山下方的CUDA软件迁移、算子重写以及框架适配，紧接着变成了一笔企业无法赖掉的工程支出。即使这些障碍被逐一扫除，厂商们最终仍要向客户回答一个本质的问题，这套系统是不是比原先方案更好。 这就是系统级突围的现实，它解决了一部分问题，也制造了新的复杂性。WAIC展台上的参数再惊艳，也要看下一场发生在客户机房里的硬仗国产AI算力谁能突围。
Current article:http://ya9b.loukachunwenghongchuikui.shop/oae/20260826/9930622.html
Published on:16:34:53
