只有一次机会,他们押注了大模型定义芯片。
文|赵艳秋 周享玥
编|牛慧
“大模型时代,我们究竟需要一颗什么样的芯片?”10月29日下午,XHEART新芯航途CEO李宗霖以老芯片人沉稳、不疾不徐的语调开门见山。他身后的大屏幕上,科技蓝的背景里亮着“XHEART”;会场门口,一排搭载XHEART芯片的量产车前人头攒动。
过去几年,智驾芯片比的是峰值算力,从200 TOPS、500 TOPS一路涨到1000 TOPS以上。但端到端大模型、世界模型上车后,模型却不一定跑得更快、更好。更棘手的是,模型几个月就迭代一次,一颗车规芯片从设计到量产却要好几年。
XHEART新芯航途提出了“大模型定义芯片”,先弄清模型需要什么,再反过来定义芯片架构和工具链。这家成立不到三年的公司当天首次以品牌身份亮相,发布新芯片X7 Ultra。它的上一代产品X7系列已累计出货超过20万颗,搭载10款量产车型,拿到超过40款车型的订单。
英伟达、高通占据着主要市场,车企也在自己造芯。XHEART决定用一条不同的技术路线杀进牌桌。
01
三年前的一道题
2023年,李宗霖和几位在芯片行业做了十几、二十年的同事决定重新创业。“重新开始反而让大家更谨慎。”他说,这一次到底要做什么,能解决客户什么问题,几年以后芯片做出来,是不是市场需要的。也是在那段时间,他认识了MomentaCEO曹旭东。
两人多次交流后形成了一个判断:大模型会改变智能驾驶,也会改变芯片的设计方式。过去的智驾系统由多个小模型拼成,系统能力的上限取决于工程师写下的规则。基于Transformer的端到端大模型兴起后,智驾开始真正由数据驱动,也给芯片出了三道题:算力能不能在真实系统里发挥出来?今天设计的芯片,能不能跟上明天的模型?能不能以合理的能耗获得所需的能力?
在李宗霖看来,这三道题要放在一起回答:从真实的大模型需求出发,重新思考计算、存储和数据流动怎样组织,这就是“大模型定义芯片”。
这也成为XHEART与Momenta深度合作的起点。XHEART成立于2023年12月,董事长李俊是前Momenta芯片负责人。
曹旭东随后在演讲中透露,Momenta在2022年底、2023年初就形成了“大模型定义芯片”的判断,并从2023年起与XHEART一起付诸行动,“今天是第一次公开讲”。
他给出两个理由:大模型定义的芯片,性能可比通用芯片提升10倍;而L4的规模化至少需要10B、大概率需要100B参数的模型。用通用芯片来做,相当于在车上放一台巨大的GPU服务器,功耗、车规可靠性和成本无法同时满足,他称之为通用芯片的“不可能三角”。
他也给出了时间表。曹旭东把智驾安全性与性能每两年提升10倍的规律,称为“智驾摩尔定律”。2022年到2026年,行业基本是按这个速度走过来的;接下来,大模型芯片有望把它加快到每年10倍。他观察,过去四年车端模型规模大致增长了5到10倍,有了大模型芯片,未来两年有机会增长10到100倍。
曹旭东透露,Momenta累计量产已突破140万台,行驶里程达200亿公里,最新10万台交付仅用了不到一个月。持续积累的真实数据和迭代中的模型,也成为XHEART提前判断下一代芯片需求的重要基础。
车企的诉求也形成了共识。上汽集团副总裁、总工程师祖似杰说,消费者“肯定只为体验付钱”,算力数值可以是一个技术标杆,但如果用户体验没做到,技术就没有意义。在他看来,云端的模型可以很大,散热可以不计代价;到了车上,模型要蒸馏、压缩,空间和能耗都有限,“必然是模型和芯片协同”。
奇瑞汽车执行副总裁、CTO高新华坦承,“我们不会只看某一个算力的数字”。他认为,一颗芯片好不好,要放到真实的整车系统、真实的模型和真实的使用场景里判断,做芯片就要预知下一代模型的要求,给它预留空间。在他看来,算法企业最了解模型下一步会怎么变,芯片企业最了解底层架构,“未来不是大家把各自的东西做好以后再握手,而是从一开始就要并肩往前行”。
算法公司、芯片公司和车企在这一理念的基础上,汇聚到一起,芯片从一开始就围绕真实的模型和整车需求来定义。
02
700TOPS,XHEART如何提高有效算力?
关于这颗新推出的大模型芯片X7 Ultra,李宗霖在台上请大家先记住一个数字:700 TOPS,这是X7 Ultra芯片的算力。
他特别强调了测试条件。行业通常用实验室基准测试来评估芯片,但实验室的结果和量产模型的实际表现往往相去甚远。XHEART用的是真实的量产智驾模型,而且要求模型压缩部署后,输出与原始模型的相似度在99.99%以上,也就是“四个九”。
圆桌论坛上,图灵奖得主Jack Dongarra从另一个角度谈到了这个问题。他开发的LINPACK基准测试后来成了衡量超算的行业标准,他自称是“意外成为的基准测试者”。他说,这套测试诞生于30年前,那时计算本身很昂贵;如今机器的计算能力早已过剩,真正稀缺的是数据在芯片里的搬运。他认为,AI芯片也会面临同样的问题。
700 TOPS背后,李宗霖介绍了X7 Ultra六项架构设计。在当下的高阶智驾芯片市场,700 TOPS已不足以单独构成竞争壁垒。XHEART更关注的是,如何在保证模型精度的前提下,减少数据传输和计算等待带来的开销,让更多算力真正用于模型推理。
其一是专为大模型设计的超大核NPU。李宗霖打比方说,过去协作的人分散在不同办公室,资料要来回传递;超大核则像把团队放进同一个宽敞的工作空间。数据交互由此从小核之间的百GB/s级,提升到超大核内部的TB/s级。NPU还为LayerNorm、Softmax、Transpose等关键算子配有高精度专用加速引擎,让算子执行又快又准。
其二是解锁硬件并行度,让更多计算单元同时工作,计算与权重加载也并行进行。基于量产智驾大模型实测,NPU计算利用率达到98.7%。
其三是重构AI工具链,XHEART提出通过整网级融合统一编排整个模型的计算,减少中间结果反复读写外部内存。与行业旗舰产品相比,内存带宽消耗下降80%,能效提升100%。
其四是中国首发量产Armv9车规级CPU,承担复杂控制与系统调度,支撑持续演进的智驾系统。
其五是深度异构计算,本地任务由专用计算单元本地处理,激光雷达处理带宽最高达每秒2000万点,传感器预处理稳定性提升100%。
其六是软硬兼备的安全能力。X7 Ultra满足ISO 26262 ASIL-B功能安全要求,内置MCU通过ASIL-D认证。李宗霖说,“硬件安全加上行驶安全,才是真正意义上的智驾安全”。
六项能力合在一起,让可部署的模型参数量提升10倍。
台积电副总经理陈平博士表示,先进工艺通过持续提升性能、能效与集成度,为大模型提供计算基础。台积电已为X7 Ultra提供工艺支持,并表示将持续以先进工艺支持XHEART创新:“我们的工艺已经准备好了。”
03
“只有一次机会”
“我们只能做一次选择,只有一次机会。”李宗霖回忆2023年创业时的处境,资本市场不景气,资源有限。
摆在面前的有两条路:一条是做通用架构的芯片,不管模型怎么变都能跑,这条路稳妥但性能不会太好;另一条是围绕大模型定制,有风险、有不确定性。他们和曹旭东做了大量讨论,选了后一条路。
工作模式随之改变。行业的惯常流程是串行的:芯片设计完、流片、回片,再与算法集成,再到客户的域控上适配,问题往往到后面才暴露。XHEART把这些环节都提前到流片之前。
和Momenta的协作,从架构定义就开始了。2023年,双方围绕持续演进的主线模型讨论架构和算子需求,判断未来几年哪些计算会越来越重要。“模型告诉我们,计算的时间花在哪里。”李宗霖说。分工也很清楚:Momenta提供模型在芯片上的痛点和未来走向,芯片的微架构、带宽、算子和工具链由XHEART自己决定。
架构阶段,团队把真实大模型放进性能仿真,并把系统性能压力放得很大,确认架构大方向没有选错;流片前,又用量产模型做全芯片仿真,确认无误才交给台积电生产。软件团队也和算法团队一起深入底层,把排队等待的环节尽量改成并行。
客户也被拉到了一起。上汽大众智能驾驶与底盘研发高级总监童晓峰的团队对XHEART保持了很高的透明度,芯片还没流片,大众域控上的周边系统就已集成进来做接口验证。
这些前置工作,换来了回片后的几个节点。
不到24小时,芯片成功点亮。发布会上播放了第一颗X7点亮时的实验室画面,工程师逐项确认电流、电压,盯着指示灯,直到有人喊出“过了”、“成功了”。视频结束,李宗霖提到这个时刻时,一度哽咽。
第17天,芯片、底层软件与智驾模型实现整车闭环。但团队决定用更接近量产的标准重新定义“回片上车”,每个路口规划出的轨迹都要和量产标准一致。在真实道路上接受白天、夜晚及暴雨等环境检验。也是在这前后,童晓峰受邀试车。当时XHEART还没有正式对外开放体验,他是第一位上车的客户高管。“当时你们是真正做到了万事俱备,只欠这块芯片。”童晓峰说。
第21天,向更多客户开放实车体验,检验芯片与算法协同的实际表现。
曹旭东总结了“快”的原因。通用芯片在设计时,是面向所有可能的应用,设计者并不知道芯片最终会用在哪里、算法应该跑成什么样,所以用户拿到芯片后,常常会遇到各种问题和不匹配。能力强、运气好的团队,花3到6个月把芯片跑通、跑稳、跑对、跑好,就“谢天谢地了”,有时要6到12个月甚至更久。这也是为什么车企选芯片都“不愿意第一个吃螃蟹”。
X7能够缩短这一过程,关键在于大量软硬件集成与验证工作已经提前完成。
从公司成立到量产,XHEART用了两年。
三年前,李宗霖和曹旭东找到台积电副总经理陈平,讲以大模型为基础的芯片架构,讲L3、L4的愿景,讲这个计划。陈平坦言:“如果换个人来讲,我是有怀疑的。”
如今,X7已经进入量产。对XHEART来说,三年前的架构判断,开始接受真实车型、客户订单和规模交付的检验。
04
从一辆车到四十款车型
X7系列今年3月量产,第一个客户是上汽大众。上汽集团总裁贾健旭回忆,规划首款车型ID. ERA 9X时,他曾问曹旭东有没有芯片战略。曹旭东告诉他芯片“在路上”,又反问:大众敢不敢用?
贾健旭没有犹豫:“咱们就这么干了。”今年3月,ID. ERA 9X上市,成为X7系列的首发量产车型。贾健旭说,挂着上汽品牌的车,“不光是中国的软件,还有中国的芯片”,这是“一种发自内心的自豪”。
首款车型至今,X7已搭载10款量产车型,拿到超过40款车型订单。发布会现场,这些数字还有了更具体的呈现:会场外,14辆车依次排开,既有全新一代智己LS6、凯迪拉克全新XT5 PHEV,也有奇瑞风云A9L、风云T11、荣威家越07,以及上汽大众ID.ERA系列和上汽MG07。台积电副总经理陈平说,看到这些车时他难以置信:“三年前告诉我,无论如何我不相信。”
多数展车都采用X7系列加Momenta R7世界模型的软硬一体组合,但X7并不只服务这一种方案:全新一代智己LS6搭载的就是智己汽车的IM AD高级辅助驾驶系统。李宗霖强调,X7与Momenta的算法没有绑定,芯片独立销售,用谁的芯片、谁的算法,由车企决定。
X7也在进入更大众化的价格区间。30万元级的ID. ERA 9X之后,MG 07和荣威家越07已将这套软硬一体方案带入10万到15万元市场。荣威披露,家越07预售订单超过5万张,体验过高阶智驾的试驾用户中,77%当场下定。
X7也在走向海外。李宗霖透露,XHEART已拿到多家国际品牌车企的定点。10月22日,神龙科技也确认采用XHEART芯片,双方将面向标致、Jeep®等品牌的智能化车型合作,拓展中国、欧洲及全球其他市场。
芯片之外,模型也在升级。曹旭东宣布,基于X7 Ultra,Momenta即将发布R7 Ultra世界模型,参数规模和安全性能均将提升5到10倍,并开始涌现“推演万物”的能力。现场视频里,车辆在窄路会车时主动倒车避让,贴着几厘米的空间通过,还能在狭窄路口多次调整完成掉头。
曹旭东还透露,同一套世界模型已用在Robotaxi、Robovan和Robotruck上,Momenta已在苏州、上海、深圳、阿布扎比、慕尼黑等地取得测试运营许可,与阿联酋主权基金的合资公司计划2028年部署5000到1万台车。他判断,Robotaxi明年进入规模化阶段,2028年成为L3、L4的引爆点,2030年迎来规模化落地;到2028年底,头部公司的智驾安全性有机会达到人类驾驶的10倍。
而要支撑这样的模型,芯片也得继续往前走。发布会上,XHEART还公布了下一代芯片X9的研发目标:3000 TOPS大模型算力、700GB/s单芯片内存带宽,计划2027年推出。在曹旭东的演讲PPT上,从X7 Ultra支撑的R7 Ultra世界模型,到X9支撑的下一代世界模型之间,模型参数增长10到100倍。
李宗霖说,公司会保持“量产一代、开发一代、预研一代”的节奏。“智驾是起点,机器人是下一站,物理AI全场景,才是我们要去的远方。”但他也提醒团队,对芯片“要有一个很强的敬畏之心”。
发布会结束时,大屏幕上呈现了一个科技蓝背景里的“X”。
©本文为数智前线(szqx1991)原创内容
未经授权,禁止转载
进群、转载或商务合作联系后台
文章精选
Astra冲击波与具身行业的50天
拿下近半市场,中国AI新云的国产异构之路
Agent重塑ERP,金蝶打出了三张牌
百度搭子,向产业深处去
手机屏幕,国产抱团的胜利与现实的阵痛
从Auto到AI,X光检测走向新蓝海
FDE,突然成了一个“不想谈”的话题
AI Coding,正在把存储推向前台
WorkBuddy又有大动作:打通账号体系,让企业管理可控
AI改变钱的流向:预算、自研与最后一公里
不甘平庸的李健和一个更敢的荣耀
算力告急,四大力量涌入Token服务市场
历史进程中的浙大
大模型五大“标王”与六边形战士
枪响在2018:神秘东方力量,为何扎堆杭州


