大模型定义芯片,X7 Ultra释放10倍参数空间,智驾计算走向系统竞争

芝能智芯出品

700 TOPS,可部署模型参数规模扩大10倍,这是XHEART X7 Ultra在10月29日苏州发布会上给出的数字。

智驾芯片的设计起点在移动。

过去先有芯片,再往上放模型;现在模型的结构、算子精度、数据怎么流动,反过来决定芯片怎么组织算力。

CEO李宗霖把说:“让大模型定义芯片,让芯片承载大模型的下一次进化。”

端到端智驾把感知、预测、决策连成一体后,芯片要处理密集计算,要搬运权重、保存中间结果,还要协调不同任务。

任何一环卡住,整条链路都慢下来,X7 Ultra把这套协同落到架构,要走出新的路。

Part 1算力放回真实模型

超大核NPU是第一条架构变化,小核之间靠百GB/s级数据交互;X7 Ultra把这些交互聚到超大核内部的TB/s级互联里,让相互依赖的计算更靠近数据。

对大模型,一次运算包含取数、计算、回写。中间结果跨的层级越多,延迟和能耗越高。把协作留在核内,省掉频繁跨核交换的代价,也给大算子映射留出完整空间。

算力用不用得满,看利用率。

X7 Ultra让计算和权重加载并行,减少计算资源之间的等待。量产智驾大模型实测下来,NPU利用率98.7%。工具链从整网范围编排任务,算子中间结果能留片上就留片上,通过融合减少落盘。

硬件给资源,编译器决定模型怎么用资源,部署效率是两者一起做出来的。

X7 Ultra内存带宽消耗较行业旗舰下降80%,能效提升100%。带宽这一项,是同一归一化基准下从100降到20。能效这一项,翻倍。

关键算子另有高精度专用加速引擎,把适合低精度的计算和精度敏感环节分开处理,在吞吐和输出质量之间做更细的分配。

参数规模扩大,权重存储、数据读取和部分计算负担都会跟着涨。“可部署参数量提升10倍”是整颗芯片协同的结果。

超大核减少协作开销,计算与加载重叠减少空转,整网融合降低外存流量,高精度引擎照顾敏感算子。这些改进把有限的功耗和存储预算,更多地用在目标模型上。

X7 Ultra采用中国首发量产Armv9车规级CPU,承担复杂控制和系统调度;激光雷达处理能力最高2000万点/秒,传感器预处理稳定性提升100%。

安全上,整芯片满足ISO 26262 ASIL-B,内置MCU通过ASIL-D,整车功能安全再叠加系统设计、软件开发和车辆验证。

Part 2量产之后拼系统

首颗X7,24小时点亮。

第17天,芯片、底层软件与智驾模型在整车上打通。截至发布会,X7系列量产8个月,累计出货超20万颗,搭载10款量产车型,另有超40款车型订单在途。

20万颗是X7系列的量,40多款订单跟已经量产的10款要分开看。量产的价值在工具链和系统方案上持续显影。

真实项目越多,暴露的问题越多,被修掉的也越多。对车企,项目周期、软件迁移、问题响应能力,和单颗芯片性能一起进入平台选择。

Momenta提出规模化L4需要百亿至千亿参数模型,基于X7 Ultra的R7 Ultra将把模型参数规模扩大5到10倍。

算法团队的计算热点提前暴露给芯片团队,芯片据此调整存储和算子支持,又保留适应新模型的弹性。

X9的研发目标是3000 TOPS大模型算力,700GB/s单芯片内存带宽,计划2027年推出。

按披露数字,算力目标约为X7 Ultra的4.3倍。计算和访存同步往上走,说明更大的模型要靠系统配比。

车企评估这类芯片,可以固定一套模型,约定输入下的端到端延迟,连续运行的整板功耗,量化部署后的任务表现,模型升级带来的工程工作量。四组放在一起,才看得清。

芯片内部某段计算变快,只有传导到系统端才是可感知的收益。

模型迭代能力同样关键,今天跑得快的网络,换上新算子、新输入规模,工具链还得维持部署效率。

小结

X7 Ultra提的核心命题,是把更大的模型变成可量产、可持续运行的系统能力,在统一条件下的延迟、功耗、模型保真和整车表现,大模型定义芯片的商业价值就是考核这些。

声明:本文为维科号作者发布,不代表维科号立场。如有侵权或其他问题,请及时联系我们举报。