让Token降本,「墨芯智能」完成约十亿元C轮融资!

如今AI行业早已告别单纯比拼模型参数、训练能力的阶段,各类落地应用催生出海量推理需求。居高不下的Token使用成本,已经成为阻碍整个行业规模化发展的关键难题。

在这一行业转折点,专注稀疏计算的墨芯智能,于5月28日完成总额约十亿元的C轮融资。该笔投资有深创投、共同家园投资、力鼎资本等新投资机构纷纷入局,凯旋创投、岩山科技等老股东也继续追加投资。这笔大额融资代表了行业集体看好“算力降本”这条技术路线。

01

AI行业的痛点究竟在哪?

当下万亿参数大模型成为行业标配,多模态AI应用全面普及,推理算力的需求迎来爆发。

目前AI产业的算力支出里,推理成本占比极高,远远超过前期模型训练的投入。不少企业落地AI业务后发现,能搭建起大模型,却扛不住长期高昂的算力开销。传统AI芯片采用稠密计算模式,会对所有运算参数逐一处理,大量算力消耗在无效数据上,直接推高了单次Token生成的成本,这也是AI技术难以大范围普及到各行各业的核心原因。

资本精准抓住了这个行业变化,在AI下半场的竞争中,不再是单纯堆砌硬件算力,而是如何提升算力利用率、压低推理成本。

所以,墨芯智能深耕稀疏计算技术,恰好直击行业痛点。本次融资所得资金,将主要用于新一代SparsePrime®计算卡的量产与市场推广,同时加快全国算力网络布局。

对于投资机构而言,墨芯不是追逐短期风口的企业,它手握底层核心技术,并且已经跑通商业化路径,这也是资本持续加码的核心原因。

02

一支跨界精英团队如何解决稀疏计算难题?

顶尖技术的背后,离不开实力过硬的创始团队。

墨芯智能2018年在深圳成立,在北京、上海、硅谷也设立了办公网点。团队组成十分多元,既有卡内基梅隆大学的资深AI科学家,也有来自英特尔、高通等国际顶尖企业的芯片研发核心人员。团队成员深耕半导体行业二十余年,参与过数十亿颗主流芯片的量产工作,既懂前沿算法理论,也具备丰富的芯片工程落地经验。

在AI芯片领域,懂算法的团队往往欠缺芯片量产能力,专注硬件研发的团队又容易在算法设计上存在短板。墨芯团队刚好弥补了这一行业短板,凭借扎实的技术积累,企业多年坚持深耕稀疏计算赛道,一步步完成技术验证、芯片流片、产品量产和场景落地,避开了行业内重宣传、轻研发的通病。

03

稀疏计算不是噱头,技术落地如何改写行业算力规则?

很多人疑惑,稀疏计算的原理并不复杂,为何少有企业实现商业化落地?核心难点在于软硬件协同落地。

简单来说,稀疏计算就是主动筛除模型中的冗余参数,只针对有效数据开展运算,减少算力浪费。但从理论概念,到研发出适配的芯片、配套工具链,再到对接不同行业的模型,中间存在极高的技术门槛。

墨芯打造出独有的双稀疏技术路线,实现了权重稀疏化与激活稀疏化的产品落地,还搭建起完整的编译器、工具链生态。其自研的Antoum芯片原生适配稀疏架构,最高支持32倍稀疏率;旗下S30、S40计算卡更是三次登顶国际权威MLPerf推理榜单,技术实力获得全球认可。

目前墨芯已在西北、西南、华东、华北四大区域建成智算中心集群,技术落地到多个真实场景。西北片区的千卡级推理集群,落地工厂安防项目,依靠边缘算力完成实时AI分析;西南片区结合本地绿电资源,打造低功耗绿色算力集群;华东片区对接医疗、基因测序等高端领域,加速专业数据处理;华北片区则服务城市治理、社区智能化改造。遍布全国的算力节点,证明墨芯的技术已经走出实验室,深度融入实体产业。

在竞争激烈的AI芯片赛道,墨芯能站稳脚跟,依靠三道难以复制的壁垒。第一是专利壁垒,企业从创业初期就开展全球专利布局,百余项专利覆盖硬件、算法、软件全环节。第二是工程实践积累,从2021年首款芯片流片至今,墨芯用三四年时间和各行业标杆客户完成场景适配,积累了大量一线落地经验。第三是生态壁垒,稀疏计算是芯片、工具链、行业模型深度绑定的完整体系,墨芯和众多大客户建立长期合作,形成了稳固的生态,后来者很难快速赶超。三重优势叠加,让墨芯在差异化赛道中牢牢占据领先地位。

04

AI推理时代,谁能掌控成本,谁就能掌控未来

整个AI产业的发展重心,已经从比拼模型参数,转向比拼推理成本,这是大势所趋。伴随全国算力网络建设推进,高效、低碳、低成本成为算力发展的主流方向。传统高端算力硬件成本高、能耗大的问题日益凸显,以稀疏计算为代表的新型算力方案,会成为行业主流选择。

这笔近十亿元融资,是墨芯加速发展的助力,也为整个行业释放了明确信号:AI产业接下来的竞争,算力利用率和Token成本会成为核心比拼项。墨芯的发展路径,也给国内AI芯片企业提供了参考,不必扎堆内卷热门赛道,找准行业痛点、深耕底层技术、打造差异化优势,同样能开辟出广阔市场。

当然,稀疏计算赛道依旧面临技术迭代、生态拓展、市场竞争等多重挑战。但毋庸置疑,在AI降本成为全行业共识的当下,率先掌握核心技术、完成商业化落地的企业,必将抢占发展先机。而墨芯的成长故事,也才刚刚拉开序幕。

往期推

声明:本文为维科号作者发布,不代表维科号立场。如有侵权或其他问题,请及时联系我们举报。