据量子位 11 月 6 日报道,国产 AI 芯片公司墨芯在 5 个月内连续完成两轮融资,每轮金额都接近 10 亿元人民币。这家公司只做一件事:稀疏推理专用芯片。
为什么资本市场突然愿意为”稀疏”两个字连开两张支票?因为大模型的成本结构变了——算力需求从训练转向推理,而推理恰恰是稀疏计算最能发挥的地方。
DeepSeek 的 3%:一句数字解释了整条赛道
量子位给了一个非常直观的例子:以 DeepSeek-V4-Pro 为例,总参数约 1.6 万亿,但处理每个词元(token)时只激活约 490 亿参数,约占总参数量的 3%。
这是 MoE(混合专家)架构的核心特征:模型很大,但每次只叫醒一小部分专家干活。理论上,97% 的计算是可以省掉的。问题在于,通用 GPU 为训练、推理、科学计算等多种负载做了折中设计,很难针对某一种稀疏模式做深度的软硬件协同优化——省下来的计算,不一定能变成真实的效率提升。
这正是专用芯片的切入点:如果芯片从设计之初就按稀疏模式来排布计算单元和数据通路,那 3% 的激活率就有机会真的变成接近 30 倍的成本优势,而不只是理论上的漂亮数字。我们在 DeepSeek V4 Pro 0813 深度评测 里也提过,这代模型的定价能压到那个水平,MoE 稀疏激活是底层原因之一。
墨芯是什么来头
- 2018 年成立,从第一天就只做稀疏计算,提出”权重稀疏化 + 激活稀疏化”的双稀疏算法,并围绕它做算法、编译器、芯片架构、软件工具链的全栈设计。
- 创始团队来自卡内基梅隆大学以及 Intel、Qualcomm、Marvell 等半导体公司,官方称有数十款产品、超 50 亿颗芯片的量产经验。
- MLPerf Inference 测试中,S30 计算卡在所参与的部分类别里连续三届夺冠,主要指标是能效比和单位算力推理吞吐。
- 推理集群已在西北、西南、华东、华北四大片区铺开,2026 年第三季度营收实现数倍增长。
- 软件栈方面,升级版 SECA(稀疏原生高效计算架构)即将发布,重点是大模型推理部署与集群运维,降低模型迁移门槛。
两个落地案例:海上算力与遥感影像
第一个案例很能说明国内算力的现实约束。墨芯参与了上海国资平台打造的国内首个”海上算力 Token 工厂”项目:用海上风电的绿电、海水冷却降低 PUE 和电费。但这里有个悖论——如果推理仍然跑在通用 GPU 上,电费省下来的钱很可能被芯片的推理成本吃掉。稀疏架构的作用是从芯片侧把单 Token 成本压下去,让”绿电降本”和”架构降本”叠加,而不是互相抵消。
第二个案例更技术:墨芯与北京大学上海临港国际科技创新中心地球与空间技术研究院合作,把两款国际主流的遥感影像智能分析基础模型适配到自家算力卡上。结果是几乎不损失业务精度、不需要对下游任务重新训练的前提下,推理吞吐最高提升 2.88 倍,模型压缩最高达 7.64 倍。
这两个数字的意义在于,它验证了一件事:模型层面的稀疏,可以通过软硬件协同真正转化成端到端的效率。这比跑分更难,也更值钱。
对普通用户意味着什么
短期看不到直接变化,中期的传导路径很清晰:推理成本下降 → API 单价下降 → 应用层能承受更长的上下文、更多的 Agent 调用。今年国产模型的降价节奏已经证明了这条链子有效,GLM 5.3、Qwen3.8 2.4T A95B、DeepSeek V4 Pro 都是受益者。
另一层意义在供给安全。美国联邦机构全面禁用 DeepSeek 之后,国内对”算力自主”的诉求只会更强。稀疏专用芯片是一条绕开通用 GPU 正面竞争的路径——不跟你比峰值算力,比每 Token 成本。
风险也要说清楚
专用芯片最大的风险是”押错架构”。稀疏推理的优势高度依赖模型继续走 MoE 路线;如果下一代架构改变了稀疏模式,专用硬件的优势可能被削弱。相比之下,通用 GPU 的容错性更强。此外,生态是关键短板:CUDA 的护城河不在硬件,而在几十万开发者和现成的算子库。墨芯要推 SECA 软件栈、拉产学研联盟,本质就是在补这块。
顺带一提,DeepSeek 自己在系统层也一直在做类似的事,比如开源的 Super-agent 双层调度架构,以及 150 亿美元融资后的算力扩张。软硬两条线同时压成本,这个方向已经很确定了。
常见问题(FAQ)
稀疏计算是什么意思?
指模型里大量参数或计算结果为零(或不重要),可以跳过不计算。MoE 架构下每次只激活部分专家,就是典型的激活稀疏。稀疏计算硬件通过识别并跳过这些无效计算,减少算力和数据搬运开销。
墨芯和英伟达是竞争关系吗?
在推理场景下是竞争关系,但不是全面对抗。通用 GPU 兼顾训练、推理和科学计算,墨芯只做稀疏推理,走的是”单项极致”路线。它的对标不是训练卡,而是数据中心里跑推理的那部分算力。
稀疏芯片会让大模型 API 更便宜吗?
方向上是。推理成本是 API 定价的主要构成,芯片侧每 Token 成本下降会逐步传导到价格。但传导有滞后,还要看芯片的实际出货规模和软件生态成熟度,不会立刻体现在账单上。
为什么 MoE 模型特别适合稀疏芯片?
因为 MoE 的稀疏是结构化的、可预测的——路由器会明确告诉你这次激活哪些专家。相比非结构化稀疏(零散分布在矩阵里),结构化稀疏更容易在编译器和硬件层面做优化,收益也更稳定。
总结
两轮近 10 亿元的融资,说明资本认可”稀疏推理”这条技术路线的窗口期到了。但它能否成为国产算力的第二条腿,取决于两件不那么性感的事:软件生态能不能留住开发者,以及下一代模型架构会不会继续偏爱稀疏。
想持续跟踪国产模型与算力动态?看我们的 AI 模型库 和 工具对比引擎,或继续阅读:DeepSeek V4 Pro 评测 · Qwen3.8 2.4T 评测 · 全部深度评测。
