2026 年 10 月 13 日，面壁智能联合 OpenBMB 开源社区发布新一代端侧多模态大模型 MiniCPM-V 4.7。其中 35B-A3B 是 MiniCPM-V 系列首个 MoE 模型，总参数 350 亿，单次推理仅激活 30 亿，官方称其是全球首个可在手机端无损流畅运行的开源 MoE 多模态模型。这个说法里，参数是明面上的卖点，真正难做到的是另外两个字。
图 1：MiniCPM 系列在 Hugging Face 上的开源仓库
事件经过
这一版两个型号同日开源，均为 Apache-2.0 协议：
- 35B-A3B，面向能力上限，是 MiniCPM-V 系列首个 MoE 模型
- 1B，面向极致效率，在 OCR、数学、视频上处于同尺寸第一梯队
硬件门槛与实测速度：
- 约 3GB 内存即可运行
- iPhone 17 Pro Max 实测 13+ token/s
- iPad Pro 实测 15+ token/s
生态与分发上，发布当日即适配瑞芯微、NVIDIA、Intel、Apple 芯片平台，兼容 iOS、安卓、鸿蒙，提供开源端侧适配代码与主流推理框架接入，权重也同时上架主流模型社区。MiniCPM 系列全球累计下载量已突破 6000 万次，覆盖文本、视觉、语音全模态。
官方给出的行业判断是：大模型知识密度约每 100 天提升一倍，端侧模型在一年内从 1B 跃升到 35B 可上手机运行。对端侧来说，3GB 内存与 13+ token/s 这两个数字是硬门槛——前者决定能不能装进手机，后者决定用户等不等得起。
题眼是无损
端侧模型的竞争指标换过一次。早几年问的是能不能跑，能跑起来就是新闻；现在问的是跑起来掉不掉能力。这个 35B-A3B 把答案压在无损两个字上：输出与不压缩的版本一致。
为什么这两个字重要，要放回端侧部署的常规做法里看。端侧的传统路径是量化、裁剪、蒸馏，每一步都在拿能力换体积，行业默认这套换算关系成立——想让模型小，就得接受它变笨。一个敢说无损的端侧模型，等于否认了这个前提：350 亿参数的模型可以既不联网、也不缩水地放在手机上。参数从 1B 到 35B 只用一年，这个跨度之所以成立，靠的不是把模型压小，而是让它原地跑起来。
这也解释了为什么这是个多模态模型的难题。图文混排的输入会先变成一大串视觉 token，token 越多，解码越慢；想快就得压 token，压了又容易丢细节。官方给了 4 倍与 16 倍两档视觉 token 压缩，说法是 16 倍下关键指标几乎无损。
三件套，各自解决一个问题
LES 前瞻专家调度解决的是读得慢。MoE 的专家参数放在存储里，用到哪个就得先把哪个读进来，这个等待会直接把解码速度拖到个位数。它的做法是利用相邻层输入高度相似这一点，用当前层的路由特征预测下一层需要哪些专家，在后台提前取；已加载且被真实路由选中的专家优先计算；预测漏掉的专家照常加载。最后这句是关键，因为漏掉的会补，输出才无损。官方称这是业界独家的开源方案。
逐层混合精度量化解决的是装不下。它压缩权重体积与传输量，并把按编号连续存放的专家参数重新排列，使存储一次顺序读取就能取回完整专家。MoE 在端侧最大的开销不是算力，是读，这条改动直接砍在读取次数上。
DSpark 投机解码解决的是固定成本摊不薄。轻量草稿模块一次生成多个候选 token，主模型并行验证，把专家读取与调度的固定开销摊到多个 token 上。
三者叠加的效果很具体：平板设备解码速度从 2.97 到 17.39 token/s，约 5.86 倍。这个倍数的意义不在数字本身，而在于它把能跑推到了能用——13 token/s 以上，阅读速度就追不上生成速度了。
分数、生态，与数据不出域的那类需求
官方评测：MMBench 91.72、OCRBench 91.20、MMMU 80.22；同档 Qwen3.6-35B-A3B 分别是 86.76、86.00、77.44。端侧模型最容易输的地方，恰恰是这些需要细看图片、逐字识别的任务。分数领先多少不是重点，同等体积下不缩水才是。
真正的落点在 10 月 16 日北京那场发布：面壁智能与星火明智共创的大监督智能体，风险、内控、合规、审计、纪检五位一体，50+ 监督技能覆盖九大业务域，智汇、智数、智问、智控、智报五项能力贯穿预警、疑点、立项、定性、整改、销号全链条；7×24 预警巡航，把「人找事」变成「事找人」；云加端双侧算力协同，数据不出域、端侧离线可用，全流程留痕可追溯。
把这两件事放在一起看就明白了：这类场景要的从来不是最强模型，而是能不能把数据锁在本地。端侧模型的价值，一半在速度，一半在不用出门。
图 2：面壁智能把大模型放到离用户最近的地方这一产品定位
个人观点
3GB 这个数字的杀伤力，要放回时间里看。2023 年，跑一个像样的多模态模型需要一整个机房的加速卡；现在它需要的是你口袋里那台设备的零头。这不是渐进式改进，是换算关系塌了。
但我更在意无损是怎么被定义的。官方的口径是输出与不压缩版本一致，前提是预测漏掉的专家会被补上。不假装预测永远正确，而是让预测错误不产生后果，比起号称零精度损失的量化方案，这个说法经得起追问——它承认了误差的来源，也堵住了误差的出口。
还有一层：端侧真正的对手不是别的模型，是云端。数据不出域、离线可用、推理不依赖网络，这三条对出差、通勤、客户现场、涉密场景是刚需，云端再便宜也补不上。当 35B 能装进手机，很多必须上云的架构前提就开始松动，这会改变一批产品的成本结构与合规路径。
最后提醒一句：13+ token/s 是旗舰机实测，不是承诺。端侧这件事，跑分之外还有一层现实——用户手里的机型分布，比任何榜单都长。
更新时间：2026-10-18