在人工智能技术飞速发展的今天，端侧大模型的性能突破成为行业关注的焦点。2025年6月6日，面壁智能正式推出其最新力作——MiniCPM 4.0系列端侧大模型，该系列凭借系统级稀疏创新和硬件协同优化，实现了极限情况下220倍、常规5倍的速度提升，为边缘计算和终端设备上的AI应用树立了新的性能标杆。这一突破性进展不仅大幅提升了端侧AI的响应速度，还显著降低了硬件资源需求，为智能终端设备的AI能力普及开辟了新路径。
技术创新：系统级稀疏架构与双频换挡机制
MiniCPM 4.0系列包含两款重量级产品：8B闪电稀疏版和0.5B轻巧灵动版。其中8B版本采用创新的稀疏架构设计，通过"高效双频换挡"技术，能够根据文本长度自动切换稀疏与稠密注意力机制——处理长文本时启用稀疏注意力降低计算复杂度，短文本场景则切换至稠密注意力确保精度。这种动态调整机制不仅保证了各种场景下的高效响应，还大幅减少了端侧存储需求，相较于同类模型Qwen3-8B仅需1/4的缓存存储空间。
面壁智能CEO李大海在发布会上介绍，MiniCPM 4.0采用了行业首个全开源系统级上下文稀疏化高效创新方案，以5%的极高稀疏度实现极限加速。该技术融合了自研创新，从架构层、系统层、推理层到数据层进行全面优化，真正实现了系统级软硬件稀疏化的高效落地。特别值得一提的是其InfLLM 2.0混合稀疏注意力结构，采用类似检索的思路对文本分块处理，只对最具相关性区域进行注意力计算"抽查"，将计算量降到10%。
性能突破：小模型实现大能力
MiniCPM 4.0延续了面壁智能"以小博大"的技术传统，在极低训练成本下实现了惊人性能。其中0.5B版本仅以2.7%的训练开销便达到了一半参数、性能翻倍的效果；而8B稀疏版则以22%的训练开销对标并超越Qwen3及Gemma3-12B等更大规模模型。测试数据显示，MiniCPM4-0.5B的综合得分平均分为52.06分，远超同类模型，其三级量化版本平均得分更高达56分。
在长文本处理这一传统难点上，MiniCPM 4.0表现尤为突出。通过与英特尔的深度合作，基于分块稀疏注意力机制和硬件驱动的算法优化，首次在端侧实现了128K长上下文窗口支持。实测表明，一整部300多页的《哈利波特》小说可在90秒内完成阅读、分析和总结，相较于稠密模型，首Token延迟降低38%，Token速率提升多达3.8倍。在Jetson Orin AGX或RTX 4090等硬件上运行128K长文本时，未优化模型常因显存不足需借助CPU内存导致速度骤降，而MiniCPM4-8B通过快速稀疏化将长文本缓存需求降至1/4，在常规场景取得3-5倍速度优势，极限场景下甚至达到220倍提升。
落地应用：90%模型瘦身与多平台适配
为实现端侧高效部署，面壁智能自研了CPM.cu极速端侧推理框架，结合投机采样、模型压缩量化和端侧部署框架等创新技术，实现了模型瘦身90%的同时极致提升速度。这套"三级火箭"推理方案包括：实现稀疏、投机和量化高效结合的CPM.cu框架，使小模型给大模型"当实习生"提速超5倍；业界SOTA等级的4bit极致低位宽量化BitCPM，可瘦身90%；以及面向多平台优化的跨平台部署框架Arkinfer。
目前，MiniCPM 4.0已成功适配Intel、高通、MTK、华为昇腾等主流芯片平台，并在vLLM、SGLang、LlamaFactory、XTuner等多个开源框架上实现部署。特别值得一提的是与英特尔的合作——基于酷睿Ultra处理器的CPU、GPU、NPU三个AI运算引擎，通过OpenVINO™工具套件优化，实现了端到端推理效率2.2倍提升。在英特尔锐炫™ Pro B60上，分块稀疏注意力机制与深度算子融合的协同优化，为长上下文应用建立了强大基础。
行业影响与未来展望
MiniCPM 4.0的发布标志着端侧大模型技术迈入新阶段。其高性能、低资源占用的特性，使得在智能终端设备上运行复杂AI任务成为可能，为智能生活、生产力提升等多个场景带来革新。面壁智能计划通过MiniCPM持续推进"密度定律"，即用更少数据和算力做出同等性能模型，将节约的资源用于更有价值的方向。
随着AI技术向边缘端延伸，像MiniCPM 4.0这样兼顾性能与效率的端侧模型将成为关键推动力。面壁智能CEO李大海预测："接下来数年会涌现出越来越聪明的智能硬件和终端，搭载像MiniCPM这样的端侧模型，更好地为大众服务。"这一愿景正在通过MiniCPM 4.0与各主流芯片平台的广泛适配逐步变为现实，为构建更加智能、高效的未来社会奠定基础。
模型合集:
https://www.modelscope.cn/collections/MiniCPM-4-ec015560e8c84d
Github: