AI生成概念图:透明手机形容器内的纸艺电路花园,象征紧凑的本地AI。
让模型常驻手机,首先遇到的往往是内存和等待时间。阿里 MNN 团队公开的 MNN-Pocket-0.3B,把模型与推理引擎放在一起优化:约3亿参数,支持中英文,量化后的 MNN 构建版本为173MB。官方仓库把这次发布记在2026年11月4日;11月6日出现媒体报道,不能据此把开放日期顺延两天。 [S1][S2][S3]
截至11月8日,官方模型页已经提供下载和运行入口,采用 Apache 2.0 许可。除面向 MNN 的 INT4 版本外,项目列出了基础模型、监督微调中间版本及 GGUF 等资源;开发者也可以通过 Transformers 使用模型。模型卡给出的部署上下文上限为32K。此次新闻点是可取得的模型与部署资产,而不是一款已经面向所有用户上线的手机助手。 [S1][S2]
官方仓库披露,在 iPhone 18 Pro 上测试的解码吞吐为每秒350 token。这是开发方在特定设备与配置下给出的结果,AIYXL 未在设备上复现。173MB描述的是量化构建体积,也不能直接当成应用运行时的全部内存占用,更不能据此推断所有手机都有相同速度。 [S1][S2]
从应用工程角度看,这类发布的价值在于让团队能够建立自己的资源账。下载大小决定分发负担,运行内存影响与其他功能并存的空间,响应延迟则关系到一次交互是否值得留在本地。把这些量分别测出来,才可能判断模型适合承担哪一段工作。
一个较实际的试验方法,是先选择边界清楚、结果容易核对的任务,例如把短文本转换成结构化字段。测试除了记录平均耗时,还应覆盖长输入、连续调用、错误恢复和低电量环境。如果模型只能在一次演示里迅速给出答案,尚不足以证明它适合应用的日常负载。
开放权重使这些问题可以交给外部开发者继续检验。真正决定集成价值的,将是目标手机、目标任务与持续运行条件下的结果:节省了多少等待、占用了多少资源,以及错误发生后应用怎样接住。
来源:
[S1] MNN 官方仓库 — 官方日志明确11月4日;参数、许可及指定设备测试
[S2] 官方模型卡 — 权重、部署版本、上下文与框架支持;开发方自述
[S3] IT之家,11月6日 — 媒体跟进;其“今日发布”与官方日志日期不同,以官方日志为准
