谷歌有限责任公司的 DeepMind 人工智能实验室发布了迄今为止最小的模型之一，即 Gemma 3 270M，只有 2.7 亿个参数。
这意味着它比许多最强大的前沿大型语言模型要小得多，这些模型通常有数十亿个参数或控制其行为的内部设置。
模型中的参数数量通常描述了它的强大程度，但对于 Gemma 3 270M，谷歌选择创建更加精简的东西，目的是它可以直接在智能手机等低功耗设备上运行，无需互联网连接。尽管如此，谷歌表示，Gemma 3 270M 仍然有能力处理范围很窄的复杂、特定于领域的任务，因为开发人员可以快速微调它以满足他们的需求。
谷歌 DeepMind 员工 AI 开发者关系工程师 Omar Sanseviero 在 X 上的一篇帖子中表示，Gemma 3 270M 是开源的，并且足够小，可以“在烤面包机中”运行，或者在手掌大小的 Raspberry Pi 计算机等设备上运行。
在宣布 Gemma 3 270M 的博客文章中，谷歌的 DeepMind 团队解释说，该模型结合了 1.7 亿个“嵌入参数”和 1 亿个“transformer 块参数”。它也能够处理非常具体和稀有的令牌，使其成为一个“强大的基础模型”，可以针对特定任务和语言进行微调。
该公司补充说，Gemma 3 270M 的架构适用于指令跟踪任务中的“强大性能”，但又足够小，可以快速微调并部署在功率有限的设备上。它的架构基于更大的 Gemma 3 模型，这些模型设计用于在单个图形处理单元上运行，并附带各种微调配方、文档和开发人员工具的部署指南，包括 Hugging Face、JAX 和 UnSlot，以帮助用户快速开始为模型构建应用程序。
在指令遵循方面表现强劲
Gemma 3 270M 的基准测试结果看起来相当令人印象深刻。根据 X 上分享的结果，在旨在衡量人工智能模型正确遵循指令的能力的 IFEval 基准测试中，该模型的指令调整版本获得了 51.2% 的分数。这大大超过了 Qwen 2.5 0.5B Instruct 和 SmolLM2 135M Instruct 等类似大小的小型模型的分数。谷歌指出，它也落后于一些较小的十亿参数模型。
也就是说，Gemma 3 270M 可能不是同类产品中最好的。谷歌的竞争对手之一，一家名为 Liquid AI Inc. 的初创公司，在回应中表示，该公司忽略了包含其 LFM2-350M 模型，该模型于上个月推出，在同一基准测试中获得了 65.12% 的分数，尽管只有更多参数。
尽管如此，谷歌强调 Gemma 3 270M 完全是关于能源效率的，并指出在 Pixel 4 Pro 智能手机上使用 INT9 量化版本的模型进行内部测试。它表示，在 25 次对话中，该模型仅消耗了 Pixel 电池电量的 0.75%。
因此，谷歌表示，Gemma 3 270M 对于希望部署设备上 AI 的开发人员来说是一个绝佳的选择，这通常更适合需要隐私和离线功能的应用程序。
加速离线和设备上的 AI
谷歌强调，人工智能开发人员需要为这项工作选择合适的工具，而不是简单地关注模型大小来提高人工智能应用程序的性能。对于创意写作、合规性检查、实体提取、查询路由、情感分析和结构化文本生成等工作负载，它认为 Gemma 3 270M 可以进行微调，以比数十亿参数大语言模型更高的成本效益来完成有效的工作。
谷歌表示，Gemma 3 270M 可以在 Hugging Face、Docker、Kaggle、Ollama 和 LM Studio 上找到，预训练和指令调整版本均可供下载。