Liquid AI 于 10 月 13 日发布 LFM2.5-24B-A2B，开放了一款专为在本地硬件上运行的代理而设计的推理模型的权重。基础版本和训练后版本均已提供。
“2B 激活”意味着什么
该模型拥有 240 亿参数，每个 token 约有 20 亿处于激活状态。这一区别很重要：稀疏激活减少了计算量，但并不意味着完整模型等同于一个 20 亿参数的下载量。部署仍需要为其权重和运行时提供内存。
此次更新还将上下文窗口扩展至 131,072 个 token，并扩充了词表。Liquid AI 报告称，在多项工具使用评估中结果有所提升，同时在一些知识与编程测试中相对更大模型存在不足。这些均为公司自行开展的对比，而非独立研究结果。
部署问题
对开发者而言，实际的检验标准是本地代理能否在可用的内存、延迟和功耗预算内完成有用的工作。
在本地运行推理可以让团队对模型处理拥有更大的控制权。隐私仍取决于完整的工作流程，包括代理调用的任何外部服务。
来源：Liquid AI