Meta 发布 Muse Spark Open,将大型多模态模型引入桌面硬件

English

Meta 于 10 月 15 日发布 Muse Spark Open,其权重可供下载,同时也可通过托管推理提供商访问。

Meta 于 10 月 15 日发布 Muse Spark Open,其权重可供下载,同时也可通过托管推理提供商访问。

这个原生多模态模型总参数量为 8160 亿,每个 token 激活 420 亿参数,上下文窗口为 100 万 token。Meta 将其定位用于编程、多步推理和扩展型智能体任务。

桌面部署需要大量硬件

Meta 表示,该模型可以通过 Apple 的 MLX 框架在两台 M5 Ultra Mac Studio 上运行,每台支持最高 512 GB 统一内存。

这一配置将大型模型放到桌面上,但所需内存远超普通个人电脑。激活参数量描述的是每个 token 的计算量;它们并不代表完整的权重存储需求。

支持还扩展到多个推理框架和硬件平台,为开发者提供了 Apple 配置之外的替代方案。

关键基准

构建前请检查许可证

这些权重采用 Muse Model License,其中包含有限的商业条款。企业在将该模型纳入产品之前,应审查这些条件。

Meta 的公告扩大了部署选择。某个特定配置是否值得,将取决于工作负载性能、硬件费用和运营要求。

来源:https://research.meta.ai/