Inkling 2 Small 登陆 Tinker,权重发布仍待推进

English

Thinking Machines Lab 于11月5日推出 Inkling 2 Small,可在 Tinker 上托管使用并微调。完整的 Apache 2.0 权重计划在外部安全测试后发布,这使托管可用性与可下载部署成为两个独立的里程碑。

AI 生成概念图:模块雕塑与封闭运输箱象征托管使用和待开放权重两个阶段

对于 Inkling 2 Small,有两个发布日期值得关注。第一个已经到来:Thinking Machines Lab 于11月5日宣布推出该模型,可通过 Tinker Playground 访问,并获得托管的微调与采样服务。第二个仍是一项计划。该实验室打算在接下来的一周,在外部安全测试和红队测试完成后,以 Apache 2.0 许可发布完整权重。[1]

发布公告称,这是一个混合专家模型,总参数为5940亿,激活参数为170亿。它接受图像输入,并支持可变的推理强度。该公司报告其在 Artificial Analysis Intelligence Index 上得分为31;此处该数字引自实验室的公告,而非独立复现的评估。[1]

Thinking Machines 还指出了实际局限:回答可能冗长;在包含许多技能的代码库中,工具选择可能较弱;对话呈现方式需要改进。它不支持音频。公告称,可下载的检查点将随权重发布一同提供。[1]

对开发者而言,其报道意义在于评估一项服务与为部署承担责任之间的差距。托管测试可以确定模型是否理解某项内部任务,但尚不能确定同一工作负载在团队自有基础设施上的表现。可下载权重在交付后,将使第二项调查成为可能;但它们本身不会提供答案。

“Small”一词也值得作务实解读。稀疏模型在每个 token 上可以使用其参数的一小部分,但仍需要为完整模型制定部署计划。考虑本地运行的团队应区分激活计算与内存、存储及服务需求。这是工程层面的考量,而不是本次发布中经过测量的硬件要求。

因此,有用的评估应从一项普通工作开始:一项必须通过现有检查的仓库变更,或一项结论可追溯至所提供材料的文档任务。在统计成功输出的同时,也要统计人工修正和不必要的工具调用。当团队能够看到额外计算在这些任务上带来什么时,可变推理强度才最有用。

此次发布也值得更仔细地审视工具选择。增加更多可用技能可以使智能体的环境更丰富,同时使其选择更难检查。试验应记录提供了哪些工具、使用了哪些工具,以及任务是否实际需要这些工具。这些是建议的评估标准,而非 AIYXL 对 Inkling 2 Small 的测试结果。

截至本次审阅时,已确认的里程碑是托管上线。计划中的权重发布仍以测试为条件,公告中未承诺具体日期。这一区分让开发者现在就能开始评估,而不会把未来的部署选项当作已经到手的资产。


来源:

  1. Thinking Machines Lab — 推出 Inkling 2 Small