美国Meta于当地时间周四发布了开放权重模型“Muse Spark Open”。该模型拥有8160亿个参数，上下文窗口为100万Token，设计目标是在Apple电脑上本地运行。目前，该模型已通过多个API平台开始提供。
能在Mac上运行，但未必是你手边的那台Mac
听到“能在Mac上运行的AI”，人们往往会想到可以下载到自己正在使用的笔记本电脑上试用。但这次的情况并没有那么简单。据称，要在本地运行这样一款拥有8160亿个参数的模型，至少需要1TB内存。这与普通笔记本电脑的内存规模相差一个数量级。
被列为最佳运行环境的是搭载M5 Ultra芯片的Mac Studio。Meta通过这款模型展现的，与其说是便捷性，不如说是提供了一种选择：不把庞大的模型交给云端，而是在自己桌上的设备上运行它。
尽管如此，“有这种选择”这一事实仍不容小觑。过去，超大型模型都在数据中心的另一端。如今，它们开始出现在桌面电脑所能触及的范围内。即使运行门槛很高，这一发展方向也值得关注。
从编写代码的AI，到能看视频的AI
Muse Spark Open采用原生多模态设计，可处理图像等内容，旨在承担复杂的编码任务和智能体工作流。所谓智能体工作流，并非回答一次问题就结束，而是指模型自行规划多个步骤并推进任务的使用方式。
Meta表示，他们将该模型与自家的AI编程终端“Muse Code”结合，用于各种智能体工作流。举例来说，该模型对去中心化社交网络“Mastodon”的客户端进行了修改。据称，它完成了修复漏洞、添加新功能到构建程序的一系列工作。
据称，该模型还被用于操作视频编辑软件“DaVinci Resolve”，能够检查素材并进行裁剪。从编程到专业视频编辑工具，AI操作屏幕中应用程序的场景正在不断扩大。
我个人觉得有意思的是，这两个例子都涉及桌面电脑上的工作。从在聊天界面中给出回答的AI，到像坐在电脑前动手工作的同事一样的AI。Meta坚持面向Mac本地运行，或许也与此有关。
开放权重模型的价值不能只看性能
Meta根据公布的评测结果，宣称该模型的性能超过了其他主要开放权重模型，并将其定位为美国性能最强的开放权重模型。
不过，开放权重的意义并不能只用排行榜来衡量。由于权重，也就是训练完成后的模型核心内容，会向外界公开，因此相较于闭源模型，它往往更具成本优势，也更容易确保机制透明和使用灵活性。
对企业来说，分岔点在于：是通过API便捷使用，还是将模型部署在自有环境中运行。前者部署迅速，后者则无需将数据传到外部。1TB的内存需求门槛很高，但对于处理高度机密的开发工作或视频素材的团队来说，也可能有人认为这笔投入物有所值。
Muse Spark Open为这类判断提供了一个新的参考。这种先通过API试用、必要时再部署到本地的两阶段用法，或许会成为今后使用开放权重AI的常见方式。
コメント