Meta 發表 8,160 億參數開放權重 AI「Muse Spark Open」，預計可在 Mac 上本機執行

美國 Meta 於當地時間週四宣布推出開放權重模型「Muse Spark Open」。模型參數量為 8,160 億，上下文視窗為 100 萬個 token，設計上預計可在 Apple 電腦上本機執行。目前已透過多個 API 平台開始提供。

能在 Mac 上執行，但不一定是你手邊的 Mac

聽到「能在 Mac 上執行的 AI」，人們往往會想像可以下載到正在使用的筆電上試用。但這次的情況並沒那麼簡單。據稱，要在本機執行這種規模、擁有 8,160 億參數的模型，至少需要 1TB 記憶體。這與一般筆電的記憶體容量相差一個數量級。

被列為最佳執行環境的是搭載 M5 Ultra 晶片的 Mac Studio。與其說 Meta 透過這款模型展示了便利性，不如說它提供了一種選擇：不必把大型模型交給雲端，而是能在自己桌上的裝置端執行。這樣理解或許更貼切。

儘管如此，「有這種選擇」這件事仍不容小覷。過去，超大型模型都在資料中心的另一端。如今，它們開始出現在桌上型電腦的延伸範圍內。即使執行門檻很高，這仍是值得關注的發展方向。

從寫程式的 AI，到能看影片的 AI

Muse Spark Open 採用原生多模態設計，可處理包含影像在內的內容，並以複雜的程式編寫工作和代理式任務為使用情境。所謂代理式任務，是指 AI 不只回答一次問題就結束，而是能自行安排多個步驟並持續完成工作。

Meta 表示，該模型搭配自家的 AI 程式編碼終端工具「Muse Code」，投入各種代理式工作流程。舉例來說，模型為分散式社群網路「Mastodon」的用戶端進行修改，並完成修正錯誤、加入新功能到建置等一系列工作。

此外，模型也用來操作影片剪輯軟體「DaVinci Resolve」，據稱能檢視素材並進行裁切。從程式碼領域到專業影片剪輯工具，AI 操作螢幕中應用程式的場景正不斷擴大。

我個人覺得有趣的是，這兩個例子都是在桌面環境中進行的工作。AI 不再只是透過聊天視窗回答問題，而是像坐在電腦前動手工作的同事。Meta 堅持讓模型能在 Mac 上本機執行，或許也與此有關。

開放權重的價值，不能只看性能

Meta 根據公開的評測結果，宣稱這款模型的性能超越其他主要開放權重模型，並將其定位為美國性能最強的開放權重模型。

不過，開放權重的意義不能只看排行榜。由於模型權重，也就是訓練完成後的模型本身，會對外公開，因此相較於封閉模型，開放權重模型通常更具成本優勢，也較容易確保運作機制的透明度與使用方式的彈性。

企業面臨的選擇，在於透過 API 輕鬆使用，或部署在自家環境中執行。前者導入速度快，後者則能避免資料外流。1TB 是很高的門檻，但對於處理機密開發內容或影片素材的工作現場，仍可能有人認為這筆投資值得。

Muse Spark Open 為這項評估增加了一個選項。先透過 API 試用，有需要時再部署到本機。這種分階段的使用方式，或許會成為未來使用開放權重 AI 的常見模式。