Der US-Konzern Meta hat am Donnerstag Ortszeit das Open-Weight-Modell „Muse Spark Open“ vorgestellt. Es verfügt über 816 Milliarden Parameter und ein Kontextfenster von einer Million Token. Konzipiert wurde es für den lokalen Betrieb auf Apple-Computern. Über mehrere API-Plattformen ist es bereits verfügbar.
Läuft auf dem Mac – aber nicht unbedingt auf dem eigenen
Wer „KI, die auf dem Mac läuft“ hört, denkt vielleicht zuerst daran, das Modell auf den eigenen Laptop herunterzuladen und auszuprobieren. Doch so einfach ist es in diesem Fall nicht. Berichten zufolge braucht man mindestens 1 TB Arbeitsspeicher, um ein Modell mit 816 Milliarden Parametern lokal auszuführen. Das liegt eine Größenordnung über dem Speicher eines gewöhnlichen Laptops.
Als optimale Umgebung gilt ein Mac Studio mit M5-Ultra-Chip. Was Meta mit diesem Modell zeigt, ist weniger eine bequeme Lösung als vielmehr eine neue Option: Riesige Modelle müssen nicht in der Cloud laufen, sondern können direkt auf einem Gerät auf dem eigenen Schreibtisch genutzt werden.
Dennoch ist die Tatsache, dass es diese Option gibt, nicht zu unterschätzen. Bislang waren extrem große Modelle etwas, das sich weit entfernt in Rechenzentren befand. Nun rücken sie in die Reichweite von Desktop-Computern. Die Anforderungen sind zwar hoch, doch diese Entwicklung sollte man im Blick behalten.
Von einer KI, die Code schreibt, zu einer KI, die Videos betrachtet
Muse Spark Open ist nativ multimodal ausgelegt und kann auch Bilder verarbeiten. Das Modell wurde für komplexe Programmieraufgaben und agentische Arbeitsabläufe entwickelt. Agentisch bedeutet, dass die KI nicht nur einmal eine Frage beantwortet, sondern selbst mehrere Schritte plant und die Arbeit ausführt.
Meta zufolge wurde das Modell zusammen mit dem KI-Coding-Terminal „Muse Code“ in verschiedenen agentischen Workflows eingesetzt. Als Beispiel nennt das Unternehmen Änderungen an einem Client für das dezentrale soziale Netzwerk „Mastodon“. Das Modell habe dabei Fehler behoben, neue Funktionen ergänzt und den Build ausgeführt.
Auch zur Bedienung der Videoschnittsoftware „DaVinci Resolve“ wurde das Modell eingesetzt. Es konnte das Material sichten und zuschneiden, heißt es. Von der Welt des Codes bis hin zu professionellen Videoschnittprogrammen: KI, die Anwendungen auf dem Bildschirm bedient, kommt zunehmend zum Einsatz.
Interessant finde ich persönlich, dass beide Beispiele Arbeiten am Desktop betreffen. Aus einer KI, die im Chatfenster Antworten gibt, wird eine Art Kollege, der am PC sitzt und selbst Hand anlegt. Vielleicht liegt genau darin auch der Grund, warum Meta auf den lokalen Betrieb auf dem Mac setzt.
Der Wert von Open-Weight-Modellen lässt sich nicht allein an ihrer Leistung messen
Auf Basis veröffentlichter Evaluierungsergebnisse behauptet Meta, das Modell übertreffe andere führende Open-Weight-Modelle. Es bezeichnet es außerdem als das leistungsstärkste Open-Weight-Modell in den USA.
Die Bedeutung von Open-Weight-Modellen lässt sich jedoch nicht allein anhand von Ranglisten erklären. Da die Gewichte – also das trainierte Modell selbst – veröffentlicht werden, können sie gegenüber geschlossenen Modellen Kostenvorteile bieten. Auch Transparenz und Flexibilität bei der Nutzung lassen sich so leichter gewährleisten.
Für Unternehmen stellt sich die Frage, ob sie das Modell bequem über eine API nutzen oder in der eigenen Umgebung betreiben. Ersteres lässt sich schnell einführen, Letzteres ermöglicht es, Daten im Unternehmen zu behalten. Die erforderlichen 1 TB sind eine hohe Hürde. Wer jedoch mit vertraulichen Entwicklungsdaten oder Videomaterial arbeitet, könnte zu dem Schluss kommen, dass sich die Investition lohnt.
Muse Spark Open erweitert die Entscheidungsgrundlage um eine weitere Option. Erst über die API testen und bei Bedarf lokal betreiben: Ein solches zweistufiges Vorgehen könnte zum typischen Umgang mit Open-Weight-KI werden.
コメント