La statunitense Meta ha presentato giovedì (ora locale) il modello open-weight «Muse Spark Open». Conta 816 miliardi di parametri e ha una finestra di contesto di un milione di token; è stato progettato per essere eseguito localmente sui computer Apple. È già disponibile attraverso diverse piattaforme API.
Un’AI che gira su Mac, ma non necessariamente sul Mac che hai a disposizione
Sentendo parlare di un’«AI che gira su Mac», viene spontaneo immaginare di poterla scaricare e provare sul portatile che si usa tutti i giorni. Ma in questo caso le cose non sono così semplici. Secondo quanto riferito, per eseguire localmente un modello da 816 miliardi di parametri servono almeno 1 TB di memoria. È un ordine di grandezza in più rispetto alla memoria di un portatile comune.
L’ambiente indicato come ottimale è un Mac Studio con chip M5 Ultra. Più che come una soluzione di facile utilizzo, è naturale interpretare ciò che Meta propone con questo modello come la possibilità di gestire un modello enorme sul proprio dispositivo, sulla scrivania, anziché affidarlo al cloud.
Eppure, il fatto stesso che esista questa possibilità non è da poco. Finora i modelli più grandi erano confinati nei data center. Ora cominciano ad affacciarsi anche nel mondo dei computer desktop. I requisiti per eseguirli restano elevati, ma è una direzione da non sottovalutare.
Dall’AI che scrive codice a quella che guarda i video
Muse Spark Open è progettato nativamente per gestire contenuti multimodali, comprese le immagini, e per affrontare attività di coding complesse e processi di lavoro di tipo agentico. Con «agentico» si intende un modo di lavorare in cui l’AI non si limita a rispondere una volta a una domanda, ma pianifica autonomamente una serie di passaggi e porta avanti il compito.
Meta spiega di averlo impiegato in diversi flussi di lavoro agentici insieme a «Muse Code», il proprio terminale AI per la programmazione. Tra gli esempi citati c’è una serie di modifiche a un client del social network decentralizzato «Mastodon». Secondo Meta, il modello ha gestito l’intero processo: correggere un bug, aggiungere una nuova funzionalità e compilare il programma.
È stato usato anche per lavorare con il software di montaggio video «DaVinci Resolve», dove sarebbe riuscito a esaminare i materiali e a ritagliarli (crop). Dal codice agli strumenti professionali per il montaggio video: i casi in cui l’AI interagisce con le applicazioni sullo schermo sono in costante aumento.
Trovo particolarmente interessante che entrambi gli esempi riguardino attività svolte su un computer desktop. Si passa da un’AI che risponde in una finestra di chat a una che lavora al PC come un collega. Forse è anche in questo che va cercato il motivo per cui Meta punta sull’esecuzione locale su Mac.
Il valore dei modelli open-weight non si misura solo dalle prestazioni
Sulla base dei risultati delle valutazioni pubblicati, Meta sostiene che il modello superi gli altri principali modelli open-weight. Lo presenta inoltre come il modello open-weight più performante negli Stati Uniti.
Il valore dei modelli open-weight, però, non si esaurisce nelle classifiche. I pesi, cioè il contenuto del modello dopo l’addestramento, vengono resi pubblici: rispetto ai modelli chiusi, questo può offrire vantaggi sul piano dei costi, oltre a maggiore trasparenza sul funzionamento e flessibilità d’uso.
Per le aziende, la scelta è tra usare il modello facilmente tramite API oppure installarlo e farlo funzionare nel proprio ambiente. La prima opzione consente un’adozione rapida; la seconda evita di trasferire i dati all’esterno. 1 TB è una soglia elevata, ma chi lavora con progetti di sviluppo riservati o materiali video potrebbe ritenere che l’investimento valga la pena.
Muse Spark Open aggiunge un elemento alla valutazione. Prima lo si prova tramite API, poi, se serve, lo si porta in locale: un approccio in due fasi che potrebbe diventare il modo consueto di usare i modelli AI open-weight.
コメント