Meta pubblica i pesi di Muse Spark Open, con il supporto di Apple per eseguirlo sui Mac Studio

Meta giovedì ha reso pubblicamente disponibili i pesi di Muse Spark Open, descrivendolo come il modello open-weight più capace finora sviluppato da un'azienda statunitense. Secondo la società, il modello è nativamente multimodale, conta 816B parametri totali di cui 42B attivi e offre una finestra di contesto di 1M di token. Meta afferma che è stato progettato per il coding e l'uso agentico e che offre buone prestazioni in attività prolungate, nell'ingegneria del software più impegnativa e nel ragionamento articolato in più passaggi. CNBC ha riferito che il modello si basa su un'architettura mixture-of-experts. TechCrunch ha osservato che i risultati delle valutazioni condotte dalla stessa Meta rivendicano un vantaggio rispetto ad altri diffusi modelli open-weight; queste affermazioni sulle prestazioni provengono da Meta e non sono state verificate in modo indipendente nei resoconti.

Un elemento centrale del lancio è l'uso in locale su hardware Apple. Meta afferma che Muse Spark Open è il primo modello della sua categoria in grado di funzionare su una configurazione desktop di due Mac Studio con chip M5 Ultra, utilizzando la versione attuale del framework MLX di Apple. L'azienda spiega che la GPU integrata di ciascuna macchina può attingere fino a 512 GB di memoria unificata, per cui una coppia può contenere l'intero modello, e cita una larghezza di banda della memoria di 1,2 TB/s. Meta ha dichiarato di aver testato flussi di lavoro agentici on-device con il suo strumento Muse Code, tra cui il rilascio di correzioni e funzionalità per Ice Cubes, l'app open source per Mastodon, e l'uso dell'editor video DaVinci Resolve per selezionare e ritagliare in verticale il girato. The Verge e CNBC hanno riferito che anche Apple ha pubblicato materiale tecnico su MLX che, secondo CNBC, riguarda la suddivisione dei modelli aperti su più macchine.

Oltre ai Mac, Meta afferma che il modello può essere usato tramite fornitori di API in hosting tra cui Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal e Nebius, mentre i pesi possono essere scaricati da Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models e Google Cloud Model Garden. L'azienda indica il supporto a motori di inferenza come vLLM, SGLang, llama.cpp, TensorRT-LLM e MLX, con ottimizzazioni per i chip di NVIDIA, AMD, Intel e Apple. Meta afferma inoltre che kernel GPU Helion personalizzati in SGLang offrono accelerazioni a livello di kernel di 1,03-3,95× sulle GPU NVIDIA e AMD e un guadagno end-to-end del 3% su AMD MI350. I pesi sono rilasciati con la Muse Model License, che secondo Meta prevede termini commerciali limitati che consentono a molti sviluppatori di usare il modello gratuitamente. Sul fronte della sicurezza, Meta afferma che il modello è stato sottoposto a un ulteriore post-training di sicurezza e ha soddisfatto le soglie di rilascio del suo Meta Superintelligence Scaling Framework, mentre il rapporto di valutazione completo deve ancora essere pubblicato.

I giornalisti hanno sottolineato che l'uso in locale comporta requisiti hardware elevati. TechCrunch, citando Engadget, ha scritto che per eseguire il modello in locale servono almeno 1 terabyte di RAM. CNBC ha riferito che i clienti possono collegare da due a quattro Mac Studio, che un Mac Studio con M5 Ultra e 256GB di memoria parte attualmente da $10,799 e che una configurazione più costosa da 512GB è attesa più avanti nel corso del mese. Il chief AI officer di Meta, Alexandr Wang, ha dichiarato a CNBC che molti validi modelli open-weight sono troppo grandi per la maggior parte dei personal computer, ma che la memoria disponibile nei Mac Studio rende praticabile l'esecuzione di Muse Spark Open.

Il lancio segna anche una collaborazione pubblica tra due aziende a lungo in contrasto. Secondo The Verge e CNBC, il CEO di Meta Mark Zuckerberg ha dato merito su X ad Apple e al suo nuovo CEO John Ternus, e Ternus ha risposto lodando l'efficienza con cui il modello gira su un desktop. CNBC ha scritto che il lavoro è seguito a mesi di collaborazione e che i rappresentanti di entrambe le aziende si sono rifiutati di dire se porterà a un rapporto più stretto. CNBC ha inoltre osservato che di recente Meta ha dato priorità ai modelli proprietari e che Muse Spark Open è meno avanzato del suo modello proprietario Muse Wonder. Wang ha dichiarato alla testata: «Non sono i modelli più capaci che abbiamo sviluppato o rilasciato», aggiungendo di aspettarsi che gli sviluppatori lo sperimentino su piccola scala prima di estenderne l'uso.