Meta udostępnia wagi Muse Spark Open, a Apple wspiera uruchamianie modelu na komputerach Mac Studio

W czwartek firma Meta udostępniła publicznie wagi Muse Spark Open, określając go jako najbardziej zaawansowany jak dotąd model open-weight od amerykańskiego twórcy. Według firmy model jest natywnie multimodalny, ma łącznie 816B parametrów, z czego 42B aktywnych, i oferuje okno kontekstowe o długości 1M tokenów. Meta twierdzi, że zaprojektowano go z myślą o programowaniu i zastosowaniach agentowych oraz że dobrze radzi sobie z długimi zadaniami, wymagającą inżynierią oprogramowania i rozumowaniem obejmującym wiele kroków. CNBC podała, że model opiera się na architekturze mixture-of-experts. TechCrunch zauważył, że własne wyniki ewaluacji firmy Meta wskazują na przewagę nad innymi popularnymi modelami open-weight; te deklaracje dotyczące wydajności pochodzą od firmy Meta i nie zostały w doniesieniach niezależnie zweryfikowane.

Kluczowym elementem premiery jest lokalne użycie na sprzęcie firmy Apple. Meta twierdzi, że Muse Spark Open to pierwszy model w swojej klasie, który może działać na zestawie biurkowym złożonym z dwóch komputerów Mac Studio z układem M5 Ultra, przy użyciu aktualnej wersji frameworka MLX od firmy Apple. Firma wyjaśnia, że zintegrowany GPU każdej maszyny może korzystać z maksymalnie 512 GB pamięci zunifikowanej, więc para komputerów mieści cały model, i podaje przepustowość pamięci 1,2 TB/s. Meta poinformowała, że testowała działające na urządzeniu przepływy pracy agentów za pomocą swojego narzędzia Muse Code, m.in. dostarczając poprawki i funkcje do otwartoźródłowej aplikacji Ice Cubes dla platformy Mastodon oraz obsługując edytor wideo DaVinci Resolve w celu wybierania i pionowego kadrowania materiału. The Verge i CNBC podały, że firma Apple opublikowała także materiały techniczne dotyczące MLX, które według CNBC opisują dzielenie otwartych modeli między kilka maszyn.

Według firmy Meta poza komputerami Mac z modelu można korzystać za pośrednictwem dostawców hostowanych API, w tym Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal i Nebius, a wagi można pobrać z Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models i Google Cloud Model Garden. Firma wymienia obsługę silników inferencji takich jak vLLM, SGLang, llama.cpp, TensorRT-LLM i MLX, z optymalizacjami dla układów NVIDIA, AMD, Intel i Apple. Meta twierdzi również, że niestandardowe jądra GPU Helion w SGLang zapewniają przyspieszenie na poziomie jądra rzędu 1,03-3,95× na GPU NVIDIA i AMD oraz zysk end-to-end wynoszący 3% na AMD MI350. Wagi udostępniono na licencji Muse Model License, która według firmy Meta ma ograniczone warunki komercyjne, pozwalające wielu deweloperom korzystać z modelu bezpłatnie. W kwestii bezpieczeństwa Meta twierdzi, że model przeszedł dodatkowy post-training pod kątem bezpieczeństwa i spełnił progi wydania określone w jej Meta Superintelligence Scaling Framework, a pełny raport z ewaluacji ma się dopiero ukazać.

Dziennikarze zwrócili uwagę, że lokalne użycie wiąże się z wysokimi wymaganiami sprzętowymi. TechCrunch, powołując się na Engadget, napisał, że lokalne uruchomienie modelu wymaga co najmniej 1 terabajta pamięci RAM. CNBC podała, że klienci mogą połączyć od 2 do 4 komputerów Mac Studio, że Mac Studio z M5 Ultra i 256GB pamięci kosztuje obecnie od $10,799 oraz że droższa konfiguracja z 512GB ma pojawić się jeszcze w tym miesiącu. Alexandr Wang, główny dyrektor ds. sztucznej inteligencji w firmie Meta, powiedział CNBC, że wiele mocnych modeli open-weight jest zbyt dużych dla większości komputerów osobistych, ale pamięć dostępna w komputerach Mac Studio sprawia, że uruchamianie Muse Spark Open staje się praktyczne.

Premiera oznacza też publiczną współpracę dwóch firm, które od dawna pozostają w konflikcie. Według The Verge i CNBC Mark Zuckerberg, CEO firmy Meta, docenił na X wkład firmy Apple i jej nowego CEO, a John Ternus, nowy CEO firmy Apple, odpowiedział, chwaląc to, jak wydajnie model działa na komputerze stacjonarnym. CNBC podała, że prace były efektem wielomiesięcznej współpracy, a przedstawiciele obu firm odmówili odpowiedzi na pytanie, czy doprowadzi to do ściślejszej relacji. CNBC zauważyła również, że Meta w ostatnim czasie stawiała na modele własnościowe, a Muse Spark Open jest mniej zaawansowany niż jej własnościowy Muse Wonder. Wang powiedział stacji: „To nie są najbardziej zaawansowane modele, jakie opracowaliśmy lub wydaliśmy”, dodając, że spodziewa się, iż deweloperzy najpierw będą eksperymentować z modelem na małą skalę, zanim rozszerzą jego wykorzystanie.