Meta zveřejnila váhy modelu Muse Spark Open, Apple podporuje jeho provoz na počítačích Mac Studio

Společnost Meta ve čtvrtek zpřístupnila váhy modelu Muse Spark Open a označila jej za dosud nejschopnější model s otevřenými váhami od amerického vývojáře. Podle společnosti je model nativně multimodální, má celkem 816B parametrů, z nichž 42B je aktivních, a nabízí kontextové okno o velikosti 1M tokenů. Meta uvádí, že byl navržen pro programování a agentní použití a že si dobře vede v rozsáhlých úlohách, náročném softwarovém inženýrství a uvažování přes několik kroků. CNBC uvedla, že model je postaven na architektuře typu mixture-of-experts. TechCrunch poznamenal, že vlastní výsledky hodnocení společnosti Meta tvrdí náskok před jinými populárními modely s otevřenými váhami; tato tvrzení o výkonu pocházejí od společnosti Meta a v reportážích nebyla nezávisle ověřena.

Ústřední součástí uvedení je lokální použití na hardwaru společnosti Apple. Meta uvádí, že Muse Spark Open je prvním modelem ve své třídě, který lze provozovat na stolní sestavě dvou počítačů Mac Studio s čipem M5 Ultra pomocí aktuální verze frameworku MLX od společnosti Apple. Společnost vysvětluje, že integrovaný grafický procesor každého stroje může využívat až 512 GB sjednocené paměti, takže dvojice pojme celý model, a uvádí propustnost paměti 1,2 TB/s. Meta uvedla, že s nástrojem Muse Code testovala agentní pracovní postupy přímo v zařízení, včetně dodání oprav a funkcí do open-source aplikace Ice Cubes pro Mastodon a ovládání střihového programu DaVinci Resolve za účelem výběru záběrů a jejich ořezu na výšku. The Verge a CNBC uvedly, že Apple také zveřejnil technické materiály k MLX, které se podle CNBC týkají rozdělení otevřených modelů mezi několik strojů.

Mimo počítače Mac lze model podle společnosti Meta používat prostřednictvím hostovaných poskytovatelů API, mezi něž patří Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal a Nebius, zatímco váhy lze stáhnout z Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models a Google Cloud Model Garden. Společnost uvádí podporu inferenčních enginů, jako jsou vLLM, SGLang, llama.cpp, TensorRT-LLM a MLX, s optimalizacemi pro čipy společností NVIDIA, AMD, Intel a Apple. Meta rovněž uvádí, že vlastní GPU jádra Helion v SGLang přinášejí na GPU od NVIDIA a AMD zrychlení na úrovni jader 1,03-3,95× a na AMD MI350 zlepšení o 3% v celém řetězci. Váhy jsou vydány pod licencí Muse Model License, která má podle společnosti Meta omezené komerční podmínky umožňující mnoha vývojářům používat model bezplatně. Pokud jde o bezpečnost, Meta uvádí, že model prošel dodatečným bezpečnostním post-tréninkem a splnil prahové hodnoty pro vydání podle jejího rámce Meta Superintelligence Scaling Framework, přičemž úplná zpráva o hodnocení má teprve následovat.

Novináři upozornili, že lokální použití s sebou nese vysoké hardwarové nároky. TechCrunch s odkazem na Engadget uvedl, že lokální provoz modelu vyžaduje nejméně 1 terabyte RAM. CNBC uvedla, že zákazníci mohou propojit dva až čtyři počítače Mac Studio, že Mac Studio s čipem M5 Ultra a 256GB paměti nyní začíná na $10,799 a že dražší konfigurace s 512GB má přijít později tento měsíc. Hlavní ředitel pro AI ve společnosti Meta Alexandr Wang řekl CNBC, že mnoho silných modelů s otevřenými váhami je pro většinu osobních počítačů příliš velkých, ale paměť dostupná v počítačích Mac Studio činí provoz modelu Muse Spark Open praktickým.

Vydání zároveň představuje veřejnou spolupráci dvou společností, které spolu dlouho byly ve sporu. Podle The Verge a CNBC generální ředitel společnosti Meta Mark Zuckerberg na síti X ocenil přínos společnosti Apple a jejího nového generálního ředitele, kterým je John Ternus, a Ternus odpověděl pochvalou toho, jak efektivně model běží na stolním počítači. CNBC uvedla, že práce navazovala na měsíce spolupráce a že zástupci obou společností odmítli sdělit, zda povede k užšímu vztahu. CNBC rovněž poznamenala, že Meta v poslední době upřednostňuje proprietární modely a že Muse Spark Open je méně pokročilý než její proprietární Muse Wonder. Wang řekl CNBC: „Toto nejsou nejschopnější modely, které jsme vyvinuli nebo vydali“, a dodal, že očekává, že vývojáři s ním budou nejprve experimentovat v malém měřítku, než jeho použití rozšíří.