Meta выпустила веса Muse Spark Open с поддержкой Apple для запуска на Mac Studio

В четверг Meta открыла публичный доступ к весам Muse Spark Open, назвав её самой мощной на данный момент моделью с открытыми весами от американского разработчика. По данным компании, модель изначально мультимодальная, имеет в общей сложности 816 млрд параметров, из которых 42 млрд активны, и предлагает контекстное окно в 1 миллион токенов. Как утверждает Meta, модель разработана для программирования и агентных сценариев и хорошо справляется с длительными задачами, сложной разработкой программного обеспечения и рассуждениями, охватывающими несколько шагов. CNBC сообщил, что модель построена на архитектуре mixture-of-experts (смесь экспертов). TechCrunch отметил, что собственные результаты оценки Meta указывают на преимущество перед другими популярными моделями с открытыми весами; эти заявления о производительности исходят от Meta и в публикациях не были независимо проверены.

Центральное место в запуске занимает локальное использование на оборудовании Apple. По словам Meta, Muse Spark Open — первая модель своего класса, которую можно запустить на настольной конфигурации из двух Mac Studio с чипом M5 Ultra с помощью текущей версии фреймворка MLX от Apple. Компания поясняет, что встроенный GPU каждого компьютера может использовать до 512 GB унифицированной памяти, поэтому пара машин вмещает модель целиком, и приводит пропускную способность памяти 1,2 TB/s. Meta сообщила, что протестировала агентные сценарии на устройстве с помощью своего инструмента Muse Code, в том числе выпуск исправлений и новых функций для приложения Ice Cubes для Mastodon с открытым исходным кодом и управление видеоредактором DaVinci Resolve для отбора и вертикального кадрирования отснятого материала. The Verge и CNBC сообщили, что Apple также опубликовала технические материалы по MLX, которые, по данным CNBC, касаются распределения открытых моделей между несколькими компьютерами.

Помимо компьютеров Mac, по словам Meta, модель доступна через хостинговых API-провайдеров, включая Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal и Nebius, а веса можно скачать с Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models и Google Cloud Model Garden. Компания указывает поддержку движков инференса, таких как vLLM, SGLang, llama.cpp, TensorRT-LLM и MLX, с оптимизациями для чипов NVIDIA, AMD, Intel и Apple. Meta также утверждает, что собственные GPU-ядра Helion в SGLang дают ускорение на уровне ядер в 1,03-3,95× на GPU NVIDIA и AMD и сквозной прирост на 3% на AMD MI350. Веса выпущены под лицензией Muse Model License, которая, по словам Meta, содержит ограниченные коммерческие условия, позволяющие многим разработчикам использовать модель бесплатно. Что касается безопасности, Meta сообщает, что модель прошла дополнительное дообучение в части безопасности и соответствует порогам выпуска её Meta Superintelligence Scaling Framework, а полный отчёт об оценке ещё будет опубликован.

Журналисты обратили внимание, что локальное использование связано с высокими требованиями к оборудованию. TechCrunch со ссылкой на Engadget сообщил, что для локального запуска модели требуется как минимум 1 терабайт оперативной памяти. По данным CNBC, клиенты могут объединить от 2 до 4 Mac Studio, Mac Studio с M5 Ultra и 256GB памяти сейчас стоит от $10,799, а более дорогая конфигурация на 512GB должна появиться позже в этом месяце. Главный директор Meta по ИИ Александр Ван сказал CNBC, что многие сильные модели с открытыми весами слишком велики для большинства персональных компьютеров, но объём памяти Mac Studio делает запуск Muse Spark Open практичным.

Выпуск также стал публичным примером сотрудничества двух компаний, которые долгое время находились в противостоянии. По данным The Verge и CNBC, генеральный директор Meta Марк Цукерберг отдал должное Apple и её новому генеральному директору Джону Тернусу в X, а Тернус в ответ похвалил то, насколько эффективно модель работает на настольном компьютере. CNBC сообщил, что эта работа стала итогом нескольких месяцев сотрудничества и что представители обеих компаний отказались сказать, приведёт ли она к более глубоким отношениям. CNBC также отметил, что в последнее время Meta отдаёт приоритет проприетарным моделям и что Muse Spark Open менее продвинута, чем её проприетарная Muse Wonder. Ван сказал изданию: «Это не самые мощные модели из тех, что мы разработали или выпустили», добавив, что ожидает, что разработчики сначала будут экспериментировать с ней в небольшом масштабе, прежде чем расширять её использование.