Meta phát hành trọng số Muse Spark Open, được Apple hỗ trợ để chạy trên Mac Studio

Hôm thứ Năm, Meta đã công khai trọng số của Muse Spark Open, mô tả đây là mô hình trọng số mở (open-weight) mạnh nhất từ một nhà phát triển Mỹ cho đến nay. Theo công ty, mô hình này đa phương thức ngay từ gốc, có tổng cộng 816B tham số với 42B tham số hoạt động, và cung cấp cửa sổ ngữ cảnh 1M token. Meta cho biết mô hình được thiết kế cho lập trình và sử dụng dạng tác tử (agentic), đồng thời hoạt động tốt với các tác vụ kéo dài, kỹ thuật phần mềm đòi hỏi cao và suy luận gồm nhiều bước. CNBC đưa tin mô hình được xây dựng trên kiến trúc mixture-of-experts. TechCrunch lưu ý rằng kết quả đánh giá của chính Meta tuyên bố mô hình vượt trội so với các mô hình trọng số mở phổ biến khác; những tuyên bố về hiệu năng này đến từ Meta và chưa được kiểm chứng độc lập trong các bài báo.

Một phần trọng tâm của đợt ra mắt là việc sử dụng cục bộ trên phần cứng Apple. Meta cho biết Muse Spark Open là mô hình đầu tiên trong phân khúc của nó có thể chạy trên một hệ thống máy tính để bàn gồm hai máy Mac Studio dùng chip M5 Ultra, sử dụng phiên bản hiện tại của framework MLX của Apple. Công ty giải thích rằng GPU tích hợp của mỗi máy có thể tận dụng tới 512 GB bộ nhớ hợp nhất, nên một cặp máy có thể chứa toàn bộ mô hình, và nêu băng thông bộ nhớ 1,2 TB/s. Meta cho biết họ đã thử nghiệm các quy trình tác tử chạy trên thiết bị bằng công cụ Muse Code của mình, bao gồm việc đưa các bản sửa lỗi và tính năng vào ứng dụng Mastodon mã nguồn mở Ice Cubes và điều khiển trình biên tập video DaVinci Resolve để chọn và cắt dọc cảnh quay. The Verge và CNBC đưa tin Apple cũng đã công bố tài liệu kỹ thuật về MLX, mà theo CNBC đề cập đến việc phân chia các mô hình mở trên nhiều máy.

Ngoài máy Mac, Meta cho biết mô hình có thể được sử dụng qua các nhà cung cấp API được lưu trữ, bao gồm Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal và Nebius, trong khi trọng số có thể được tải xuống từ Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models và Google Cloud Model Garden. Công ty liệt kê hỗ trợ cho các công cụ suy luận như vLLM, SGLang, llama.cpp, TensorRT-LLM và MLX, với các tối ưu hóa cho chip của NVIDIA, AMD, Intel và Apple. Meta cũng cho biết các kernel GPU Helion tùy chỉnh trong SGLang mang lại mức tăng tốc ở cấp kernel 1,03-3,95× trên GPU NVIDIA và AMD, cùng mức cải thiện đầu cuối 3% trên AMD MI350. Trọng số được phát hành theo Muse Model License, mà Meta cho biết có các điều khoản thương mại hạn chế cho phép nhiều nhà phát triển sử dụng mô hình miễn phí. Về an toàn, Meta cho biết mô hình đã trải qua thêm quá trình hậu huấn luyện về an toàn và đáp ứng các ngưỡng phát hành trong Meta Superintelligence Scaling Framework của công ty, còn báo cáo đánh giá đầy đủ sẽ được công bố sau.

Các phóng viên chỉ ra rằng việc sử dụng cục bộ đi kèm yêu cầu phần cứng rất cao. TechCrunch, dẫn nguồn Engadget, cho biết việc chạy mô hình cục bộ cần ít nhất 1 terabyte RAM. CNBC đưa tin khách hàng có thể kết nối từ 2 đến 4 máy Mac Studio, rằng một máy Mac Studio M5 Ultra với 256GB bộ nhớ hiện có giá khởi điểm $10,799, và rằng một cấu hình 512GB đắt hơn sẽ ra mắt vào cuối tháng này. Giám đốc AI của Meta, Alexandr Wang, nói với CNBC rằng nhiều mô hình trọng số mở mạnh mẽ quá lớn đối với hầu hết máy tính cá nhân, nhưng dung lượng bộ nhớ có trên Mac Studio khiến việc chạy Muse Spark Open trở nên khả thi.

Đợt phát hành này cũng đánh dấu sự hợp tác công khai giữa hai công ty vốn có quan hệ bất hòa từ lâu. Theo The Verge và CNBC, CEO Meta Mark Zuckerberg đã ghi nhận công lao của Apple và CEO mới của hãng, John Ternus, trên X, và Ternus đáp lại bằng lời khen ngợi về mức độ hiệu quả khi mô hình chạy trên máy tính để bàn. CNBC cho biết công việc này là kết quả của nhiều tháng hợp tác, và đại diện của cả hai công ty đã từ chối cho biết liệu điều đó có dẫn đến một mối quan hệ sâu sắc hơn hay không. CNBC cũng lưu ý rằng gần đây Meta ưu tiên các mô hình độc quyền, và Muse Spark Open kém tiên tiến hơn mô hình độc quyền Muse Wonder của công ty. Wang nói với hãng tin này: “Đây không phải là những mô hình mạnh nhất mà chúng tôi đã phát triển hay phát hành”, đồng thời cho biết ông dự đoán các nhà phát triển sẽ thử nghiệm mô hình ở quy mô nhỏ trước khi mở rộng việc sử dụng.