Meta משחררת את המשקלים של Muse Spark Open, בתמיכת Apple להרצתו על Mac Studios

Meta הנגישה ביום חמישי לציבור את המשקלים של Muse Spark Open, ותיארה אותו כמודל בעל המשקלים הפתוחים המתקדם ביותר של מפתח אמריקאי עד כה. לדברי החברה, המודל רב-מודלי מיסודו, כולל 816B פרמטרים בסך הכול, מתוכם 42B פעילים, ומציע חלון הקשר של 1M טוקנים. Meta מציינת כי הוא תוכנן לתכנות ולשימושים סוכניים, וכי הוא מתפקד היטב במשימות ממושכות, בהנדסת תוכנה תובענית ובהסקה המשתרעת על פני כמה שלבים. CNBC דיווחה כי המודל בנוי על ארכיטקטורת תערובת מומחים (mixture-of-experts). TechCrunch ציינה כי תוצאות ההערכה של Meta עצמה טוענות ליתרון על פני מודלים פופולריים אחרים בעלי משקלים פתוחים; טענות הביצועים הללו מקורן ב-Meta ולא אומתו באופן עצמאי בדיווחים.

חלק מרכזי בהשקה הוא שימוש מקומי בחומרה של Apple. לדברי Meta, Muse Spark Open הוא המודל הראשון בקטגוריה שלו שיכול לרוץ על מערך שולחני של שני מחשבי Mac Studio עם שבב M5 Ultra, באמצעות הגרסה הנוכחית של מסגרת MLX של Apple. החברה מסבירה כי המעבד הגרפי המשולב בכל מכונה יכול לנצל עד 512 GB של זיכרון מאוחד, כך שזוג מכונות יכול להכיל את המודל המלא, והיא מציינת רוחב פס זיכרון של 1.2 TB/s. Meta מסרה כי בחנה תהליכי עבודה של סוכנים על המכשיר באמצעות הכלי Muse Code שלה, כולל הטמעת תיקונים ותכונות באפליקציית הקוד הפתוח Ice Cubes ל-Mastodon, והפעלת עורך הווידאו DaVinci Resolve כדי לבחור קטעי צילום ולחתוך אותם לפורמט אנכי. The Verge ו-CNBC דיווחו כי Apple פרסמה גם חומר טכני על MLX, אשר לדברי CNBC עוסק בפיצול מודלים פתוחים בין כמה מכונות.

מעבר למחשבי Mac, Meta מציינת כי ניתן להשתמש במודל דרך ספקי API מתארחים, ביניהם Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal ו-Nebius, בעוד שאת המשקלים ניתן להוריד מ-Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models ו-Google Cloud Model Garden. החברה מונה תמיכה במנועי הסקה כגון vLLM, SGLang, llama.cpp, TensorRT-LLM ו-MLX, עם אופטימיזציות לשבבים של NVIDIA, AMD, Intel ו-Apple. Meta מוסיפה כי ליבות GPU מותאמות של Helion ב-SGLang מספקות האצות ברמת הליבה של 1.03-3.95× במעבדים גרפיים של NVIDIA ו-AMD, ושיפור של 3% מקצה לקצה ב-AMD MI350. המשקלים משוחררים תחת Muse Model License, שלדברי Meta כולל תנאים מסחריים מוגבלים המאפשרים למפתחים רבים להשתמש במודל ללא עלות. בתחום הבטיחות, Meta מציינת כי המודל עבר אימון בטיחות נוסף בשלב ה-post-training ועמד בספי השחרור של Meta Superintelligence Scaling Framework שלה, כאשר דוח הערכה מלא עדיין צפוי להתפרסם.

כתבים ציינו כי השימוש המקומי כרוך בדרישות חומרה גבוהות. TechCrunch, בהסתמך על Engadget, ציינה כי הרצת המודל באופן מקומי מחייבת לפחות 1 טרה-בייט של RAM. CNBC דיווחה כי לקוחות יכולים לחבר בין 2 ל-4 מחשבי Mac Studio, כי מחשב Mac Studio עם M5 Ultra ו-256GB זיכרון מתחיל כיום ב-$10,799, וכי תצורה יקרה יותר של 512GB צפויה בהמשך החודש. מנהל ה-AI הראשי של Meta, אלכסנדר וואנג, אמר ל-CNBC כי מודלים חזקים רבים בעלי משקלים פתוחים גדולים מדי עבור רוב המחשבים האישיים, אך הזיכרון הזמין ב-Mac Studios הופך את הרצת Muse Spark Open למעשית.

ההשקה מסמנת גם שיתוף פעולה פומבי בין שתי חברות שהיו במשך זמן רב ביחסים מתוחים. לפי The Verge ו-CNBC, מנכ״ל Meta מארק צוקרברג נתן קרדיט ל-Apple ולמנכ״ל החדש שלה ג'ון טרנוס ב-X, וטרנוס השיב בשבחים על היעילות שבה המודל רץ על מחשב שולחני. CNBC ציינה כי העבודה באה בעקבות חודשים של שיתוף פעולה, וכי נציגי שתי החברות סירבו לומר אם הדבר יוביל לקשר עמוק יותר. CNBC ציינה עוד כי Meta העדיפה לאחרונה מודלים קנייניים, וכי Muse Spark Open מתקדם פחות מהמודל הקנייני שלה Muse Wonder. וואנג אמר לכלי התקשורת: „אלה אינם המודלים המתקדמים ביותר שפיתחנו או ששחררנו”, והוסיף כי הוא מצפה שמפתחים יתנסו בו בהיקף קטן לפני שירחיבו את השימוש בו.