Salt la conținut
ittechwire

Știri tech cu surse clare

  1. Acasă
  2. AI

AI

Meta publică ponderile Muse Spark Open, cu sprijin din partea Apple pentru rularea modelului pe Mac Studio

Meta a publicat ponderile unui model multimodal cu 816 miliarde de parametri, destinat programării și agenților, despre care spune că poate rula local pe două Mac Studio cu M5 Ultra, sub o licență cu termeni comerciali limitați.

Redacția ittechwire5 min de cititSurse: 4Traducere cu IA · original: English
Partea frontală a unui computer desktop Mac Studio din 2022, un model mai vechi decât Mac Studio cu M5 Ultra pe care Meta îl indică pentru rularea modelului.
Yasu (talk) · CC BY-SA 3.0

Puncte-cheie

  1. 1Meta a publicat ponderile Muse Spark Open, pe care îl numește cel mai capabil model open-weight american de până acum; afirmațiile privind performanța provin de la Meta.
  2. 2Potrivit companiei Meta, modelul nativ multimodal are 816B de parametri în total și 42B activi, o fereastră de context de 1M de tokeni și vizează programarea și sarcinile agentice.
  3. 3Meta spune că este primul model din clasa sa care rulează pe două Mac Studio de la Apple cu M5 Ultra folosind MLX; CNBC a relatat configurații de 2 până la 4 computere.
  4. 4Modelul este oferit prin mai mulți furnizori de API găzduite și platforme de descărcare, inclusiv Hugging Face, sub licența Muse Model License, cu termeni comerciali limitați.
  5. 5Jurnaliștii au evidențiat cerințele hardware mari: TechCrunch, citând Engadget, a indicat cel puțin 1 terabyte de RAM, iar CNBC a plasat prețul unui Mac Studio cu M5 Ultra și 256GB la $10,799 sau mai mult.

Știrea completă

Meta a pus joi la dispoziția publicului ponderile modelului Muse Spark Open, pe care îl descrie drept cel mai capabil model open-weight al unui dezvoltator american de până acum. Potrivit companiei, modelul este nativ multimodal, are în total 816B de parametri, dintre care 42B activi, și oferă o fereastră de context de 1M de tokeni. Meta spune că a fost conceput pentru programare și utilizare agentică și că se descurcă bine la sarcini extinse, inginerie software solicitantă și raționament în mai mulți pași. CNBC a relatat că modelul are la bază o arhitectură mixture-of-experts. TechCrunch a remarcat că rezultatele evaluărilor proprii ale Meta susțin un avantaj față de alte modele open-weight populare; aceste afirmații privind performanța provin de la Meta și nu au fost verificate independent în relatările de presă.

O parte centrală a lansării o reprezintă utilizarea locală pe hardware Apple. Meta spune că Muse Spark Open este primul model din clasa sa care poate rula pe o configurație desktop formată din două Mac Studio cu cipul M5 Ultra, folosind versiunea actuală a framework-ului MLX de la Apple. Compania explică faptul că GPU-ul integrat al fiecărui computer poate folosi până la 512 GB de memorie unificată, astfel încât o pereche poate găzdui modelul complet, și indică o lățime de bandă a memoriei de 1,2 TB/s. Meta a declarat că a testat fluxuri de lucru cu agenți pe dispozitiv cu instrumentul său Muse Code, inclusiv livrarea de remedieri și funcții pentru Ice Cubes, aplicația open-source pentru Mastodon, și operarea editorului video DaVinci Resolve pentru a selecta și decupa vertical materiale video. The Verge și CNBC au relatat că și Apple a publicat materiale tehnice despre MLX, care, potrivit CNBC, acoperă împărțirea modelelor deschise pe mai multe computere.

Pe lângă computerele Mac, Meta spune că modelul poate fi folosit prin furnizori de API găzduite, printre care Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal și Nebius, iar ponderile pot fi descărcate de pe Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models și Google Cloud Model Garden. Compania menționează suport pentru motoare de inferență precum vLLM, SGLang, llama.cpp, TensorRT-LLM și MLX, cu optimizări pentru cipuri de la NVIDIA, AMD, Intel și Apple. Meta mai spune că kernel-urile GPU personalizate Helion din SGLang aduc accelerări la nivel de kernel de 1,03-3,95× pe GPU-urile NVIDIA și AMD și un câștig end-to-end de 3% pe AMD MI350. Ponderile sunt publicate sub licența Muse Model License, care, după cum spune Meta, are termeni comerciali limitați ce permit multor dezvoltatori să folosească modelul gratuit. În privința siguranței, Meta spune că modelul a beneficiat de un post-antrenament suplimentar de siguranță și a îndeplinit pragurile de lansare din Meta Superintelligence Scaling Framework, iar un raport complet de evaluare urmează să fie publicat.

Jurnaliștii au subliniat că utilizarea locală vine cu cerințe hardware ridicate. TechCrunch, citând Engadget, a scris că rularea locală a modelului necesită cel puțin 1 terabyte de RAM. CNBC a relatat că clienții pot conecta între 2 și 4 Mac Studio, că un Mac Studio cu M5 Ultra și 256GB de memorie pornește în prezent de la $10,799 și că o configurație mai scumpă, de 512GB, este așteptată mai târziu în această lună. Alexandr Wang, director pentru inteligență artificială (chief AI officer) la Meta, a declarat pentru CNBC că multe modele open-weight performante sunt prea mari pentru majoritatea computerelor personale, dar că memoria disponibilă în Mac Studio face ca rularea Muse Spark Open să fie practică.

Lansarea marchează și o colaborare publică între două companii aflate de mult timp în conflict. Potrivit The Verge și CNBC, CEO-ul Meta, Mark Zuckerberg, a evidențiat pe X meritele companiei Apple și ale noului său CEO, John Ternus, iar Ternus a răspuns lăudând eficiența cu care modelul rulează pe un desktop. CNBC a scris că proiectul a urmat după luni de colaborare și că reprezentanții ambelor companii au refuzat să spună dacă acesta va duce la o relație mai strânsă. CNBC a mai remarcat că Meta a pus recent pe primul plan modelele proprietare și că Muse Spark Open este mai puțin avansat decât modelul său proprietar Muse Wonder. Wang a declarat publicației: „Acestea nu sunt cele mai capabile modele pe care le-am dezvoltat sau lansat”, adăugând că se așteaptă ca dezvoltatorii să experimenteze cu el la scară mică înainte de a-și extinde utilizarea.

De ce contează

Lansarea aduce un model open-weight foarte mare la îndemâna hardware-ului desktop local, nu doar a serviciilor cloud, semnalează investiția continuă, chiar dacă secundară, a companiei Meta în modele deschise și reflectă o colaborare publică neobișnuită cu Apple. Costurile și cerințele de memorie raportate până acum fac însă ca utilizarea locală să rămână inaccesibilă pentru majoritatea utilizatorilor individuali.

Cronologie

  1. · Publicat

Subiecte#Meta#Muse Spark Open#modele open-weight#Apple#MLX#programare cu AI

Surse

Această știre se bazează pe sursele de mai jos. Citiți-le pentru contextul complet.

  1. 1Meta · Sursă primarăIntroducing Muse Spark Open, The Most Capable US Open-Weight Model to Dateresearch.meta.ai
  2. 2TechCrunch · Articol de presăMeta launches an open-weight AI model that runs on Macstechcrunch.com
  3. 3The Verge · Articol de presăMeta and Apple team up to make Muse AI models run better on Macswww.theverge.com
  4. 4CNBC · Articol de presăApple and Meta team up to make Muse AI model run on Mac computerswww.cnbc.com