Hoppa till innehållet
ittechwire

Teknyheter med tydliga källor

  1. Start
  2. AI

AI

Meta släpper vikterna för Muse Spark Open, med stöd från Apple för att köra den på Mac Studio-datorer

Meta har publicerat vikterna för en multimodal modell med 816 miljarder parametrar, inriktad på kodning och agenter, som enligt företaget kan köras lokalt på två Mac Studio med M5 Ultra, under en licens med begränsade kommersiella villkor.

ittechwire-redaktionen4 min läsningKällor: 4AI-översättning · original: English
Framsidan av en stationär Mac Studio-dator från 2022, en tidigare modell än den Mac Studio med M5 Ultra som Meta anger för att köra modellen.
Yasu (talk) · CC BY-SA 3.0

Viktigaste punkterna

  1. 1Meta har släppt vikterna för Muse Spark Open, som företaget kallar den hittills mest kapabla amerikanska open-weight-modellen; prestandapåståendena kommer från Meta.
  2. 2Enligt Meta har den nativt multimodala modellen totalt 816B och 42B aktiva parametrar, ett kontextfönster på 1M tokens och är inriktad på kodning och agentiskt arbete.
  3. 3Meta uppger att det är den första modellen i sin klass som körs på två Apple Mac Studio med M5 Ultra via MLX; CNBC rapporterade uppsättningar med två till fyra maskiner.
  4. 4Modellen erbjuds via flera leverantörer av hostade API:er och nedladdningsplattformar, bland annat Hugging Face, under Muse Model License med begränsade kommersiella villkor.
  5. 5Reportrar lyfte fram de stora hårdvarukraven: TechCrunch uppgav med hänvisning till Engadget minst 1 terabyte RAM, och enligt CNBC kostar en Mac Studio med M5 Ultra och 256GB från $10,799.

Hela artikeln

Meta gjorde i torsdags vikterna för Muse Spark Open offentligt tillgängliga och beskrev den som den hittills mest kapabla open-weight-modellen från en amerikansk utvecklare. Enligt företaget är modellen nativt multimodal, har totalt 816B parametrar varav 42B aktiva och erbjuder ett kontextfönster på 1M tokens. Meta uppger att den har utformats för kodning och agentisk användning och att den presterar väl på långa uppgifter, krävande mjukvaruutveckling och resonemang i flera steg. CNBC rapporterade att modellen bygger på en mixture-of-experts-arkitektur. TechCrunch noterade att de utvärderingsresultat som Meta självt har tagit fram hävdar ett försprång gentemot andra populära open-weight-modeller; dessa prestandapåståenden kommer från Meta och har inte verifierats oberoende i rapporteringen.

En central del av lanseringen är lokal användning på hårdvara från Apple. Meta uppger att Muse Spark Open är den första modellen i sin klass som kan köras på en skrivbordsuppsättning med två Mac Studio med M5 Ultra-chippet, med den aktuella versionen av ramverket MLX från Apple. Företaget förklarar att varje maskins integrerade GPU kan använda upp till 512 GB enhetligt minne, så att ett par kan rymma hela modellen, och anger en minnesbandbredd på 1,2 TB/s. Meta uppgav att företaget testade agentarbetsflöden på enheten med sitt verktyg Muse Code, bland annat genom att leverera korrigeringar och funktioner till Ice Cubes, en Mastodon-app med öppen källkod, och genom att styra videoredigeringsprogrammet DaVinci Resolve för att välja ut och beskära material till stående format. The Verge och CNBC rapporterade att Apple också har publicerat tekniskt material om MLX, som enligt CNBC handlar om att dela upp öppna modeller över flera maskiner.

Utöver Mac-datorer kan modellen enligt Meta användas via leverantörer av hostade API:er, däribland Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal och Nebius, medan vikterna kan laddas ned från Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models och Google Cloud Model Garden. Företaget anger stöd för inferensmotorer som vLLM, SGLang, llama.cpp, TensorRT-LLM och MLX, med optimeringar för chip från NVIDIA, AMD, Intel och Apple. Meta uppger också att anpassade Helion-GPU-kärnor i SGLang ger hastighetsökningar på kärnnivå på 1,03-3,95× på GPU:er från NVIDIA och AMD samt en end-to-end-förbättring på 3% på AMD MI350. Vikterna släpps under Muse Model License, som enligt Meta har begränsade kommersiella villkor som gör att många utvecklare kan använda modellen utan kostnad. När det gäller säkerhet uppger Meta att modellen har genomgått extra säkerhetsinriktad efterträning och uppfyllt tröskelvärdena för lansering i företagets Meta Superintelligence Scaling Framework, och att en fullständig utvärderingsrapport ännu återstår.

Reportrar påpekade att lokal användning medför höga hårdvarukrav. TechCrunch uppgav, med hänvisning till Engadget, att det krävs minst 1 terabyte RAM för att köra modellen lokalt. CNBC rapporterade att kunder kan koppla ihop mellan två och fyra Mac Studio, att en Mac Studio med M5 Ultra och 256GB minne för närvarande kostar från $10,799 och att en dyrare konfiguration med 512GB väntas senare denna månad. Alexandr Wang, AI-chef på Meta, sade till CNBC att många starka open-weight-modeller är för stora för de flesta persondatorer, men att minnet som finns i Mac Studio-datorerna gör det praktiskt möjligt att köra Muse Spark Open.

Lanseringen markerar också ett offentligt samarbete mellan två företag som länge har varit på kant med varandra. Enligt The Verge och CNBC gav Meta-vd:n Mark Zuckerberg på X erkännande till Apple och dess nya vd John Ternus, och Ternus svarade med att berömma hur effektivt modellen körs på en stationär dator. CNBC uppgav att arbetet föregicks av månader av samarbete och att representanter för båda företagen avböjde att säga om det skulle leda till en djupare relation. CNBC noterade också att Meta på senare tid har prioriterat proprietära modeller och att Muse Spark Open är mindre avancerad än företagets proprietära Muse Wonder. Wang sade till CNBC: ”Det här är inte de mest kapabla modellerna som vi har utvecklat eller släppt”, och tillade att han förväntar sig att utvecklare experimenterar med den i liten skala innan de utökar användningen.

Därför är det viktigt

Lanseringen gör en mycket stor open-weight-modell åtkomlig för lokal skrivbordshårdvara i stället för enbart molntjänster, signalerar att Meta fortsätter att investera i öppna modeller, om än i andra hand, och speglar ett ovanligt offentligt samarbete med Apple. De kostnader och minneskrav som hittills rapporterats gör dock fortfarande lokal användning ouppnåelig för de flesta enskilda användare.

Tidslinje

  1. · Publicerad

Ämnen#Meta#Muse Spark Open#open-weight-modeller#Apple#MLX#AI för kodning

Källor

Den här artikeln bygger på följande källor. Läs dem för hela sammanhanget.

  1. 1Meta · PrimärkällaIntroducing Muse Spark Open, The Most Capable US Open-Weight Model to Dateresearch.meta.ai
  2. 2TechCrunch · NyhetsrapportMeta launches an open-weight AI model that runs on Macstechcrunch.com
  3. 3The Verge · NyhetsrapportMeta and Apple team up to make Muse AI models run better on Macswww.theverge.com
  4. 4CNBC · NyhetsrapportApple and Meta team up to make Muse AI model run on Mac computerswww.cnbc.com