Zum Inhalt springen
ittechwire

Technologie-Nachrichten mit offengelegten Quellen

  1. Startseite
  2. KI

KI

Meta veröffentlicht die Gewichte von Muse Spark Open, Apple unterstützt den Betrieb auf Mac Studios

Meta hat die Gewichte eines multimodalen Modells mit 816 Milliarden Parametern für Coding und Agenten veröffentlicht, das laut Meta lokal auf zwei M5 Ultra Mac Studios laufen kann, unter einer Lizenz mit begrenzten kommerziellen Bedingungen.

ittechwire-Redaktion4 Min. LesezeitQuellen: 4KI-Übersetzung · Original: English
Vorderseite eines Mac Studio Desktop-Computers von 2022, eines älteren Modells als der M5 Ultra Mac Studio, den Meta für den Betrieb des Modells nennt.
Yasu (talk) · CC BY-SA 3.0

Das Wichtigste

  1. 1Meta hat die Gewichte von Muse Spark Open veröffentlicht, das es als bislang leistungsfähigstes US-Open-Weight-Modell bezeichnet; die Leistungsangaben stammen von Meta.
  2. 2Laut Meta hat das nativ multimodale Modell insgesamt 816 Milliarden und 42 Milliarden aktive Parameter sowie ein Kontextfenster von 1M Token und zielt auf Programmierung und agentische Arbeit.
  3. 3Meta zufolge ist es das erste Modell seiner Klasse, das mit MLX auf zwei Apple M5 Ultra Mac Studios läuft; CNBC berichtete von Setups mit zwei bis vier Rechnern.
  4. 4Das Modell wird über mehrere gehostete API-Anbieter und Download-Plattformen wie Hugging Face angeboten, unter der Muse Model License mit begrenzten kommerziellen Bedingungen.
  5. 5Berichte betonten hohe Hardwareanforderungen: TechCrunch nannte unter Berufung auf Engadget mindestens 1 Terabyte RAM, CNBC bezifferte einen M5 Ultra Mac Studio mit 256GB auf $10,799 oder mehr.

Die ganze Meldung

Meta hat am Donnerstag die Gewichte von Muse Spark Open öffentlich zugänglich gemacht und bezeichnet es als das bislang leistungsfähigste Open-Weight-Modell eines US-Entwicklers. Nach Angaben des Unternehmens ist das Modell nativ multimodal, verfügt insgesamt über 816 Milliarden Parameter, davon 42 Milliarden aktiv, und bietet ein Kontextfenster von 1M Token. Meta zufolge wurde es für Programmierung und agentische Anwendungen entwickelt und schneidet bei langwierigen Aufgaben, anspruchsvoller Softwareentwicklung und mehrstufigem logischem Denken gut ab. CNBC berichtete, dass das Modell auf einer Mixture-of-Experts-Architektur basiert. TechCrunch merkte an, dass die eigenen Evaluationsergebnisse von Meta einen Vorsprung gegenüber anderen populären Open-Weight-Modellen beanspruchen; diese Leistungsangaben stammen von Meta und wurden in der Berichterstattung nicht unabhängig überprüft.

Ein zentraler Bestandteil der Vorstellung ist die lokale Nutzung auf Apple-Hardware. Meta zufolge ist Muse Spark Open das erste Modell seiner Klasse, das auf einem Desktop-Setup aus zwei Mac Studios mit dem M5 Ultra Chip laufen kann, und zwar mit der aktuellen Version des MLX-Frameworks von Apple. Das Unternehmen erklärt, dass die integrierte GPU jedes Rechners auf bis zu 512 GB Unified Memory zugreifen kann, sodass ein Paar das vollständige Modell aufnehmen kann, und nennt eine Speicherbandbreite von 1,2 TB/s. Meta gab an, mit seinem Tool Muse Code agentische Workflows direkt auf dem Gerät getestet zu haben, darunter das Ausliefern von Fehlerbehebungen und Funktionen für die quelloffene Mastodon-App Ice Cubes sowie die Bedienung der Videoschnittsoftware DaVinci Resolve, um Filmmaterial auszuwählen und vertikal zuzuschneiden. The Verge und CNBC berichteten, dass auch Apple technisches Material zu MLX veröffentlicht hat, das laut CNBC die Aufteilung offener Modelle auf mehrere Rechner behandelt.

Über Macs hinaus kann das Modell laut Meta über gehostete API-Anbieter wie Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal und Nebius genutzt werden, während die Gewichte bei Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models und Google Cloud Model Garden heruntergeladen werden können. Das Unternehmen nennt Unterstützung für Inferenz-Engines wie vLLM, SGLang, llama.cpp, TensorRT-LLM und MLX, mit Optimierungen für Chips von NVIDIA, AMD, Intel und Apple. Zudem erklärt Meta, dass eigens entwickelte Helion-GPU-Kernel in SGLang auf GPUs von NVIDIA und AMD Beschleunigungen auf Kernel-Ebene von 1,03-3,95× sowie einen End-to-End-Gewinn von 3% auf AMD MI350 bringen. Die Gewichte werden unter der Muse Model License veröffentlicht, die laut Meta begrenzte kommerzielle Bedingungen hat, die vielen Entwicklern eine kostenlose Nutzung des Modells ermöglichen. Zur Sicherheit erklärt Meta, das Modell habe zusätzliches Sicherheits-Post-Training erhalten und die Freigabeschwellen seines Meta Superintelligence Scaling Framework erfüllt; ein vollständiger Evaluationsbericht soll noch folgen.

Berichterstatter wiesen darauf hin, dass die lokale Nutzung mit hohen Hardwareanforderungen verbunden ist. TechCrunch schrieb unter Berufung auf Engadget, dass für den lokalen Betrieb des Modells mindestens 1 Terabyte RAM erforderlich sei. CNBC berichtete, dass Kunden zwei bis vier Mac Studios verbinden können, dass ein M5 Ultra Mac Studio mit 256GB Speicher derzeit ab $10,799 erhältlich ist und dass eine teurere 512GB-Konfiguration noch in diesem Monat erscheinen soll. Alexandr Wang, Chief AI Officer von Meta, sagte gegenüber CNBC, viele starke Open-Weight-Modelle seien für die meisten Personal Computer zu groß, doch der in Mac Studios verfügbare Speicher mache den Betrieb von Muse Spark Open praktikabel.

Die Veröffentlichung steht zudem für eine öffentliche Zusammenarbeit zweier Unternehmen, die lange über Kreuz lagen. Laut The Verge und CNBC würdigte Meta-CEO Mark Zuckerberg auf X Apple und dessen neuen CEO John Ternus, und Ternus lobte in seiner Antwort, wie effizient das Modell auf einem Desktop läuft. CNBC zufolge ging der Arbeit eine monatelange Zusammenarbeit voraus, und Vertreter beider Unternehmen lehnten es ab, sich dazu zu äußern, ob daraus eine engere Beziehung entstehen werde. CNBC merkte außerdem an, dass Meta zuletzt proprietäre Modelle priorisiert hat und dass Muse Spark Open weniger fortschrittlich ist als das proprietäre Muse Wonder. Wang sagte gegenüber dem Medium: „Das sind nicht die leistungsfähigsten Modelle, die wir entwickelt oder veröffentlicht haben“, und fügte hinzu, er erwarte, dass Entwickler zunächst in kleinem Maßstab damit experimentieren, bevor sie die Nutzung ausweiten.

Warum es wichtig ist

Die Veröffentlichung rückt ein sehr großes Open-Weight-Modell in die Reichweite lokaler Desktop-Hardware statt nur von Cloud-Diensten, signalisiert, dass Meta weiterhin, wenn auch nachrangig, in offene Modelle investiert, und spiegelt eine ungewöhnliche öffentliche Zusammenarbeit mit Apple wider. Die bislang berichteten Kosten- und Speicheranforderungen machen die lokale Nutzung für die meisten Einzelnutzer jedoch weiterhin unerreichbar.

Zeitleiste

  1. · Veröffentlicht

Themen#Meta#Muse Spark Open#Open-Weight-Modelle#Apple#MLX#KI-Programmierung

Quellen

Diese Meldung stützt sich auf die folgenden Quellen. Lesen Sie sie für den vollständigen Kontext.

  1. 1Meta · PrimärquelleIntroducing Muse Spark Open, The Most Capable US Open-Weight Model to Dateresearch.meta.ai
  2. 2TechCrunch · NachrichtenberichtMeta launches an open-weight AI model that runs on Macstechcrunch.com
  3. 3The Verge · NachrichtenberichtMeta and Apple team up to make Muse AI models run better on Macswww.theverge.com
  4. 4CNBC · NachrichtenberichtApple and Meta team up to make Muse AI model run on Mac computerswww.cnbc.com