Η Meta δημοσιεύει τα βάρη του Muse Spark Open, με υποστήριξη της Apple για την εκτέλεσή του σε Mac Studio

Η Meta διέθεσε την Πέμπτη δημόσια τα βάρη του Muse Spark Open, περιγράφοντάς το ως το πιο ικανό μοντέλο ανοιχτών βαρών (open-weight) αμερικανικής εταιρείας ανάπτυξης μέχρι σήμερα. Σύμφωνα με την εταιρεία, το μοντέλο είναι εγγενώς πολυτροπικό, διαθέτει συνολικά 816B παραμέτρους, από τις οποίες 42B ενεργές, και προσφέρει παράθυρο συμφραζομένων 1M tokens. Η Meta αναφέρει ότι σχεδιάστηκε για προγραμματισμό και χρήση με πράκτορες και ότι αποδίδει καλά σε εκτεταμένες εργασίες, απαιτητική μηχανική λογισμικού και συλλογισμό πολλών βημάτων. Το CNBC ανέφερε ότι το μοντέλο βασίζεται σε αρχιτεκτονική mixture-of-experts. Το TechCrunch σημείωσε ότι τα αποτελέσματα των αξιολογήσεων της ίδιας της Meta υποστηρίζουν πλεονέκτημα έναντι άλλων δημοφιλών μοντέλων ανοιχτών βαρών· οι ισχυρισμοί αυτοί για τις επιδόσεις προέρχονται από τη Meta και δεν έχουν επαληθευτεί ανεξάρτητα στα δημοσιεύματα.

Κεντρικό στοιχείο της κυκλοφορίας είναι η τοπική χρήση σε υλικό της Apple. Η Meta αναφέρει ότι το Muse Spark Open είναι το πρώτο μοντέλο της κατηγορίας του που μπορεί να εκτελεστεί σε επιτραπέζια διάταξη δύο Mac Studio με τον επεξεργαστή M5 Ultra, χρησιμοποιώντας την τρέχουσα έκδοση του framework MLX της Apple. Η εταιρεία εξηγεί ότι η ενσωματωμένη GPU κάθε μηχανήματος μπορεί να αξιοποιήσει έως 512 GB ενοποιημένης μνήμης, ώστε ένα ζεύγος να χωράει ολόκληρο το μοντέλο, και αναφέρει εύρος ζώνης μνήμης 1,2 TB/s. Η Meta δήλωσε ότι δοκίμασε ροές εργασίας πρακτόρων στη συσκευή με το εργαλείο της Muse Code, μεταξύ άλλων για την παράδοση διορθώσεων και λειτουργιών στο Ice Cubes, την εφαρμογή ανοιχτού κώδικα για το Mastodon, και για τον χειρισμό του προγράμματος επεξεργασίας βίντεο DaVinci Resolve ώστε να επιλέγει πλάνα και να τα περικόπτει σε κάθετη μορφή. Τα The Verge και CNBC ανέφεραν ότι και η Apple δημοσίευσε τεχνικό υλικό για το MLX, το οποίο, σύμφωνα με το CNBC, καλύπτει τον διαχωρισμό ανοιχτών μοντέλων σε πολλά μηχανήματα.

Πέρα από τους υπολογιστές Mac, η Meta αναφέρει ότι το μοντέλο μπορεί να χρησιμοποιηθεί μέσω παρόχων φιλοξενούμενων API, όπως οι Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal και Nebius, ενώ τα βάρη είναι διαθέσιμα για λήψη από τα Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models και Google Cloud Model Garden. Η εταιρεία αναφέρει υποστήριξη για μηχανές συμπερασμού όπως τα vLLM, SGLang, llama.cpp, TensorRT-LLM και MLX, με βελτιστοποιήσεις για chip των NVIDIA, AMD, Intel και Apple. Η Meta αναφέρει επίσης ότι προσαρμοσμένοι πυρήνες GPU Helion στο SGLang προσφέρουν επιταχύνσεις σε επίπεδο πυρήνα 1,03-3,95× σε GPU της NVIDIA και της AMD και κέρδος 3% από άκρο σε άκρο στο AMD MI350. Τα βάρη διατίθενται με την άδεια Muse Model License, η οποία, όπως αναφέρει η Meta, έχει περιορισμένους εμπορικούς όρους που επιτρέπουν σε πολλούς προγραμματιστές να χρησιμοποιούν το μοντέλο χωρίς κόστος. Όσον αφορά την ασφάλεια, η Meta αναφέρει ότι το μοντέλο υποβλήθηκε σε πρόσθετη εκπαίδευση ασφαλείας μετά την αρχική εκπαίδευση (post-training) και πληρούσε τα όρια κυκλοφορίας του Meta Superintelligence Scaling Framework, ενώ η πλήρης έκθεση αξιολόγησης αναμένεται να δημοσιευτεί αργότερα.

Οι δημοσιογράφοι επισήμαναν ότι η τοπική χρήση συνοδεύεται από υψηλές απαιτήσεις σε υλικό. Το TechCrunch, επικαλούμενο το Engadget, ανέφερε ότι η τοπική εκτέλεση του μοντέλου απαιτεί τουλάχιστον 1 terabyte RAM. Το CNBC ανέφερε ότι οι πελάτες μπορούν να συνδέσουν από 2 έως 4 Mac Studio, ότι ένα Mac Studio με M5 Ultra και 256GB μνήμης κοστίζει σήμερα από $10,799 και ότι μια ακριβότερη διαμόρφωση 512GB αναμένεται αργότερα αυτόν τον μήνα. Ο επικεφαλής τεχνητής νοημοσύνης (chief AI officer) της Meta, Alexandr Wang, δήλωσε στο CNBC ότι πολλά ισχυρά μοντέλα ανοιχτών βαρών είναι πολύ μεγάλα για τους περισσότερους προσωπικούς υπολογιστές, αλλά ότι η μνήμη που διαθέτουν τα Mac Studio καθιστά πρακτική την εκτέλεση του Muse Spark Open.

Η κυκλοφορία σηματοδοτεί επίσης μια δημόσια συνεργασία μεταξύ δύο εταιρειών που επί μακρόν βρίσκονταν σε αντιπαράθεση. Σύμφωνα με τα The Verge και CNBC, ο CEO της Meta, Mark Zuckerberg, αναγνώρισε στο X τη συμβολή της Apple και του νέου CEO της, John Ternus, και ο Ternus απάντησε επαινώντας την αποδοτικότητα με την οποία το μοντέλο λειτουργεί σε επιτραπέζιο υπολογιστή. Το CNBC ανέφερε ότι η δουλειά αυτή ήρθε έπειτα από μήνες συνεργασίας και ότι εκπρόσωποι και των δύο εταιρειών αρνήθηκαν να πουν αν θα οδηγήσει σε βαθύτερη σχέση. Το CNBC σημείωσε επίσης ότι η Meta έχει δώσει πρόσφατα προτεραιότητα σε ιδιόκτητα μοντέλα και ότι το Muse Spark Open είναι λιγότερο προηγμένο από το ιδιόκτητο Muse Wonder της. Ο Wang δήλωσε στο μέσο: «Αυτά δεν είναι τα πιο ικανά μοντέλα που έχουμε αναπτύξει ή κυκλοφορήσει», προσθέτοντας ότι αναμένει οι προγραμματιστές να πειραματιστούν με αυτό σε μικρή κλίμακα πριν επεκτείνουν τη χρήση του.