Langsung ke konten
ittechwire

Berita teknologi dengan sumber yang jelas

  1. Beranda
  2. AI

AI

Meta merilis bobot Muse Spark Open, dengan dukungan Apple untuk menjalankannya di Mac Studio

Meta telah memublikasikan bobot model multimodal dengan 816 miliar parameter yang ditujukan untuk pemrograman dan agen, yang menurut perusahaan dapat berjalan secara lokal di dua Mac Studio M5 Ultra, di bawah lisensi dengan ketentuan komersial terbatas.

Redaksi ittechwire4 menit bacaSumber: 4Terjemahan AI · bahasa asli: English
Bagian depan komputer desktop Mac Studio 2022, model yang lebih lama daripada Mac Studio M5 Ultra yang disebut Meta untuk menjalankan model ini.
Yasu (talk) · CC BY-SA 3.0

Poin penting

  1. 1Meta merilis bobot Muse Spark Open, yang disebutnya sebagai model open-weight AS paling mumpuni hingga saat ini; klaim kinerja berasal dari Meta.
  2. 2Menurut Meta, model multimodal native ini memiliki total 816B parameter dan 42B parameter aktif, jendela konteks 1M token, serta ditujukan untuk pemrograman dan kerja agentik.
  3. 3Meta mengatakan ini adalah model pertama di kelasnya yang dapat berjalan di dua Mac Studio Apple M5 Ultra menggunakan MLX; CNBC melaporkan konfigurasi 2 hingga 4 mesin.
  4. 4Model ini ditawarkan melalui beberapa penyedia API terkelola dan pusat unduhan termasuk Hugging Face, di bawah Muse Model License dengan ketentuan komersial terbatas.
  5. 5Para jurnalis menyoroti kebutuhan perangkat keras yang besar: TechCrunch, mengutip Engadget, menyebut RAM setidaknya 1 terabyte, dan CNBC menyebut harga Mac Studio M5 Ultra 256GB mulai $10,799.

Berita selengkapnya

Meta pada hari Kamis membuka akses publik ke bobot Muse Spark Open dan menyebutnya sebagai model open-weight paling mumpuni dari pengembang AS sejauh ini. Menurut perusahaan, model ini multimodal secara native, memiliki total 816B parameter dengan 42B parameter aktif, serta menawarkan jendela konteks 1M token. Meta mengatakan model ini dirancang untuk pemrograman dan penggunaan agentik, serta berkinerja baik pada tugas yang panjang, rekayasa perangkat lunak yang menuntut, dan penalaran yang melibatkan beberapa langkah. CNBC melaporkan bahwa model ini dibangun di atas arsitektur mixture-of-experts. TechCrunch mencatat bahwa hasil evaluasi Meta sendiri mengklaim keunggulan atas model open-weight populer lainnya; klaim kinerja tersebut berasal dari Meta dan belum diverifikasi secara independen dalam pemberitaan.

Bagian inti dari peluncuran ini adalah penggunaan lokal di perangkat keras Apple. Meta mengatakan Muse Spark Open adalah model pertama di kelasnya yang dapat berjalan pada konfigurasi desktop berupa dua Mac Studio dengan chip M5 Ultra, menggunakan versi saat ini dari framework MLX milik Apple. Perusahaan menjelaskan bahwa GPU terintegrasi di setiap mesin dapat memanfaatkan hingga 512 GB memori terpadu, sehingga sepasang mesin dapat menampung model secara utuh, dan menyebut bandwidth memori sebesar 1,2 TB/s. Meta mengatakan telah menguji alur kerja agen di perangkat dengan alat Muse Code miliknya, termasuk mengirimkan perbaikan dan fitur ke aplikasi Mastodon open-source Ice Cubes serta mengoperasikan editor video DaVinci Resolve untuk memilih dan memotong rekaman secara vertikal. The Verge dan CNBC melaporkan bahwa Apple juga menerbitkan materi teknis tentang MLX, yang menurut CNBC membahas pembagian model terbuka ke beberapa mesin.

Di luar Mac, Meta mengatakan model ini dapat digunakan melalui penyedia API terkelola, termasuk Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal, dan Nebius, sementara bobotnya dapat diunduh dari Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models, dan Google Cloud Model Garden. Perusahaan mencantumkan dukungan untuk mesin inferensi seperti vLLM, SGLang, llama.cpp, TensorRT-LLM, dan MLX, dengan optimisasi untuk chip dari NVIDIA, AMD, Intel, dan Apple. Meta juga mengatakan kernel GPU Helion khusus di SGLang memberikan percepatan di tingkat kernel sebesar 1,03-3,95× pada GPU NVIDIA dan AMD serta peningkatan end-to-end sebesar 3% pada AMD MI350. Bobot dirilis di bawah Muse Model License, yang menurut Meta memiliki ketentuan komersial terbatas yang memungkinkan banyak pengembang menggunakan model ini tanpa biaya. Terkait keamanan, Meta mengatakan model ini menjalani post-training keamanan tambahan dan memenuhi ambang batas rilis dalam Meta Superintelligence Scaling Framework miliknya, dengan laporan evaluasi lengkap yang masih akan menyusul.

Para jurnalis menyoroti bahwa penggunaan lokal disertai persyaratan perangkat keras yang berat. TechCrunch, mengutip Engadget, mengatakan bahwa menjalankan model ini secara lokal membutuhkan RAM setidaknya 1 terabyte. CNBC melaporkan bahwa pelanggan dapat menghubungkan 2 hingga 4 Mac Studio, bahwa Mac Studio M5 Ultra dengan memori 256GB saat ini dijual mulai dari $10,799, dan bahwa konfigurasi 512GB yang lebih mahal dijadwalkan hadir akhir bulan ini. Chief AI officer Meta, Alexandr Wang, mengatakan kepada CNBC bahwa banyak model open-weight yang kuat terlalu besar untuk sebagian besar komputer pribadi, tetapi memori yang tersedia di Mac Studio membuat menjalankan Muse Spark Open menjadi praktis.

Rilis ini juga menandai kolaborasi publik antara dua perusahaan yang telah lama berseteru. Menurut The Verge dan CNBC, CEO Meta Mark Zuckerberg memberikan apresiasi kepada Apple dan CEO barunya, John Ternus, di X, dan Ternus membalas dengan memuji betapa efisiennya model ini berjalan di desktop. CNBC mengatakan kerja sama ini merupakan hasil kolaborasi selama berbulan-bulan, dan bahwa perwakilan kedua perusahaan menolak untuk mengatakan apakah hal itu akan mengarah pada hubungan yang lebih dalam. CNBC juga mencatat bahwa Meta belakangan ini memprioritaskan model proprietary, dan bahwa Muse Spark Open kurang canggih dibandingkan model proprietary-nya, Muse Wonder. Wang mengatakan kepada media tersebut, “Ini bukan model paling mumpuni yang telah kami kembangkan atau rilis”, seraya menambahkan bahwa ia memperkirakan para pengembang akan bereksperimen dengannya dalam skala kecil sebelum memperluas penggunaannya.

Mengapa ini penting

Rilis ini membuat model open-weight yang sangat besar dapat dijangkau oleh perangkat keras desktop lokal, bukan hanya layanan cloud, menandakan investasi Meta yang berlanjut, meski bersifat sekunder, pada model terbuka, dan mencerminkan kolaborasi publik yang tidak biasa dengan Apple. Biaya dan kebutuhan memori yang dilaporkan sejauh ini masih membuat penggunaan lokal berada di luar jangkauan sebagian besar pengguna individu.

Linimasa

  1. · Diterbitkan

Topik#Meta#Muse Spark Open#model open-weight#Apple#MLX#AI untuk pemrograman

Sumber

Berita ini bersumber dari rujukan berikut. Bacalah untuk konteks selengkapnya.

  1. 1Meta · Sumber primerIntroducing Muse Spark Open, The Most Capable US Open-Weight Model to Dateresearch.meta.ai
  2. 2TechCrunch · Laporan beritaMeta launches an open-weight AI model that runs on Macstechcrunch.com
  3. 3The Verge · Laporan beritaMeta and Apple team up to make Muse AI models run better on Macswww.theverge.com
  4. 4CNBC · Laporan beritaApple and Meta team up to make Muse AI model run on Mac computerswww.cnbc.com