Meta Muse Spark Open-এর ওয়েট প্রকাশ করল, Mac Studios-এ চালাতে Apple-এর সহায়তা

Meta বৃহস্পতিবার Muse Spark Open-এর ওয়েট সর্বজনীনভাবে উন্মুক্ত করেছে এবং এটিকে এখন পর্যন্ত কোনো মার্কিন ডেভেলপারের সবচেয়ে সক্ষম ওপেন-ওয়েট মডেল হিসেবে বর্ণনা করেছে। কোম্পানির ভাষ্য অনুযায়ী, মডেলটি নেটিভভাবে মাল্টিমোডাল, এতে মোট 816B প্যারামিটার রয়েছে যার মধ্যে 42B সক্রিয়, এবং এটি 1M টোকেনের কনটেক্সট উইন্ডো দেয়। Meta বলছে, এটি কোডিং ও এজেন্টিক ব্যবহারের জন্য নকশা করা হয়েছে এবং দীর্ঘ কাজ, জটিল সফটওয়্যার ইঞ্জিনিয়ারিং ও একাধিক ধাপের যুক্তিতে ভালো পারফর্ম করে। CNBC জানিয়েছে, মডেলটি মিক্সচার-অফ-এক্সপার্টস আর্কিটেকচারের ওপর তৈরি। TechCrunch উল্লেখ করেছে যে Meta-র নিজস্ব মূল্যায়নের ফলাফলে অন্যান্য জনপ্রিয় ওপেন-ওয়েট মডেলের তুলনায় এগিয়ে থাকার দাবি করা হয়েছে; পারফরম্যান্স-সংক্রান্ত এই দাবিগুলো Meta-র নিজের এবং প্রতিবেদনে সেগুলো স্বাধীনভাবে যাচাই করা হয়নি।

এই উন্মোচনের একটি কেন্দ্রীয় অংশ হলো Apple হার্ডওয়্যারে স্থানীয় ব্যবহার। Meta বলছে, Muse Spark Open তার শ্রেণির প্রথম মডেল, যা Apple-এর MLX ফ্রেমওয়ার্কের বর্তমান সংস্করণ ব্যবহার করে M5 Ultra চিপযুক্ত দুটি Mac Studio-র ডেস্কটপ সেটআপে চলতে পারে। কোম্পানি ব্যাখ্যা করেছে যে প্রতিটি মেশিনের ইন্টিগ্রেটেড GPU সর্বোচ্চ 512 GB ইউনিফায়েড মেমোরি ব্যবহার করতে পারে, ফলে দুটি মেশিন মিলে পুরো মডেলটি ধারণ করতে পারে, এবং কোম্পানি 1.2 TB/s মেমোরি ব্যান্ডউইথের কথা উল্লেখ করেছে। Meta জানিয়েছে, তারা নিজেদের Muse Code টুল দিয়ে অন-ডিভাইস এজেন্ট ওয়ার্কফ্লো পরীক্ষা করেছে, যার মধ্যে ছিল ওপেন-সোর্স Mastodon অ্যাপ Ice Cubes-এ সংশোধন ও ফিচার যুক্ত করা এবং ফুটেজ বাছাই ও উল্লম্বভাবে ক্রপ করার জন্য DaVinci Resolve ভিডিও এডিটর পরিচালনা করা। The Verge ও CNBC জানিয়েছে, Apple-ও MLX নিয়ে কারিগরি উপাদান প্রকাশ করেছে, যা CNBC-র ভাষ্যমতে ওপেন মডেলকে একাধিক মেশিনে ভাগ করে চালানোর বিষয়টি তুলে ধরে।

Mac-এর বাইরেও, Meta বলছে মডেলটি Together AI, OpenRouter, Groq, Fireworks AI, Baseten, Modal ও Nebius-সহ বিভিন্ন হোস্টেড API সরবরাহকারীর মাধ্যমে ব্যবহার করা যাবে, আর ওয়েটগুলো Hugging Face, Amazon SageMaker AI, Microsoft Foundry Models ও Google Cloud Model Garden থেকে ডাউনলোড করা যাবে। কোম্পানি vLLM, SGLang, llama.cpp, TensorRT-LLM ও MLX-এর মতো ইনফারেন্স ইঞ্জিনের সমর্থনের কথা জানিয়েছে, যেখানে NVIDIA, AMD, Intel ও Apple-এর চিপের জন্য অপটিমাইজেশন রয়েছে। Meta আরও বলছে, SGLang-এ কাস্টম Helion GPU কার্নেল NVIDIA ও AMD GPU-তে 1.03-3.95× কার্নেল-স্তরের গতিবৃদ্ধি এবং AMD MI350-এ 3% এন্ড-টু-এন্ড উন্নতি দেয়। ওয়েটগুলো Muse Model License-এর অধীনে প্রকাশ করা হয়েছে, যার সীমিত বাণিজ্যিক শর্ত Meta-র ভাষ্যমতে অনেক ডেভেলপারকে বিনামূল্যে মডেলটি ব্যবহার করতে দেয়। নিরাপত্তা প্রসঙ্গে Meta বলছে, মডেলটিকে অতিরিক্ত সেফটি পোস্ট-ট্রেনিং দেওয়া হয়েছে এবং এটি Meta Superintelligence Scaling Framework-এর রিলিজ সীমা পূরণ করেছে, তবে পূর্ণ মূল্যায়ন প্রতিবেদন এখনো আসা বাকি।

প্রতিবেদকেরা উল্লেখ করেছেন যে স্থানীয় ব্যবহারের জন্য বিপুল হার্ডওয়্যার প্রয়োজন। TechCrunch, Engadget-এর বরাত দিয়ে, জানিয়েছে যে মডেলটি স্থানীয়ভাবে চালাতে কমপক্ষে 1 টেরাবাইট RAM লাগে। CNBC জানিয়েছে, গ্রাহকেরা 2 থেকে 4টি Mac Studio সংযুক্ত করতে পারেন, 256GB মেমোরির একটি M5 Ultra Mac Studio-র দাম বর্তমানে $10,799 থেকে শুরু, এবং আরও দামি একটি 512GB কনফিগারেশন এ মাসের শেষ দিকে আসার কথা। Meta-র চিফ AI অফিসার Alexandr Wang CNBC-কে বলেছেন, অনেক শক্তিশালী ওপেন-ওয়েট মডেল বেশিরভাগ পার্সোনাল কম্পিউটারের জন্য অতিরিক্ত বড়, কিন্তু Mac Studio-তে থাকা মেমোরির কারণে Muse Spark Open চালানো বাস্তবসম্মত হয়ে ওঠে।

এই রিলিজ দীর্ঘদিন ধরে বিরোধে থাকা দুটি কোম্পানির মধ্যে একটি প্রকাশ্য সহযোগিতাকেও চিহ্নিত করে। The Verge ও CNBC-র তথ্য অনুযায়ী, Meta-র CEO Mark Zuckerberg X-এ Apple ও তার নতুন CEO John Ternus-কে কৃতিত্ব দিয়েছেন, এবং জবাবে Ternus ডেস্কটপে মডেলটি কতটা দক্ষতার সঙ্গে চলে তার প্রশংসা করেছেন। CNBC জানিয়েছে, কয়েক মাসের সহযোগিতার পর এই কাজ এসেছে, এবং এটি গভীরতর সম্পর্কের দিকে যাবে কি না, তা বলতে দুই কোম্পানির প্রতিনিধিরাই অস্বীকৃতি জানিয়েছেন। CNBC আরও উল্লেখ করেছে যে Meta সম্প্রতি প্রোপ্রাইটারি মডেলকে অগ্রাধিকার দিয়েছে, এবং Muse Spark Open তার প্রোপ্রাইটারি Muse Wonder-এর চেয়ে কম উন্নত। Wang সংবাদমাধ্যমটিকে বলেন, “এগুলো আমাদের তৈরি বা প্রকাশ করা সবচেয়ে সক্ষম মডেল নয়”, এবং যোগ করেন যে তিনি আশা করেন ডেভেলপাররা ব্যবহার বাড়ানোর আগে ছোট পরিসরে এটি নিয়ে পরীক্ষা-নিরীক্ষা করবেন।