Nvidia نے اوپن Nemotron 3.5 Super VL ماڈل جاری کیا، اب Amazon SageMaker JumpStart پر بھی دستیاب

Nvidia نے Nemotron 3.5 Super VL جاری کیا ہے، جو 120 بلین پیرامیٹرز والا ایک اوپن وژن-لینگویج ماڈل ہے اور جسے کمپنی ہمیشہ فعال رہنے والے انٹرپرائز ایجنٹس کے لیے پیش کرتی ہے۔ Nvidia کے مطابق یہ ماڈل اوپن ویٹس، اوپن ڈیٹا سیٹس اور ٹریننگ ریسیپیز کے ساتھ آتا ہے اور Hugging Face پر، ModelScope کمیونٹی کے ذریعے اور ایک Nvidia NIM مائیکرو سروس کی صورت میں دستیاب ہے۔ اسی وقت دو چھوٹے ایج ماڈلز کا بھی اعلان کیا گیا: Nemotron 3.5 Bolt 74B-A9B 24GB، جو ابھی دستیاب ہے، اور Nemotron 3.5 Bolt E4B 4GB، جو Nvidia کے بقول 23 اکتوبر کو آئے گا۔

لانچ کے ایک دن بعد AWS نے کہا کہ Nemotron 3.5 Super VL اب Amazon SageMaker JumpStart پر دستیاب ہے۔ AWS کے نوٹس کے مطابق یہ ماڈل 12 بلین ایکٹیو پیرامیٹرز والا ایک ہائبرڈ مکسچر-آف-ایکسپرٹس (MoE) لینگویج بیک بون اور ایک وژن انکوڈر استعمال کرتا ہے، تصاویر، ویڈیو اور متن کو ان پٹ کے طور پر قبول کرتا ہے، متن کی صورت میں آؤٹ پٹ دیتا ہے، اور 1 ملین ٹوکنز تک کی کانٹیکسٹ لینگتھ کو سپورٹ کرتا ہے۔ AWS اسپیکولیٹو ڈی کوڈنگ کے لیے ایک بلٹ-ان ملٹی-ٹوکن پریڈکشن ہیڈ، ہر ریکوئسٹ پر آن یا آف کی جا سکنے والی ریزننگ، دس زبانوں کی سپورٹ، سٹرکچرڈ JSON آؤٹ پٹ اور ٹول کالنگ کا بھی ذکر کرتا ہے۔ SageMaker JumpStart دو ویریئنٹس پیش کرتا ہے: ایک NVFP4 بلڈ جو G7 انسٹینسز (RTX PRO 4500 Blackwell Server Edition GPUs) پر انفرنس کے لیے ہے، اور BF16 ریفرنس ویٹس، جو ml.p5en.48xlarge پر فائن ٹیوننگ، ری انفورسمنٹ لرننگ، ڈسٹیلیشن اور ڈومین اڈاپٹیشن کے لیے پیش کیے جاتے ہیں۔ صارفین SageMaker کنسول میں JumpStart ماڈل کیٹلاگ سے یا SageMaker Python SDK کے ذریعے ڈیپلائے کر سکتے ہیں۔

Nvidia کے اپنے کارکردگی کے بیانات کی دستیاب ذرائع میں آزادانہ تصدیق نہیں ہوئی ہے۔ کمپنی کا کہنا ہے کہ Super VL تقریباً ایک پانچواں پیرامیٹر تعداد کے ساتھ اس کے سب سے بڑے ریزننگ ماڈل کے برابر درستگی حاصل کرتا ہے اور دعویٰ کرتی ہے کہ یہ اپنی کلاس کے اگلے بہترین اوپن ایجنٹک ماڈل سے پانچ گنا تیز ہے، جس کے لیے وہ Artificial Analysis Intelligence Index لیڈر بورڈ پر تھرو پٹ کا حوالہ دیتی ہے۔ Nvidia یہ بھی کہتی ہے کہ ماڈل نے تقریباً 26 ٹریلین ٹریننگ ٹوکنز دیکھے اور پھر اسے تقریباً 3.8 ملین سیمپلز پر پوسٹ-ٹرین کیا گیا، جس کے بعد درجنوں ماحول میں ری انفورسمنٹ لرننگ کی گئی۔ وژن کا حصہ آپٹیکل کریکٹر ریکگنیشن (OCR)، ٹیبلز، چارٹس اور دستاویزات، ویب صفحات اور PDFs میں موجود سٹرکچرڈ معلومات کو ہدف بناتا ہے، تاکہ ایجنٹس کو الگ الگ ٹیکسٹ اور امیج سسٹمز کے درمیان کام منتقل نہ کرنا پڑے۔

Nvidia کئی اداروں کو ماڈل کو کسٹمائز یا انٹیگریٹ کرنے والوں کے طور پر درج کرتی ہے، جن میں Jira اور Confluence میں ایجنٹک سرچ کے لیے Atlassian، انٹرپرائز سیکیورٹی بلیو ٹیمنگ (دفاعی سیکیورٹی) کے لیے CrowdStrike، سرچ اور ایجنٹک ٹاسکس کے لیے Perplexity، Missionforce Operations کے ذریعے سرکاری ورک فلو آٹومیشن کے لیے Salesforce، اور Scale AI شامل ہیں، جس نے Nvidia کے بقول Skydance اور EY میں فنانس اور ڈیو ڈیلیجنس ایجنٹس کے لیے ماڈل کو پوسٹ-ٹرین کیا۔ چھوٹا Bolt 74B-A9B 24GB، Nvidia کے مطابق، RTX اور DGX Spark سسٹمز پر مقامی ایجنٹک ٹاسکس چلانے کے لیے ڈیزائن کیا گیا ہے اور ایک نیٹو 2-بٹ کوانٹائزیشن استعمال کرتا ہے جو 24GB میموری میں فٹ ہو جاتی ہے، اور اسے llama.cpp، Ollama، LM Studio، Unsloth اور vLLM کی سپورٹ حاصل ہے۔ Nvidia کا کہنا ہے کہ Bolt E4B 4GB کا ہدف GeForce RTX، Jetson اور RTX/DGX Spark ہارڈویئر پر گفتگو کرنے والے اور فزیکل ایجنٹس ہیں۔