Nvidia ने ओपन Nemotron 3.5 Super VL मॉडल जारी किया, अब Amazon SageMaker JumpStart पर भी उपलब्ध
120 बिलियन पैरामीटर वाला यह विज़न-लैंग्वेज मॉडल ओपन वेट्स, डेटासेट और ट्रेनिंग रेसिपी के साथ आता है, साथ ही स्थानीय हार्डवेयर के लिए दो छोटे Bolt मॉडल भी। Nvidia के गति और सटीकता के आंकड़े वेंडर के दावे ही बने हुए हैं।
मुख्य बातें
- 1AWS और Nvidia के अनुसार, Nemotron 3.5 Super VL 120B पैरामीटर वाला एक ओपन विज़न-लैंग्वेज मॉडल है, जिसमें मिक्सचर-ऑफ-एक्सपर्ट्स बैकबोन और 12B सक्रिय पैरामीटर हैं।
- 2मॉडल इनपुट के रूप में छवियां, वीडियो, दस्तावेज़ और टेक्स्ट लेता है, टेक्स्ट आउटपुट देता है और 1 मिलियन टोकन तक के कॉन्टेक्स्ट का समर्थन करता है, जिसमें रीज़निंग प्रति अनुरोध कॉन्फ़िगर की जा सकती है।
- 3AWS ने 16 अक्टूबर को कहा कि मॉडल को Amazon SageMaker JumpStart पर NVFP4 और BF16 वेरिएंट में कंसोल कैटलॉग या Python SDK के माध्यम से तैनात किया जा सकता है।
- 4Nvidia अपनी श्रेणी के अगले सर्वश्रेष्ठ ओपन मॉडल से पांच गुना तक तेज़ थ्रूपुट और एक-पांचवें आकार में लगभग फ्रंटियर-स्तर की सटीकता का दावा करती है; स्रोतों में इन आंकड़ों की स्वतंत्र पुष्टि नहीं हुई है।
- 5रिलीज़ के साथ दो एज मॉडल आते हैं: 2-बिट क्वांटाइज़ेशन वाला Bolt 74B-A9B 24GB अभी उपलब्ध है, और Bolt E4B 4GB 23 अक्टूबर को आने वाला है।
पूरी खबर
Nvidia ने Nemotron 3.5 Super VL जारी किया है, जो 120 बिलियन पैरामीटर वाला एक ओपन विज़न-लैंग्वेज मॉडल है और जिसे कंपनी हमेशा सक्रिय रहने वाले एंटरप्राइज़ एजेंटों के लिए प्रस्तुत करती है। Nvidia के अनुसार, मॉडल ओपन वेट्स, ओपन डेटासेट और ट्रेनिंग रेसिपी के साथ आता है और Hugging Face पर, ModelScope समुदाय के माध्यम से और Nvidia NIM माइक्रोसर्विस के रूप में उपलब्ध है। उसी समय दो छोटे एज मॉडल की घोषणा की गई: Nemotron 3.5 Bolt 74B-A9B 24GB, जो अभी उपलब्ध है, और Nemotron 3.5 Bolt E4B 4GB, जो Nvidia के अनुसार 23 अक्टूबर को आएगा।
लॉन्च के एक दिन बाद, AWS ने कहा कि Nemotron 3.5 Super VL Amazon SageMaker JumpStart पर उपलब्ध है। AWS की सूचना के अनुसार, मॉडल 12 बिलियन सक्रिय पैरामीटर वाले एक हाइब्रिड मिक्सचर-ऑफ-एक्सपर्ट्स (MoE) लैंग्वेज बैकबोन और एक विज़न एनकोडर का उपयोग करता है, इनपुट के रूप में छवियां, वीडियो और टेक्स्ट स्वीकार करता है, टेक्स्ट आउटपुट देता है और 1 मिलियन टोकन तक की कॉन्टेक्स्ट लंबाई का समर्थन करता है। AWS स्पेक्युलेटिव डिकोडिंग के लिए एक अंतर्निर्मित मल्टी-टोकन प्रेडिक्शन हेड, प्रति अनुरोध चालू या बंद की जा सकने वाली रीज़निंग, दस भाषाओं के समर्थन, संरचित JSON आउटपुट और टूल कॉलिंग का भी वर्णन करता है। SageMaker JumpStart दो वेरिएंट प्रदान करता है: G7 इंस्टेंस (RTX PRO 4500 Blackwell Server Edition GPU) पर इन्फरेंस के लिए बना एक NVFP4 बिल्ड, और ml.p5en.48xlarge पर उपलब्ध BF16 रेफरेंस वेट्स, जो फाइन-ट्यूनिंग, रीइन्फोर्समेंट लर्निंग, डिस्टिलेशन और डोमेन अनुकूलन के लिए हैं। ग्राहक SageMaker कंसोल में JumpStart मॉडल कैटलॉग से या SageMaker Python SDK के माध्यम से इसे तैनात कर सकते हैं।
Nvidia के अपने प्रदर्शन संबंधी बयानों की उपलब्ध स्रोतों में स्वतंत्र रूप से पुष्टि नहीं हुई है। कंपनी का कहना है कि Super VL लगभग एक-पांचवें पैरामीटर संख्या के साथ उसके सबसे बड़े रीज़निंग मॉडल के तुलनीय सटीकता तक पहुंचता है, और Artificial Analysis Intelligence Index लीडरबोर्ड पर थ्रूपुट का हवाला देते हुए दावा करती है कि यह अपनी श्रेणी के अगले सर्वश्रेष्ठ ओपन एजेंटिक मॉडल से पांच गुना तेज़ है। Nvidia यह भी कहती है कि मॉडल ने लगभग 26 ट्रिलियन ट्रेनिंग टोकन देखे और फिर लगभग 3.8 मिलियन सैंपल पर उसकी पोस्ट-ट्रेनिंग की गई, जिसके बाद दर्जनों वातावरणों में रीइन्फोर्समेंट लर्निंग हुई। विज़न पक्ष दस्तावेज़ों, वेब पेजों और PDF में ऑप्टिकल कैरेक्टर रिकग्निशन (OCR), तालिकाओं, चार्ट और संरचित जानकारी को लक्षित करता है, ताकि एजेंटों को अलग-अलग टेक्स्ट और इमेज सिस्टम के बीच हैंडऑफ न करना पड़े।
Nvidia कई संगठनों को मॉडल को अनुकूलित या एकीकृत करने वालों के रूप में सूचीबद्ध करती है, जिनमें Jira और Confluence में एजेंटिक खोज के लिए Atlassian, एंटरप्राइज़ सुरक्षा ब्लू टीमिंग (रक्षात्मक सुरक्षा) के लिए CrowdStrike, खोज और एजेंटिक कार्यों के लिए Perplexity, Missionforce Operations के माध्यम से सरकारी वर्कफ़्लो ऑटोमेशन के लिए Salesforce, और Scale AI शामिल हैं, जिसने Nvidia के अनुसार Skydance और EY में वित्त और ड्यू डिलिजेंस एजेंटों के लिए मॉडल को पोस्ट-ट्रेन किया। छोटा Bolt 74B-A9B 24GB, Nvidia के अनुसार, RTX और DGX Spark सिस्टम पर स्थानीय एजेंटिक कार्य चलाने के लिए डिज़ाइन किया गया है, जिसमें 24GB मेमोरी में समाने वाला नेटिव 2-बिट क्वांटाइज़ेशन इस्तेमाल होता है और llama.cpp, Ollama, LM Studio, Unsloth और vLLM का समर्थन है। Nvidia का कहना है कि Bolt E4B 4GB GeForce RTX, Jetson और RTX/DGX Spark हार्डवेयर पर संवादात्मक और भौतिक एजेंटों के लिए है।
यह क्यों मायने रखता है
ओपन वेट्स, ट्रेनिंग रेसिपी और डेटासेट उद्यमों को अपने स्वयं के इंफ्रास्ट्रक्चर पर एक मल्टीमोडल एजेंट मॉडल को फाइन-ट्यून और होस्ट करने का रास्ता देते हैं, और SageMaker JumpStart पर सूचीबद्ध होना AWS पर इसे आज़माने की बाधा कम करता है। नामित इंटीग्रेटर शुरुआती व्यावसायिक अपनाने का संकेत देते हैं, लेकिन गति और सटीकता के आंकड़े केवल Nvidia से आते हैं और स्वतंत्र परीक्षण उपलब्ध होने तक उन्हें वेंडर के दावों के रूप में पढ़ा जाना चाहिए।
समयरेखा
· प्रकाशित
विषय#Nvidia#Nemotron#ओपन मॉडल#विज़न-लैंग्वेज मॉडल#AWS SageMaker#AI एजेंट
स्रोत
यह खबर नीचे दिए स्रोतों पर आधारित है। पूरा संदर्भ जानने के लिए उन्हें पढ़ें।
