Nvidia släpper den öppna modellen Nemotron 3.5 Super VL, nu även på Amazon SageMaker JumpStart

Nvidia har släppt Nemotron 3.5 Super VL, en öppen multimodal bild- och textmodell (vision-language model) med 120 miljarder parametrar som företaget positionerar för ständigt aktiva företagsagenter. Enligt Nvidia levereras modellen med öppna vikter, öppna datamängder och träningsrecept och finns tillgänglig på Hugging Face, via ModelScope-communityn och som en Nvidia NIM-mikrotjänst. Två mindre modeller för lokal hårdvara (edge) tillkännagavs samtidigt: Nemotron 3.5 Bolt 74B-A9B 24GB, som är tillgänglig nu, och Nemotron 3.5 Bolt E4B 4GB, som enligt Nvidia följer den 23 oktober.

Dagen efter lanseringen meddelade AWS att Nemotron 3.5 Super VL finns tillgänglig på Amazon SageMaker JumpStart. Enligt meddelandet från AWS använder modellen en hybrid språkryggrad av typen mixture-of-experts (MoE) med 12 miljarder aktiva parametrar plus en bildkodare, tar emot bilder, video och text som indata, producerar textutdata och stöder kontextlängder på upp till 1 miljon tokens. AWS beskriver också ett inbyggt huvud för flertokenprediktion för spekulativ avkodning, resonerande som kan slås på eller av per förfrågan, stöd för tio språk, strukturerad JSON-utdata och verktygsanrop. SageMaker JumpStart erbjuder två varianter: ett NVFP4-bygge avsett för inferens på G7-instanser (RTX PRO 4500 Blackwell Server Edition-GPU:er) och BF16-referensvikter, som erbjuds på ml.p5en.48xlarge, för finjustering, förstärkningsinlärning, destillering och domänanpassning. Kunder kan driftsätta modellen från JumpStart-modellkatalogen i SageMaker-konsolen eller via SageMaker Python SDK.

De egna prestandauppgifterna från Nvidia har inte verifierats oberoende i de tillgängliga källorna. Företaget säger att Super VL når en precision jämförbar med dess största resoneringsmodell vid ungefär en femtedel av antalet parametrar och hävdar att den är fem gånger snabbare än den näst bästa öppna agentmodellen i sin klass, med hänvisning till genomströmning på topplistan Artificial Analysis Intelligence Index. Nvidia säger också att modellen tränades på cirka 26 biljoner tokens och därefter eftertränades (post-training) på ungefär 3,8 miljoner exempel, följt av förstärkningsinlärning i dussintals miljöer. Bildsidan är inriktad på optisk teckenigenkänning (OCR), tabeller, diagram och strukturerad information i dokument, webbsidor och PDF-filer, så att agenter inte behöver växla mellan separata text- och bildsystem.

Nvidia räknar upp ett antal organisationer som anpassar eller integrerar modellen, bland andra Atlassian för agentbaserad sökning i Jira och Confluence, CrowdStrike för defensiv säkerhet (blue teaming) i företag, Perplexity för sökning och agentuppgifter, Salesforce för automatisering av arbetsflöden inom offentlig förvaltning via Missionforce Operations samt Scale AI, som enligt Nvidia eftertränade modellen för finans- och due diligence-agenter hos Skydance och EY. Den mindre Bolt 74B-A9B 24GB är enligt Nvidia utformad för att köra lokala agentuppgifter på RTX- och DGX Spark-system med en nativ 2-bitars kvantisering som ryms inom 24GB minne, med stöd för llama.cpp, Ollama, LM Studio, Unsloth och vLLM. Nvidia säger att Bolt E4B 4GB riktar sig till konversationsagenter och fysiska agenter på GeForce RTX-, Jetson- och RTX/DGX Spark-hårdvara.