Nvidia brengt open model Nemotron 3.5 Super VL uit, nu ook op Amazon SageMaker JumpStart

Nvidia heeft Nemotron 3.5 Super VL uitgebracht, een open vision-language-model met 120 miljard parameters dat het bedrijf positioneert voor always-on bedrijfsagenten. Volgens Nvidia wordt het model geleverd met open gewichten, open datasets en trainingsrecepten en is het beschikbaar op Hugging Face, via de ModelScope-community en als Nvidia NIM-microservice. Tegelijkertijd werden twee kleinere edge-modellen aangekondigd: Nemotron 3.5 Bolt 74B-A9B 24GB, dat nu beschikbaar is, en Nemotron 3.5 Bolt E4B 4GB, dat volgens Nvidia op 23 oktober volgt.

Een dag na de lancering zei AWS dat Nemotron 3.5 Super VL beschikbaar is op Amazon SageMaker JumpStart. Volgens de kennisgeving van AWS gebruikt het model een hybride mixture-of-experts-taalbackbone met 12 miljard actieve parameters plus een vision-encoder, accepteert het afbeeldingen, video en tekst als invoer, produceert het tekst als uitvoer en ondersteunt het contextlengtes tot 1 miljoen tokens. AWS beschrijft ook een ingebouwde multi-token prediction head voor speculative decoding, redeneren dat per verzoek kan worden in- of uitgeschakeld, ondersteuning voor tien talen, gestructureerde JSON-uitvoer en tool calling. SageMaker JumpStart biedt twee varianten: een NVFP4-build bedoeld voor inferentie op G7-instances (GPU's van het type RTX PRO 4500 Blackwell Server Edition) en BF16-referentiegewichten, aangeboden op ml.p5en.48xlarge, voor fine-tuning, reinforcement learning, distillatie en domeinadaptatie. Klanten kunnen uitrollen vanuit de JumpStart-modelcatalogus in de SageMaker-console of via de SageMaker Python SDK.

De eigen prestatieclaims van Nvidia zijn in de beschikbare bronnen niet onafhankelijk geverifieerd. Het bedrijf zegt dat Super VL een nauwkeurigheid bereikt die vergelijkbaar is met die van zijn grootste redeneermodel bij ongeveer een vijfde van het aantal parameters, en claimt dat het vijf keer sneller is dan het eerstvolgende beste open agentische model in zijn klasse, onder verwijzing naar de throughput op het klassement van de Artificial Analysis Intelligence Index. Nvidia zegt ook dat het model ongeveer 26 biljoen trainingstokens heeft gezien en daarna is post-getraind op ruwweg 3,8 miljoen samples, gevolgd door reinforcement learning in tientallen omgevingen. De visuele kant richt zich op optische tekenherkenning (OCR), tabellen, grafieken en gestructureerde informatie in documenten, webpagina's en pdf's, zodat agenten niet hoeven te schakelen tussen afzonderlijke tekst- en beeldsystemen.

Nvidia noemt een aantal organisaties die het model aanpassen of integreren, waaronder Atlassian voor agentisch zoeken in Jira en Confluence, CrowdStrike voor defensieve beveiliging (blue teaming) in bedrijfsomgevingen, Perplexity voor zoeken en agentische taken, Salesforce voor de automatisering van overheidsworkflows via Missionforce Operations, en Scale AI, dat volgens Nvidia het model heeft post-getraind voor financiële en due-diligence-agenten bij Skydance en EY. De kleinere Bolt 74B-A9B 24GB is volgens Nvidia ontworpen om lokale agentische taken uit te voeren op systemen met RTX en DGX Spark, met een native 2-bit-kwantisatie die binnen 24GB geheugen past en met ondersteuning voor llama.cpp, Ollama, LM Studio, Unsloth en vLLM. Nvidia zegt dat Bolt E4B 4GB is gericht op conversationele en fysieke agenten op hardware met GeForce RTX, Jetson en RTX/DGX Spark.