Nvidia rilascia il modello aperto Nemotron 3.5 Super VL, ora disponibile anche su Amazon SageMaker JumpStart

Nvidia ha rilasciato Nemotron 3.5 Super VL, un modello visione-linguaggio aperto con 120 miliardi di parametri che l'azienda posiziona per agenti aziendali sempre attivi. Secondo Nvidia, il modello viene fornito con pesi aperti, dataset aperti e ricette di addestramento, ed è disponibile su Hugging Face, tramite la community ModelScope e come microservizio Nvidia NIM. Contestualmente sono stati annunciati due modelli edge più piccoli: Nemotron 3.5 Bolt 74B-A9B 24GB, già disponibile, e Nemotron 3.5 Bolt E4B 4GB, che secondo Nvidia seguirà il 23 ottobre.

Un giorno dopo il lancio, AWS ha dichiarato che Nemotron 3.5 Super VL è disponibile su Amazon SageMaker JumpStart. Secondo la comunicazione di AWS, il modello utilizza un backbone linguistico ibrido mixture-of-experts con 12 miliardi di parametri attivi più un encoder visivo, accetta in input immagini, video e testo, produce output testuale e supporta lunghezze di contesto fino a 1 milione di token. AWS descrive inoltre una testa di predizione multi-token integrata per lo speculative decoding, un ragionamento attivabile o disattivabile per singola richiesta, il supporto per dieci lingue, l'output JSON strutturato e il tool calling. SageMaker JumpStart offre due varianti: una build NVFP4 pensata per l'inferenza su istanze G7 (GPU RTX PRO 4500 Blackwell Server Edition) e pesi di riferimento BF16, offerti su ml.p5en.48xlarge, per fine-tuning, reinforcement learning, distillazione e adattamento al dominio. I clienti possono effettuare il deployment dal catalogo dei modelli JumpStart nella console SageMaker o tramite il SageMaker Python SDK.

Le dichiarazioni di Nvidia sulle prestazioni non sono state verificate in modo indipendente nelle fonti disponibili. L'azienda afferma che Super VL raggiunge un'accuratezza comparabile a quella del suo più grande modello di ragionamento con circa un quinto dei parametri e sostiene che sia 5 volte più veloce del miglior modello agentico aperto successivo nella sua classe, citando il throughput nella classifica Artificial Analysis Intelligence Index. Nvidia afferma inoltre che il modello ha visto circa 26 mila miliardi di token di addestramento ed è stato poi sottoposto a post-training su circa 3,8 milioni di campioni, seguito da reinforcement learning in decine di ambienti. La parte visiva punta al riconoscimento ottico dei caratteri (OCR), a tabelle, grafici e informazioni strutturate in documenti, pagine web e PDF, in modo che gli agenti non debbano passare da sistemi separati per testo e immagini.

Nvidia elenca una serie di organizzazioni che stanno personalizzando o integrando il modello, tra cui Atlassian per la ricerca agentica su Jira e Confluence, CrowdStrike per il blue teaming nella sicurezza aziendale, Perplexity per la ricerca e le attività agentiche, Salesforce per l'automazione dei flussi di lavoro governativi tramite Missionforce Operations, e Scale AI, che secondo Nvidia ha effettuato il post-training del modello per agenti di finanza e due diligence presso Skydance ed EY. Il più piccolo Bolt 74B-A9B 24GB è progettato, secondo Nvidia, per eseguire attività agentiche locali su sistemi RTX e DGX Spark utilizzando una quantizzazione nativa a 2 bit che rientra in 24GB di memoria, con supporto per llama.cpp, Ollama, LM Studio, Unsloth e vLLM. Nvidia afferma che Bolt E4B 4GB è destinato ad agenti conversazionali e fisici su hardware GeForce RTX, Jetson e RTX/DGX Spark.