Nvidia lansează modelul deschis Nemotron 3.5 Super VL, disponibil acum și pe Amazon SageMaker JumpStart

Nvidia a lansat Nemotron 3.5 Super VL, un model vizual-lingvistic deschis cu 120 de miliarde de parametri, pe care compania îl poziționează pentru agenți enterprise activi permanent. Potrivit Nvidia, modelul este livrat cu ponderi deschise, seturi de date deschise și rețete de antrenare și este disponibil pe Hugging Face, prin comunitatea ModelScope și ca microserviciu Nvidia NIM. Două modele edge mai mici au fost anunțate în același timp: Nemotron 3.5 Bolt 74B-A9B 24GB, care este disponibil acum, și Nemotron 3.5 Bolt E4B 4GB, care, spune Nvidia, va urma pe 23 octombrie.

O zi după lansare, AWS a declarat că Nemotron 3.5 Super VL este disponibil pe Amazon SageMaker JumpStart. Potrivit anunțului AWS, modelul folosește o arhitectură lingvistică hibridă de tip mixture-of-experts cu 12 miliarde de parametri activi plus un codificator vizual, acceptă imagini, video și text ca intrare, produce text ca ieșire și suportă lungimi de context de până la 1 milion de tokeni. AWS descrie, de asemenea, un cap de predicție multi-token integrat pentru decodare speculativă, raționament care poate fi activat sau dezactivat per cerere, suport pentru zece limbi, ieșire JSON structurată și apelare de instrumente (tool calling). SageMaker JumpStart oferă două variante: o versiune NVFP4 destinată inferenței pe instanțe G7 (GPU-uri RTX PRO 4500 Blackwell Server Edition) și ponderi de referință BF16, oferite pe ml.p5en.48xlarge, pentru fine-tuning, învățare prin întărire, distilare și adaptare la domeniu. Clienții pot implementa modelul din catalogul JumpStart în consola SageMaker sau prin SageMaker Python SDK.

Declarațiile Nvidia privind performanța nu au fost verificate independent în sursele disponibile. Compania afirmă că Super VL atinge o acuratețe comparabilă cu cea a celui mai mare model de raționament al său la aproximativ o cincime din numărul de parametri și susține că este de cinci ori mai rapid decât următorul cel mai bun model agentic deschis din clasa sa, invocând debitul (throughput) din clasamentul Artificial Analysis Intelligence Index. Nvidia spune, de asemenea, că modelul a văzut aproximativ 26 de trilioane de tokeni de antrenare și a fost apoi post-antrenat pe circa 3,8 milioane de eșantioane, urmate de învățare prin întărire în zeci de medii. Partea vizuală vizează recunoașterea optică a caracterelor (OCR), tabele, grafice și informații structurate din documente, pagini web și PDF-uri, astfel încât agenții să nu fie nevoiți să comute între sisteme separate pentru text și imagini.

Nvidia enumeră o serie de organizații care personalizează sau integrează modelul, printre care Atlassian pentru căutare agentică în Jira și Confluence, CrowdStrike pentru securitate enterprise defensivă (blue teaming), Perplexity pentru căutare și sarcini agentice, Salesforce pentru automatizarea fluxurilor de lucru guvernamentale prin Missionforce Operations și Scale AI, care, spune Nvidia, a post-antrenat modelul pentru agenți de finanțe și due diligence la Skydance și EY. Modelul mai mic Bolt 74B-A9B 24GB este conceput, potrivit Nvidia, pentru a rula sarcini agentice locale pe sisteme RTX și DGX Spark folosind o cuantizare nativă pe 2 biți care încape în 24GB de memorie, cu suport pentru llama.cpp, Ollama, LM Studio, Unsloth și vLLM. Nvidia spune că Bolt E4B 4GB vizează agenți conversaționali și fizici pe hardware GeForce RTX, Jetson și RTX/DGX Spark.