Nvidia merilis model terbuka Nemotron 3.5 Super VL, kini juga tersedia di Amazon SageMaker JumpStart

Nvidia telah merilis Nemotron 3.5 Super VL, sebuah model visi-bahasa terbuka dengan 120 miliar parameter yang diposisikan perusahaan untuk agen perusahaan yang selalu aktif (always-on). Menurut Nvidia, model ini dirilis dengan bobot terbuka, dataset terbuka, dan resep pelatihan, serta tersedia di Hugging Face, melalui komunitas ModelScope, dan sebagai microservice Nvidia NIM. Dua model edge yang lebih kecil diumumkan pada saat yang sama: Nemotron 3.5 Bolt 74B-A9B 24GB, yang sudah tersedia sekarang, dan Nemotron 3.5 Bolt E4B 4GB, yang menurut Nvidia akan menyusul pada 23 Oktober.

Sehari setelah peluncuran, AWS menyatakan Nemotron 3.5 Super VL tersedia di Amazon SageMaker JumpStart. Menurut pemberitahuan AWS, model ini menggunakan tulang punggung bahasa hibrida mixture-of-experts dengan 12 miliar parameter aktif ditambah sebuah encoder visi, menerima gambar, video, dan teks sebagai input, menghasilkan output teks, dan mendukung panjang konteks hingga 1 juta token. AWS juga menjelaskan adanya multi-token prediction head bawaan untuk speculative decoding, penalaran yang dapat diaktifkan atau dinonaktifkan per permintaan, dukungan untuk sepuluh bahasa, output JSON terstruktur, dan tool calling. SageMaker JumpStart menawarkan dua varian: build NVFP4 yang ditujukan untuk inferensi pada instans G7 (GPU RTX PRO 4500 Blackwell Server Edition), dan bobot referensi BF16, yang ditawarkan pada ml.p5en.48xlarge, untuk fine-tuning, reinforcement learning, distilasi, dan adaptasi domain. Pelanggan dapat melakukan deployment dari katalog model JumpStart di konsol SageMaker atau melalui SageMaker Python SDK.

Pernyataan kinerja dari Nvidia sendiri belum diverifikasi secara independen dalam sumber-sumber yang tersedia. Perusahaan menyatakan Super VL mencapai akurasi yang sebanding dengan model penalaran terbesarnya dengan jumlah parameter sekitar seperlima, dan mengklaim model ini lima kali lebih cepat daripada model agentik terbuka terbaik berikutnya di kelasnya, dengan mengutip throughput pada papan peringkat Artificial Analysis Intelligence Index. Nvidia juga menyatakan model ini dilatih dengan sekitar 26 triliun token pelatihan dan kemudian menjalani post-training dengan sekitar 3,8 juta sampel, diikuti reinforcement learning di puluhan lingkungan. Sisi visinya menyasar pengenalan karakter optik (OCR), tabel, grafik, dan informasi terstruktur dalam dokumen, halaman web, dan PDF, sehingga agen tidak perlu berpindah antara sistem teks dan sistem gambar yang terpisah.

Nvidia mencantumkan sejumlah organisasi yang mengustomisasi atau mengintegrasikan model ini, termasuk Atlassian untuk pencarian agentik di Jira dan Confluence, CrowdStrike untuk blue teaming (keamanan defensif) perusahaan, Perplexity untuk pencarian dan tugas agentik, Salesforce untuk otomatisasi alur kerja pemerintahan melalui Missionforce Operations, serta Scale AI, yang menurut Nvidia melakukan post-training pada model ini untuk agen keuangan dan due diligence di Skydance dan EY. Bolt 74B-A9B 24GB yang lebih kecil dirancang, menurut Nvidia, untuk menjalankan tugas agentik lokal pada sistem RTX dan DGX Spark menggunakan kuantisasi 2-bit native yang muat dalam memori 24GB, dengan dukungan untuk llama.cpp, Ollama, LM Studio, Unsloth, dan vLLM. Nvidia menyatakan Bolt E4B 4GB ditujukan untuk agen percakapan dan agen fisik pada perangkat keras GeForce RTX, Jetson, dan RTX/DGX Spark.