Nvidia lança o modelo aberto Nemotron 3.5 Super VL, agora também disponível no Amazon SageMaker JumpStart

A Nvidia lançou o Nemotron 3.5 Super VL, um modelo aberto de visão e linguagem com 120 bilhões de parâmetros que a empresa posiciona para agentes corporativos sempre ativos. Segundo a Nvidia, o modelo é fornecido com pesos abertos, datasets abertos e receitas de treinamento, e está disponível no Hugging Face, por meio da comunidade ModelScope e como microsserviço Nvidia NIM. Dois modelos edge menores foram anunciados ao mesmo tempo: o Nemotron 3.5 Bolt 74B-A9B 24GB, já disponível, e o Nemotron 3.5 Bolt E4B 4GB, que, segundo a Nvidia, chegará em 23 de outubro.

Um dia após o lançamento, a AWS afirmou que o Nemotron 3.5 Super VL está disponível no Amazon SageMaker JumpStart. De acordo com o comunicado da AWS, o modelo usa um backbone de linguagem híbrido do tipo mixture-of-experts com 12 bilhões de parâmetros ativos mais um encoder de visão, aceita imagens, vídeo e texto como entrada, produz saída em texto e suporta comprimentos de contexto de até 1 milhão de tokens. A AWS também descreve uma cabeça de predição multi-token integrada para speculative decoding, raciocínio que pode ser ativado ou desativado por requisição, suporte a dez idiomas, saída JSON estruturada e tool calling. O SageMaker JumpStart oferece duas variantes: uma build NVFP4 destinada à inferência em instâncias G7 (GPUs RTX PRO 4500 Blackwell Server Edition) e pesos de referência BF16, oferecidos em ml.p5en.48xlarge, para fine-tuning, aprendizado por reforço, destilação e adaptação de domínio. Os clientes podem fazer o deploy a partir do catálogo de modelos do JumpStart no console do SageMaker ou por meio do SageMaker Python SDK.

As declarações de desempenho da própria Nvidia não foram verificadas de forma independente nas fontes disponíveis. A empresa diz que o Super VL atinge precisão comparável à do seu maior modelo de raciocínio com cerca de um quinto do número de parâmetros e alega que ele é 5 vezes mais rápido do que o segundo melhor modelo agêntico aberto em sua classe, citando o throughput no ranking Artificial Analysis Intelligence Index. A Nvidia também afirma que o modelo viu cerca de 26 trilhões de tokens de treinamento e passou depois por post-training em aproximadamente 3,8 milhões de amostras, seguido de aprendizado por reforço em dezenas de ambientes. A parte de visão é voltada para reconhecimento óptico de caracteres (OCR), tabelas, gráficos e informações estruturadas em documentos, páginas web e PDFs, para que os agentes não precisem alternar entre sistemas separados de texto e imagem.

A Nvidia lista uma série de organizações que estão personalizando ou integrando o modelo, incluindo a Atlassian para busca agêntica no Jira e no Confluence, a CrowdStrike para blue teaming em segurança corporativa, a Perplexity para busca e tarefas agênticas, a Salesforce para automação de fluxos de trabalho governamentais por meio do Missionforce Operations, e a Scale AI, que, segundo a Nvidia, fez o post-training do modelo para agentes de finanças e due diligence na Skydance e na EY. O menor Bolt 74B-A9B 24GB é projetado, de acordo com a Nvidia, para executar tarefas agênticas locais em sistemas RTX e DGX Spark usando uma quantização nativa de 2 bits que cabe em 24GB de memória, com suporte a llama.cpp, Ollama, LM Studio, Unsloth e vLLM. A Nvidia diz que o Bolt E4B 4GB é voltado para agentes conversacionais e físicos em hardware GeForce RTX, Jetson e RTX/DGX Spark.