Nvidia lanza el modelo abierto Nemotron 3.5 Super VL, ahora también en Amazon SageMaker JumpStart

Nvidia ha lanzado Nemotron 3.5 Super VL, un modelo abierto de visión y lenguaje con 120 mil millones de parámetros que la compañía posiciona para agentes empresariales siempre activos. Según Nvidia, el modelo se entrega con pesos abiertos, conjuntos de datos abiertos y recetas de entrenamiento, y está disponible en Hugging Face, a través de la comunidad ModelScope y como microservicio Nvidia NIM. Al mismo tiempo se anunciaron dos modelos edge más pequeños, destinados a hardware local: Nemotron 3.5 Bolt 74B-A9B 24GB, disponible desde ya, y Nemotron 3.5 Bolt E4B 4GB, que según Nvidia llegará el 23 de octubre.

Un día después del lanzamiento, AWS dijo que Nemotron 3.5 Super VL está disponible en Amazon SageMaker JumpStart. Según el aviso de AWS, el modelo utiliza un backbone de lenguaje híbrido de tipo mixture-of-experts (mezcla de expertos) con 12 mil millones de parámetros activos más un codificador de visión, acepta imágenes, vídeo y texto como entrada, produce texto como salida y admite longitudes de contexto de hasta 1 millón de tokens. AWS también describe una cabeza de predicción multi-token integrada para decodificación especulativa, razonamiento que puede activarse o desactivarse en cada petición, soporte para diez idiomas, salida JSON estructurada y llamada a herramientas (tool calling). SageMaker JumpStart ofrece dos variantes: una compilación NVFP4 pensada para inferencia en instancias G7 (GPU RTX PRO 4500 Blackwell Server Edition) y pesos de referencia BF16, ofrecidos en ml.p5en.48xlarge, para fine-tuning, aprendizaje por refuerzo, destilación y adaptación de dominio. Los clientes pueden desplegarlo desde el catálogo de modelos de JumpStart en la consola de SageMaker o mediante el SageMaker Python SDK.

Las declaraciones de rendimiento de la propia Nvidia no han sido verificadas de forma independiente en las fuentes disponibles. La compañía dice que Super VL alcanza una precisión comparable a la de su mayor modelo de razonamiento con aproximadamente una quinta parte de los parámetros y afirma que es cinco veces más rápido que el siguiente mejor modelo agéntico abierto de su clase, citando el rendimiento (throughput) en la clasificación Artificial Analysis Intelligence Index. Nvidia también dice que el modelo vio unos 26 billones de tokens de entrenamiento y después fue post-entrenado con aproximadamente 3,8 millones de muestras, seguido de aprendizaje por refuerzo en decenas de entornos. La parte de visión se centra en el reconocimiento óptico de caracteres (OCR), tablas, gráficos e información estructurada en documentos, páginas web y PDF, de modo que los agentes no necesiten alternar entre sistemas separados de texto e imagen.

Nvidia enumera varias organizaciones que personalizan o integran el modelo, entre ellas Atlassian para búsqueda agéntica en Jira y Confluence, CrowdStrike para seguridad defensiva (blue teaming) empresarial, Perplexity para búsqueda y tareas agénticas, Salesforce para automatización de flujos de trabajo gubernamentales mediante Missionforce Operations, y Scale AI, que según Nvidia post-entrenó el modelo para agentes de finanzas y due diligence en Skydance y EY. El más pequeño Bolt 74B-A9B 24GB está diseñado, según Nvidia, para ejecutar tareas agénticas locales en sistemas RTX y DGX Spark mediante una cuantización nativa de 2 bits que cabe en 24GB de memoria, con soporte para llama.cpp, Ollama, LM Studio, Unsloth y vLLM. Nvidia dice que Bolt E4B 4GB está orientado a agentes conversacionales y físicos en hardware GeForce RTX, Jetson y RTX/DGX Spark.