Nvidia выпускает открытую модель Nemotron 3.5 Super VL, теперь также доступную на Amazon SageMaker JumpStart

Компания Nvidia выпустила Nemotron 3.5 Super VL — открытую визуально-языковую модель со 120 миллиардами параметров, которую компания позиционирует для постоянно работающих корпоративных агентов. По данным Nvidia, модель поставляется с открытыми весами, открытыми наборами данных и рецептами обучения и доступна на Hugging Face, через сообщество ModelScope и в виде микросервиса Nvidia NIM. Одновременно были анонсированы две меньшие модели для локального оборудования: Nemotron 3.5 Bolt 74B-A9B 24GB, которая доступна уже сейчас, и Nemotron 3.5 Bolt E4B 4GB, которая, как сообщает Nvidia, выйдет 23 октября.

Через день после запуска AWS сообщила, что Nemotron 3.5 Super VL доступна на Amazon SageMaker JumpStart. Согласно уведомлению AWS, модель использует гибридную языковую основу на архитектуре смеси экспертов (mixture-of-experts) с 12 миллиардами активных параметров и визуальный энкодер, принимает на вход изображения, видео и текст, выдает текстовый результат и поддерживает контекст длиной до 1 миллиона токенов. AWS также описывает встроенную головку многотокенного предсказания для спекулятивного декодирования, рассуждения, которые можно включать или отключать для каждого запроса, поддержку десяти языков, структурированный вывод в формате JSON и вызов инструментов. SageMaker JumpStart предлагает два варианта: сборку NVFP4, предназначенную для инференса на инстансах G7 (GPU RTX PRO 4500 Blackwell Server Edition), и эталонные веса BF16, предлагаемые на ml.p5en.48xlarge, для дообучения, обучения с подкреплением, дистилляции и доменной адаптации. Клиенты могут развернуть модель из каталога моделей JumpStart в консоли SageMaker или через SageMaker Python SDK.

Собственные заявления Nvidia о производительности не были независимо проверены в доступных источниках. Компания утверждает, что Super VL достигает точности, сопоставимой с ее крупнейшей моделью для рассуждений, при примерно одной пятой числа параметров, и заявляет, что модель в пять раз быстрее следующей лучшей открытой агентной модели своего класса, ссылаясь на пропускную способность в рейтинге Artificial Analysis Intelligence Index. Nvidia также сообщает, что модель была обучена примерно на 26 триллионах токенов, затем прошла пост-обучение примерно на 3,8 миллиона образцов, после чего последовало обучение с подкреплением в десятках сред. Визуальная часть нацелена на оптическое распознавание символов (OCR), таблицы, диаграммы и структурированную информацию в документах, веб-страницах и PDF-файлах, чтобы агентам не требовалось переключаться между отдельными текстовыми и графическими системами.

Nvidia перечисляет ряд организаций, которые адаптируют или интегрируют модель, в том числе Atlassian — для агентного поиска по Jira и Confluence, CrowdStrike — для защитной безопасности (blue teaming) предприятий, Perplexity — для поиска и агентных задач, Salesforce — для автоматизации государственных рабочих процессов через Missionforce Operations, и Scale AI, которая, по словам Nvidia, провела пост-обучение модели для агентов в сфере финансов и due diligence в Skydance и EY. Меньшая модель Bolt 74B-A9B 24GB, по данным Nvidia, предназначена для выполнения локальных агентных задач на системах RTX и DGX Spark с использованием нативной 2-битной квантизации, умещающейся в 24GB памяти, с поддержкой llama.cpp, Ollama, LM Studio, Unsloth и vLLM. Nvidia сообщает, что Bolt E4B 4GB ориентирована на разговорных и физических агентов на оборудовании GeForce RTX, Jetson и RTX/DGX Spark.