Nvidia випускає відкриту модель Nemotron 3.5 Super VL, тепер також доступну на Amazon SageMaker JumpStart

Компанія Nvidia випустила Nemotron 3.5 Super VL — відкриту візуально-мовну модель зі 120 мільярдами параметрів, яку компанія позиціонує для постійно працюючих корпоративних агентів. За даними Nvidia, модель постачається з відкритими вагами, відкритими наборами даних і рецептами навчання та доступна на Hugging Face, через спільноту ModelScope і як мікросервіс Nvidia NIM. Водночас було анонсовано дві менші моделі для локального обладнання: Nemotron 3.5 Bolt 74B-A9B 24GB, яка доступна вже зараз, і Nemotron 3.5 Bolt E4B 4GB, яка, за словами Nvidia, вийде 23 жовтня.

Через день після запуску AWS повідомила, що Nemotron 3.5 Super VL доступна на Amazon SageMaker JumpStart. Згідно з повідомленням AWS, модель використовує гібридну мовну основу на архітектурі суміші експертів (mixture-of-experts) із 12 мільярдами активних параметрів і візуальний енкодер, приймає на вхід зображення, відео й текст, видає текстовий результат і підтримує контекст довжиною до 1 мільйона токенів. AWS також описує вбудовану голову багатотокенного передбачення для спекулятивного декодування, міркування, які можна вмикати або вимикати для кожного запиту, підтримку десяти мов, структурований вивід у форматі JSON і виклик інструментів. SageMaker JumpStart пропонує два варіанти: збірку NVFP4, призначену для інференсу на інстансах G7 (GPU RTX PRO 4500 Blackwell Server Edition), і еталонні ваги BF16, що пропонуються на ml.p5en.48xlarge, для донавчання, навчання з підкріпленням, дистиляції та доменної адаптації. Клієнти можуть розгорнути модель із каталогу моделей JumpStart у консолі SageMaker або через SageMaker Python SDK.

Власні заяви Nvidia про продуктивність не були незалежно перевірені в доступних джерелах. Компанія стверджує, що Super VL досягає точності, порівнянної з її найбільшою моделлю для міркувань, за приблизно однієї п'ятої кількості параметрів, і заявляє, що модель у п'ять разів швидша за наступну найкращу відкриту агентну модель свого класу, посилаючись на пропускну здатність у рейтингу Artificial Analysis Intelligence Index. Nvidia також повідомляє, що модель навчалася приблизно на 26 трильйонах токенів, а потім пройшла постнавчання приблизно на 3,8 мільйона зразків, після чого відбулося навчання з підкріпленням у десятках середовищ. Візуальна частина спрямована на оптичне розпізнавання символів (OCR), таблиці, діаграми та структуровану інформацію в документах, вебсторінках і PDF-файлах, щоб агентам не доводилося перемикатися між окремими текстовими та графічними системами.

Nvidia перелічує низку організацій, які адаптують або інтегрують модель, зокрема Atlassian — для агентного пошуку в Jira і Confluence, CrowdStrike — для захисної безпеки (blue teaming) підприємств, Perplexity — для пошуку та агентних завдань, Salesforce — для автоматизації державних робочих процесів через Missionforce Operations, і Scale AI, яка, за словами Nvidia, провела постнавчання моделі для агентів у сфері фінансів і due diligence у Skydance та EY. Менша модель Bolt 74B-A9B 24GB, за даними Nvidia, призначена для виконання локальних агентних завдань на системах RTX і DGX Spark із використанням нативного 2-бітного квантування, що вміщується в 24GB пам'яті, з підтримкою llama.cpp, Ollama, LM Studio, Unsloth і vLLM. Nvidia повідомляє, що Bolt E4B 4GB орієнтована на розмовних і фізичних агентів на обладнанні GeForce RTX, Jetson і RTX/DGX Spark.