Nvidia, 오픈 모델 Nemotron 3.5 Super VL 공개, Amazon SageMaker JumpStart에서도 제공

Nvidia는 1200억 파라미터를 갖춘 오픈 비전-언어 모델 Nemotron 3.5 Super VL을 공개했다. 회사는 이 모델을 상시 가동되는 엔터프라이즈 에이전트용으로 포지셔닝한다. Nvidia에 따르면 모델은 공개된 가중치, 공개 데이터셋, 학습 레시피와 함께 제공되며 Hugging Face, ModelScope 커뮤니티, 그리고 Nvidia NIM 마이크로서비스로 이용할 수 있다. 같은 시점에 두 개의 소형 엣지 모델도 발표됐다. Nemotron 3.5 Bolt 74B-A9B 24GB는 현재 이용 가능하며, Nemotron 3.5 Bolt E4B 4GB는 10월 23일에 출시될 것이라고 Nvidia는 밝혔다.

출시 하루 뒤, AWS는 Nemotron 3.5 Super VL이 Amazon SageMaker JumpStart에서 이용 가능하다고 밝혔다. AWS 공지에 따르면 이 모델은 120억 활성 파라미터를 가진 하이브리드 전문가 혼합(MoE) 언어 백본과 비전 인코더를 결합하고, 이미지, 비디오, 텍스트를 입력으로 받아 텍스트를 출력하며, 최대 100만 토큰의 컨텍스트 길이를 지원한다. AWS는 또한 추측 디코딩을 위한 내장 멀티 토큰 예측 헤드, 요청별로 켜고 끌 수 있는 추론 기능, 10개 언어 지원, 구조화된 JSON 출력, 툴 호출도 설명한다. SageMaker JumpStart는 두 가지 변형을 제공한다. G7 인스턴스(RTX PRO 4500 Blackwell Server Edition GPU)에서의 추론을 위한 NVFP4 빌드와, 파인튜닝, 강화학습, 증류, 도메인 적응을 위해 ml.p5en.48xlarge에서 제공되는 BF16 참조 가중치다. 고객은 SageMaker 콘솔의 JumpStart 모델 카탈로그에서 또는 SageMaker Python SDK를 통해 배포할 수 있다.

Nvidia 자체의 성능 관련 발언은 이용 가능한 출처에서 독립적으로 검증되지 않았다. 회사는 Super VL이 약 5분의 1의 파라미터 수로 자사 최대 추론 모델에 상응하는 정확도에 도달한다고 말하며, Artificial Analysis Intelligence Index 리더보드의 처리량을 인용해 같은 급에서 다음으로 우수한 오픈 에이전트 모델보다 5배 빠르다고 주장한다. Nvidia는 또한 모델이 약 26조 개의 학습 토큰을 거친 뒤 약 380만 개의 샘플로 사후 학습(포스트 트레이닝)되었고, 이어 수십 개의 환경에서 강화학습을 진행했다고 밝혔다. 비전 측면은 문서, 웹 페이지, PDF에 담긴 광학 문자 인식(OCR), 표, 차트, 구조화된 정보를 대상으로 하여, 에이전트가 별도의 텍스트 시스템과 이미지 시스템 사이에서 작업을 넘길 필요가 없도록 한다.

Nvidia는 모델을 커스터마이징하거나 통합하고 있는 조직으로 여러 곳을 열거한다. Jira와 Confluence 전반의 에이전트 검색을 위한 Atlassian, 엔터프라이즈 보안 블루 티밍(방어적 보안)을 위한 CrowdStrike, 검색 및 에이전트 작업을 위한 Perplexity, Missionforce Operations를 통한 정부 워크플로 자동화를 위한 Salesforce, 그리고 Skydance와 EY의 금융 및 실사(due diligence) 에이전트를 위해 모델을 사후 학습했다고 Nvidia가 밝힌 Scale AI 등이다. 소형 Bolt 74B-A9B 24GB는 Nvidia에 따르면 24GB 메모리에 들어가는 네이티브 2비트 양자화를 사용해 RTX 및 DGX Spark 시스템에서 로컬 에이전트 작업을 실행하도록 설계됐으며, llama.cpp, Ollama, LM Studio, Unsloth, vLLM을 지원한다. Nvidia는 Bolt E4B 4GB가 GeForce RTX, Jetson, RTX/DGX Spark 하드웨어의 대화형 에이전트와 피지컬 에이전트를 겨냥한다고 밝혔다.