NvidiaがオープンモデルNemotron 3.5 Super VLを公開、Amazon SageMaker JumpStartでも提供開始

Nvidiaは、1200億パラメータを備えたオープンな視覚言語モデルNemotron 3.5 Super VLを公開した。同社はこのモデルを常時稼働するエンタープライズエージェント向けに位置付けている。Nvidiaによると、モデルは公開された重み、公開データセット、学習レシピとともに提供され、Hugging Face、ModelScopeコミュニティ、およびNvidia NIMマイクロサービスとして利用できる。同時に2つの小型エッジモデルも発表された。Nemotron 3.5 Bolt 74B-A9B 24GBは現在利用可能で、Nemotron 3.5 Bolt E4B 4GBは10月23日に提供されるとNvidiaは述べている。

発表の翌日、AWSはNemotron 3.5 Super VLがAmazon SageMaker JumpStartで利用可能になったと発表した。AWSの通知によると、このモデルは120億のアクティブパラメータを持つハイブリッドMixture-of-Experts(MoE)言語バックボーンにビジョンエンコーダーを組み合わせ、画像、動画、テキストを入力として受け付け、テキストを出力し、最大100万トークンのコンテキスト長に対応する。AWSはまた、投機的デコーディングのための組み込みのマルチトークン予測ヘッド、リクエストごとにオン・オフを切り替えられる推論機能、10言語のサポート、構造化JSON出力、ツール呼び出しについても説明している。SageMaker JumpStartでは2つのバリアントが提供される。G7インスタンス(RTX PRO 4500 Blackwell Server Edition GPU)での推論を想定したNVFP4ビルドと、ファインチューニング、強化学習、蒸留、ドメイン適応向けにml.p5en.48xlargeで提供されるBF16リファレンス重みである。顧客はSageMakerコンソールのJumpStartモデルカタログから、またはSageMaker Python SDKを通じてデプロイできる。

Nvidia自身の性能に関する発言は、入手可能な情報源では独立して検証されていない。同社は、Super VLが約5分の1のパラメータ数で同社最大の推論モデルに匹敵する精度に達すると述べ、Artificial Analysis Intelligence Indexリーダーボードのスループットを引用して、同クラスで次に優れたオープンなエージェント型モデルより5倍高速だと主張している。Nvidiaはまた、モデルが約26兆の学習トークンを処理した後、約380万サンプルでポストトレーニングされ、続いて数十の環境で強化学習を行ったとしている。ビジョン面では、文書、ウェブページ、PDFに含まれる光学文字認識(OCR)、表、グラフ、構造化情報を対象としており、エージェントが別々のテキストシステムと画像システムの間で処理を引き渡す必要がなくなる。

Nvidiaは、モデルをカスタマイズまたは統合している組織として複数の企業を挙げている。JiraとConfluenceを横断するエージェント型検索のAtlassian、エンタープライズセキュリティのブルーチーミング(防御的セキュリティ)のCrowdStrike、検索とエージェントタスクのPerplexity、Missionforce Operationsを通じた政府ワークフロー自動化のSalesforce、そしてSkydanceとEYの金融およびデューデリジェンス向けエージェントのためにモデルをポストトレーニングしたとNvidiaが述べるScale AIである。小型のBolt 74B-A9B 24GBは、Nvidiaによると、24GBのメモリに収まるネイティブ2ビット量子化を用いてRTXおよびDGX Sparkシステム上でローカルのエージェントタスクを実行するよう設計されており、llama.cpp、Ollama、LM Studio、Unsloth、vLLMをサポートする。Nvidiaは、Bolt E4B 4GBがGeForce RTX、Jetson、RTX/DGX Sparkハードウェア上の会話型エージェントおよびフィジカルエージェントを対象としていると述べている。