Nvidia phát hành mô hình mở Nemotron 3.5 Super VL, nay cũng có mặt trên Amazon SageMaker JumpStart

Nvidia đã phát hành Nemotron 3.5 Super VL, một mô hình thị giác-ngôn ngữ mở với 120 tỷ tham số mà công ty định vị cho các tác tử doanh nghiệp hoạt động liên tục (always-on). Theo Nvidia, mô hình được phát hành kèm trọng số mở, bộ dữ liệu mở và công thức huấn luyện, đồng thời có sẵn trên Hugging Face, thông qua cộng đồng ModelScope và dưới dạng microservice Nvidia NIM. Hai mô hình biên (edge) nhỏ hơn cũng được công bố cùng lúc: Nemotron 3.5 Bolt 74B-A9B 24GB, hiện đã có sẵn, và Nemotron 3.5 Bolt E4B 4GB, mà Nvidia cho biết sẽ ra mắt vào ngày 23 tháng 10.

Một ngày sau khi ra mắt, AWS cho biết Nemotron 3.5 Super VL đã có mặt trên Amazon SageMaker JumpStart. Theo thông báo của AWS, mô hình sử dụng một xương sống ngôn ngữ lai kiểu mixture-of-experts với 12 tỷ tham số hoạt động cùng một bộ mã hóa thị giác, nhận đầu vào là hình ảnh, video và văn bản, tạo đầu ra dạng văn bản, và hỗ trợ độ dài ngữ cảnh lên tới 1 triệu token. AWS cũng mô tả một multi-token prediction head tích hợp sẵn cho speculative decoding, khả năng suy luận có thể bật hoặc tắt theo từng yêu cầu, hỗ trợ mười ngôn ngữ, đầu ra JSON có cấu trúc và tool calling. SageMaker JumpStart cung cấp hai biến thể: bản dựng NVFP4 dành cho suy luận trên các phiên bản G7 (GPU RTX PRO 4500 Blackwell Server Edition), và trọng số tham chiếu BF16, được cung cấp trên ml.p5en.48xlarge, dành cho fine-tuning, học tăng cường, chưng cất và thích ứng miền. Khách hàng có thể triển khai từ danh mục mô hình JumpStart trong bảng điều khiển SageMaker hoặc thông qua SageMaker Python SDK.

Các tuyên bố về hiệu năng của chính Nvidia chưa được kiểm chứng độc lập trong các nguồn hiện có. Công ty cho biết Super VL đạt độ chính xác tương đương mô hình suy luận lớn nhất của hãng với số lượng tham số chỉ bằng khoảng một phần năm, và tuyên bố mô hình nhanh gấp năm lần so với mô hình tác tử mở tốt nhất tiếp theo trong cùng hạng, dẫn số liệu throughput trên bảng xếp hạng Artificial Analysis Intelligence Index. Nvidia cũng cho biết mô hình đã được huấn luyện với khoảng 26 nghìn tỷ token và sau đó được post-training trên khoảng 3,8 triệu mẫu, tiếp theo là học tăng cường trong hàng chục môi trường. Phần thị giác nhắm tới nhận dạng ký tự quang học (OCR), bảng biểu, biểu đồ và thông tin có cấu trúc trong tài liệu, trang web và PDF, để các tác tử không phải chuyển qua lại giữa các hệ thống văn bản và hình ảnh riêng biệt.

Nvidia liệt kê một số tổ chức đang tùy chỉnh hoặc tích hợp mô hình, bao gồm Atlassian cho tìm kiếm tác tử trên Jira và Confluence, CrowdStrike cho blue teaming (bảo mật phòng thủ) doanh nghiệp, Perplexity cho tìm kiếm và các tác vụ tác tử, Salesforce cho tự động hóa quy trình làm việc của chính phủ thông qua Missionforce Operations, và Scale AI, mà theo Nvidia đã post-training mô hình cho các tác tử tài chính và thẩm định (due diligence) tại Skydance và EY. Mô hình nhỏ hơn Bolt 74B-A9B 24GB, theo Nvidia, được thiết kế để chạy các tác vụ tác tử cục bộ trên các hệ thống RTX và DGX Spark bằng lượng tử hóa 2-bit gốc vừa với 24GB bộ nhớ, với hỗ trợ cho llama.cpp, Ollama, LM Studio, Unsloth và vLLM. Nvidia cho biết Bolt E4B 4GB nhắm tới các tác tử hội thoại và tác tử vật lý trên phần cứng GeForce RTX, Jetson và RTX/DGX Spark.