Nvidia مدل باز Nemotron 3.5 Super VL را منتشر کرد؛ اکنون روی Amazon SageMaker JumpStart نیز در دسترس است

Nvidia مدل Nemotron 3.5 Super VL را منتشر کرده است؛ یک مدل باز زبان-بینایی با 120 میلیارد پارامتر که این شرکت آن را برای عامل‌های سازمانی همیشه‌فعال معرفی می‌کند. به گفته Nvidia، این مدل با وزن‌های باز، مجموعه‌داده‌های باز و دستورالعمل‌های آموزش عرضه می‌شود و روی Hugging Face، از طریق جامعه ModelScope و به‌صورت میکروسرویس Nvidia NIM در دسترس است. هم‌زمان دو مدل کوچک‌تر لبه‌ای (برای سخت‌افزار محلی) نیز معرفی شدند: Nemotron 3.5 Bolt 74B-A9B 24GB که هم‌اکنون در دسترس است، و Nemotron 3.5 Bolt E4B 4GB که به گفته Nvidia در 23 اکتبر عرضه خواهد شد.

یک روز پس از عرضه، AWS اعلام کرد که Nemotron 3.5 Super VL روی Amazon SageMaker JumpStart در دسترس است. بر اساس اطلاعیه AWS، این مدل از یک ستون فقرات زبانی ترکیبی مبتنی بر مخلوط متخصصان (MoE) با 12 میلیارد پارامتر فعال به‌علاوه یک رمزگذار بینایی استفاده می‌کند، تصویر، ویدیو و متن را به‌عنوان ورودی می‌پذیرد، خروجی متنی تولید می‌کند و از طول زمینه تا 1 میلیون توکن پشتیبانی می‌کند. AWS همچنین یک سر پیش‌بینی چندتوکنی داخلی برای رمزگشایی گمانه‌ای، قابلیت استدلال که می‌توان آن را برای هر درخواست روشن یا خاموش کرد، پشتیبانی از ده زبان، خروجی ساخت‌یافته JSON و فراخوانی ابزار را توصیف می‌کند. SageMaker JumpStart دو نسخه ارائه می‌دهد: یک بیلد NVFP4 برای استنتاج روی نمونه‌های G7 (پردازنده‌های گرافیکی RTX PRO 4500 Blackwell Server Edition) و وزن‌های مرجع BF16 که روی ml.p5en.48xlarge برای تنظیم دقیق، یادگیری تقویتی، تقطیر و تطبیق دامنه ارائه می‌شود. مشتریان می‌توانند از کاتالوگ مدل JumpStart در کنسول SageMaker یا از طریق SageMaker Python SDK آن را مستقر کنند.

اظهارات Nvidia درباره عملکرد مدل در منابع موجود به‌طور مستقل تأیید نشده است. این شرکت می‌گوید Super VL با حدود یک‌پنجم تعداد پارامترها به دقتی قابل مقایسه با بزرگ‌ترین مدل استدلالی آن می‌رسد و ادعا می‌کند پنج برابر سریع‌تر از بهترین مدل عامل‌محور باز بعدی در رده خود است، با استناد به توان عملیاتی در جدول رده‌بندی Artificial Analysis Intelligence Index. Nvidia همچنین می‌گوید این مدل حدود 26 تریلیون توکن آموزشی دیده و سپس روی حدود 3.8 میلیون نمونه پس‌آموزش شده و در ادامه یادگیری تقویتی در ده‌ها محیط انجام شده است. بخش بینایی، تشخیص نوری نویسه‌ها (OCR)، جدول‌ها، نمودارها و اطلاعات ساخت‌یافته در اسناد، صفحات وب و فایل‌های PDF را هدف می‌گیرد تا عامل‌ها مجبور نباشند بین سامانه‌های جداگانه متن و تصویر جابه‌جا شوند.

Nvidia شماری از سازمان‌ها را به‌عنوان سفارشی‌ساز یا یکپارچه‌کننده این مدل فهرست می‌کند، از جمله Atlassian برای جست‌وجوی عامل‌محور در Jira و Confluence، CrowdStrike برای امنیت دفاعی (blue teaming) سازمانی، Perplexity برای جست‌وجو و وظایف عامل‌محور، Salesforce برای خودکارسازی گردش کار دولتی از طریق Missionforce Operations، و Scale AI که به گفته Nvidia این مدل را برای عامل‌های مالی و بررسی دقیق (due diligence) در Skydance و EY پس‌آموزش داده است. مدل کوچک‌تر Bolt 74B-A9B 24GB به گفته Nvidia برای اجرای وظایف عامل‌محور محلی روی سامانه‌های RTX و DGX Spark طراحی شده و از یک کوانتیزاسیون بومی 2 بیتی استفاده می‌کند که در 24GB حافظه جا می‌گیرد، با پشتیبانی از llama.cpp، Ollama، LM Studio، Unsloth و vLLM. Nvidia می‌گوید Bolt E4B 4GB برای عامل‌های گفت‌وگویی و فیزیکی روی سخت‌افزار GeForce RTX، Jetson و RTX/DGX Spark در نظر گرفته شده است.