Nvidia משחררת את המודל הפתוח Nemotron 3.5 Super VL, כעת זמין גם ב-Amazon SageMaker JumpStart

Nvidia שחררה את Nemotron 3.5 Super VL, מודל שפה-ראייה פתוח בעל 120 מיליארד פרמטרים, שהחברה ממצבת עבור סוכנים ארגוניים הפועלים ללא הפסקה. לדברי Nvidia, המודל מגיע עם משקולות פתוחים, מערכי נתונים פתוחים ומתכוני אימון, וזמין ב-Hugging Face, דרך קהילת ModelScope וכמיקרו-שירות NIM של Nvidia. במקביל הוכרזו שני מודלי קצה קטנים יותר לחומרה מקומית: Nemotron 3.5 Bolt 74B-A9B 24GB, שזמין כבר עכשיו, ו-Nemotron 3.5 Bolt E4B 4GB, שלדברי Nvidia יגיע ב-23 באוקטובר.

יום לאחר ההשקה הודיעה AWS כי Nemotron 3.5 Super VL זמין ב-Amazon SageMaker JumpStart. לפי ההודעה של AWS, המודל משתמש בעמוד שדרה לשוני היברידי מסוג תערובת מומחים (mixture-of-experts) עם 12 מיליארד פרמטרים פעילים בתוספת מקודד ראייה, מקבל תמונות, וידאו וטקסט כקלט, מפיק פלט טקסט ותומך באורכי הקשר של עד 1 מיליון טוקנים. AWS מתארת גם ראש חיזוי רב-טוקני מובנה לפענוח ספקולטיבי, מצב חשיבה (reasoning) שניתן להפעיל או לכבות בכל בקשה, תמיכה בעשר שפות, פלט JSON מובנה וקריאה לכלים. SageMaker JumpStart מציע שתי גרסאות: בנייה ב-NVFP4 המיועדת להסקה על מופעי G7 (מעבדי RTX PRO 4500 Blackwell Server Edition), ומשקולות ייחוס ב-BF16, המוצעים על ml.p5en.48xlarge, לכוונון עדין, למידת חיזוק, זיקוק והתאמה לתחום. לקוחות יכולים לפרוס מקטלוג המודלים של JumpStart בקונסולת SageMaker או באמצעות SageMaker Python SDK.

הצהרות הביצועים של Nvidia עצמה לא אומתו באופן בלתי תלוי במקורות הזמינים. החברה אומרת ש-Super VL מגיע לדיוק דומה לזה של מודל החשיבה הגדול ביותר שלה עם כחמישית ממספר הפרמטרים, וטוענת שהוא מהיר פי חמישה מהמודל הסוכני הפתוח הטוב הבא בקטגוריה שלו, תוך הסתמכות על נתוני תפוקה בטבלת הדירוג Artificial Analysis Intelligence Index. Nvidia אומרת עוד שהמודל אומן על כ-26 טריליון טוקנים ולאחר מכן עבר אימון-לאחר (post-training) על כ-3.8 מיליון דגימות, ובהמשך למידת חיזוק בעשרות סביבות. צד הראייה מכוון לזיהוי תווים אופטי (OCR), טבלאות, תרשימים ומידע מובנה במסמכים, בדפי אינטרנט ובקובצי PDF, כך שסוכנים לא יצטרכו לעבור בין מערכות נפרדות לטקסט ולתמונות.

Nvidia מונה שורה של ארגונים שמתאימים אישית את המודל או משלבים אותו, ובהם Atlassian לחיפוש סוכני על פני Jira ו-Confluence, CrowdStrike לאבטחה ארגונית הגנתית (blue teaming), Perplexity לחיפוש ולמשימות סוכניות, Salesforce לאוטומציה של תהליכי עבודה ממשלתיים באמצעות Missionforce Operations, ו-Scale AI, שלדברי Nvidia ביצעה אימון-לאחר של המודל עבור סוכני פיננסים ובדיקת נאותות ב-Skydance וב-EY. מודל Bolt 74B-A9B 24GB הקטן יותר מתוכנן, לדברי Nvidia, להריץ משימות סוכניות מקומיות על מערכות RTX ו-DGX Spark באמצעות קוונטיזציה מקורית של 2 ביט שנכנסת ב-24GB זיכרון, עם תמיכה ב-llama.cpp, Ollama, LM Studio, Unsloth ו-vLLM. Nvidia אומרת ש-Bolt E4B 4GB מיועד לסוכנים שיחתיים ופיזיים על חומרת GeForce RTX, Jetson ו-RTX/DGX Spark.