Η Nvidia κυκλοφορεί το ανοικτό μοντέλο Nemotron 3.5 Super VL, διαθέσιμο πλέον και στο Amazon SageMaker JumpStart

Η Nvidia κυκλοφόρησε το Nemotron 3.5 Super VL, ένα ανοικτό μοντέλο όρασης-γλώσσας με 120 δισεκατομμύρια παραμέτρους, το οποίο η εταιρεία τοποθετεί για επιχειρησιακούς πράκτορες συνεχούς λειτουργίας. Σύμφωνα με την Nvidia, το μοντέλο διατίθεται με ανοικτά βάρη, ανοικτά σύνολα δεδομένων και συνταγές εκπαίδευσης, και είναι διαθέσιμο στο Hugging Face, μέσω της κοινότητας ModelScope και ως μικροϋπηρεσία Nvidia NIM. Ταυτόχρονα ανακοινώθηκαν δύο μικρότερα μοντέλα edge: το Nemotron 3.5 Bolt 74B-A9B 24GB, που είναι διαθέσιμο τώρα, και το Nemotron 3.5 Bolt E4B 4GB, το οποίο, όπως λέει η Nvidia, θα ακολουθήσει στις 23 Οκτωβρίου.

Μία ημέρα μετά την κυκλοφορία, η AWS δήλωσε ότι το Nemotron 3.5 Super VL είναι διαθέσιμο στο Amazon SageMaker JumpStart. Σύμφωνα με την ανακοίνωση της AWS, το μοντέλο χρησιμοποιεί έναν υβριδικό γλωσσικό κορμό mixture-of-experts με 12 δισεκατομμύρια ενεργές παραμέτρους και έναν κωδικοποιητή όρασης, δέχεται εικόνες, βίντεο και κείμενο ως είσοδο, παράγει κείμενο ως έξοδο και υποστηρίζει μήκη συμφραζομένων έως 1 εκατομμύριο tokens. Η AWS περιγράφει επίσης μια ενσωματωμένη κεφαλή πρόβλεψης πολλαπλών tokens για speculative decoding, συλλογιστική που μπορεί να ενεργοποιείται ή να απενεργοποιείται ανά αίτημα, υποστήριξη για δέκα γλώσσες, δομημένη έξοδο JSON και κλήση εργαλείων (tool calling). Το SageMaker JumpStart προσφέρει δύο παραλλαγές: μια έκδοση NVFP4 για inference σε instances G7 (GPU RTX PRO 4500 Blackwell Server Edition) και βάρη αναφοράς BF16, που προσφέρονται σε ml.p5en.48xlarge, για fine-tuning, ενισχυτική μάθηση, απόσταξη και προσαρμογή σε τομέα. Οι πελάτες μπορούν να κάνουν deploy από τον κατάλογο μοντέλων JumpStart στην κονσόλα SageMaker ή μέσω του SageMaker Python SDK.

Οι δηλώσεις της ίδιας της Nvidia για τις επιδόσεις δεν έχουν επαληθευτεί ανεξάρτητα στις διαθέσιμες πηγές. Η εταιρεία λέει ότι το Super VL επιτυγχάνει ακρίβεια συγκρίσιμη με το μεγαλύτερο μοντέλο συλλογιστικής της με περίπου το ένα πέμπτο του αριθμού παραμέτρων και ισχυρίζεται ότι είναι πέντε φορές ταχύτερο από το επόμενο καλύτερο ανοικτό agentic μοντέλο της κατηγορίας του, επικαλούμενη το throughput στην κατάταξη Artificial Analysis Intelligence Index. Η Nvidia λέει επίσης ότι το μοντέλο είδε περίπου 26 τρισεκατομμύρια tokens εκπαίδευσης και στη συνέχεια υποβλήθηκε σε post-training με περίπου 3,8 εκατομμύρια δείγματα, ακολουθούμενο από ενισχυτική μάθηση σε δεκάδες περιβάλλοντα. Η πλευρά της όρασης στοχεύει στην οπτική αναγνώριση χαρακτήρων (OCR), σε πίνακες, διαγράμματα και δομημένες πληροφορίες σε έγγραφα, ιστοσελίδες και PDF, ώστε οι πράκτορες να μη χρειάζεται να μεταβαίνουν ανάμεσα σε ξεχωριστά συστήματα κειμένου και εικόνας.

Η Nvidia αναφέρει μια σειρά οργανισμών που προσαρμόζουν ή ενσωματώνουν το μοντέλο, μεταξύ αυτών την Atlassian για agentic αναζήτηση σε Jira και Confluence, την CrowdStrike για αμυντική επιχειρησιακή ασφάλεια (blue teaming), την Perplexity για αναζήτηση και agentic εργασίες, τη Salesforce για αυτοματοποίηση κυβερνητικών ροών εργασίας μέσω του Missionforce Operations, και τη Scale AI, η οποία, όπως λέει η Nvidia, έκανε post-training στο μοντέλο για πράκτορες χρηματοοικονομικών και due diligence στις Skydance και EY. Το μικρότερο Bolt 74B-A9B 24GB είναι σχεδιασμένο, σύμφωνα με την Nvidia, να εκτελεί τοπικές agentic εργασίες σε συστήματα RTX και DGX Spark με εγγενή κβαντοποίηση 2 bit που χωράει σε 24GB μνήμης, με υποστήριξη για llama.cpp, Ollama, LM Studio, Unsloth και vLLM. Η Nvidia λέει ότι το Bolt E4B 4GB απευθύνεται σε συνομιλητικούς και φυσικούς πράκτορες σε hardware GeForce RTX, Jetson και RTX/DGX Spark.