NVIDIA: Nemotron 3 Ultra (free)

Το NVIDIA Nemotron 3 Ultra είναι το μοντέλο συλλογιστικής και ενορχήστρωσης μεγάλης κλίμακας στην οικογένεια Nemotron 3. Έχει σχεδιαστεί για απαιτητικούς πράκτορες πολλαπλών βημάτων, ανάλυση εκτεταμένων συμφραζομένων και συλλογιστική πάνω σε κώδικα, μαθηματικά και επιστήμες. Το μοντέλο έχει 550B συνολικές και 55B ενεργές παραμέτρους. Συνδυάζει επίπεδα Mamba-2, προσοχής και Latent Mixture-of-Experts, με επίπεδα Multi-Token Prediction που υποστηρίζουν τον σχεδιασμό παραγωγής του.

Το LatentMoE προβάλλει την πληροφορία σε μια μικρότερη λανθάνουσα αναπαράσταση για επεξεργασία από ειδικούς. Η διαδικασία εκπαίδευσης της NVIDIA συνδυάζει προεκπαίδευση, εποπτευόμενη λεπτομερή προσαρμογή, ενισχυτική μάθηση και απόσταξη βάσει της τρέχουσας πολιτικής σε πολλαπλούς τομείς. Ο πρακτικός σκοπός αυτών των σταδίων είναι η βελτίωση της συλλογιστικής, της εκτέλεσης οδηγιών, της χρήσης εργαλείων και της συμπεριφοράς πρακτόρων σε διάφορους τύπους εργασιών. Το Ultra παράγει κείμενο: εξήγηση, λύση, κώδικα, σχέδιο ή μια ζητούμενη δομή απάντησης. Δώστε το υλικό που πρέπει να χρησιμοποιήσει η απάντηση και τις συνθήκες που καθορίζουν αν το αποτέλεσμα είναι σωστό.

Για μαθηματική ή επιστημονική συλλογιστική, συμπεριλάβετε την πλήρη εκφώνηση, γνωστές τιμές, μονάδες και επιτρεπόμενες παραδοχές. Ένα χρήσιμο αίτημα είναι: «Συνήγαγε το αποτέλεσμα από αυτές τις συνθήκες, προσδιόρισε τις παραδοχές σε κάθε στάδιο, έλεγξε τις διαστάσεις και εξήγησε ποια παρατήρηση θα αναιρούσε το συμπέρασμα». Ζητήστε ένα σύντομο τελικό αποτέλεσμα μετά την αναλυτική εξήγηση. Αν εμπλέκονται πειραματικά δεδομένα, διακρίνετε τι μετρήθηκε από τι υπολογίστηκε και ζητήστε η αβεβαιότητα ή οι πληροφορίες που λείπουν να παραμένουν ορατές αντί να ενσωματώνονται σε μια βέβαιη απάντηση.

Για ροές προγραμματισμού και πρακτόρων, δώστε τον στόχο, τα σχετικά αρχεία ως κείμενο και τις πραγματικές εξόδους προηγούμενων βημάτων. Το Ultra προορίζεται για εργασίες με πολλές εξαρτώμενες αποφάσεις, οπότε ένα ρητό αρχείο ολοκληρωμένης εργασίας και εκκρεμών ερωτημάτων είναι χρήσιμο. Για παράδειγμα: «Έλεγξε αυτήν την πρόταση μετεγκατάστασης σε σχέση με το σχήμα και τους ελέγχους που αποτυγχάνουν. Εντόπισε την εξάρτηση που εμποδίζει την ολοκλήρωση, πρότεινε μια στοχευμένη διόρθωση και δώσε το αναμενόμενο αποτέλεσμα του επόμενου ελέγχου». Μια εφαρμογή συνδεδεμένη με εργαλεία μπορεί κατόπιν να εκτελέσει ένα προτεινόμενο βήμα και να επιστρέψει στοιχεία για την επόμενη απόφαση.

Ο κατασκευαστής υποστηρίζει ενεργοποίηση ή απενεργοποίηση συλλογιστικής μέσω του προτύπου συνομιλίας. Η συλλογιστική είναι ενεργή από προεπιλογή και παράγει ένα ίχνος συλλογιστικής ακολουθούμενο από την απάντηση. Η κάρτα Ultra τεκμηριώνει επίσης μια λειτουργία συλλογιστικής μέσης προσπάθειας που χρησιμοποιεί λιγότερα tokens συλλογιστικής από την πλήρη σκέψη. Αυτή είναι επιλογή ειδική για το Ultra· δεν πρέπει να συγχέεται με τη ρύθμιση χαμηλής προσπάθειας που τεκμηριώνεται για το Super. Ορίστε το επιθυμητό τελικό παραδοτέο και αφήστε χώρο γι’ αυτό μετά τη συλλογιστική. Ένα ημιτελές ίχνος δεν υποκαθιστά μια ολοκληρωμένη απάντηση στο αρχικό ερώτημα.

Το Ultra υποστηρίζει συμφραζόμενα έως 1M tokens. Για μια μεγάλη συλλογή εγγράφων ή αρχείων πηγαίου κώδικα, επισημάνετε τις ενότητες και πείτε στο μοντέλο ακριβώς τι να συγκρίνει, να ιχνηλατήσει ή να συμφιλιώσει. Διατηρείτε τη σειρά πηγών όταν η χρονολογία ή η εξάρτηση έχει σημασία. Ένα χρήσιμο αποτέλεσμα ανάλυσης μεγάλων εγγράφων περιέχει το εύρημα, το απόσπασμα που το στηρίζει και τη συνέπειά του για το ερώτημα. Επιλέξτε το σχετικό υλικό και κρατήστε χώρο εξόδου· το παράθυρο συμφραζομένων περιγράφει την ακολουθία εργασίας και όχι ένα χωριστό εγγυημένο μήκος τελικής απάντησης.

Ο δημιουργός αναφέρει αγγλικά, γαλλικά, ισπανικά, ιταλικά, γερμανικά, ιαπωνικά, χίντι, κορεατικά, πορτογαλικά Βραζιλίας και κινεζικά. Δηλώστε τη γλώσσα εξόδου και διατηρήστε τεχνικά αναγνωριστικά ή παραθέματα πηγών όταν η ακριβής διατύπωση έχει σημασία. Για πολύγλωσση ανάλυση, χρησιμοποιήστε τα ίδια κριτήρια για κάθε έγγραφο και ζητήστε να εξηγούνται οι διαφορές ορολογίας ή παραδοχών. Η γλωσσική ευχέρεια από μόνη της δεν αρκεί για να τεκμηριώσει ότι δύο απαιτήσεις με διαφορετική διατύπωση σημαίνουν το ίδιο πράγμα.

Η NVIDIA παρέχει ρητά παραδείγματα κλήσης εργαλείων με συλλογιστική. Ορίστε τον σκοπό κάθε συνάρτησης, τα ορίσματά της και το αναμενόμενο αποτέλεσμα και κατόπιν επιστρέψτε την πραγματική έξοδό της στο μοντέλο. Η εφαρμογή εκτελεί την ενέργεια· το μοντέλο συλλογίζεται πάνω στην επιστρεφόμενη παρατήρηση. Μια εκτεταμένη ροή πρακτόρων γίνεται ευκολότερη στον έλεγχο όταν διακρίνονται σαφώς οι προτεινόμενες ενέργειες, τα εκτελεσμένα αποτελέσματα και οι ανεπίλυτοι έλεγχοι. Για μια τελική αναφορά, ζητήστε την απάντηση, τα στοιχεία που τη στηρίζουν, τις παραδοχές και τυχόν εκκρεμή στοιχεία εργασίας. Επαληθεύστε υπολογισμούς με βάση τις αρχικές μονάδες, αλλαγές κώδικα με βάση τους παρατηρημένους ελέγχους και πραγματολογικούς ισχυρισμούς με βάση τις παρεχόμενες πηγές.