NVIDIA: Llama Nemotron Rerank VL 1B V2 (free)

Το Llama Nemotron Rerank VL 1B V2 αξιολογεί τη συνάφεια υποψήφιου κειμένου και εικόνων εγγράφων με ένα ερώτημα κειμένου, συμπεριλαμβανομένων διαγραμμάτων, πινάκων και σελίδων μικτών μέσων. Η NVIDIA το περιγράφει ως μοντέλο διασταυρούμενης κωδικοποίησης 1.7B παραμέτρων. Σε μια ροή ανάκτησης, εκτελέστε πρώτα την αρχική αναζήτηση και στη συνέχεια στείλτε τους επιλεγμένους υποψηφίους στον ανακατατάκτη. Το χρήσιμο αποτέλεσμα είναι ένα αναδιατεταγμένο σύνολο αυτών των υποψηφίων με βαθμολογίες συνάφειας, το οποίο μια εφαρμογή μπορεί να χρησιμοποιήσει για να επιλέξει συμφραζόμενα για μια απάντηση ή να οργανώσει μια σελίδα αποτελεσμάτων αναζήτησης.

Χρησιμοποιήστε POST /v1/rerank με σώμα application/json. Ορίστε το model σε "nvidia/llama-nemotron-rerank-vl-1b-v2:free", το query στο πραγματικό ερώτημα αναζήτησης και το documents σε μη κενό πίνακα. Κάθε υποψήφιο μπορεί να είναι συμβολοσειρά κειμένου ή αντικείμενο με text και/ή image· ένα δομημένο αντικείμενο πρέπει να παρέχει τουλάχιστον ένα από αυτά τα πεδία. Το text είναι συμβολοσειρά. Το image είναι απομακρυσμένο URL HTTP/HTTPS ή URI δεδομένων base64 που αρχίζει με data:image/. Ένα συνδυασμένο υποψήφιο παρέχει και τα δύο πεδία. Διατηρήστε τη σειρά αυτού του πίνακα εισόδου, ώστε οι επιστρεφόμενοι δείκτες να μπορούν να αντιστοιχιστούν με τα αποθηκευμένα ID εγγράφων σας. Το top_n είναι προαιρετικός ακέραιος τουλάχιστον 1 που ζητά τον αριθμό των εγγράφων με την υψηλότερη κατάταξη που θα επιστραφούν.

Για παράδειγμα, μια εφαρμογή κέντρου βοήθειας μπορεί να ανακτήσει αποσπάσματα για παράδοση, επιστροφές και πρόσβαση σε λογαριασμό και στη συνέχεια να τα ανακατατάξει με βάση την ερώτηση του πελάτη για την παράδοση. Περάστε το πραγματικό κείμενο των αποσπασμάτων αντί για ονόματα αρχείων ή αποσπάσματα μηχανής αναζήτησης άσχετα με την αποθηκευμένη πηγή. Κρατήστε κάθε απόσπασμα συνδεδεμένο με το δικό του αναγνωριστικό πηγής στην εφαρμογή, ώστε τα επιλεγμένα τεκμήρια να μπορούν αργότερα να παρατεθούν ή να ανοιχτούν. Για ένα σαρωμένο έγγραφο, διάγραμμα, πίνακα ή γράφημα πληροφοριών, παρέχετε την πραγματική εικόνα του σε αντικείμενο εγγράφου και προσθέστε κείμενο όταν βοηθά στον προσδιορισμό του περιεχομένου.

Η σελίδα του μοντέλου τεκμηριώνει όριο 10 240 tokens ανά ερώτημα και έγγραφο. Χωρίστε το εκτενέστερο αρχικό υλικό σε αποσπάσματα περιορισμένου μεγέθους πριν προετοιμάσετε τη λίστα υποψηφίων. Κρατήστε χρήσιμα περιβάλλοντα συμφραζόμενα με κάθε απόσπασμα, συμπεριλαμβανομένου του τίτλου ή του ονόματος προϊόντος όταν αλλάζει το νόημα. Το τεκμηριωμένο αίτημα ξεκινά με τους υποψηφίους που παρέχετε· δεν αναζητά σε συλλογή εγγράφων για λογαριασμό σας.

Η ανακατάταξη επιστρέφει σύγχρονο αποτέλεσμα JSON. Διαβάστε κάθε στοιχείο results, συμπεριλαμβανομένων του αρχικού index, του relevance_score και του επιστρεφόμενου αντικειμένου document, το οποίο μπορεί να περιέχει text και/ή image, και διατηρήστε τυχόν επιστρεφόμενο usage και αναγνωριστικά απάντησης. Χρησιμοποιήστε το index για να αντιστοιχίσετε το καταταγμένο αποτέλεσμα στο υποψήφιο εισόδου του. Αντιμετωπίστε μια βαθμολογία συνάφειας ως σήμα κατάταξης για αυτό το ερώτημα και όχι ως ανεξάρτητα επαληθευμένη πραγματολογική απάντηση. Διατηρήστε ολόκληρο το αποτέλεσμα όταν επιλέγονται πολλά αποσπάσματα για το επόμενο βήμα.

Προετοιμάστε δημόσιο ή συνθετικό υποψήφιο υλικό για αυτή τη δωρεάν έκδοση· οι τεκμηριωμένοι όροι χρήσης της αποκλείουν εμπιστευτικές πληροφορίες και προσωπικά δεδομένα. Αν ένα αίτημα τερματιστεί χωρίς πλήρες αποτέλεσμα, κρατήστε την αρχική απάντηση και το αναγνωριστικό αιτήματος κατά τον έλεγχο εκείνης της προσπάθειας. Η τεκμηριωμένη ροή ανακατάταξης επιστρέφει το αποτέλεσμά της απευθείας και δεν παρέχει ξεχωριστή ροή περιοδικού ελέγχου εργασίας ή ακύρωσης.