NVIDIA: Nemotron 3 Nano Omni 30B A3B Reasoning (free)

A Nemotron 3 Nano Omni 30B A3B Reasoning az NVIDIA összesen 30B, ebből 3B aktív paraméterű modellje, amelyet vállalati ügynökrendszerekben érzékelési és kontextuskezelő alügynöki munkára írnak le. Ennél a kiadásnál az Ailoot metódusa szöveges beszélgetés a POST /v1/chat/completions végponton. Válassza a pontos nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free modellazonosítót, és adjon meg nem üres messages tömböt, amely tartalmazza a feladat utasításait és forrásszövegét. Minden üzenet role értéke system, developer, user vagy assistant, content mezője pedig egyszerű karakterlánc. Az opcionális name karakterlánc; az egyes üzeneteket korlátozza ezekre a mezőkre. Küldjön stream:false értéket, vagy hagyja el a stream mezőt.

Egy megadott anyaghalmaz vizsgálatára használja, hogy célzott választ, összehasonlítást vagy kontextus-összefoglalót kapjon egy alkalmazás következő lépéséhez. Egy átadási prompt megadhatja az eredeti kérdést, a releváns részleteket és a korlátokat, majd kérheti a megállapított tényeket, a megoldatlan kérdéseket és az egyes következtetéseket alátámasztó forrásrészleteket. Összehasonlításnál nevezze meg a szempontokat, és mellékelje az alternatívák tényleges specifikációit, hogy a modell azonos bizonyítékokból dolgozhasson.

Ez a kiadás szöveges bemenetet fogad és szöveges kimenetet állít elő. Dokumentum feldolgozásához illessze a releváns UTF-8 szöveget az üzenet content mezőjébe, és tartsa meg azokat a címsorokat vagy forráscímkéket, amelyek segítik a részletek megkülönböztetését. Adja meg a folytatáshoz szükséges beszélgetési előzményeket. Az eszközvégrehajtást vagy visszakeresést a környező alkalmazásban tartsa, és azok elkészült szöveges eredményeit adja át a beszélgetésbe. A médiabemenetek, az eszközhívási vezérlők és a kifejezett gyorsítótár-vezérlők kívül esnek ennek a kiadásnak a kérésprofilján.

A modell oldala 256 000 tokenes kontextusablakot és legfeljebb 65 536 válaszgenerálási tokent sorol fel. Az Ailoot azt is megköveteli, hogy a teljes UTF-8 JSON-kéréstörzs, az utasításokkal és mezőnevekkel együtt, beleférjen 256 000 bájtba. Kifejezett kimeneti korláthoz a max_tokens vagy a max_completion_tokens közül pontosan az egyiket állítsa 1 és 65 536 közötti pozitív egész számra. Ha egyik sincs megadva, az Ailoot 4 096 tokenes kimeneti korlátot továbbít. A teljes megadott beszélgetést és a kért választ tartsa a megfelelő korlátokon belül. A hosszú bemenet hasznos, ha a válasz sok összekapcsolódó részlettől függ, de a célzott válogatás és a konkrét eredmény megkönnyíti annak ellenőrzését, hogy a válasz követi-e a bizonyítékokat. A promptban kért szerkezet megnevezett részeket vagy táblázatot kérhet; a visszaadott szöveget tekintse eredménynek, és ne feltételezzen séma által kikényszerített objektumot.

Teljes válaszhoz küldjön stream:false értéket, és őrizze meg a teljes JSON-t. A generált szöveget a choices[].message.content mezőből olvassa ki, és tartson meg minden visszaadott choice elemet, finish_reason és usage adatot, valamint minden megadott reasoning mezőt. Ha a munkafolyamatnak egy következtetést vissza kell vezetnie a bemenetére, őrizze meg a forráscímkéket a végső válaszban. Ellenőrizze, hogy a kért válasz teljes-e, mielőtt egy másik alkalmazáslépésnek adja át.

Ehhez az ingyenes kiadáshoz nyilvános vagy mesterségesen előállított forrásanyagot készítsen elő; dokumentált felhasználási feltételei kizárják a bizalmas információkat és a személyes adatokat. Ha a válasz hiányos vagy a küldés kimenetele bizonytalan, őrizze meg az eredeti kérés azonosítóját és a választ a meglévő próbálkozás ellenőrzéséhez. A szöveges kérés a beszélgetési válaszon keresztül adja vissza az eredményét; ehhez a kártyához nincs külön aszinkron feladat vagy megszakítási útvonal dokumentálva.