NVIDIA: Nemotron 3 Ultra (free)

NVIDIA Nemotron 3 Ultra je obsežen model za sklepanje in orkestracijo v družini Nemotron 3. Zasnovan je za zahtevne večstopenjske agente, analizo z dolgim kontekstom ter sklepanje o kodi, matematiki in znanosti. Model ima 550B skupnih in 55B aktivnih parametrov. Združuje plasti Mamba-2, pozornosti in latentne mešanice ekspertov, pri čemer plasti Multi-Token Prediction podpirajo njegovo zasnovo ustvarjanja.

LatentMoE informacije preslika v manjšo latentno predstavitev za obdelavo z eksperti. NVIDIIN učni postopek združuje predhodno učenje, nadzorovano dodatno učenje, učenje s krepitvijo in večdomensko destilacijo na podlagi trenutne politike. Praktični namen teh stopenj je izboljšati sklepanje, sledenje navodilom, uporabo orodij in agentsko vedenje pri več vrstah nalog. Ultra ustvarja besedilo: razlago, rešitev, kodo, načrt ali zahtevano strukturo odgovora. Posredujte gradivo, ki naj ga odgovor uporabi, in pogoje, ki določajo pravilnost rezultata.

Pri matematičnem ali znanstvenem sklepanju vključite celotno besedilo naloge, znane vrednosti, enote in dovoljene predpostavke. Uporabna zahteva je: »Izpeljite rezultat iz teh pogojev, določite predpostavke na vsaki stopnji, preverite dimenzije in razložite, katero opažanje bi ovrglo sklep.« Po razlagi postopka zahtevajte jedrnat končni rezultat. Če naloga vključuje eksperimentalne podatke, razlikujte med izmerjenim in izračunanim ter zahtevajte, da negotovost ali manjkajoče informacije ostanejo vidne, namesto da se izgubijo v samozavestnem odgovoru.

Pri kodi in agentskih potekih dela podajte cilj, ustrezne datoteke kot besedilo in dejanske izhode predhodnih korakov. Ultra je namenjen nalogam z več odvisnimi odločitvami, zato je uporaben izrecen zapis opravljenega dela in preostalih vprašanj. Na primer: »Preglejte ta predlog migracije glede na shemo in neuspešna preverjanja. Opredelite odvisnost, ki preprečuje zaključek, predlagajte osredotočen popravek in podajte pričakovani rezultat naslednjega preverjanja.« Aplikacija s povezanimi orodji lahko nato izvede predlagani korak in vrne dokaze za naslednjo odločitev.

Proizvajalec prek predloge klepeta podpira vklop ali izklop sklepanja. Sklepanje je privzeto vklopljeno in ustvari sled sklepanja, ki ji sledi odgovor. Kartica Ultra dokumentira tudi način sklepanja s srednjo intenzivnostjo, ki porabi manj žetonov sklepanja kot polno razmišljanje. To je možnost, značilna za Ultra; ne zamenjujte je z nastavitvijo nizke intenzivnosti, dokumentirano za Super. Določite želeni končni izdelek in zanj pustite prostor po sklepanju. Nedokončana sled ne nadomesti dokončanega odgovora na prvotno vprašanje.

Ultra podpira kontekst do 1M žetonov. Pri veliki zbirki dokumentov ali izvornih datotek označite razdelke in modelu natančno povejte, kaj naj primerja ali uskladi in čemu naj sledi. Ohranite vrstni red virov, kadar sta pomembni kronologija ali odvisnost. Uporaben rezultat za dolg dokument vsebuje ugotovitev, podporni odlomek in posledico za vprašanje. Izberite ustrezno gradivo in rezervirajte prostor za izhod; kontekstno okno opisuje delovno zaporedje, ne ločene zagotovljene dolžine končnega odgovora.

Proizvajalec navaja angleščino, francoščino, španščino, italijanščino, nemščino, japonščino, hindijščino, korejščino, brazilsko portugalščino in kitajščino. Določite jezik izhoda in ohranite tehnične identifikatorje ali izvorne citate, kadar je natančno besedilo pomembno. Pri večjezični analizi uporabite ista merila za vsak dokument in zahtevajte razlago razlik v izrazju ali predpostavkah. Sama tekočnost jezika ne zadošča za dokaz, da dve različno ubesedeni zahtevi pomenita isto.

NVIDIA zagotavlja izrecne primere klicanja orodij s sklepanjem. Določite namen, argumente in pričakovani rezultat vsake funkcije ter nato modelu vrnite njen dejanski izhod. Aplikacija izvede operacijo, model pa sklepa na podlagi vrnjenega opažanja. Dolg agentski potek dela je lažje pregledati, kadar so predlagana dejanja, izvedeni rezultati in nerešena preverjanja jasno ločeni. Za končno poročilo zahtevajte odgovor, dokaze, ki ga podpirajo, predpostavke in preostale naloge. Izračune preverite glede na prvotne enote, spremembe kode glede na opažena preverjanja in stvarne trditve glede na priložene vire.