Tencent: Hy3

Tencent Hy3 er en model med tekstinput og tekstoutput, der vælges med det præcise ID tencent/hy3. Den offentliggjorte kontekstlængde er 262 144 tokens. Brug den tilgængelige kontekst til at organisere omfattende kildemateriale sammen med det spørgsmål, det skal besvare: mærkede dokumentafsnit, en relevant samtale eller kodeuddrag. Definér det ønskede resultat, såsom en beslutningsopsummering, en sammenligning mod navngivne kriterier eller en kladde baseret på den medsendte politiktekst.

Kald POST /v1/chat/completions med model og et ikke-tomt messages-array. Placér det faktiske kildemateriale i beskedteksten, og bevar de samtaleture, der kræves til en fortsat samtale. Ved flere dokumenter skal du give hvert dokument en stabil mærkat og bede svaret identificere de passager, der understøtter konklusionerne. Til en kodeopgave skal du medtage de relevante definitioner og den observerede adfærd og derefter angive, om resultatet er en forklaring, en gennemgang eller et ændringsforslag.

De offentliggjorte indstillinger omfatter max_tokens og max_completion_tokens til den ønskede svarramme, temperature og stop til generering samt reasoning, reasoning_effort og include_reasoning til anmodninger om ræsonnering. Den erklærede standardværdi for temperature er 0,9. Vælg indstillinger bevidst til opgaven, og gem de faktiske værdier sammen med anmodningen, så en sammenligning mellem svar bruger en kendt konfiguration. Fordel konteksten mellem instruktioner, kildemateriale, historik og det svar, du anmoder om.

Til en applikation, der anvender en bestemt svarstruktur, omfatter modelprofilen response_format. Den stiller også tools og tool_choice til rådighed til arbejdsgange med funktionsværktøjer. Medsend de funktionsdefinitioner, applikationen faktisk implementerer, gem eventuelle returnerede identifikatorer og argumenter for værktøjskald, og udfør den angivne applikationshandling, før du medsender resultatet i samtalen. Hold værktøjsskemaet og de forventede outputfelter eksplicitte, så applikationen kan undersøge det genererede svar, før den fortsætter.

Brug stream:false til et komplet JSON-svar eller stream:true til at levere svarhændelser til en interaktiv grænseflade. Gem alle returnerede choices, indholdsblokke, værktøjskald, ræsonneringsfelter og usage-felter, som svaret leverer. Ved streaming skal du samle deltaer efter deres choice- og værktøjskaldsindekser og gemme de endelige afslutningsoplysninger. Gem de oprindelige anmodnings- og svaridentifikatorer, hvis leveringen bliver uafklaret, så den oprindelige udveksling kan kontrolleres før en ny indsendelse.