Tencent: Hy3

Tencent Hy3 er en modell med tekst som inn- og utdata, valgt med den nøyaktige ID-en tencent/hy3. Den publiserte kontekstlengden er 262 144 tokener. Bruk den tilgjengelige konteksten til å organisere omfattende kildemateriale sammen med spørsmålet det må besvare: merkede dokumentdeler, en relevant samtale eller kodeutdrag. Definer det ønskede resultatet, som en beslutningsoppsummering, en sammenligning mot navngitte kriterier eller et utkast forankret i den oppgitte teksten med retningslinjer.

Kall POST /v1/chat/completions med model og en messages-array som ikke er tom. Legg selve kildematerialet i meldingsteksten og behold meldingene som trengs for en pågående samtale. For flere dokumenter gir du hvert dokument et stabilt merke og ber svaret identifisere avsnittene som underbygger konklusjonene. For en kodeoppgave tar du med de relevante definisjonene og den observerte oppførselen og angir deretter om resultatet er en forklaring, gjennomgang eller foreslått endring.

De publiserte innstillingene omfatter max_tokens og max_completion_tokens for rammen til det ønskede svaret, temperature og stop for genereringen og reasoning, reasoning_effort og include_reasoning for forespørsler knyttet til resonnering. Den erklærte standardverdien for temperature er 0,9. Velg innstillinger bevisst for oppgaven og behold de faktiske verdiene sammen med forespørselen, slik at en sammenligning mellom svar bruker en kjent konfigurasjon. Fordel konteksten mellom instruksjoner, kildemateriale, historikk og svaret du ber om.

For en applikasjon som bruker en bestemt svarstruktur, omfatter modellprofilen response_format. Den gjør også tools og tool_choice tilgjengelig for arbeidsflyter med funksjonsverktøy. Oppgi funksjonsdefinisjonene applikasjonen faktisk implementerer, behold eventuelle returnerte verktøykallidentifikatorer og argumenter og utfør den angitte applikasjonshandlingen før du oppgir resultatet i samtalen. Hold verktøyskjemaet og de forventede utdatafeltene eksplisitte, slik at applikasjonen kan kontrollere det genererte svaret før den fortsetter.

Bruk stream:false for et fullstendig JSON-svar eller stream:true for å levere svarhendelser til et interaktivt grensesnitt. Behold hvert returnerte alternativ, hver innholdsblokk, hvert verktøykall, resonneringsfelt og usage-felt som svaret oppgir. Ved strømming setter du sammen deltaer etter indeksene for alternativ og verktøykall og beholder den endelige avslutningsinformasjonen. Behold de opprinnelige forespørsels- og svaridentifikatorene hvis leveringen blir uavklart, slik at den opprinnelige utvekslingen kan kontrolleres før en ny innsending.