ERNIE 4.5 0.3B

ERNIE 4.5 0.3B tar imot tekstsamtaler gjennom Ailoot Ultra. Den nøyaktige modell-ID-en er baidu/ernie-4.5-0.3b. Legg kildematerialet direkte i meldingene dine og beskriv resultatet du trenger. Denne tekstprofilen passer til oppgaver som å gjøre kundenotater om til et svar, forkorte et dokumentutdrag eller hente ut et bestemt sett med fakta i et avtalt oppsett.

En nyttig forespørsel kombinerer materialet, oppgaven og kravene til svaret. For et kundestøttesvar oppgir du kundens melding og retningslinjene svaret må følge. For en oppsummering angir du den tiltenkte leseren og ber om beslutninger, uavklarte spørsmål og tiltak. For uthenting angir du feltnavnene og forteller modellen hvordan den skal representere fakta som mangler i kilden. Disse instruksjonene gir et resultat som kan kontrolleres mot materialet du har oppgitt.

Med Chat Completions sender du POST /v1/chat/completions med model og en messages-array som ikke er tom. Hver melding inneholder en role og tekst i content. Ta med relevante tidligere meldinger når svaret avhenger av en samtale. For å arbeide med et dokument leser du selve teksten og legger det relevante innholdet i meldingen; et filnavn alene gir ikke tilgang til dokumentet.

Med Messages sender du POST /v1/messages med model, messages og max_tokens. Bruk meldinger med user og assistant, eventuelt med en separat system-instruksjon. Innholdet kan være en tekststreng eller tekstblokker. max_tokens er et heltall på minst 1. Den publiserte modellprofilen oppgir et tak på 8 000 tokener for genererte svar og en kontekst på 120 000 tokener; la det være plass til det ønskede svaret når du forbereder samtalen. Kontekststørrelsen betyr ikke at et svar kan inneholde 120 000 tokener.

Begge grensesnittene har den boolske innstillingen stream, der standardverdien er false. For et fullstendig JSON-svar beholder du alle returnerte resultatfelt og registrert forbruk. Ved strømming samler du hendelsene og setter sammen alt svarinnhold før du anser svaret som fullstendig. Chat Completions plasserer det vanlige svaret i choices[].message.content; Messages returnerer innholdsblokker sammen med stop_reason og usage. Behold den opprinnelige forespørselsidentiteten og alle mottatte svar hvis forbindelsen brytes før fullføring, slik at et ufullstendig svar kan undersøkes uten at den samme forespørselen sendes på nytt uten videre.