Inkling-Small er Thinking Machines Labs mindre multimodale model med åbne vægte til ræsonnement, kodning, samtale og værktøjsbrugende applikationer. Den accepterer tekst, billeder og lyd og producerer tekst. Dens Mixture-of-Experts-design har i alt 276 milliarder parametre med 12 milliarder aktive sammenlignet med Inklings i alt 975 milliarder og 41 milliarder aktive. Small er en særskilt udgivet model med en anden balance mellem effektivitet og evner, ikke en tilstand med kortere output for Inkling.
Til en kodeundersøgelse skal du levere de berørte filer, den observerede adfærd og den ændring, du har brug for, og derefter bede om den ansvarlige kodevej og en fokuseret rettelse. Et nyttigt slutprodukt omfatter den foreslåede redigering og belæg fra eventuelle kontroller, som den forbundne applikation faktisk har kørt. Til en supportassistent skal du levere den relevante politik og samtalens fakta og bede om det næste svar eller det manglende spørgsmål. Modellens tilsigtede anvendelser omfatter kodeassistenter, chatbots, svar udvidet med informationshentning og agentsystemer med applikationsværktøjer.
Kontekstvinduet er op til én million tokens. Organisér et langt repository eller en dokumentsamling med filnavne, afsnitsbetegnelser og et tydeligt spørgsmål, og bevar de fakta, et senere trin skal anvende. Et stort vindue er nyttigt til at sammenligne oplysninger langt fra hinanden, men det ønskede resultat bør forblive konkret: en kodeændring, en kildebaseret forklaring eller udtrukne felter. Nye eller private oplysninger hører til i det leverede belæg eller returnerede søgeresultater frem for at blive antaget som en del af indlært viden.
Tænkeindsatsen kan styres. Producentfamiliens vejledning bruger kontinuerlige værdier fra og med 0.0 til under 1.0 med startforvalgene none, minimal, low, medium, high og xhigh svarende til 0.0, 0.1, 0.2, 0.7, 0.9 og 0.99. Producentens renderer bruger som standard high. Højere indsats kan fremme mere ræsonnement og kan kræve et større genereringsbudget, men garanterer ikke et længere eller mere præcist svar. En nulindstilling tilskynder modellen til intet ræsonnement frem for at håndhæve et fuldstændigt fravær af ræsonnement. Vælg indsats til opgaven, og hold kravet til det endelige output klart.
Billeder kan understøtte visuelle spørgsmål, fortolkning af diagrammer eller figurer og matematisk ræsonnement ud fra synlige oplysninger. Brug billeder med dimensioner mellem 40 og 4.096 pixels for god ydeevne. Bevar læsbare betegnelser, og forklar den relevante detalje. Med et konfigureret Python-værktøj kan modellen kombinere visuelt ræsonnement med beskæring, zoom og programmatisk undersøgelse af et dokument eller diagram. Disse handlinger kræver udførelse i det forbundne værktøjsmiljø; det skriftlige svar bør bruge observationerne returneret derfra.
Lydinput er WAV samplet ved 16 kHz med optagelser helst under to minutter for optimal ydeevne. Det er en anbefaling til forberedelsen, ikke en hård garanti om varighed. Brug et relevant talt spørgsmål eller kort klip, og angiv, om det skriftlige resultat skal transskribere tale, besvare et spørgsmål om optagelsen eller forbinde dens indhold med andet leveret materiale. Det indbyggede svar er tekst frem for genereret tale. Inklings særskilte anbefaling om længere lyd må ikke overføres til Small-udgaven.
Værktøjsbrugende arbejdsgange kræver meningsfulde værktøjsbeskrivelser, argumentdefinitioner og resultater fra de handlinger, applikationen udfører. Hold et opslag, en beregning eller en filobservation adskilt fra modellens foreslåede handling. Ved en uoverensstemmelse i et diagram skal du identificere de relevante betegnelser, undersøge de leverede værdier med et beregningsværktøj og bede om en forklaring, der henviser til disse værdier. Modellen er trænet til forskellige kode- og agentmiljøer, så den omgivende opgave og værktøjerne bør beskrives frem for at være underforståede.
De åbne vægte understøtter modelforskning, finjustering og integration i efterfølgende produkter. Inkling-Smalls udgivelse følger et tidligere preview-checkpoint og omfatter yderligere træning til agentbaseret kodning; den endelige model og dette preview bør bevare særskilte identiteter. Ved en specialiseret udtræks- eller svarstil bruger tilpasningen repræsentative eksempler og en eksplicit ønsket adfærd. En almindelig prompt leverer i stedet kontekst til den aktuelle anmodning; den opretter eller skifter ikke til en nytrænet model.
Et nyttigt trin i resultatgennemgangen kontrollerer, at den foreslåede kodeændring, transskription, de udtrukne fakta eller det skriftlige svar svarer til det leverede belæg. Angiv, hvordan usikkerhed og manglende oplysninger skal fremgå, især ved en prognose eller et faktuelt svar, hvis kilde er ufuldstændig. Producenten trænede Inkling-Small til prognosekalibrering ved reinforcement learning med proper scoring rules på spørgsmål fra virkeligheden med henblik på at udtrykke en sikkerhed, der passer til det tilgængelige belæg. Bevar materialet og værktøjsobservationerne sammen med produktet, så en opfølgning kan rette ét problem uden at miste den oprindelige opgave. Inkling-Smalls generelle flersprogede og multimodale evner forbliver adskilt fra en dedikeret talegenerator eller en garanteret tjeneste til eksterne handlinger.
", "aboutText": "Inkling-Small er Thinking Machines Labs mindre multimodale model med åbne vægte til ræsonnement, kodning, samtale og værktøjsbrugende applikationer. Den accepterer tekst, billeder og lyd og producerer tekst. Dens Mixture-of-Experts-design har i alt 276 milliarder parametre med 12 milliarder aktive sammenlignet med Inklings i alt 975 milliarder og 41 milliarder aktive. Small er en særskilt udgivet model med en anden balance mellem effektivitet og evner, ikke en tilstand med kortere output for Inkling.\n\nTil en kodeundersøgelse skal du levere de berørte filer, den observerede adfærd og den ændring, du har brug for, og derefter bede om den ansvarlige kodevej og en fokuseret rettelse. Et nyttigt slutprodukt omfatter den foreslåede redigering og belæg fra eventuelle kontroller, som den forbundne applikation faktisk har kørt. Til en supportassistent skal du levere den relevante politik og samtalens fakta og bede om det næste svar eller det manglende spørgsmål. Modellens tilsigtede anvendelser omfatter kodeassistenter, chatbots, svar udvidet med informationshentning og agentsystemer med applikationsværktøjer.\n\nKontekstvinduet er op til én million tokens. Organisér et langt repository eller en dokumentsamling med filnavne, afsnitsbetegnelser og et tydeligt spørgsmål, og bevar de fakta, et senere trin skal anvende. Et stort vindue er nyttigt til at sammenligne oplysninger langt fra hinanden, men det ønskede resultat bør forblive konkret: en kodeændring, en kildebaseret forklaring eller udtrukne felter. Nye eller private oplysninger hører til i det leverede belæg eller returnerede søgeresultater frem for at blive antaget som en del af indlært viden.\n\nTænkeindsatsen kan styres. Producentfamiliens vejledning bruger kontinuerlige værdier fra og med 0.0 til under 1.0 med startforvalgene none, minimal, low, medium, high og xhigh svarende til 0.0, 0.1, 0.2, 0.7, 0.9 og 0.99. Producentens renderer bruger som standard high. Højere indsats kan fremme mere ræsonnement og kan kræve et større genereringsbudget, men garanterer ikke et længere eller mere præcist svar. En nulindstilling tilskynder modellen til intet ræsonnement frem for at håndhæve et fuldstændigt fravær af ræsonnement. Vælg indsats til opgaven, og hold kravet til det endelige output klart.\n\nBilleder kan understøtte visuelle spørgsmål, fortolkning af diagrammer eller figurer og matematisk ræsonnement ud fra synlige oplysninger. Brug billeder med dimensioner mellem 40 og 4.096 pixels for god ydeevne. Bevar læsbare betegnelser, og forklar den relevante detalje. Med et konfigureret Python-værktøj kan modellen kombinere visuelt ræsonnement med beskæring, zoom og programmatisk undersøgelse af et dokument eller diagram. Disse handlinger kræver udførelse i det forbundne værktøjsmiljø; det skriftlige svar bør bruge observationerne returneret derfra.\n\nLydinput er WAV samplet ved 16 kHz med optagelser helst under to minutter for optimal ydeevne. Det er en anbefaling til forberedelsen, ikke en hård garanti om varighed. Brug et relevant talt spørgsmål eller kort klip, og angiv, om det skriftlige resultat skal transskribere tale, besvare et spørgsmål om optagelsen eller forbinde dens indhold med andet leveret materiale. Det indbyggede svar er tekst frem for genereret tale. Inklings særskilte anbefaling om længere lyd må ikke overføres til Small-udgaven.\n\nVærktøjsbrugende arbejdsgange kræver meningsfulde værktøjsbeskrivelser, argumentdefinitioner og resultater fra de handlinger, applikationen udfører. Hold et opslag, en beregning eller en filobservation adskilt fra modellens foreslåede handling. Ved en uoverensstemmelse i et diagram skal du identificere de relevante betegnelser, undersøge de leverede værdier med et beregningsværktøj og bede om en forklaring, der henviser til disse værdier. Modellen er trænet til forskellige kode- og agentmiljøer, så den omgivende opgave og værktøjerne bør beskrives frem for at være underforståede.\n\nDe åbne vægte understøtter modelforskning, finjustering og integration i efterfølgende produkter. Inkling-Smalls udgivelse følger et tidligere preview-checkpoint og omfatter yderligere træning til agentbaseret kodning; den endelige model og dette preview bør bevare særskilte identiteter. Ved en specialiseret udtræks- eller svarstil bruger tilpasningen repræsentative eksempler og en eksplicit ønsket adfærd. En almindelig prompt leverer i stedet kontekst til den aktuelle anmodning; den opretter eller skifter ikke til en nytrænet model.\n\nEt nyttigt trin i resultatgennemgangen kontrollerer, at den foreslåede kodeændring, transskription, de udtrukne fakta eller det skriftlige svar svarer til det leverede belæg. Angiv, hvordan usikkerhed og manglende oplysninger skal fremgå, især ved en prognose eller et faktuelt svar, hvis kilde er ufuldstændig. Producenten trænede Inkling-Small til prognosekalibrering ved reinforcement learning med proper scoring rules på spørgsmål fra virkeligheden med henblik på at udtrykke en sikkerhed, der passer til det tilgængelige belæg. Bevar materialet og værktøjsobservationerne sammen med produktet, så en opfølgning kan rette ét problem uden at miste den oprindelige opgave. Inkling-Smalls generelle flersprogede og multimodale evner forbliver adskilt fra en dedikeret talegenerator eller en garanteret tjeneste til eksterne handlinger.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "0c8ac659e1d3b8ff35266f51ac1e13b3210fe1aa194a14de23403e442cd2dd7d", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "da", "methods": [ { "html": "thinkingmachines/inkling-small:freeInkling-Small er en multimodal model med åbne vægte til programmering, værktøjsbrug og ræsonnement over tekst, billeder og lyd. Den styrbare ræsonnementsindsats og store kontekst understøtter afgrænsede applikationsopgaver med skriftlige resultater ved hjælp af en mindre aktiv model end Inkling.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Inkling-Small er Thinking Machines Labs mindre multimodale model med åbne vægte til ræsonnement, kodning, samtale og værktøjsbrugende applikationer. Den accepterer tekst, billeder og lyd og producerer tekst. Dens Mixture-of-Experts-design har i alt 276 milliarder parametre med 12 milliarder aktive sammenlignet med Inklings i alt 975 milliarder og 41 milliarder aktive. Small er en særskilt udgivet model med en anden balance mellem effektivitet og evner, ikke en tilstand med kortere output for Inkling.
Til en kodeundersøgelse skal du levere de berørte filer, den observerede adfærd og den ændring, du har brug for, og derefter bede om den ansvarlige kodevej og en fokuseret rettelse. Et nyttigt slutprodukt omfatter den foreslåede redigering og belæg fra eventuelle kontroller, som den forbundne applikation faktisk har kørt. Til en supportassistent skal du levere den relevante politik og samtalens fakta og bede om det næste svar eller det manglende spørgsmål. Modellens tilsigtede anvendelser omfatter kodeassistenter, chatbots, svar udvidet med informationshentning og agentsystemer med applikationsværktøjer.
Kontekstvinduet er op til én million tokens. Organisér et langt repository eller en dokumentsamling med filnavne, afsnitsbetegnelser og et tydeligt spørgsmål, og bevar de fakta, et senere trin skal anvende. Et stort vindue er nyttigt til at sammenligne oplysninger langt fra hinanden, men det ønskede resultat bør forblive konkret: en kodeændring, en kildebaseret forklaring eller udtrukne felter. Nye eller private oplysninger hører til i det leverede belæg eller returnerede søgeresultater frem for at blive antaget som en del af indlært viden.
Tænkeindsatsen kan styres. Producentfamiliens vejledning bruger kontinuerlige værdier fra og med 0.0 til under 1.0 med startforvalgene none, minimal, low, medium, high og xhigh svarende til 0.0, 0.1, 0.2, 0.7, 0.9 og 0.99. Producentens renderer bruger som standard high. Højere indsats kan fremme mere ræsonnement og kan kræve et større genereringsbudget, men garanterer ikke et længere eller mere præcist svar. En nulindstilling tilskynder modellen til intet ræsonnement frem for at håndhæve et fuldstændigt fravær af ræsonnement. Vælg indsats til opgaven, og hold kravet til det endelige output klart.
Billeder kan understøtte visuelle spørgsmål, fortolkning af diagrammer eller figurer og matematisk ræsonnement ud fra synlige oplysninger. Brug billeder med dimensioner mellem 40 og 4.096 pixels for god ydeevne. Bevar læsbare betegnelser, og forklar den relevante detalje. Med et konfigureret Python-værktøj kan modellen kombinere visuelt ræsonnement med beskæring, zoom og programmatisk undersøgelse af et dokument eller diagram. Disse handlinger kræver udførelse i det forbundne værktøjsmiljø; det skriftlige svar bør bruge observationerne returneret derfra.
Lydinput er WAV samplet ved 16 kHz med optagelser helst under to minutter for optimal ydeevne. Det er en anbefaling til forberedelsen, ikke en hård garanti om varighed. Brug et relevant talt spørgsmål eller kort klip, og angiv, om det skriftlige resultat skal transskribere tale, besvare et spørgsmål om optagelsen eller forbinde dens indhold med andet leveret materiale. Det indbyggede svar er tekst frem for genereret tale. Inklings særskilte anbefaling om længere lyd må ikke overføres til Small-udgaven.
Værktøjsbrugende arbejdsgange kræver meningsfulde værktøjsbeskrivelser, argumentdefinitioner og resultater fra de handlinger, applikationen udfører. Hold et opslag, en beregning eller en filobservation adskilt fra modellens foreslåede handling. Ved en uoverensstemmelse i et diagram skal du identificere de relevante betegnelser, undersøge de leverede værdier med et beregningsværktøj og bede om en forklaring, der henviser til disse værdier. Modellen er trænet til forskellige kode- og agentmiljøer, så den omgivende opgave og værktøjerne bør beskrives frem for at være underforståede.
De åbne vægte understøtter modelforskning, finjustering og integration i efterfølgende produkter. Inkling-Smalls udgivelse følger et tidligere preview-checkpoint og omfatter yderligere træning til agentbaseret kodning; den endelige model og dette preview bør bevare særskilte identiteter. Ved en specialiseret udtræks- eller svarstil bruger tilpasningen repræsentative eksempler og en eksplicit ønsket adfærd. En almindelig prompt leverer i stedet kontekst til den aktuelle anmodning; den opretter eller skifter ikke til en nytrænet model.
Et nyttigt trin i resultatgennemgangen kontrollerer, at den foreslåede kodeændring, transskription, de udtrukne fakta eller det skriftlige svar svarer til det leverede belæg. Angiv, hvordan usikkerhed og manglende oplysninger skal fremgå, især ved en prognose eller et faktuelt svar, hvis kilde er ufuldstændig. Producenten trænede Inkling-Small til prognosekalibrering ved reinforcement learning med proper scoring rules på spørgsmål fra virkeligheden med henblik på at udtrykke en sikkerhed, der passer til det tilgængelige belæg. Bevar materialet og værktøjsobservationerne sammen med produktet, så en opfølgning kan rette ét problem uden at miste den oprindelige opgave. Inkling-Smalls generelle flersprogede og multimodale evner forbliver adskilt fra en dedikeret talegenerator eller en garanteret tjeneste til eksterne handlinger.
POST /v1/chat/completionstexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser thinkingmachines/inkling-small:free | Standard— |
Feltmessages | Typearray | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser false | Standardfalse |
Feltmax_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Maksimum: 262.144 | Standard— |
Feltmax_completion_tokens | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Maksimum: 262.144 | Standard— |
Feltn | Typeinteger | KravValgfrit | Værdier og grænser Minimum: 1 Maksimum: 128 | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser | Standard— |
Feltseed | Typeinteger | KravValgfrit | Værdier og grænser | Standard— |
Feltstop | Type | KravValgfrit | Værdier og grænser | Standard— |
Feltfrequency_penalty | Typenumber | KravValgfrit | Værdier og grænser | Standard— |
Feltpresence_penalty | Typenumber | KravValgfrit | Værdier og grænser | Standard— |
Feltuser | Typestring | KravValgfrit | Værdier og grænser | Standard— |
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages |
Parameteroptional | Kontraktstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Parametermaterial_types | Kontrakttext |
Parameterconditions | KontraktUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1048576 bytes. |
Livscyklus: synchronous_json
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundpriser for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0 / 1K tokens Output · Outputtokens $0 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling-small:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra thinkingmachines/inkling-small:free
Brug metodestierne vist ovenfor.
thinkingmachines/inkling-small:freeInkling-Small er en multimodal model med åbne vægte til programmering, værktøjsbrug og ræsonnement over tekst, billeder og lyd. Den styrbare ræsonnementsindsats og store kontekst understøtter afgrænsede applikationsopgaver med skriftlige resultater ved hjælp af en mindre aktiv model end Inkling.
Denne beskrivelse dækker modellens funktioner. Tilgængelige input, output og indstillinger i Ailoot står nedenfor for den valgte metode.
Inkling-Small er Thinking Machines Labs mindre multimodale model med åbne vægte til ræsonnement, kodning, samtale og værktøjsbrugende applikationer. Den accepterer tekst, billeder og lyd og producerer tekst. Dens Mixture-of-Experts-design har i alt 276 milliarder parametre med 12 milliarder aktive sammenlignet med Inklings i alt 975 milliarder og 41 milliarder aktive. Small er en særskilt udgivet model med en anden balance mellem effektivitet og evner, ikke en tilstand med kortere output for Inkling.
Til en kodeundersøgelse skal du levere de berørte filer, den observerede adfærd og den ændring, du har brug for, og derefter bede om den ansvarlige kodevej og en fokuseret rettelse. Et nyttigt slutprodukt omfatter den foreslåede redigering og belæg fra eventuelle kontroller, som den forbundne applikation faktisk har kørt. Til en supportassistent skal du levere den relevante politik og samtalens fakta og bede om det næste svar eller det manglende spørgsmål. Modellens tilsigtede anvendelser omfatter kodeassistenter, chatbots, svar udvidet med informationshentning og agentsystemer med applikationsværktøjer.
Kontekstvinduet er op til én million tokens. Organisér et langt repository eller en dokumentsamling med filnavne, afsnitsbetegnelser og et tydeligt spørgsmål, og bevar de fakta, et senere trin skal anvende. Et stort vindue er nyttigt til at sammenligne oplysninger langt fra hinanden, men det ønskede resultat bør forblive konkret: en kodeændring, en kildebaseret forklaring eller udtrukne felter. Nye eller private oplysninger hører til i det leverede belæg eller returnerede søgeresultater frem for at blive antaget som en del af indlært viden.
Tænkeindsatsen kan styres. Producentfamiliens vejledning bruger kontinuerlige værdier fra og med 0.0 til under 1.0 med startforvalgene none, minimal, low, medium, high og xhigh svarende til 0.0, 0.1, 0.2, 0.7, 0.9 og 0.99. Producentens renderer bruger som standard high. Højere indsats kan fremme mere ræsonnement og kan kræve et større genereringsbudget, men garanterer ikke et længere eller mere præcist svar. En nulindstilling tilskynder modellen til intet ræsonnement frem for at håndhæve et fuldstændigt fravær af ræsonnement. Vælg indsats til opgaven, og hold kravet til det endelige output klart.
Billeder kan understøtte visuelle spørgsmål, fortolkning af diagrammer eller figurer og matematisk ræsonnement ud fra synlige oplysninger. Brug billeder med dimensioner mellem 40 og 4.096 pixels for god ydeevne. Bevar læsbare betegnelser, og forklar den relevante detalje. Med et konfigureret Python-værktøj kan modellen kombinere visuelt ræsonnement med beskæring, zoom og programmatisk undersøgelse af et dokument eller diagram. Disse handlinger kræver udførelse i det forbundne værktøjsmiljø; det skriftlige svar bør bruge observationerne returneret derfra.
Lydinput er WAV samplet ved 16 kHz med optagelser helst under to minutter for optimal ydeevne. Det er en anbefaling til forberedelsen, ikke en hård garanti om varighed. Brug et relevant talt spørgsmål eller kort klip, og angiv, om det skriftlige resultat skal transskribere tale, besvare et spørgsmål om optagelsen eller forbinde dens indhold med andet leveret materiale. Det indbyggede svar er tekst frem for genereret tale. Inklings særskilte anbefaling om længere lyd må ikke overføres til Small-udgaven.
Værktøjsbrugende arbejdsgange kræver meningsfulde værktøjsbeskrivelser, argumentdefinitioner og resultater fra de handlinger, applikationen udfører. Hold et opslag, en beregning eller en filobservation adskilt fra modellens foreslåede handling. Ved en uoverensstemmelse i et diagram skal du identificere de relevante betegnelser, undersøge de leverede værdier med et beregningsværktøj og bede om en forklaring, der henviser til disse værdier. Modellen er trænet til forskellige kode- og agentmiljøer, så den omgivende opgave og værktøjerne bør beskrives frem for at være underforståede.
De åbne vægte understøtter modelforskning, finjustering og integration i efterfølgende produkter. Inkling-Smalls udgivelse følger et tidligere preview-checkpoint og omfatter yderligere træning til agentbaseret kodning; den endelige model og dette preview bør bevare særskilte identiteter. Ved en specialiseret udtræks- eller svarstil bruger tilpasningen repræsentative eksempler og en eksplicit ønsket adfærd. En almindelig prompt leverer i stedet kontekst til den aktuelle anmodning; den opretter eller skifter ikke til en nytrænet model.
Et nyttigt trin i resultatgennemgangen kontrollerer, at den foreslåede kodeændring, transskription, de udtrukne fakta eller det skriftlige svar svarer til det leverede belæg. Angiv, hvordan usikkerhed og manglende oplysninger skal fremgå, især ved en prognose eller et faktuelt svar, hvis kilde er ufuldstændig. Producenten trænede Inkling-Small til prognosekalibrering ved reinforcement learning med proper scoring rules på spørgsmål fra virkeligheden med henblik på at udtrykke en sikkerhed, der passer til det tilgængelige belæg. Bevar materialet og værktøjsobservationerne sammen med produktet, så en opfølgning kan rette ét problem uden at miste den oprindelige opgave. Inkling-Smalls generelle flersprogede og multimodale evner forbliver adskilt fra en dedikeret talegenerator eller en garanteret tjeneste til eksterne handlinger.
POST /v1/messagestexttext| Felt | Type | Krav | Værdier og grænser | Standard |
|---|---|---|---|---|
Feltmodel | Typestring | KravPåkrævet | Værdier og grænser thinkingmachines/inkling-small:free | Standard— |
Feltmessages | Typearray | KravPåkrævet | Værdier og grænser | Standard— |
Feltstream | Typeboolean | KravValgfrit | Værdier og grænser false | Standardfalse |
Feltsystem | Typestring | KravValgfrit | Værdier og grænser | Standard— |
Feltmax_tokens | Typeinteger | KravPåkrævet | Værdier og grænser Minimum: 1 Maksimum: 262.144 | Standard— |
Felttemperature | Typenumber | KravValgfrit | Værdier og grænser | Standard— |
Felttop_p | Typenumber | KravValgfrit | Værdier og grænser | Standard— |
Felttop_k | Typeinteger | KravValgfrit | Værdier og grænser | Standard— |
Feltstop_sequences | Typearray | KravValgfrit | Værdier og grænser | Standard— |
Feltmetadata | Typeobject | KravValgfrit | Værdier og grænser | Standard— |
| Parameter | Kontrakt |
|---|---|
Parametercontent_type | Kontraktapplication/json |
Parameterrequired | Kontraktmodel, messages, max_tokens |
Parameteroptional | Kontraktstream, system, temperature, top_p, top_k, stop_sequences, metadata |
Parametermaterial_types | Kontrakttext |
Parameterconditions | KontraktUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1048576 bytes. |
Livscyklus: synchronous_json
Tarifoplysninger tilføjer ikke anmodningsmuligheder. Understøttede parametre står ved den valgte metode.
| Konfiguration | Takstplan | Beløb |
|---|---|---|
| KonfigurationGrundpriser for tokens | TakstplanGrundtakst | Beløb Input · Inputtokens $0 / 1K tokens Output · Outputtokens $0 / 1K tokens Input · Cachelæsning — / 1K tokens Input · Cacheskrivning — / 1K tokens Input · Cacheskrivning, 1 time — / 1K tokens |
Ailoot reserverer et estimeret beløb før en anmodning. Efter resultatet afregnes det endelige beløb ud fra det målte forbrug. Ved streaming bruges den endelige forbrugsregistrering til afregningen. Sådan fungerer reservation og afregning →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "thinkingmachines/inkling-small:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Gem hvert fuldstændigt returneret svar, hver fil og hver indholdsdel.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra thinkingmachines/inkling-small:free
Brug metodestierne vist ovenfor.