inclusionAI: Ling 3.0 Flash

Ling 3.0 Flash is een tekst-naar-tekstmodel van inclusionAI. De gepubliceerde architectuur is een mixture of experts met in totaal 124 miljard parameters en ongeveer 5.1 miljard actieve parameters per token. Selecteer inclusionai/ling-3.0-flash via POST /v1/chat/completions met model en een messages-array. Instructies, bronmateriaal en eerdere gespreksbeurten horen in de berichttekst.

Gebruik een gerichte prompt om aangeleverd materiaal om te zetten in een specifiek eindresultaat. Geef voor een klantantwoord de vraag van de klant en de product- of beleidstekst die het antwoord moet gebruiken, en specificeer vervolgens de toon en volgende stap. Benoem voor een documentsamenvatting de secties die je nodig hebt, zoals besluiten, onopgeloste vragen en acties. Definieer voor extractie de gevraagde velden en hoe feiten die ontbreken in de bron moeten worden weergegeven. Voeg voor codewerk de relevante functie of het bestandsfragment toe en vraag om een uitleg, voorgestelde wijziging of beoordeling aan de hand van een expliciete eis.

Het gepubliceerde contextvenster is 262 144 tokens, met voor het model maximaal 32 768 voltooiingstokens. Plan de brontekst, instructies, gespreksgeschiedenis en gevraagde voltooiing gezamenlijk binnen het budget. Gebruik max_tokens om de gevraagde uitvoerruimte in te stellen. Als je wilt dat het antwoord op de inhoud van een document is gebaseerd, moet je de daadwerkelijke tekst aanleveren; verwijs expliciet naar de relevante secties wanneer een verzoek meerdere passages combineert.

De lijst met ondersteunde parameters omvat tools en tool_choice voor functieaanroepen. Definieer de beschikbare functies en de beschrijvingen van hun argumenten in het verzoek. Je toepassing valideert een geretourneerde aanroep, voert de geselecteerde functie uit en levert het resultaat aan het gesprek voordat een vervolgantwoord wordt gevraagd. Een ondersteuningsproces kan bijvoorbeeld een nauw omschreven bestelopzoekfunctie aanbieden en de geretourneerde feiten gebruiken bij het opstellen van het antwoord. Houd toolresultaten gekoppeld aan de juiste gespreksbeurt, zodat het model ze kan onderscheiden van het oorspronkelijke verzoek van de gebruiker.

Het model ondersteunt response_format voor JSON-uitvoer, zonder afdwinging van een JSON-schema. Benoem de bedoelde velden en valideer het geretourneerde object in je toepassing voordat je het gebruikt. Andere gepubliceerde instellingen omvatten temperature, top_p, top_k, min_p, stop, seed en de vermelde straffen voor herhaling, frequentie en aanwezigheid. De parameterlijst omvat ook reasoning en include_reasoning; kies hun ondersteunde weergave uit de verzoekspecificatie in plaats van waarden van een andere editie te veronderstellen.

Chat Completions kan een volledig antwoord of gestreamde tekst retourneren. Lees voor een volledig antwoord de geretourneerde berichtinhoud en bewaar de antwoordkeuzes en usage. Voeg bij streaming de delta's samen voordat je het antwoord als volledig beschouwt, en bewaar eventuele geretourneerde toolaanroepen met hun argumenten. Het resultaat is tekst of een verzoek om een functieaanroep voor de volgende toepassingsstap; de omringende toepassing is verantwoordelijk voor de uitvoering en het gebruik van het voltooide antwoord.