inclusionAI: Ling 3.0 Flash

Ling 3.0 Flash ist ein Text-zu-Text-Modell von inclusionAI. Die veröffentlichte Architektur ist eine Mixture-of-Experts-Architektur mit insgesamt 124 Milliarden Parametern und ungefähr 5,1 Milliarden aktiven Parametern pro Token. Wählen Sie inclusionai/ling-3.0-flash über POST /v1/chat/completions mit model und einem messages-Array. Anweisungen, Ausgangsmaterial und frühere Gesprächsbeiträge gehören in den Nachrichtentext.

Verwenden Sie einen gezielten Prompt, um bereitgestelltes Material in ein konkretes Ergebnis umzusetzen. Geben Sie für eine Kundenantwort die Frage des Kunden und den Produkt- oder Richtlinientext an, den die Antwort verwenden muss, und bestimmen Sie anschließend Ton und nächsten Schritt. Benennen Sie für eine Dokumentzusammenfassung die benötigten Abschnitte, etwa Entscheidungen, ungelöste Fragen und Maßnahmen. Definieren Sie für eine Extraktion die angeforderten Felder und die Darstellung von Fakten, die in der Quelle fehlen. Fügen Sie bei Codeaufgaben die relevante Funktion oder den Dateiauszug ein und bitten Sie um eine Erklärung, eine vorgeschlagene Änderung oder eine Prüfung anhand einer ausdrücklichen Anforderung.

Das veröffentlichte Kontextfenster beträgt 262 144 Tokens, wobei für das Modell bis zu 32 768 Ausgabetokens aufgeführt sind. Planen Sie Quelltext, Anweisungen, Gesprächsverlauf und gewünschte Ausgabe gemeinsam ein. Verwenden Sie max_tokens, um das gewünschte Ausgabekontingent festzulegen. Ein Dokument sollte als tatsächlicher Text bereitgestellt werden, wenn die Antwort von seinem Inhalt abhängen soll; verweisen Sie ausdrücklich auf die relevanten Abschnitte, wenn eine Anfrage mehrere Passagen kombiniert.

Die Liste unterstützter Parameter enthält tools und tool_choice für Funktionsaufrufe. Definieren Sie die verfügbaren Funktionen und ihre Argumentbeschreibungen in der Anfrage. Ihre Anwendung validiert einen zurückgegebenen Aufruf, führt die ausgewählte Funktion aus und fügt deren Ergebnis dem Gespräch hinzu, bevor sie eine Folgeantwort anfordert. Beispielsweise kann ein Supportablauf eine eng definierte Bestellabfrage bereitstellen und deren zurückgegebene Fakten beim Entwerfen der Antwort verwenden. Ordnen Sie Werkzeugergebnisse dem richtigen Gesprächsbeitrag zu, damit das Modell sie von der ursprünglichen Anfrage des Nutzers unterscheiden kann.

Das Modell unterstützt response_format für die JSON-Ausgabe, ohne die Einhaltung eines JSON-Schemas zu erzwingen. Geben Sie die vorgesehenen Felder an und validieren Sie das zurückgegebene Objekt vor seiner Verwendung in Ihrer Anwendung. Weitere veröffentlichte Steuerungen umfassen temperature, top_p, top_k, min_p, stop, seed sowie die aufgeführten Wiederholungs-, Häufigkeits- und Präsenzstrafen. Die Parameterliste enthält außerdem reasoning und include_reasoning; wählen Sie deren unterstützte Darstellung anhand der Anfragespezifikation, statt Werte einer anderen Ausgabe vorauszusetzen.

Chat Completions kann eine vollständige Antwort oder gestreamten Text zurückgeben. Lesen Sie bei einer vollständigen Antwort den zurückgegebenen Nachrichteninhalt und bewahren Sie die Antwort-choices und usage auf. Setzen Sie beim Streaming die Deltas zusammen, bevor Sie die Antwort als vollständig behandeln, und bewahren Sie alle zurückgegebenen Werkzeugaufrufe mit ihren Argumenten auf. Das Ergebnis ist Text oder eine Funktionsaufrufanfrage für den nächsten Anwendungsschritt; die umgebende Anwendung ist für die Ausführung und die Verwendung der fertigen Antwort zuständig.