Source: https://ailoot.ai/models/it/meta-llama-llama-3-1-8b-instruct/ Canonical: https://ailoot.ai/models/it/meta-llama-llama-3-1-8b-instruct/ Language: it # Meta: Llama 3.1 8B Instruct [Markdown](https://ailoot.ai/models/it/meta-llama-llama-3-1-8b-instruct/index.md) · [JSON](https://ailoot.ai/models/it/meta-llama-llama-3-1-8b-instruct/facts.json) ## [Meta: Llama 3.1 8B Instruct](https://ailoot.ai/models/it/meta-llama-llama-3-1-8b-instruct/) Llama 3.1 8B Instruct è il modello testuale più piccolo di Meta ottimizzato per le istruzioni, destinato a dialogo multilingue, riepiloghi e risposte vincolate alle fonti. Ha una dimensione di 8B parametri, un contesto del produttore di 128k, grouped-query attention e formati documentati per l'uso degli strumenti, e restituisce testo o codice. - [**Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/it/meta-llama-llama-3-1-8b-instruct/#method-0) - [**Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/it/meta-llama-llama-3-1-8b-instruct/#method-1) Informazioni sul modello Questa descrizione illustra le funzionalità del modello. Gli input, gli output e le opzioni disponibili in Ailoot per il metodo selezionato sono elencati di seguito. Llama 3.1 8B Instruct è il modello testuale di Meta da otto miliardi di parametri per dialogo multilingue e assistenti basati su istruzioni. Accetta conversazione scritta e materiale di partenza e produce testo o codice. È l'edizione Instruct della dimensione 8B, distinta dalla sua base preaddestrata e dai modelli 70B e 405B della famiglia. Architettura, contesto e lingue Il modello usa un'architettura Transformer autoregressiva con grouped-query attention. La famiglia ottimizzata per le istruzioni usa fine-tuning supervisionato e apprendimento per rinforzo con feedback umano per allineare le risposte conversazionali. Il produttore documenta un contesto di 128k per questa versione testuale; non è la specifica visiva o di contesto lungo di un successivo modello Llama 4. Le otto lingue ufficialmente supportate sono inglese, tedesco, francese, italiano, portoghese, hindi, spagnolo e thailandese. I dati di preaddestramento coprono una raccolta più ampia, diversa dalle lingue esplicitamente supportate dalla scheda. Specifica la lingua finale e i nomi, identificatori di variabili o termini che devono rimanere invariati in un risultato multilingue. La famiglia è preaddestrata su circa quindici mila miliardi di token, con dati aggiornati fino a dicembre 2023. Il fine-tuning comprende materiale di istruzioni e più di venticinque milioni di esempi sintetici. Questo descrive l'addestramento del modello, non l'accesso a una base di conoscenza privata o a informazioni in tempo reale quando arriva una nuova domanda. Operazioni testuali definite Una richiesta orientata all'assistenza può fornire il messaggio dell'utente e i passaggi di riferimento pertinenti, poi chiedere la risposta e la condizione che la sostiene. Un record compatto può separare il problema, le informazioni già fornite e il passaggio successivo richiesto. Definisci i nomi dei campi e la gestione dei valori mancanti quando un'applicazione deve elaborare quel risultato. Per la sintesi, fornisci il passaggio o lo scambio effettivi e specifica pubblico, lunghezza e fatti da mantenere. Chiedi le decisioni o le domande irrisolte pertinenti a un argomento anziché un riepilogo indiscriminato di materiale non correlato. Un seguito può richiedere una risposta più breve o una spiegazione più chiara di una condizione mantenendo gli stessi fatti di partenza. Per la revisione, specifica lettore e tono e identifica il significato che deve rimanere invariato. Un compito pratico può richiedere un messaggio più chiaro seguito da un breve elenco di modifiche, oppure il solo messaggio rivisto se sarà usato direttamente. Un compito di classificazione deve fornire le etichette ammesse e la distinzione tra esse, anziché affidarsi al nome di un'etichetta per definire la regola. Generazione di codice ed esempi L'output documentato include anche codice. Fornisci il linguaggio, gli input richiesti e il risultato atteso prima di chiedere una funzione. Per una spiegazione, fornisci la funzione esistente e un input concreto e chiedi quali passaggi ne determinano il valore restituito. Per una correzione, includi il problema osservato e il comportamento previsto, mantenendo l'interfaccia che deve restare compatibile. Un output utile può separare il codice proposto, le sue ipotesi e gli input di esempio. L'applicazione o lo sviluppatore esegue la compilazione, l'esecuzione o la modifica effettiva del repository. Il codice sorgente scritto è un artefatto da controllare, non un'operazione esterna completata soltanto perché il modello lo ha restituito. La famiglia supporta anche l'uso dell'output generato per esempi sintetici e distillazione. Una richiesta testuale definita può produrre variazioni secondo regole fornite e in un formato specificato. Mantieni regole ed etichette affinché ogni esempio sia ispezionabile; gli esempi generati non dimostrano indipendentemente la correttezza di un dataset di addestramento. Ruoli della conversazione e uso degli strumenti La scheda del modello mostra un template chat con messaggi separati di sistema e utente. Definisci il ruolo dell'assistente e i requisiti della risposta nel contesto di sistema, poi fornisci domanda e materiale di partenza come compito. Mantieni i messaggi precedenti pertinenti quando chiedi un seguito o fornisci nuove evidenze che cambiano il risultato. Llama 3.1 documenta più formati di uso degli strumenti. L'applicazione descrive una funzione, il modello genera la chiamata proposta e gli argomenti, l'applicazione la esegue e restituisce il risultato con il ruolo tool. La risposta successiva può quindi usare le informazioni restituite. Mantieni l'operazione di origine e il risultato collegati lungo la conversazione. Per esempio, una ricerca può restituire il valore di riferimento attuale mancante da un passaggio, oppure uno strumento di calcolo può fornire il risultato numerico richiesto dalla spiegazione. Un assistente abilitato agli strumenti necessita che tali operazioni siano fornite dall'ambiente. Il comportamento testuale del modello non crea da solo una connessione a una fonte esterna né completa un effetto collaterale. Limiti pratici L'etichetta di contesto 128k del produttore va mantenuta con la versione esatta 8B Instruct e la configurazione applicabile. L'esempio di generazione di 256 token è soltanto una scelta d'uso; le fonti lette non dichiarano una capacità massima rigida separata di risposta. La dimensione 8B non deve ereditare il numero di parametri di un altro membro o i controlli di ragionamento denominati di una famiglia separata. Questo è un modello esclusivamente testuale. Input visivi, comprensione audio e generazione vocale richiedono componenti specificati separatamente. Definisci l'artefatto finale prima di fornire il materiale: una risposta concisa, un record estratto, un passaggio rivisto, una spiegazione o una proposta di codice. Conserva le informazioni di origine necessarie per controllare significato e formato di quell'artefatto. Caso pratico ### Caso pratico Esempio tecnico in inglese ``` Translate a delivery notice into German Translate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date. ``` #### Risultato atteso ``` One German customer notice preserving the identifier, event sequence and qualified transit time. ``` #### Verificare il risultato ``` The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate. ``` **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `meta-llama/llama-3.1-8b-instruct` [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/it/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat) Meta /`meta-llama/llama-3.1-8b-instruct` ### Introduzione Llama 3.1 8B Instruct è il modello testuale più piccolo di Meta ottimizzato per le istruzioni, destinato a dialogo multilingue, riepiloghi e risposte vincolate alle fonti. Ha una dimensione di 8B parametri, un contesto del produttore di 128k, grouped-query attention e formati documentati per l'uso degli strumenti, e restituisce testo o codice. Input accettati Testo Risultati Testo ### Disponibile in Ailoot · input e metodi **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` Tipi di input `text` Tipi di output `text` Formato di output json o SSE | Campo | Tipo | Requisito | Valori e limiti | Predefinito | | --- | --- | --- | --- | --- | | Campo`model` | Tipo`string` | RequisitoObbligatorio | Valori e limiti meta-llama/llama-3.1-8b-instruct | Predefinito— | | Campo`messages` | Tipo`message[]` | RequisitoObbligatorio | Valori e limiti Numero minimo di elementi: 1 | Predefinito— | | Campo`messages[].role` | Tipo`string` | RequisitoObbligatorio | Valori e limiti Esempi: system, user, assistant, tool, function Condizioni: Questi ruoli sono rappresentati esplicitamente dai tipi di compatibilità del codice sorgente; l’insieme esatto dei ruoli rimane specifico del modello. Dipende dal modello | Predefinito— | | Campo`messages[].content` | Tipo`string\|content_part[]\|null` | RequisitoFacoltativo | Valori e limiti | Predefinito— | | Campo`messages[].tool_calls` | Tipo`tool_call[]` | RequisitoFacoltativo | Valori e limiti | Predefinito— | | Campo`messages[].tool_call_id` | Tipo`string` | RequisitoFacoltativo | Valori e limiti Si applica quando: role=tool; usa l’ID effettivamente restituito | Predefinito— | | Campo`messages[].name` | Tipo`string` | RequisitoFacoltativo | Valori e limiti | Predefinito— | | Campo`messages[].reasoning_content` | Tipo`string` | RequisitoFacoltativo | Valori e limiti Si applica quando: Reinserisci il ragionamento effettivamente restituito quando il modello lo utilizza | Predefinito— | | Campo`messages[].reasoning_details` | Tipo`object\|array` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`max_tokens` | Tipo`integer` | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— | | Campo`max_completion_tokens` | Tipo`integer` | RequisitoFacoltativo | Valori e limiti Minimo: 1 Dipende dal modello | Predefinito— | | Campo`stream` | Tipo`boolean` | RequisitoFacoltativo | Valori e limiti | Predefinitofalse | | Campo`stream_options.include_usage` | Tipo`boolean` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`temperature` | Tipo`number` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`top_p` | Tipo`number` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`stop` | Tipo`string\|string[]` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`tools` | Tipo`function_tool[]` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`tools[].type` | Tipo`string` | RequisitoFacoltativo | Valori e limiti function Dipende dal modello | Predefinito— | | Campo`tools[].function.name` | Tipo`string` | RequisitoObbligatorio | Valori e limiti Si applica quando: Funzione fornita come strumento | Predefinito— | | Campo`tools[].function.description` | Tipo`string` | RequisitoFacoltativo | Valori e limiti | Predefinito— | | Campo`tools[].function.parameters` | Tipo`JSON_schema` | RequisitoFacoltativo | Valori e limiti | Predefinito— | | Campo`tool_choice` | Tipo`string\|object` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`parallel_tool_calls` | Tipo`boolean` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`response_format` | Tipo`object` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`reasoning_effort` | Tipo`string` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`reasoning` | Tipo`object` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`service_tier` | Tipo`string` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`instructions` | Tipo`string` | RequisitoFacoltativo | Valori e limiti Campo di compatibilità | Predefinito— | | Campo`functions` | Tipo`function[]` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`function_call` | Tipo`string\|object` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`prompt_cache_options` | Tipo`object` | RequisitoFacoltativo | Valori e limiti Dipende dal modello | Predefinito— | | Campo`modalities` | Tipo`string[]` | RequisitoFacoltativo | Valori e limiti text | Predefinito— | | Campo`provider` | Tipo`object` | RequisitoFacoltativo | Valori e limiti Condizioni: provider.options viene rifiutato su questa rotta testuale Ultra | Predefinito— | | Campo`cache_control.ttl` | Tipo`string` | RequisitoFacoltativo | Valori e limiti Condizioni: 1h viene rifiutato nelle posizioni effettive della cache dei prompt | Predefinito— | Combinazioni di materiali in input **Testo** · Testo UTF8 `messages[].content` Parametri e ciclo di vita del metodo | Parametro | Contratto | | --- | --- | | Parametro`content_type` | Contrattoapplication/json | | Parametro`required` | Contrattomodel, messages | | Parametro`material_types` | Contrattotext | | Parametro`messages` | ContrattoArray di messaggi con struttura role/content | | Parametro`file_material` | ContrattoDocumento UTF-8 effettivo inserito come testo letterale; nessun ID di file dedotto | | Parametro`optional_controls` | Contrattostream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | Parametro`control_scope` | ContrattoSpecifico del modello; gli strumenti di funzione dell’utente differiscono dagli strumenti ospitati | | Parametro`output_modalities` | Contrattotext | | Parametro`hosted_operations` | Contrattofalse | | Parametro`multimodal_input_binding` | Contrattonull | Ciclo di vita: `synchronous_or_streamed` Invia l’ID esatto del modello con messages. La lunghezza del contesto non è un limite di uscita. Un file di testo può fornire testo letterale; gli ingressi immagine/audio/oggetto file richiedono un’associazione esatta. ### Tariffe Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato. Modalità rapida Tariffa standard Quando è selezionata la modalità rapida Modalità flex Tariffa standard Quando è selezionata la modalità flex Sforzo massimo di ragionamento Tariffa standard Quando lo sforzo massimo di ragionamento usa l'adeguamento predefinito (default) #### Tariffe Ailoot #### Prezzi per configurazione Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative. | Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo | | --- | --- | --- | --- | --- | | ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input **$0.00044** / 1K token Output · Token in output **$0.00044** / 1K token Input · Lettura dalla cache **$0.00044** / 1K token Input · Scrittura nella cache **—** / 1K token Input · Scrittura nella cache, 1 ora **—** / 1K token | | ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input **$0.00044** / 1K token Output · Token in output **$0.00044** / 1K token Input · Lettura dalla cache **$0.00044** / 1K token Input · Scrittura nella cache **—** / 1K token Input · Scrittura nella cache, 1 ora **—** / 1K token | Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. [Come funzionano la prenotazione e l’addebito finale →](https://ailoot.ai/docs/it/billing/reserve/) ### Esempi di richieste #### Ailoot Ultra · OpenAI Chat curlPython SDKStreaming Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### Ricevi e salva i risultati #### Ailoot Ultra · OpenAI Chat json o SSE ##### Conserva tutti i risultati completati Conserva ogni risposta, file e parte di contenuto restituiti per intero. Conserva ogni scelta con contenuto, chiamate agli strumenti e ragionamento. In SSE assembla i delta per indice di scelta e strumento e conserva il motivo finale di completamento e i dati di utilizzo. ##### Se occorre verificare la risposta originale Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale. Campi della risposta | Campo | Tipo | | --- | --- | | Campo`choices[].index` | Tipointeger | | Campo`choices[].message.content` | Tipostring\|null | | Campo`choices[].message.tool_calls` | Tipotool\_call\[\] | | Campo`choices[].message.reasoning_content` | Tipostring | | Campo`choices[].message.reasoning_details` | Tipoobject\|array | | Campo`choices[].finish_reason` | Tipostring\|null | | Campo`usage` | Tipoobject | Errori e passaggi successivi | Risposta | Condizione | Passaggio successivo | | --- | --- | --- | | Risposta400 · `invalid_request_error` | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. | ### Alias #### Alias del modello **Ailoot Ultra** [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/it/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat) #### Alias dei percorsi dei metodi Usa i percorsi dei metodi indicati sopra. #### ID di chiamata correlati [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/it/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=chat) **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `meta-llama/llama-3.1-8b-instruct` [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/it/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages) Meta /`meta-llama/llama-3.1-8b-instruct` ### Introduzione Llama 3.1 8B Instruct è il modello testuale più piccolo di Meta ottimizzato per le istruzioni, destinato a dialogo multilingue, riepiloghi e risposte vincolate alle fonti. Ha una dimensione di 8B parametri, un contesto del produttore di 128k, grouped-query attention e formati documentati per l'uso degli strumenti, e restituisce testo o codice. Input accettati Testo Risultati json · sse ### Disponibile in Ailoot · input e metodi **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` Tipi di input `text` Tipi di output `json`, `sse` Formato di output JSON o SSE | Campo | Tipo | Requisito | Valori e limiti | Predefinito | | --- | --- | --- | --- | --- | | Campo`model` | Tipo`string` | RequisitoObbligatorio | Valori e limiti meta-llama/llama-3.1-8b-instruct | Predefinito— | | Campo`messages` | Tipo`message[]` | RequisitoObbligatorio | Valori e limiti | Predefinito— | | Campo`messages[].role` | Tipo`string` | RequisitoObbligatorio | Valori e limiti user, assistant | Predefinito— | | Campo`messages[].content` | Tipo`string` | RequisitoObbligatorio | Valori e limiti | Predefinito— | | Campo`max_tokens` | Tipo`integer` | RequisitoObbligatorio | Valori e limiti | Predefinito— | | Campo`stream` | Tipo`boolean` | RequisitoFacoltativo | Valori e limiti | Predefinitofalse | Combinazioni di materiali in input **Testo** · Testo UTF-8 `Stringa messages[].content` Parametri e ciclo di vita del metodo | Parametro | Contratto | | --- | --- | | Parametro`content_type` | Contrattoapplication/json | | Parametro`required` | Contrattomodel, messages, max\_tokens | | Parametro`optional_controls` | Contrattostream | | Parametro`material_types` | Contrattotext | | Parametro`text_file_material` | ContrattoLeggi il documento UTF-8 effettivo e inserisci il testo nell’ingresso indicato o nella stringa del contenuto del messaggio. | Ciclo di vita: `synchronous_or_streamed` ### Tariffe Le tariffe non aggiungono opzioni alla richiesta. I parametri supportati sono elencati nel metodo selezionato. Modalità rapida Tariffa standard Quando è selezionata la modalità rapida Modalità flex Tariffa standard Quando è selezionata la modalità flex Sforzo massimo di ragionamento Tariffa standard Quando lo sforzo massimo di ragionamento usa l'adeguamento predefinito (default) #### Tariffe Ailoot #### Prezzi per configurazione Associa ogni costo alle condizioni indicate. Usa una sola tariffa per ogni insieme di configurazioni alternative. | Configurazione | Listino delle tariffe | Token di contesto, più di | Token di contesto, fino al limite incluso | Costo | | --- | --- | --- | --- | --- | | ConfigurazioneTariffe di base dei token | Listino delle tariffeTariffa base | Token di contesto, più di— | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input **$0.00044** / 1K token Output · Token in output **$0.00044** / 1K token Input · Lettura dalla cache **$0.00044** / 1K token Input · Scrittura nella cache **—** / 1K token Input · Scrittura nella cache, 1 ora **—** / 1K token | | ConfigurazioneFascia 1 di lunghezza della richiesta | Listino delle tariffe— | Token di contesto, più di0 | Token di contesto, fino al limite inclusoNessun limite superiore | Costo Input · Token in input **$0.00044** / 1K token Output · Token in output **$0.00044** / 1K token Input · Lettura dalla cache **$0.00044** / 1K token Input · Scrittura nella cache **—** / 1K token Input · Scrittura nella cache, 1 ora **—** / 1K token | Ailoot prenota un importo stimato prima di una richiesta. Dopo il risultato, addebita il costo finale in base all’utilizzo misurato. Per lo streaming, l’addebito usa il record finale di utilizzo. [Come funzionano la prenotazione e l’addebito finale →](https://ailoot.ai/docs/it/billing/reserve/) ### Esempi di richieste #### Ailoot Ultra · Anthropic Messages Corpo JSON minimo completocurl · usa il tuo documento UTF-8Python · salva il risultato completo ```json { "model": "meta-llama/llama-3.1-8b-instruct", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### Ricevi e salva i risultati #### Ailoot Ultra · Anthropic Messages JSON o SSE ##### Conserva tutti i risultati completati Conserva ogni risposta, file e parte di contenuto restituiti per intero. Conserva tutti i blocchi di contenuto, le firme di ragionamento e gli ID effettivi di utilizzo degli strumenti. Assembla tutti i delta dei blocchi SSE; il primo blocco di testo non è l’uscita completa. ##### Se occorre verificare la risposta originale Conserva gli ID e le intestazioni di richiesta/risposta. Non viene fornito alcun URL generico per recuperare un’attività testuale. Campi della risposta | Campo | Tipo | | --- | --- | | Campo`id` | Tipostring | | Campo`model` | Tipostring | | Campo`content[]` | Tipotext\|thinking\|tool\_use\|other content block | | Campo`stop_reason` | Tipostring\|null | | Campo`usage` | Tipoobject | Errori e passaggi successivi | Risposta | Condizione | Passaggio successivo | | --- | --- | --- | | Risposta400 · `invalid_request_error` | CondizioneCampi obbligatori, rappresentazione del materiale o valore del parametro non validi | Passaggio successivoCorreggi i campi indicati prima di una nuova richiesta di creazione. | ### Alias #### Alias del modello **Ailoot Ultra** [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/it/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages) #### Alias dei percorsi dei metodi Usa i percorsi dei metodi indicati sopra. #### ID di chiamata correlati [`meta-llama/llama-3.1-8b-instruct`](https://ailoot.ai/models/it/#m=meta-llama%2Fllama-3.1-8b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-8b-instruct&fmt=messages) FAQ · Meta: Llama 3.1 8B Instruct Quali input e risultati sono disponibili? `POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `text` → `text` `POST /v1/messages` · `meta-llama/llama-3.1-8b-instruct`: `text` → `json`, `sse` Quali campi usa la richiesta? `POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `meta-llama/llama-3.1-8b-instruct`: `model`, `messages`, `max_tokens`, `stream` Quali limiti si applicano? `POST /v1/chat/completions` · `meta-llama/llama-3.1-8b-instruct`: `messages.min_items`: `1` Collega Ailoot a Claude Code, OpenCode, Hermes o alla tua applicazione. ## L’azienda e il suo portafoglio di progetti L’azienda e il suo portafoglio di progetti: milioni di clienti; vendite nell’ordine dei miliardi ogni mese. ## Acquista token con uno sconto. Sconto con abbonamento per lavoro regolare. Codici fino al 50% sull’acquisto di token. Abbonamento Scegli un piano scontato per richieste regolari. Codice fino al 50% Inserisci il codice all’acquisto. Il prezzo si aggiorna secondo la promozione. Spese nella cronologia Modello, token e importo sono salvati per ogni richiesta. [Scegli abbonamento](https://ailoot.ai/docs/it/billing/subscriptions/) · [Consulta prezzi dei modelli](https://ailoot.ai/models/it/) ## Collega l’API al prodotto che vendi. SaaS, app e bot secondo offerta e accordo di licenza Ailoot. Per rivendere, richiedi una licenza reseller. Applicazione commerciale Integra generazione di testo, immagini, video e suono nelle funzioni a pagamento. Licenza reseller Invia descrizione del progetto e schema di accesso. Richiedi condizioni scritte per uso e rivendita. Documenti sul sito Offerta, accordo di licenza e politica sui dati sono disponibili prima della connessione. [Richiedi licenza reseller](mailto:support@ailoot.ai) · [Offerta e accordo di licenza](https://ailoot.ai/legal/offer?lang=it) ## Ailoot · L’azienda e il suo portafoglio di progetti Ailoot si basa su un’esperienza operativa consolidata, un’ampia base di clienti, un servizio stabile e un controllo costante dei KPI. L’azienda e il suo portafoglio di progetti: milioni di clienti; vendite nell’ordine dei miliardi ogni mese. Ailoot mette questa esperienza operativa al servizio dell’accesso API alle funzioni AI nei prodotti dei clienti, negli agenti, nelle applicazioni e nelle automazioni.