Source: https://ailoot.ai/models/ja/meta-llama-llama-3-1-70b-instruct/
Canonical: https://ailoot.ai/models/ja/meta-llama-llama-3-1-70b-instruct/
Language: ja

# Meta: Llama 3.1 70B Instruct

[Markdown](https://ailoot.ai/models/ja/meta-llama-llama-3-1-70b-instruct/index.md) · [JSON](https://ailoot.ai/models/ja/meta-llama-llama-3-1-70b-instruct/facts.json)

## [Meta: Llama 3.1 70B Instruct](https://ailoot.ai/models/ja/meta-llama-llama-3-1-70b-instruct/)

Llama 3.1 70B Instructは、多言語対話、文書に基づく推論、コード向けのMetaのテキストモデルです。70Bの指示調整済みリリースは、Grouped-Query Attention、メーカーが示す128kのコンテキスト、文書化されたツール呼び出しの会話形式を備え、テキストとコードを出力します。

- [**Ailoot Ultra · OpenAI チャット** `POST /v1/chat/completions` `meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/ja/meta-llama-llama-3-1-70b-instruct/#method-0)
- [**Ailoot Ultra · Anthropic メッセージ** `POST /v1/messages` `meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/ja/meta-llama-llama-3-1-70b-instruct/#method-1)

モデルについて

この説明はモデルの機能を紹介するものです。Ailootで利用できる入力、出力、オプションは、選択したメソッドごとに以下に記載されています。

Llama 3.1 70B Instructは、多言語対話とアシスタントへの依頼向けに最適化された、Metaの700億パラメータのテキストモデルです。8B・405Bサイズと、別の事前学習済みモデルも含むファミリーに属する、指示調整済みチェックポイントです。テキストを受け取り、多言語テキストまたはコードを返します。名称に70Bを含むこの版は、独自の規模と識別名を保持しています。

モデルの情報と学習

このリリースは、Grouped-Query Attentionを備えた自己回帰Transformerアーキテクチャを使います。調整済みモデルは、教師ありファインチューニングと人間のフィードバックによる強化学習で調整されています。これらは有用な会話動作のための学習段階であり、独立した推論モードと非推論モードを切り替える、名称付きの実行時スイッチではありません。

メーカーはテキストモデルに128kのコンテキストを記載し、英語、ドイツ語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語に公式に対応しています。学習にはより広い言語群が含まれますが、すべての言語に同等に対応することにはなりません。多言語の成果物を依頼する前に、出力言語、用語、読者を指定してください。

ファミリーの事前学習コーパスは約15兆トークンと説明され、期限は2023年12月です。ファインチューニングには、指示データセットと2,500万件を超える合成例が含まれます。この期限は学習データの境界です。より新しい情報や非公開情報に依存する質問では、その情報をタスクで提示するか、接続された出典から返す必要があります。

アシスタント型チャットと出典分析

Instruct版は会話による依頼に応答することを目的とし、事前学習済み版は、ほかの生成タスクに適応させるための基盤です。出典に基づく回答では、質問と、結果を決める文章を提示してください。出典にラベルを付け、各所見の横に、根拠となる節や記述を添えるよう求めます。

実用的な比較では、2つの手順を提示し、共通の条件、違い、未解決の矛盾を求められます。作成するガイドは、元の順序と、各操作が当てはまる条件を保持できます。文書編集のタスクでは、対象読者、必ず残す事実、最終成果物を修正文だけにするか説明付きにするかを指定できます。

長い回答では、必要な節と、それぞれの目的を指定してください。大きなコンテキストで関連資料をまとめて保持しながら、最終結果は簡潔な比較表や解説にできます。利用できる文書をすべて含めることよりも、出典の識別と、明確な質問のほうが重要です。

コードと生成例

文書化された出力にはコードが含まれます。実装案では、言語、入力型、期待する結果、互換性を維持すべきインターフェースを提示してください。修正タスクでは、既存の断片と関連する宣言を含めます。次の開発手順で確認できるよう、コードを前提や例とは分けて求めてください。

コードの解説では、追跡する入力を提示し、渡した関数がどのように戻り値に到達するかを尋ねてください。数学の解説では、記号と前提を定義し、求める結果が厳密値、近似値、証明のどれかを明示します。コード生成や文章による推論そのものが、プログラムをコンパイルしたり、計算を実行したりするわけではありません。

メーカーは、合成データ生成と蒸留もファミリーの用途として挙げています。テキストのタスクで、提示したルールを保ちながら、指定の形式による多様な例を求められます。それらの例が追加学習に適しているかは、別途アプリ側で判断する事項です。テキスト出力だけでは、その正確性を独立に検証したことにはなりません。

会話形式とツール

カードは、対応するチャットテンプレートで、システムメッセージとユーザーメッセージを分けた例を示しています。システム指示には役割、語調、継続的な応答ルールを記し、ユーザーの依頼には実際の問題と出典を含めてください。以前の回答に基づく後続の依頼では、関連する過去のメッセージを保持します。

Llama 3.1は、文書化された複数のツール使用形式に対応しています。アプリが関数とパラメータを提供し、モデルが呼び出し案を用意し、アプリが実行して結果を会話に追加します。後続の生成は、その結果を使えます。カードの短い例では、アシスタントの呼び出しを追加し、その後にツール結果を追加する流れが明示されています。関数を選ぶことと、その操作を完了することは異なります。

検索では、必要な情報を示し、それを返す関数を定義してください。最終的な説明を求める前に、実際に返された値と元の呼び出しを一緒に保持します。計算では、モデルが提案した操作と、計算機が返した結果を区別してください。ネイティブなツール形式と、ラッパーインターフェースに見える表現は、それぞれの文書化された慣例を保持する必要があります。

エディションと実用上の制限

参照したカードにある256トークンの生成設定は使用例であり、最大出力容量として独立に明示された値ではありません。128kのコンテキストは、設定されたリリース内の資料と生成された会話に関するものです。Llama 4のコンテキストや視覚能力、別のLlama 3.1チェックポイントの規模に置き換えないでください。

これはテキスト専用のInstructモデルです。画像、音声録音、動画を扱うには、関連する内容を別のコンポーネントで用意する必要があります。外部検索、プログラム実行、ファイル変更も同様に、アシスタントに接続されたアプリが担います。正確な70B Instructのエディションを保持し、タスクに必要な、出典に結び付いた解説、修正文書、コード、構造化テキストを求めてください。

実用タスク

### 実用タスク

英語の技術例

```
Produce a bilingual maintenance notice

Write a maintenance notice in English and Spanish from these facts: warehouse entrance B closes on Tuesday from 08:00 to 11:00; deliveries must use entrance A; pedestrian access is unchanged. Use three short sentences per language and preserve entrance letters and times. Do not add a date, delay estimate or closure of pedestrian access.
```

#### 期待される結果

```
Two labelled language blocks with equivalent three-sentence notices.
```

#### 結果の確認

```
Compare both versions for entrance A/B, Tuesday, the time range and unchanged pedestrian access.
```

**Ailoot Ultra · OpenAI チャット** `POST /v1/chat/completions` `meta-llama/llama-3.1-70b-instruct`

[`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/ja/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=chat)

Meta /`meta-llama/llama-3.1-70b-instruct`

### はじめに

Llama 3.1 70B Instructは、多言語対話、文書に基づく推論、コード向けのMetaのテキストモデルです。70Bの指示調整済みリリースは、Grouped-Query Attention、メーカーが示す128kのコンテキスト、文書化されたツール呼び出しの会話形式を備え、テキストとコードを出力します。

対応する入力

テキスト

結果

テキスト

### Ailootで利用可能 · 入力とメソッド

**Ailoot Ultra · OpenAI チャット** `POST /v1/chat/completions`

入力の種類

`text`

出力の種類

`text`

出力形式

jsonまたはSSE

| フィールド | 種類 | 要件 | 値と制限 | デフォルト |
| --- | --- | --- | --- | --- |
| フィールド`model` | 種類`string` | 要件必須 | 値と制限 meta-llama/llama-3.1-70b-instruct | デフォルト— |
| フィールド`messages` | 種類`message[]` | 要件必須 | 値と制限 最小項目数: 1 | デフォルト— |
| フィールド`messages[].role` | 種類`string` | 要件必須 | 値と制限 例：system, user, assistant, tool, function 条件: これらのロールはソースコードの互換型で明示されています。正確なロールの集合はモデルごとに異なります。 モデルによる | デフォルト— |
| フィールド`messages[].content` | 種類`string\|content_part[]\|null` | 要件任意 | 値と制限 | デフォルト— |
| フィールド`messages[].tool_calls` | 種類`tool_call[]` | 要件任意 | 値と制限 | デフォルト— |
| フィールド`messages[].tool_call_id` | 種類`string` | 要件任意 | 値と制限 適用条件: role=tool。実際に返されたIDを使ってください | デフォルト— |
| フィールド`messages[].name` | 種類`string` | 要件任意 | 値と制限 | デフォルト— |
| フィールド`messages[].reasoning_content` | 種類`string` | 要件任意 | 値と制限 適用条件: このモデルが使用する場合は、実際に返された推論をそのまま次のリクエストへ戻してください | デフォルト— |
| フィールド`messages[].reasoning_details` | 種類`object\|array` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`max_tokens` | 種類`integer` | 要件任意 | 値と制限 最小値: 1 モデルによる | デフォルト— |
| フィールド`max_completion_tokens` | 種類`integer` | 要件任意 | 値と制限 最小値: 1 モデルによる | デフォルト— |
| フィールド`stream` | 種類`boolean` | 要件任意 | 値と制限 | デフォルトfalse |
| フィールド`stream_options.include_usage` | 種類`boolean` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`temperature` | 種類`number` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`top_p` | 種類`number` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`stop` | 種類`string\|string[]` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`tools` | 種類`function_tool[]` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`tools[].type` | 種類`string` | 要件任意 | 値と制限 function モデルによる | デフォルト— |
| フィールド`tools[].function.name` | 種類`string` | 要件必須 | 値と制限 適用条件: 関数ツールの指定あり | デフォルト— |
| フィールド`tools[].function.description` | 種類`string` | 要件任意 | 値と制限 | デフォルト— |
| フィールド`tools[].function.parameters` | 種類`JSON_schema` | 要件任意 | 値と制限 | デフォルト— |
| フィールド`tool_choice` | 種類`string\|object` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`parallel_tool_calls` | 種類`boolean` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`response_format` | 種類`object` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`reasoning_effort` | 種類`string` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`reasoning` | 種類`object` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`service_tier` | 種類`string` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`instructions` | 種類`string` | 要件任意 | 値と制限 互換性用のフィールド | デフォルト— |
| フィールド`functions` | 種類`function[]` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`function_call` | 種類`string\|object` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`prompt_cache_options` | 種類`object` | 要件任意 | 値と制限 モデルによる | デフォルト— |
| フィールド`modalities` | 種類`string[]` | 要件任意 | 値と制限 text | デフォルト— |
| フィールド`provider` | 種類`object` | 要件任意 | 値と制限 条件: このUltraテキストルートではprovider.optionsは拒否されます | デフォルト— |
| フィールド`cache_control.ttl` | 種類`string` | 要件任意 | 値と制限 条件: 実際のプロンプトキャッシュの指定箇所では1hは拒否されます | デフォルト— |

入力素材の組み合わせ

**テキスト** · UTF8テキスト

`messages[].content`

メソッドのパラメータとライフサイクル

| パラメータ | 仕様 |
| --- | --- |
| パラメータ`content_type` | 仕様application/json |
| パラメータ`required` | 仕様model, messages |
| パラメータ`material_types` | 仕様text |
| パラメータ`messages` | 仕様role/content形式のメッセージ配列 |
| パラメータ`file_material` | 仕様実際のUTF-8文書をテキストとしてそのまま挿入します。ファイルIDは推定しません |
| パラメータ`optional_controls` | 仕様stream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice |
| パラメータ`control_scope` | 仕様モデル固有。ユーザーの関数ツールとホスト側のツールは異なります |
| パラメータ`output_modalities` | 仕様text |
| パラメータ`hosted_operations` | 仕様false |
| パラメータ`multimodal_input_binding` | 仕様null |

ライフサイクル: `synchronous_or_streamed`

正確なモデルIDをmessagesとともに送ってください。

コンテキスト長は出力上限ではありません。

テキストファイルはテキストをそのまま提供できます。画像／音声／ファイルオブジェクトの入力には正確なバインディングが必要です。

### 料金

料金情報はリクエストの機能を追加しません。対応するパラメーターは選択したメソッドに記載されています。

高速モード

標準料金 高速モードが選択されている場合

Flex モード

標準料金 flex モードが選択されている場合

最大推論量

標準料金 推論量が最大で、調整に既定値（default）を使用する場合

#### Ailootの料金

#### 設定別の価格

各料金を表示された条件と照合してください。選択肢となる設定の各組には、いずれか1つの料金を適用します。

| 設定 | 料金表 | コンテキストトークン数が次の値を超える場合 | コンテキストトークン数が次の値以下の場合 | 料金 |
| --- | --- | --- | --- | --- |
| 設定トークンの基本単価 | 料金表基本料金 | コンテキストトークン数が次の値を超える場合— | コンテキストトークン数が次の値以下の場合上限なし | 料金 入力 · 入力トークン **$0.00144** / 1K トークン 出力 · 出力トークン **$0.00144** / 1K トークン 入力 · キャッシュ読み取り **—** / 1K トークン 入力 · キャッシュ書き込み **—** / 1K トークン 入力 · キャッシュ書き込み、1時間 **—** / 1K トークン |
| 設定リクエスト長に応じた料金区分 1 | 料金表— | コンテキストトークン数が次の値を超える場合0 | コンテキストトークン数が次の値以下の場合上限なし | 料金 入力 · 入力トークン **$0.00144** / 1K トークン 出力 · 出力トークン **$0.00144** / 1K トークン 入力 · キャッシュ読み取り **—** / 1K トークン 入力 · キャッシュ書き込み **—** / 1K トークン 入力 · キャッシュ書き込み、1時間 **—** / 1K トークン |

Ailootはリクエスト前に見積額を確保します。結果の取得後、実測使用量に基づいて最終料金を精算します。ストリーミング時の精算には最終の使用量記録を使用します。[金額の確保と精算の仕組み →](https://ailoot.ai/docs/ja/billing/reserve/)

### リクエスト例

#### Ailoot Ultra · OpenAI チャット

curlPython SDKPythonストリーミング

```bash
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "meta-llama/llama-3.1-70b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
    if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT
```

```python
from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(result.to_dict(mode="json"))
```

```python
from openai import OpenAI
import os
from pathlib import Path

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

with client.chat.completions.stream(model='meta-llama/llama-3.1-70b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:
    with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:
        for event in stream:
            payload=event.to_dict(mode="json")
            log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush()
            print(json.dumps(payload,ensure_ascii=False))
    final=stream.get_final_completion()
    save_result(final.to_dict(mode="json"),"stream-result")
```

### 結果を受け取って保存

#### Ailoot Ultra · OpenAI チャット

jsonまたはSSE

##### 完了した結果をすべて保存

返された完全なレスポンス、ファイル、コンテンツ部分をすべて保存してください。

すべての選択肢と、その内容・ツール呼び出し・推論を保持してください。SSEでは選択肢／ツールのインデックスごとに差分を組み立て、最終的な終了理由と使用量を残します。

##### 元のレスポンスを確認する場合

リクエスト／応答IDとヘッダーを保持してください。テキストジョブを取得する汎用URLは提供されません。

レスポンスのフィールド

| フィールド | 種類 |
| --- | --- |
| フィールド`choices[].index` | 種類integer |
| フィールド`choices[].message.content` | 種類string\|null |
| フィールド`choices[].message.tool_calls` | 種類tool\_call\[\] |
| フィールド`choices[].message.reasoning_content` | 種類string |
| フィールド`choices[].message.reasoning_details` | 種類object\|array |
| フィールド`choices[].finish_reason` | 種類string\|null |
| フィールド`usage` | 種類object |

エラーと次の手順

| レスポンス | 条件 | 次の手順 |
| --- | --- | --- |
| レスポンス400 · `invalid_request_error` | 条件必須フィールド、素材の表現形式、またはパラメーター値が不正です | 次の手順新しい生成リクエストを送る前に、指定されたフィールドを修正してください。 |

### エイリアス

#### モデルのエイリアス

**Ailoot Ultra** [`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/ja/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=chat)

#### メソッドパスのエイリアス

上記に表示されたメソッドパスを使用してください。

#### 関連する呼び出し用ID

[`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/ja/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=chat)

**Ailoot Ultra · Anthropic メッセージ** `POST /v1/messages` `meta-llama/llama-3.1-70b-instruct`

[`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/ja/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=messages)

Meta /`meta-llama/llama-3.1-70b-instruct`

### はじめに

Llama 3.1 70B Instructは、多言語対話、文書に基づく推論、コード向けのMetaのテキストモデルです。70Bの指示調整済みリリースは、Grouped-Query Attention、メーカーが示す128kのコンテキスト、文書化されたツール呼び出しの会話形式を備え、テキストとコードを出力します。

対応する入力

テキスト

結果

json · sse

### Ailootで利用可能 · 入力とメソッド

**Ailoot Ultra · Anthropic メッセージ** `POST /v1/messages`

入力の種類

`text`

出力の種類

`json`, `sse`

出力形式

JSONまたはSSE

| フィールド | 種類 | 要件 | 値と制限 | デフォルト |
| --- | --- | --- | --- | --- |
| フィールド`model` | 種類`string` | 要件必須 | 値と制限 meta-llama/llama-3.1-70b-instruct | デフォルト— |
| フィールド`messages` | 種類`message[]` | 要件必須 | 値と制限 | デフォルト— |
| フィールド`messages[].role` | 種類`string` | 要件必須 | 値と制限 user, assistant | デフォルト— |
| フィールド`messages[].content` | 種類`string` | 要件必須 | 値と制限 | デフォルト— |
| フィールド`max_tokens` | 種類`integer` | 要件必須 | 値と制限 | デフォルト— |
| フィールド`stream` | 種類`boolean` | 要件任意 | 値と制限 | デフォルトfalse |

入力素材の組み合わせ

**テキスト** · UTF-8テキスト

`messages[].contentの文字列`

メソッドのパラメータとライフサイクル

| パラメータ | 仕様 |
| --- | --- |
| パラメータ`content_type` | 仕様application/json |
| パラメータ`required` | 仕様model, messages, max\_tokens |
| パラメータ`optional_controls` | 仕様stream |
| パラメータ`material_types` | 仕様text |
| パラメータ`text_file_material` | 仕様実際のUTF-8文書を読み、その本文を指定された入力またはメッセージ内容の文字列に入れてください。 |

ライフサイクル: `synchronous_or_streamed`

### 料金

料金情報はリクエストの機能を追加しません。対応するパラメーターは選択したメソッドに記載されています。

高速モード

標準料金 高速モードが選択されている場合

Flex モード

標準料金 flex モードが選択されている場合

最大推論量

標準料金 推論量が最大で、調整に既定値（default）を使用する場合

#### Ailootの料金

#### 設定別の価格

各料金を表示された条件と照合してください。選択肢となる設定の各組には、いずれか1つの料金を適用します。

| 設定 | 料金表 | コンテキストトークン数が次の値を超える場合 | コンテキストトークン数が次の値以下の場合 | 料金 |
| --- | --- | --- | --- | --- |
| 設定トークンの基本単価 | 料金表基本料金 | コンテキストトークン数が次の値を超える場合— | コンテキストトークン数が次の値以下の場合上限なし | 料金 入力 · 入力トークン **$0.00144** / 1K トークン 出力 · 出力トークン **$0.00144** / 1K トークン 入力 · キャッシュ読み取り **—** / 1K トークン 入力 · キャッシュ書き込み **—** / 1K トークン 入力 · キャッシュ書き込み、1時間 **—** / 1K トークン |
| 設定リクエスト長に応じた料金区分 1 | 料金表— | コンテキストトークン数が次の値を超える場合0 | コンテキストトークン数が次の値以下の場合上限なし | 料金 入力 · 入力トークン **$0.00144** / 1K トークン 出力 · 出力トークン **$0.00144** / 1K トークン 入力 · キャッシュ読み取り **—** / 1K トークン 入力 · キャッシュ書き込み **—** / 1K トークン 入力 · キャッシュ書き込み、1時間 **—** / 1K トークン |

Ailootはリクエスト前に見積額を確保します。結果の取得後、実測使用量に基づいて最終料金を精算します。ストリーミング時の精算には最終の使用量記録を使用します。[金額の確保と精算の仕組み →](https://ailoot.ai/docs/ja/billing/reserve/)

### リクエスト例

#### Ailoot Ultra · Anthropic メッセージ

必要最小限の完全な JSON ボディcurl · ご自身の UTF-8 ドキュメントを使用するPython · 結果全体を保存する

```json
{
  "model": "meta-llama/llama-3.1-70b-instruct",
  "max_tokens": 128,
  "messages": [
    {
      "role": "user",
      "content": "Summarize the incident report."
    }
  ],
  "stream": false
}
```

```bash
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"
export AILOOT_TEXT_FILE
python3 - <<'PY_REQUEST'
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \
  -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
PY_RESULT
```

```python
import json, os
from pathlib import Path

source_file = Path(os.environ['AILOOT_TEXT_FILE'])
if not source_file.is_file():
    raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')
text = source_file.read_text(encoding='utf-8')
if not text.strip():
    raise SystemExit('Choose a document containing text')
payload = {'model': 'meta-llama/llama-3.1-70b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}
payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text
from urllib.request import Request, urlopen
from urllib.error import HTTPError

api_key = os.environ['AILOOT_API_KEY']
if not api_key.strip():
    raise SystemExit('Set AILOOT_API_KEY before making a request')
headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}
headers['x-api-key'] = api_key
request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')
try:
    with urlopen(request, timeout=120) as response:
        raw = response.read()
        Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')
except HTTPError as error:
    Path('result.json').write_bytes(error.read())
    Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')
    raise
Path('result.json').write_bytes(raw)
import json
from pathlib import Path

result = json.loads(Path('result.json').read_text(encoding='utf-8'))
print(json.dumps(result, ensure_ascii=False, indent=2))
```

### 結果を受け取って保存

#### Ailoot Ultra · Anthropic メッセージ

JSONまたはSSE

##### 完了した結果をすべて保存

返された完全なレスポンス、ファイル、コンテンツ部分をすべて保存してください。

すべてのコンテンツブロック、思考署名、実際のツール利用IDを保持してください。SSEのすべてのブロック差分を組み立てます。最初のテキストブロックだけでは完全な出力になりません。

##### 元のレスポンスを確認する場合

リクエスト／応答IDとヘッダーを保持してください。テキストジョブを取得する汎用URLは提供されません。

レスポンスのフィールド

| フィールド | 種類 |
| --- | --- |
| フィールド`id` | 種類string |
| フィールド`model` | 種類string |
| フィールド`content[]` | 種類text\|thinking\|tool\_use\|other content block |
| フィールド`stop_reason` | 種類string\|null |
| フィールド`usage` | 種類object |

エラーと次の手順

| レスポンス | 条件 | 次の手順 |
| --- | --- | --- |
| レスポンス400 · `invalid_request_error` | 条件必須フィールド、素材の表現形式、またはパラメーター値が不正です | 次の手順新しい生成リクエストを送る前に、指定されたフィールドを修正してください。 |

### エイリアス

#### モデルのエイリアス

**Ailoot Ultra** [`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/ja/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=messages)

#### メソッドパスのエイリアス

上記に表示されたメソッドパスを使用してください。

#### 関連する呼び出し用ID

[`meta-llama/llama-3.1-70b-instruct`](https://ailoot.ai/models/ja/#m=meta-llama%2Fllama-3.1-70b-instruct&route=Ultra&caller=meta-llama%2Fllama-3.1-70b-instruct&fmt=messages)

FAQ · Meta: Llama 3.1 70B Instruct

利用できる入力と結果は何ですか？

`POST /v1/chat/completions` · `meta-llama/llama-3.1-70b-instruct`: `text` → `text` `POST /v1/messages` · `meta-llama/llama-3.1-70b-instruct`: `text` → `json`, `sse`

リクエストはどの項目を使用しますか？

`POST /v1/chat/completions` · `meta-llama/llama-3.1-70b-instruct`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `meta-llama/llama-3.1-70b-instruct`: `model`, `messages`, `max_tokens`, `stream`

どの制限が適用されますか？

`POST /v1/chat/completions` · `meta-llama/llama-3.1-70b-instruct`: `messages.min_items`: `1`

AilootをClaude Code、OpenCode、Hermes、自分のアプリに接続しましょう。

## 企業とそのプロジェクト群

企業とそのプロジェクト群：数百万の顧客、毎月数十億規模の売上。

## トークンを割引価格で購入。

継続利用にサブスクリプション割引。プロモコードでトークン購入が最大50%割引。

サブスクリプション

定期的なリクエストに合う割引プランを選びましょう。

最大50%のプロモコード

購入時にコードを入力すると、実施中のキャンペーンに沿って価格を再計算します。

支出を履歴で確認

各リクエストのモデル、トークン、金額が保存されます。

[サブスクリプションを選ぶ](https://ailoot.ai/docs/ja/billing/subscriptions/) · [モデルの価格を見る](https://ailoot.ai/models/ja/)

## 販売する製品に、 APIを組み込みましょう。

SaaS、アプリ、ボットをAilootの公式サービス提供条件とライセンス契約に基づいて接続できます。再販にはリセラーライセンスを申請できます。

商用アプリ

サービスの有料機能に、文章、画像、動画、音声の生成を組み込めます。

リセラーライセンス

プロジェクトの説明とアクセスの仕組みをお送りください。利用・再販条件の書面を申請できます。

サイトで契約文書を確認

接続前にサービス提供条件、ライセンス契約、データ処理ポリシーを読めます。

[リセラーライセンスを申請](mailto:support@ailoot.ai) · [サービス提供条件とライセンス契約](https://ailoot.ai/legal/offer?lang=ja)

## Ailoot · 企業とそのプロジェクト群





Ailootは、蓄積した運営経験、幅広い顧客基盤、安定したサービス、継続的なKPI管理を基盤としています。





企業とそのプロジェクト群：数百万の顧客、毎月数十億規模の売上。





Ailootはこの運営経験を、お客様の製品、エージェント、アプリケーション、自動化でAI機能を利用するためのAPIアクセスに活かしています。