Source: https://ailoot.ai/models/he/nousresearch-hermes-3-llama-3-1-70b/ Canonical: https://ailoot.ai/models/he/nousresearch-hermes-3-llama-3-1-70b/ Language: he # Nous: Hermes 3 70B Instruct [Markdown](https://ailoot.ai/models/he/nousresearch-hermes-3-llama-3-1-70b/index.md) · [JSON](https://ailoot.ai/models/he/nousresearch-hermes-3-llama-3-1-70b/facts.json) ## [Nous: Hermes 3 70B Instruct](https://ailoot.ai/models/he/nousresearch-hermes-3-llama-3-1-70b/) Hermes 3 Llama 3.1 70B הוא מודל הטקסט הכללי הניתן להכוונה של Nous Research, לדיאלוג מרובה תורים, למשחק תפקידים, לקוד ולמשימות סוכנים. מאפייני ChatML שלו כוללים JSON מונחה סכימה וקריאות לפונקציות המוקפות בתגיות, עם תצורה שפורסמה של 131,072 מיקומים. - [**Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `nousresearch/hermes-3-llama-3.1-70b`](https://ailoot.ai/models/he/nousresearch-hermes-3-llama-3-1-70b/#method-0) - [**Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `nousresearch/hermes-3-llama-3.1-70b`](https://ailoot.ai/models/he/nousresearch-hermes-3-llama-3-1-70b/#method-1) על המודל התיאור הזה מציג את יכולות המודל. הקלט, הפלט והאפשרויות הזמינים ב-Ailoot מפורטים בהמשך לפי השיטה שנבחרה. Hermes 3 Llama 3.1 70B הוא מהדורת מודל השפה הכללי בגודל 70B של Nous Research בסדרת Hermes 3. הוא מקבל טקסט ויוצר תשובה, קטע כתוב, קוד, רשומה מובנית או קריאה מוצעת לכלי. היצרן מדגיש יכולת הכוונה בידי המשתמש, הסקה, משחק תפקידים, דיאלוג מרובה תורים ועקביות בהקשר ארוך, לצד שיפורים בקריאה לפונקציות וביצירת קוד. #### הכוונו את המשימה ואת התשובה הוראת מערכת יכולה להגדיר את התפקיד, הכללים, הסגנון ודרישות הפלט. למשחק תפקידים, ספקו את הרקע, נקודת המבט וגבולות הדמויות; למשימה אנליטית, ספקו את קטעי המקור ואת הקריטריונים למסקנה. תדריך שימושי הוא: ״הסבירו את ההבדלים בין הדרישות האלה, שמרו את השמות הטכניים וזהו את הקטע התומך בכל ממצא.״ לתכנות, ספקו את המימוש הרלוונטי, את הכשל שנצפה, את ההתנהגות הצפויה ואת הממשקים שחייבים להישאר יציבים. בקשו את תוצר הקוד המוצע ואת הסברו, ולאחר מכן השתמשו בתצפיות אימות בפועל כאשר נדרש תיקון. יכולת ההכוונה של המודל עוזרת לעצב את התשובה, אך התדריך עדיין צריך להגדיר את התוצאה השימושית. #### שיחת ChatML Hermes 3 משתמש ב־ChatML עם תורי מערכת, משתמש ועוזר נפרדים וגבולות מפורשים. היצרן ממליץ לעצב את השיחה באמצעות התבנית של המודל עצמו ולהוסיף את הנחיית יצירת העוזר. הודעת מערכת היא אופציונלית; כאשר משתמשים בה, היא צריכה לתאר את הקשר המשימה ואת ההתנהגות הרצויה, ולא להחליף את הבקשה בפועל של המשתמש. שמרו את היסטוריית הדיאלוג בתפקידים הנכונים. למשימת כתיבה מתמשכת, שמרו עובדות שנקבעו ואמרו למודל איזה קטע מותר לשנות. לעבודה עם מקורות, זהו חומר כראיות והפרידו אותו מהוראות. כך תשובה מאוחרת יותר יכולה לשמר את אילוצי המשימה בלי לבלבל בין טקסט מצוטט לפקודה חדשה. #### קריאה לפונקציות הכרטיס המדויק מאמן שימוש בפונקציות עם ייצוג מערכת מסוים, חתימות פונקציות וסכימות פרמטרים. המודל מחזיר אובייקטי JSON המכילים את שם הפונקציה שנבחרה ואת הארגומנטים בתוך תגיות קריאה לכלי. היישום הסובב מנתח את ההצעה, מפעיל את הפונקציה ומחזיר תשובת כלי בעלת שם. לאחר מכן המודל משתמש בנתונים שהוחזרו להפקת התשובה. הגדירו פונקציות במדויק ודרשו ערכים אמיתיים לארגומנטים במקום הנחות על מערכת חיצונית. פונקציית חיפוש יכולה לספק שדה מוצר חסר או חישוב, והתשובה מסבירה את משמעות המידע שהוחזר. קריאה שנוצרה נבדלת מתוצאה שבוצעה; שמרו את התצפית עם המשימה. #### מצב JSON ומגבלות Hermes 3 מתעד גם הוראת מערכת המותנית בסכימה לתשובות JSON בלבד. הגדירו שדות וסוגים והסבירו כיצד לייצג מידע חסר במקור. בדקו את האובייקט שנוצר הן מבחינת מבנהו והן מבחינת התאמתו לקלט. אין להתייחס לתשובה התואמת לסכימה כאל הוכחה שערך אוחזר או אומת. לתצורת מודל 70B שפורסמה יש 131,072 מיקומים. טקסט מקור, שיחה ותוכן שנוצר חולקים את ההקשר של התהליך שנבחר, וגודל היצירה בדוגמה אינו מגבלת תשובה קשיחה אוניברסלית. השאירו מקום לתוצאה ושמרו על רלוונטיות של קלטים ארוכים לשאלה. התוצר השימושי הוא טקסט שניתן לבדוק, הצעת קוד או רשומה מובנית המעוגנים בהקשר שסופק ובתצפיות כלים בפועל. מהדורת Hermes 3 המדויקת הזאת בגודל 70B נשארת נפרדת ממודל 405B הגדול יותר ומפורמט ההסקה ההיברידית והבקרות של Hermes 4. משימה מעשית ### משימה מעשית דוגמה טכנית באנגלית ``` Continue a constrained roleplay Play Irena, the archivist who knows a bridge is unsafe but fears closing it will isolate the town. I play the mayor. Begin with two or three lines of dialogue that reveal the conflict through subtext. Keep Irena’s knowledge consistent and stop before choosing the mayor’s answer or actions. ``` #### התוצאה הצפויה ``` Two or three in-character lines, with optional short stage direction and room for the mayor’s response. ``` #### בדיקת התוצאה ``` Check that the safety-versus-isolation conflict is present and that the user’s character remains under user control. ``` **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` `nousresearch/hermes-3-llama-3.1-70b` [`nousresearch/hermes-3-llama-3.1-70b`](https://ailoot.ai/models/he/#m=nousresearch%2Fhermes-3-llama-3.1-70b&route=Ultra&caller=nousresearch%2Fhermes-3-llama-3.1-70b&fmt=chat) Nous /`nousresearch/hermes-3-llama-3.1-70b` ### התחלה Hermes 3 Llama 3.1 70B הוא מודל הטקסט הכללי הניתן להכוונה של Nous Research, לדיאלוג מרובה תורים, למשחק תפקידים, לקוד ולמשימות סוכנים. מאפייני ChatML שלו כוללים JSON מונחה סכימה וקריאות לפונקציות המוקפות בתגיות, עם תצורה שפורסמה של 131,072 מיקומים. סוגי קלט נתמכים טקסט תוצאות טקסט ### זמין ב-Ailoot · קלט ושיטות **Ailoot Ultra · OpenAI Chat** `POST /v1/chat/completions` סוגי קלט `text` סוגי פלט `text` פורמט פלט json או SSE | שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל | | --- | --- | --- | --- | --- | | שדה`model` | סוג`string` | דרישהחובה | ערכים ומגבלות nousresearch/hermes-3-llama-3.1-70b | ברירת מחדל— | | שדה`messages` | סוג`message[]` | דרישהחובה | ערכים ומגבלות מספר פריטים מזערי: ⁦1⁩ | ברירת מחדל— | | שדה`messages[].role` | סוג`string` | דרישהחובה | ערכים ומגבלות דוגמאות: system, user, assistant, tool, function תנאים: התפקידים האלה מיוצגים במפורש בטיפוסי התאימות בקוד המקור; מערך התפקידים המדויק נשאר ייחודי לכל מודל. תלוי במודל | ברירת מחדל— | | שדה`messages[].content` | סוג`string\|content_part[]\|null` | דרישהרשות | ערכים ומגבלות | ברירת מחדל— | | שדה`messages[].tool_calls` | סוג`tool_call[]` | דרישהרשות | ערכים ומגבלות | ברירת מחדל— | | שדה`messages[].tool_call_id` | סוג`string` | דרישהרשות | ערכים ומגבלות חל כאשר: role=tool; השתמשו במזהה שהוחזר בפועל | ברירת מחדל— | | שדה`messages[].name` | סוג`string` | דרישהרשות | ערכים ומגבלות | ברירת מחדל— | | שדה`messages[].reasoning_content` | סוג`string` | דרישהרשות | ערכים ומגבלות חל כאשר: החזירו בהמשך את ההנמקה שהתקבלה בפועל כאשר המודל הזה משתמש בה | ברירת מחדל— | | שדה`messages[].reasoning_details` | סוג`object\|array` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`max_tokens` | סוג`integer` | דרישהרשות | ערכים ומגבלות מינימום: ⁦1⁩ תלוי במודל | ברירת מחדל— | | שדה`max_completion_tokens` | סוג`integer` | דרישהרשות | ערכים ומגבלות מינימום: ⁦1⁩ תלוי במודל | ברירת מחדל— | | שדה`stream` | סוג`boolean` | דרישהרשות | ערכים ומגבלות | ברירת מחדלfalse | | שדה`stream_options.include_usage` | סוג`boolean` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`temperature` | סוג`number` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`top_p` | סוג`number` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`stop` | סוג`string\|string[]` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`tools` | סוג`function_tool[]` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`tools[].type` | סוג`string` | דרישהרשות | ערכים ומגבלות function תלוי במודל | ברירת מחדל— | | שדה`tools[].function.name` | סוג`string` | דרישהחובה | ערכים ומגבלות חל כאשר: סופק כלי פונקציה | ברירת מחדל— | | שדה`tools[].function.description` | סוג`string` | דרישהרשות | ערכים ומגבלות | ברירת מחדל— | | שדה`tools[].function.parameters` | סוג`JSON_schema` | דרישהרשות | ערכים ומגבלות | ברירת מחדל— | | שדה`tool_choice` | סוג`string\|object` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`parallel_tool_calls` | סוג`boolean` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`response_format` | סוג`object` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`reasoning_effort` | סוג`string` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`reasoning` | סוג`object` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`service_tier` | סוג`string` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`instructions` | סוג`string` | דרישהרשות | ערכים ומגבלות שדה תאימות | ברירת מחדל— | | שדה`functions` | סוג`function[]` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`function_call` | סוג`string\|object` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`prompt_cache_options` | סוג`object` | דרישהרשות | ערכים ומגבלות תלוי במודל | ברירת מחדל— | | שדה`modalities` | סוג`string[]` | דרישהרשות | ערכים ומגבלות text | ברירת מחדל— | | שדה`provider` | סוג`object` | דרישהרשות | ערכים ומגבלות תנאים: provider.options נדחה במסלול הטקסט הזה של Ultra | ברירת מחדל— | | שדה`cache_control.ttl` | סוג`string` | דרישהרשות | ערכים ומגבלות תנאים: 1h נדחה במיקומים המשמשים בפועל למטמון הנחיות | ברירת מחדל— | שילובים של חומרי קלט **טקסט** · טקסט UTF8 `messages[].content` פרמטרים ומחזור חיים של השיטה | פרמטר | מפרט | | --- | --- | | פרמטר`content_type` | מפרטapplication/json | | פרמטר`required` | מפרטmodel, messages | | פרמטר`material_types` | מפרטtext | | פרמטר`messages` | מפרטמערך הודעות במבנה role/content | | פרמטר`file_material` | מפרטמסמך UTF-8 בפועל מוכנס כטקסט מילולי; לא מוסק מזהה קובץ | | פרמטר`optional_controls` | מפרטstream, temperature, top\_p, stop, max\_tokens, max\_completion\_tokens, reasoning, response\_format, tools, tool\_choice | | פרמטר`control_scope` | מפרטייחודי למודל; כלי פונקציות של המשתמש שונים מכלים מתארחים | | פרמטר`output_modalities` | מפרטtext | | פרמטר`hosted_operations` | מפרטfalse | | פרמטר`multimodal_input_binding` | מפרטnull | מחזור חיים: `synchronous_or_streamed` שלחו את מזהה המודל המדויק עם messages. אורך ההקשר אינו תקרת פלט. קובץ טקסט יכול לספק טקסט מילולי; קלטי תמונה/אודיו/אובייקט קובץ דורשים קישור מדויק. ### תעריפים מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה. מצב מהיר תעריף רגיל כאשר נבחר מצב מהיר מצב Flex תעריף רגיל כאשר נבחר מצב flex מאמץ חשיבה מרבי תעריף רגיל כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default) #### תעריפי Ailoot #### מחירים לפי תצורה התאימו כל חיוב לתנאים המוצגים. השתמשו בתעריף אחד לכל קבוצה של תצורות חלופיות. | תצורה | טבלת תעריפים | טוקנים בהקשר, יותר מ- | טוקנים בהקשר, עד וכולל | חיוב | | --- | --- | --- | --- | --- | | תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | טוקנים בהקשר, יותר מ-— | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט **$0.0014** / 1K טוקנים פלט · טוקני פלט **$0.0014** / 1K טוקנים קלט · קריאה מהמטמון **—** / 1K טוקנים קלט · כתיבה למטמון **—** / 1K טוקנים קלט · כתיבה למטמון, 1 שעה **—** / 1K טוקנים | | תצורהרמת אורך בקשה 1 | טבלת תעריפים— | טוקנים בהקשר, יותר מ-⁦0⁩ | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט **$0.0014** / 1K טוקנים פלט · טוקני פלט **$0.0014** / 1K טוקנים קלט · קריאה מהמטמון **—** / 1K טוקנים קלט · כתיבה למטמון **—** / 1K טוקנים קלט · כתיבה למטמון, 1 שעה **—** / 1K טוקנים | לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. [איך פועלים שריון הסכום והסדרת החיוב →](https://ailoot.ai/docs/he/billing/reserve/) ### דוגמאות לבקשות #### Ailoot Ultra · OpenAI Chat curlPython SDKהזרמה ב-Python ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" python3 - <<'PY_REQUEST' import json,os from pathlib import Path p=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-70b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}') Path("request.json").write_text(json.dumps(p,ensure_ascii=False)) PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \ -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path r=json.loads(Path("result.json").read_text()) for x in r.get("choices",[]): if x.get("message",{}).get("content"): print(x["message"]["content"]) PY_RESULT ``` ```python from openai import OpenAI import os if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) result=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) save_result(result.to_dict(mode="json")) ``` ```python from openai import OpenAI import os from pathlib import Path if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request") client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0) import base64, json from pathlib import Path def save_result(data, stem="result"): # Keep every field, including usage, IDs, reasoning and tool requests. Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8") print(json.dumps(data, ensure_ascii=False, indent=2)) def save_blob(encoded, suffix, label): raw = base64.b64decode(encoded, altchars=b"-_", validate=True) ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix file = Path(stem + "-" + label + "." + ext) file.write_bytes(raw) print("Saved", file) for index, block in enumerate(data.get("content") or []): print("Content", index, json.dumps(block, ensure_ascii=False)) for choice in data.get("choices") or []: print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False)) for index, item in enumerate(data.get("output") or []): print("Output", index, json.dumps(item, ensure_ascii=False)) if item.get("type") == "image_generation_call" and item.get("result"): save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index)) for ci, candidate in enumerate(data.get("candidates") or []): for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []): print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False)) blob = part.get("inlineData") or part.get("inline_data") if blob and blob.get("data"): mime = blob.get("mimeType") or blob.get("mime_type") suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin") save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi)) with client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-70b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream: with Path("stream-events.jsonl").open("w",encoding="utf-8") as log: for event in stream: payload=event.to_dict(mode="json") log.write(json.dumps(payload,ensure_ascii=False)+"\n"); log.flush() print(json.dumps(payload,ensure_ascii=False)) final=stream.get_final_completion() save_result(final.to_dict(mode="json"),"stream-result") ``` ### קבלה ושמירה של תוצאות #### Ailoot Ultra · OpenAI Chat json או SSE ##### שמירת כל התוצאות שהושלמו שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו. שמרו כל בחירה ואת התוכן, קריאות הכלים וההנמקה שלה. ב-SSE הרכיבו עדכונים לפי אינדקס הבחירה/הכלי ושמרו את סיבת הסיום הסופית ואת השימוש. ##### כשצריך לבדוק את התגובה המקורית שמרו מזהי בקשות/תגובות וכותרות. לא מסופק URL כללי לאחזור משימת טקסט. שדות התגובה | שדה | סוג | | --- | --- | | שדה`choices[].index` | סוגinteger | | שדה`choices[].message.content` | סוגstring\|null | | שדה`choices[].message.tool_calls` | סוגtool\_call\[\] | | שדה`choices[].message.reasoning_content` | סוגstring | | שדה`choices[].message.reasoning_details` | סוגobject\|array | | שדה`choices[].finish_reason` | סוגstring\|null | | שדה`usage` | סוגobject | שגיאות והשלבים הבאים | תגובה | תנאי | השלב הבא | | --- | --- | --- | | תגובה⁦400⁩ · `invalid_request_error` | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. | ### כינויים #### כינויים למודל **Ailoot Ultra** [`nousresearch/hermes-3-llama-3.1-70b`](https://ailoot.ai/models/he/#m=nousresearch%2Fhermes-3-llama-3.1-70b&route=Ultra&caller=nousresearch%2Fhermes-3-llama-3.1-70b&fmt=chat) #### כינויים לנתיבי שיטות השתמשו בנתיבי השיטות המוצגים למעלה. #### מזהי מודלים קשורים IDs [`nousresearch/hermes-3-llama-3.1-70b`](https://ailoot.ai/models/he/#m=nousresearch%2Fhermes-3-llama-3.1-70b&route=Ultra&caller=nousresearch%2Fhermes-3-llama-3.1-70b&fmt=chat) **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` `nousresearch/hermes-3-llama-3.1-70b` [`nousresearch/hermes-3-llama-3.1-70b`](https://ailoot.ai/models/he/#m=nousresearch%2Fhermes-3-llama-3.1-70b&route=Ultra&caller=nousresearch%2Fhermes-3-llama-3.1-70b&fmt=messages) Nous /`nousresearch/hermes-3-llama-3.1-70b` ### התחלה Hermes 3 Llama 3.1 70B הוא מודל הטקסט הכללי הניתן להכוונה של Nous Research, לדיאלוג מרובה תורים, למשחק תפקידים, לקוד ולמשימות סוכנים. מאפייני ChatML שלו כוללים JSON מונחה סכימה וקריאות לפונקציות המוקפות בתגיות, עם תצורה שפורסמה של 131,072 מיקומים. סוגי קלט נתמכים טקסט תוצאות json · sse ### זמין ב-Ailoot · קלט ושיטות **Ailoot Ultra · Anthropic Messages** `POST /v1/messages` סוגי קלט `text` סוגי פלט `json`, `sse` פורמט פלט JSON או SSE | שדה | סוג | דרישה | ערכים ומגבלות | ברירת מחדל | | --- | --- | --- | --- | --- | | שדה`model` | סוג`string` | דרישהחובה | ערכים ומגבלות nousresearch/hermes-3-llama-3.1-70b | ברירת מחדל— | | שדה`messages` | סוג`message[]` | דרישהחובה | ערכים ומגבלות | ברירת מחדל— | | שדה`messages[].role` | סוג`string` | דרישהחובה | ערכים ומגבלות user, assistant | ברירת מחדל— | | שדה`messages[].content` | סוג`string` | דרישהחובה | ערכים ומגבלות | ברירת מחדל— | | שדה`max_tokens` | סוג`integer` | דרישהחובה | ערכים ומגבלות | ברירת מחדל— | | שדה`stream` | סוג`boolean` | דרישהרשות | ערכים ומגבלות | ברירת מחדלfalse | שילובים של חומרי קלט **טקסט** · טקסט UTF-8 `מחרוזת messages[].content` פרמטרים ומחזור חיים של השיטה | פרמטר | מפרט | | --- | --- | | פרמטר`content_type` | מפרטapplication/json | | פרמטר`required` | מפרטmodel, messages, max\_tokens | | פרמטר`optional_controls` | מפרטstream | | פרמטר`material_types` | מפרטtext | | פרמטר`text_file_material` | מפרטקראו את מסמך UTF-8 בפועל והכניסו את הטקסט שלו לקלט שצוין או למחרוזת תוכן ההודעה. | מחזור חיים: `synchronous_or_streamed` ### תעריפים מידע תעריפים אינו מוסיף אפשרויות לבקשה. הפרמטרים הנתמכים מפורטים בשיטה שנבחרה. מצב מהיר תעריף רגיל כאשר נבחר מצב מהיר מצב Flex תעריף רגיל כאשר נבחר מצב flex מאמץ חשיבה מרבי תעריף רגיל כאשר מאמץ החשיבה המרבי משתמש בהתאמת ברירת המחדל (default) #### תעריפי Ailoot #### מחירים לפי תצורה התאימו כל חיוב לתנאים המוצגים. השתמשו בתעריף אחד לכל קבוצה של תצורות חלופיות. | תצורה | טבלת תעריפים | טוקנים בהקשר, יותר מ- | טוקנים בהקשר, עד וכולל | חיוב | | --- | --- | --- | --- | --- | | תצורהתעריפי הבסיס לטוקנים | טבלת תעריפיםתעריף בסיס | טוקנים בהקשר, יותר מ-— | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט **$0.0014** / 1K טוקנים פלט · טוקני פלט **$0.0014** / 1K טוקנים קלט · קריאה מהמטמון **—** / 1K טוקנים קלט · כתיבה למטמון **—** / 1K טוקנים קלט · כתיבה למטמון, 1 שעה **—** / 1K טוקנים | | תצורהרמת אורך בקשה 1 | טבלת תעריפים— | טוקנים בהקשר, יותר מ-⁦0⁩ | טוקנים בהקשר, עד וכוללללא גבול עליון | חיוב קלט · טוקני קלט **$0.0014** / 1K טוקנים פלט · טוקני פלט **$0.0014** / 1K טוקנים קלט · קריאה מהמטמון **—** / 1K טוקנים קלט · כתיבה למטמון **—** / 1K טוקנים קלט · כתיבה למטמון, 1 שעה **—** / 1K טוקנים | לפני הבקשה Ailoot משריינת סכום משוער. לאחר קבלת התוצאה היא מסדירה את החיוב הסופי לפי השימוש המדוד. הסדרת חיוב בהזרמה משתמשת ברשומת השימוש הסופית. [איך פועלים שריון הסכום והסדרת החיוב →](https://ailoot.ai/docs/he/billing/reserve/) ### דוגמאות לבקשות #### Ailoot Ultra · Anthropic Messages גוף JSON מינימלי ושלםcurl · השתמשו במסמך UTF-8 שלכםPython · שמרו את התוצאה המלאה ```json { "model": "nousresearch/hermes-3-llama-3.1-70b", "max_tokens": 128, "messages": [ { "role": "user", "content": "Summarize the incident report." } ], "stream": false } ``` ```bash set -eu : "${AILOOT_API_KEY:?Set your Ailoot API key}" : "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}" export AILOOT_TEXT_FILE python3 - <<'PY_REQUEST' import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text Path('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8') PY_REQUEST curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \ -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \ --data-binary @request.json -D response-headers.txt -o result.json python3 - <<'PY_RESULT' import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) PY_RESULT ``` ```python import json, os from pathlib import Path source_file = Path(os.environ['AILOOT_TEXT_FILE']) if not source_file.is_file(): raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document') text = source_file.read_text(encoding='utf-8') if not text.strip(): raise SystemExit('Choose a document containing text') payload = {'model': 'nousresearch/hermes-3-llama-3.1-70b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]} payload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\n\n' + text from urllib.request import Request, urlopen from urllib.error import HTTPError api_key = os.environ['AILOOT_API_KEY'] if not api_key.strip(): raise SystemExit('Set AILOOT_API_KEY before making a request') headers = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'} headers['x-api-key'] = api_key request = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST') try: with urlopen(request, timeout=120) as response: raw = response.read() Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8') except HTTPError as error: Path('result.json').write_bytes(error.read()) Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8') raise Path('result.json').write_bytes(raw) import json from pathlib import Path result = json.loads(Path('result.json').read_text(encoding='utf-8')) print(json.dumps(result, ensure_ascii=False, indent=2)) ``` ### קבלה ושמירה של תוצאות #### Ailoot Ultra · Anthropic Messages JSON או SSE ##### שמירת כל התוצאות שהושלמו שמרו כל תגובה מלאה, קובץ ומקטע תוכן שהוחזרו. שמרו את כל בלוקי התוכן, חתימות החשיבה ומזהי השימוש בכלים בפועל. הרכיבו את כל עדכוני הבלוקים של SSE; בלוק הטקסט הראשון אינו הפלט המלא. ##### כשצריך לבדוק את התגובה המקורית שמרו מזהי בקשות/תגובות וכותרות. לא מסופק URL כללי לאחזור משימת טקסט. שדות התגובה | שדה | סוג | | --- | --- | | שדה`id` | סוגstring | | שדה`model` | סוגstring | | שדה`content[]` | סוגtext\|thinking\|tool\_use\|other content block | | שדה`stop_reason` | סוגstring\|null | | שדה`usage` | סוגobject | שגיאות והשלבים הבאים | תגובה | תנאי | השלב הבא | | --- | --- | --- | | תגובה⁦400⁩ · `invalid_request_error` | תנאישדות נדרשים, ייצוג חומר או ערך פרמטר שאינם תקינים | השלב הבאתקנו את השדות שצוינו לפני בקשת יצירה חדשה. | ### כינויים #### כינויים למודל **Ailoot Ultra** [`nousresearch/hermes-3-llama-3.1-70b`](https://ailoot.ai/models/he/#m=nousresearch%2Fhermes-3-llama-3.1-70b&route=Ultra&caller=nousresearch%2Fhermes-3-llama-3.1-70b&fmt=messages) #### כינויים לנתיבי שיטות השתמשו בנתיבי השיטות המוצגים למעלה. #### מזהי מודלים קשורים IDs [`nousresearch/hermes-3-llama-3.1-70b`](https://ailoot.ai/models/he/#m=nousresearch%2Fhermes-3-llama-3.1-70b&route=Ultra&caller=nousresearch%2Fhermes-3-llama-3.1-70b&fmt=messages) FAQ · Nous: Hermes 3 70B Instruct אילו קלטים ותוצאות זמינים? `POST /v1/chat/completions` · `nousresearch/hermes-3-llama-3.1-70b`: `text` → `text` `POST /v1/messages` · `nousresearch/hermes-3-llama-3.1-70b`: `text` → `json`, `sse` באילו שדות הבקשה משתמשת? `POST /v1/chat/completions` · `nousresearch/hermes-3-llama-3.1-70b`: `model`, `messages`, `stream`, `modalities`, `provider` `POST /v1/messages` · `nousresearch/hermes-3-llama-3.1-70b`: `model`, `messages`, `max_tokens`, `stream` אילו מגבלות חלות? `POST /v1/chat/completions` · `nousresearch/hermes-3-llama-3.1-70b`: `messages.min_items`: `1` חברו Ailoot ל- Claude Code, OpenCode, Hermes או ליישום שלכם. ## החברה ופורטפוליו הפרויקטים שלה החברה ופורטפוליו הפרויקטים שלה: מיליוני לקוחות; מכירות בהיקף של מיליארדים מדי חודש. ## קנו אסימונים בהנחה. הנחת מנוי לעבודה קבועה. קודי הנחה עד 50% על רכישת אסימונים. מנוי בחרו מסלול עם הנחה לבקשות הקבועות שלכם. קוד הנחה עד 50% הזינו קוד ברכישה. המחיר יחושב מחדש לפי המבצע הפעיל. הוצאות בהיסטוריה המודל, האסימונים והסכום נשמרים לכל בקשה. [בחירת מנוי](https://ailoot.ai/docs/he/billing/subscriptions/) · [מחירי מודלים](https://ailoot.ai/models/he/) ## חברו API למוצר שאתם מוכרים. SaaS, יישומים ובוטים לפי ההצעה והסכם הרישוי של Ailoot. למכירה מחדש בקשו רישיון משווק. יישום מסחרי שלבו יצירת טקסט, תמונות, וידאו ושמע בתכונות בתשלום של השירות שלכם. רישיון למכירה מחדש שלחו תיאור פרויקט ואופן מתן גישה. בקשו תנאי שימוש ומכירה מחדש בכתב. מסמכים באתר ההצעה, הסכם הרישוי ומדיניות עיבוד הנתונים זמינים לפני החיבור. [בקשת רישיון למכירה מחדש](mailto:support@ailoot.ai) · [ההצעה והסכם הרישוי](https://ailoot.ai/legal/offer?lang=he) ## Ailoot · החברה ופורטפוליו הפרויקטים שלה Ailoot נשענת על ניסיון תפעולי מצטבר, בסיס לקוחות רחב, שירות יציב ובקרה שוטפת של KPI. החברה ופורטפוליו הפרויקטים שלה: מיליוני לקוחות; מכירות בהיקף של מיליארדים מדי חודש. Ailoot משתמשת בניסיון התפעולי הזה כדי לספק גישת API ליכולות AI במוצרי לקוחות, בסוכנים, באפליקציות ובאוטומציות.