Hermes 3 Llama 3.1 405B — Nous Research kompaniyasining Llama 3.1 405Bning barcha parametrlarini qo‘shimcha moslab o‘qitish orqali ishlab chiqilgan katta umumiy matn modeli. Ishlab chiqaruvchi foydalanuvchi ko‘rsatmalariga moslik, yo‘naltirilish, rolli suhbat, mulohaza, ko‘p navbatli suhbat va uzun kontekst izchilligini ta’kidlaydi. Chiqish matn bo‘lib, javoblar, yozma mazmun, kod, tuzilmali yozuvlar va funksiya chaqiruvi ma’lumotlarini o‘z ichiga oladi.
Bu katta Hermes 3 katalog varianti bo‘lib, 70B hamroh model va keyingi Hermes 4 mulohaza relizidan alohida. Ishlab chiqaruvchi avvalgi Hermes imkoniyatlarini yaxshilangan funksiya chaqirish, tuzilmali natijalar va kod yaratish bilan kengaytiradi. Model ko‘lami yetishmayotgan manbalar yoki tugallanish mezonini beradi deb taxmin qilish o‘rniga vazifaga haqiqiy dalillar va zarur yakuniy shaklni bering.
Hujjat tahlili uchun parchalarni belgilang va taqqoslash mezonlarini ko‘rsating. Har bir xulosa yonida tegishli manbani so‘rang va yo‘q ma’lumotga munosabatni belgilang. Yozish topshirig‘ida auditoriya, ohang va tahrirdan keyin saqlanishi shart bo‘lgan faktlarni bering. Amaliy prompt: “Ushbu tushuntirishni ko‘rsatilgan o‘quvchi uchun qayta yozing, belgilangan atamalarni saqlang va aniqlashtirish talab qiladigan asossiz da’volarni ko‘rsating.”
Hermes 3 tizim ko‘rsatmalari, foydalanuvchi xabarlari va yordamchi javoblarini ajratish uchun ChatMLdan foydalanadi. Uning o‘z shabloni suhbatni tuzib, yordamchi yaratish prefiksini qo‘shishi mumkin. Tizim ko‘rsatmalari rol, qoidalar va uslubni yo‘naltiradi; vazifa maxsus kirish qismini talab qilmasa, ular ixtiyoriy.
Davom etayotgan suhbat manba matnini ko‘rsatmalardan farqlashi va qabul qilingan faktlarni tegishli kontekstda saqlashi kerak. Rolli suhbatda har bir personajni kim boshqarishini va qaysi hodisalar belgilanganini ko‘rsating. Kodda o‘zgaradigan xatti-harakat va saqlanadigan talablarni ayting. Kerakli material muloqot davomida ko‘rinadigan qolishi kerak.
Aynan shu model kartasi vosita ta’rifi ifodasi ichidagi funksiya imzolari hamda funksiya nomi va argumentlari uchun zarur javob sxemasini hujjatlashtiradi. Model teglangan JSON chaqiruv obyektlarini yaratadi. Ilova tanlangan amalni tahlil qilib bajaradi, keyin natijasini nomlangan vosita javobida qaytaradi. Yordamchining keyingi javobi haqiqiy ma’lumotni tushuntirishi mumkin.
Har bir funksiyaga aniq maqsad va parametrlarning aniq tavsiflarini bering. Taklif etilgan qidiruv qaytgan manbaning o‘rnini bosmasin. Yakuniy xulosa o‘z asosini ko‘rsatishi uchun kuzatuvni tanlangan amal bilan bog‘lang. Yaratilgan kod ham mo‘ljallangan muhitda tekshirib ishga tushirilmaguncha taklif bo‘lib qoladi.
Hermes 3ning JSON rejimi kerakli sxemani o‘z ichiga olgan tizim ko‘rsatmasi bilan o‘qitilgan va javob sifatida JSON obyektini so‘raydi. Maydonlar va yetishmayotgan yoki qarama-qarshi manba qiymatlarini qanday ifodalashni belgilang. Obyekt sxemaga rioya qilsa ham, tuzilmani tekshiring va faktlarni ko‘rib chiqing.
E’lon qilingan konfiguratsiyada max_position_embeddings 131 072 ga o‘rnatilgan. Ko‘rsatmalar, hujjatlar, tarix, vosita natijalari va javobni birga rejalashtiring; bu maydon alohida universal chiqish chegarasini belgilamaydi. Ishlab chiqaruvchining to‘liq modeli va alohida e’lon qilingan kvantlangan variantlari o‘z aniqlik identifikatorlariga ega, shuning uchun bu variantlarni nomlangan 405B katalog varianti o‘rniga yashirin almashtirmaslik kerak.
Foydali yakuniy material — taxminlari va manba bog‘lanishlari aniq matn yoki kod materiali. Uni berilgan talablar va haqiqiy kuzatuvlar bilan solishtirib ko‘rib chiqing. Hermes 3ning ChatML, funksiya chaqirish va JSON jarayonlari Hermes 4ning keyingi gibrid fikrlash va navbatlashtirilgan mulohaza boshqaruvlaridan alohida qoladi.
", "aboutText": "Hermes 3 Llama 3.1 405B — Nous Research kompaniyasining Llama 3.1 405Bning barcha parametrlarini qo‘shimcha moslab o‘qitish orqali ishlab chiqilgan katta umumiy matn modeli. Ishlab chiqaruvchi foydalanuvchi ko‘rsatmalariga moslik, yo‘naltirilish, rolli suhbat, mulohaza, ko‘p navbatli suhbat va uzun kontekst izchilligini ta’kidlaydi. Chiqish matn bo‘lib, javoblar, yozma mazmun, kod, tuzilmali yozuvlar va funksiya chaqiruvi ma’lumotlarini o‘z ichiga oladi.\n\n### 405B nashri\n\nBu katta Hermes 3 katalog varianti bo‘lib, 70B hamroh model va keyingi Hermes 4 mulohaza relizidan alohida. Ishlab chiqaruvchi avvalgi Hermes imkoniyatlarini yaxshilangan funksiya chaqirish, tuzilmali natijalar va kod yaratish bilan kengaytiradi. Model ko‘lami yetishmayotgan manbalar yoki tugallanish mezonini beradi deb taxmin qilish o‘rniga vazifaga haqiqiy dalillar va zarur yakuniy shaklni bering.\n\nHujjat tahlili uchun parchalarni belgilang va taqqoslash mezonlarini ko‘rsating. Har bir xulosa yonida tegishli manbani so‘rang va yo‘q ma’lumotga munosabatni belgilang. Yozish topshirig‘ida auditoriya, ohang va tahrirdan keyin saqlanishi shart bo‘lgan faktlarni bering. Amaliy prompt: “Ushbu tushuntirishni ko‘rsatilgan o‘quvchi uchun qayta yozing, belgilangan atamalarni saqlang va aniqlashtirish talab qiladigan asossiz da’volarni ko‘rsating.”\n\n### Prompt formati va muloqot\n\nHermes 3 tizim ko‘rsatmalari, foydalanuvchi xabarlari va yordamchi javoblarini ajratish uchun ChatMLdan foydalanadi. Uning o‘z shabloni suhbatni tuzib, yordamchi yaratish prefiksini qo‘shishi mumkin. Tizim ko‘rsatmalari rol, qoidalar va uslubni yo‘naltiradi; vazifa maxsus kirish qismini talab qilmasa, ular ixtiyoriy.\n\nDavom etayotgan suhbat manba matnini ko‘rsatmalardan farqlashi va qabul qilingan faktlarni tegishli kontekstda saqlashi kerak. Rolli suhbatda har bir personajni kim boshqarishini va qaysi hodisalar belgilanganini ko‘rsating. Kodda o‘zgaradigan xatti-harakat va saqlanadigan talablarni ayting. Kerakli material muloqot davomida ko‘rinadigan qolishi kerak.\n\n### Funksiyalar va manba kuzatuvlari\n\nAynan shu model kartasi vosita ta’rifi ifodasi ichidagi funksiya imzolari hamda funksiya nomi va argumentlari uchun zarur javob sxemasini hujjatlashtiradi. Model teglangan JSON chaqiruv obyektlarini yaratadi. Ilova tanlangan amalni tahlil qilib bajaradi, keyin natijasini nomlangan vosita javobida qaytaradi. Yordamchining keyingi javobi haqiqiy ma’lumotni tushuntirishi mumkin.\n\nHar bir funksiyaga aniq maqsad va parametrlarning aniq tavsiflarini bering. Taklif etilgan qidiruv qaytgan manbaning o‘rnini bosmasin. Yakuniy xulosa o‘z asosini ko‘rsatishi uchun kuzatuvni tanlangan amal bilan bog‘lang. Yaratilgan kod ham mo‘ljallangan muhitda tekshirib ishga tushirilmaguncha taklif bo‘lib qoladi.\n\n### JSON natijalari, kontekst va aniqlik\n\nHermes 3ning JSON rejimi kerakli sxemani o‘z ichiga olgan tizim ko‘rsatmasi bilan o‘qitilgan va javob sifatida JSON obyektini so‘raydi. Maydonlar va yetishmayotgan yoki qarama-qarshi manba qiymatlarini qanday ifodalashni belgilang. Obyekt sxemaga rioya qilsa ham, tuzilmani tekshiring va faktlarni ko‘rib chiqing.\n\nE’lon qilingan konfiguratsiyada max_position_embeddings 131 072 ga o‘rnatilgan. Ko‘rsatmalar, hujjatlar, tarix, vosita natijalari va javobni birga rejalashtiring; bu maydon alohida universal chiqish chegarasini belgilamaydi. Ishlab chiqaruvchining to‘liq modeli va alohida e’lon qilingan kvantlangan variantlari o‘z aniqlik identifikatorlariga ega, shuning uchun bu variantlarni nomlangan 405B katalog varianti o‘rniga yashirin almashtirmaslik kerak.\n\nFoydali yakuniy material — taxminlari va manba bog‘lanishlari aniq matn yoki kod materiali. Uni berilgan talablar va haqiqiy kuzatuvlar bilan solishtirib ko‘rib chiqing. Hermes 3ning ChatML, funksiya chaqirish va JSON jarayonlari Hermes 4ning keyingi gibrid fikrlash va navbatlashtirilgan mulohaza boshqaruvlaridan alohida qoladi.", "editorialOverlay": { "copy_fields": { "practical_html": "Ingliz tilidagi texnik misol
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B — Nous Research kompaniyasining barcha parametrlar bo‘yicha qo‘shimcha moslab o‘qitilgan 405B umumiy matn modeli. Uning yo‘naltiriladigan ChatML muloqoti, sxemaga yo‘naltirilgan JSON va funksiya chaqiruv formati ilova vositalari qaytargan kuzatuvlar bilan manba tahlili, yozish, kod va ko‘p qadamli ishni qo‘llab-quvvatlaydi.
Bu tavsif model imkoniyatlarini yoritadi. Ailoot da tanlangan usul uchun mavjud kirish, chiqish va parametrlar quyida keltirilgan.
Hermes 3 Llama 3.1 405B — Nous Research kompaniyasining Llama 3.1 405Bning barcha parametrlarini qo‘shimcha moslab o‘qitish orqali ishlab chiqilgan katta umumiy matn modeli. Ishlab chiqaruvchi foydalanuvchi ko‘rsatmalariga moslik, yo‘naltirilish, rolli suhbat, mulohaza, ko‘p navbatli suhbat va uzun kontekst izchilligini ta’kidlaydi. Chiqish matn bo‘lib, javoblar, yozma mazmun, kod, tuzilmali yozuvlar va funksiya chaqiruvi ma’lumotlarini o‘z ichiga oladi.
Bu katta Hermes 3 katalog varianti bo‘lib, 70B hamroh model va keyingi Hermes 4 mulohaza relizidan alohida. Ishlab chiqaruvchi avvalgi Hermes imkoniyatlarini yaxshilangan funksiya chaqirish, tuzilmali natijalar va kod yaratish bilan kengaytiradi. Model ko‘lami yetishmayotgan manbalar yoki tugallanish mezonini beradi deb taxmin qilish o‘rniga vazifaga haqiqiy dalillar va zarur yakuniy shaklni bering.
Hujjat tahlili uchun parchalarni belgilang va taqqoslash mezonlarini ko‘rsating. Har bir xulosa yonida tegishli manbani so‘rang va yo‘q ma’lumotga munosabatni belgilang. Yozish topshirig‘ida auditoriya, ohang va tahrirdan keyin saqlanishi shart bo‘lgan faktlarni bering. Amaliy prompt: “Ushbu tushuntirishni ko‘rsatilgan o‘quvchi uchun qayta yozing, belgilangan atamalarni saqlang va aniqlashtirish talab qiladigan asossiz da’volarni ko‘rsating.”
Hermes 3 tizim ko‘rsatmalari, foydalanuvchi xabarlari va yordamchi javoblarini ajratish uchun ChatMLdan foydalanadi. Uning o‘z shabloni suhbatni tuzib, yordamchi yaratish prefiksini qo‘shishi mumkin. Tizim ko‘rsatmalari rol, qoidalar va uslubni yo‘naltiradi; vazifa maxsus kirish qismini talab qilmasa, ular ixtiyoriy.
Davom etayotgan suhbat manba matnini ko‘rsatmalardan farqlashi va qabul qilingan faktlarni tegishli kontekstda saqlashi kerak. Rolli suhbatda har bir personajni kim boshqarishini va qaysi hodisalar belgilanganini ko‘rsating. Kodda o‘zgaradigan xatti-harakat va saqlanadigan talablarni ayting. Kerakli material muloqot davomida ko‘rinadigan qolishi kerak.
Aynan shu model kartasi vosita ta’rifi ifodasi ichidagi funksiya imzolari hamda funksiya nomi va argumentlari uchun zarur javob sxemasini hujjatlashtiradi. Model teglangan JSON chaqiruv obyektlarini yaratadi. Ilova tanlangan amalni tahlil qilib bajaradi, keyin natijasini nomlangan vosita javobida qaytaradi. Yordamchining keyingi javobi haqiqiy ma’lumotni tushuntirishi mumkin.
Har bir funksiyaga aniq maqsad va parametrlarning aniq tavsiflarini bering. Taklif etilgan qidiruv qaytgan manbaning o‘rnini bosmasin. Yakuniy xulosa o‘z asosini ko‘rsatishi uchun kuzatuvni tanlangan amal bilan bog‘lang. Yaratilgan kod ham mo‘ljallangan muhitda tekshirib ishga tushirilmaguncha taklif bo‘lib qoladi.
Hermes 3ning JSON rejimi kerakli sxemani o‘z ichiga olgan tizim ko‘rsatmasi bilan o‘qitilgan va javob sifatida JSON obyektini so‘raydi. Maydonlar va yetishmayotgan yoki qarama-qarshi manba qiymatlarini qanday ifodalashni belgilang. Obyekt sxemaga rioya qilsa ham, tuzilmani tekshiring va faktlarni ko‘rib chiqing.
E’lon qilingan konfiguratsiyada max_position_embeddings 131 072 ga o‘rnatilgan. Ko‘rsatmalar, hujjatlar, tarix, vosita natijalari va javobni birga rejalashtiring; bu maydon alohida universal chiqish chegarasini belgilamaydi. Ishlab chiqaruvchining to‘liq modeli va alohida e’lon qilingan kvantlangan variantlari o‘z aniqlik identifikatorlariga ega, shuning uchun bu variantlarni nomlangan 405B katalog varianti o‘rniga yashirin almashtirmaslik kerak.
Foydali yakuniy material — taxminlari va manba bog‘lanishlari aniq matn yoki kod materiali. Uni berilgan talablar va haqiqiy kuzatuvlar bilan solishtirib ko‘rib chiqing. Hermes 3ning ChatML, funksiya chaqirish va JSON jarayonlari Hermes 4ning keyingi gibrid fikrlash va navbatlashtirilgan mulohaza boshqaruvlaridan alohida qoladi.
POST /v1/chat/completionstexttext| Maydon | Tur | Talab | Qiymatlar va cheklovlar | Standart |
|---|---|---|---|---|
Maydonmodel | Turstring | TalabMajburiy | Qiymatlar va cheklovlar nousresearch/hermes-3-llama-3.1-405b | Standart— |
Maydonmessages | Turmessage[] | TalabMajburiy | Qiymatlar va cheklovlar Elementlarning eng kam soni: 1 | Standart— |
Maydonmessages[].role | Turstring | TalabMajburiy | Qiymatlar va cheklovlar Namunalar: system, user, assistant, tool, function Shartlar: Bu rollar manba kodining moslik turlarida ochiq ifodalangan; aniq rollar to‘plami har bir modelga xos bo‘lib qoladi. Modelga bogʻliq | Standart— |
Maydonmessages[].content | Turstring|content_part[]|null | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].tool_calls | Turtool_call[] | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].tool_call_id | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Quyidagi holatda qo‘llanadi: role=tool; haqiqatan qaytarilgan IDdan foydalaning | Standart— |
Maydonmessages[].name | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].reasoning_content | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Quyidagi holatda qo‘llanadi: Ushbu model foydalanganda, haqiqatan qaytarilgan fikrlash ma’lumotlarini keyingi so‘rovda qayta yuboring | Standart— |
Maydonmessages[].reasoning_details | Turobject|array | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonmax_tokens | Turinteger | TalabIxtiyoriy | Qiymatlar va cheklovlar Eng kam: 1 Modelga bogʻliq | Standart— |
Maydonmax_completion_tokens | Turinteger | TalabIxtiyoriy | Qiymatlar va cheklovlar Eng kam: 1 Modelga bogʻliq | Standart— |
Maydonstream | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standartfalse |
Maydonstream_options.include_usage | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontemperature | Turnumber | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontop_p | Turnumber | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonstop | Turstring|string[] | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontools | Turfunction_tool[] | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontools[].type | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar function Modelga bogʻliq | Standart— |
Maydontools[].function.name | Turstring | TalabMajburiy | Qiymatlar va cheklovlar Quyidagi holatda qo‘llanadi: Funksiya vositasi taqdim etilgan | Standart— |
Maydontools[].function.description | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydontools[].function.parameters | TurJSON_schema | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydontool_choice | Turstring|object | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonparallel_tool_calls | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonresponse_format | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonreasoning_effort | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonreasoning | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonservice_tier | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydoninstructions | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Moslik maydoni | Standart— |
Maydonfunctions | Turfunction[] | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonfunction_call | Turstring|object | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonprompt_cache_options | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonmodalities | Turstring[] | TalabIxtiyoriy | Qiymatlar va cheklovlar text | Standart— |
Maydonprovider | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Shartlar: Ushbu Ultra matn marshrutida provider.options rad etiladi | Standart— |
Maydoncache_control.ttl | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Shartlar: Haqiqiy prompt-kesh joylarida 1h rad etiladi | Standart— |
Matn · UTF8 matni
messages[].content
| Parametr | Parametr talablari |
|---|---|
Parametrcontent_type | Parametr talablariapplication/json |
Parametrrequired | Parametr talablarimodel, messages |
Parametrmaterial_types | Parametr talablaritext |
Parametrmessages | Parametr talablarirole/content tuzilishidagi xabarlar massivi |
Parametrfile_material | Parametr talablariHaqiqiy UTF-8 hujjati aynan matn sifatida kiritiladi; fayl IDsi faraz qilinmaydi |
Parametroptional_controls | Parametr talablaristream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrcontrol_scope | Parametr talablariModelga xos; foydalanuvchi funksiya vositalari hostingdagi vositalardan farq qiladi |
Parametroutput_modalities | Parametr talablaritext |
Parametrhosted_operations | Parametr talablarifalse |
Parametrmultimodal_input_binding | Parametr talablarinull |
Hayot sikli: synchronous_or_streamed
Aniq model IDsini messages bilan yuboring.
Kontekst uzunligi chiqishning yuqori chegarasi emas.
Matn fayli aynan matnni taqdim etishi mumkin; tasvir, audio va fayl obyekti kirishlari aniq bog‘lashni talab qiladi.
Tarif ma’lumotlari so‘rov imkoniyatlarini qo‘shmaydi. Qo‘llab-quvvatlanadigan parametrlar tanlangan usulda ko‘rsatilgan.
Har bir to‘lovni ko‘rsatilgan shartlarga moslang. Har bir muqobil sozlamalar to‘plami uchun bitta tarifdan foydalaning.
| Sozlama | Tariflar jadvali | Kontekst tokenlari soni bundan ko‘p | Kontekst tokenlari soni bundan oshmaydi, chegara kiradi | To‘lov |
|---|---|---|---|---|
| SozlamaTokenlar uchun bazaviy tariflar | Tariflar jadvaliAsosiy tarif | Kontekst tokenlari soni bundan ko‘p— | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.002 / 1K token Chiqish · Chiqish tokenlari $0.002 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
| SozlamaSo‘rov uzunligi bo‘yicha 1-daraja | Tariflar jadvali— | Kontekst tokenlari soni bundan ko‘p0 | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.002 / 1K token Chiqish · Chiqish tokenlari $0.002 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
Ailoot so‘rovdan oldin taxminiy summani band qiladi. Natijadan keyin o‘lchangan sarf asosidagi yakuniy to‘lovni yechadi. Oqimli javob bo‘yicha yakuniy hisob-kitob yakuniy sarf yozuviga asoslanadi. Summani band qilish va to‘lovni hisoblash tartibi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nousresearch/hermes-3-llama-3.1-405b", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nousresearch/hermes-3-llama-3.1-405b',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson yoki SSE
Qaytarilgan har bir to‘liq javob, fayl va kontent qismini saqlang.
Har bir javob variantini va uning kontenti, vosita chaqiruvlari hamda fikrlash ma’lumotlarini saqlang. SSEda o‘zgarish qismlarini variant va vosita indeksi bo‘yicha yig‘ing, yakuniy tugash sababi va sarf ma’lumotlarini saqlang.
So‘rov va javob IDlari hamda sarlavhalarini saqlang. Matn vazifasini olish uchun umumiy URL taqdim etilmagan.
| Maydon | Tur |
|---|---|
Maydonchoices[].index | Turinteger |
Maydonchoices[].message.content | Turstring|null |
Maydonchoices[].message.tool_calls | Turtool_call[] |
Maydonchoices[].message.reasoning_content | Turstring |
Maydonchoices[].message.reasoning_details | Turobject|array |
Maydonchoices[].finish_reason | Turstring|null |
Maydonusage | Turobject |
| Javob | Shart | Keyingi qadam |
|---|---|---|
Javob400 · invalid_request_error | ShartMajburiy maydonlar, material ifodasi yoki parametr qiymati noto‘g‘ri | Keyingi qadamYangi yaratish so‘rovidan oldin ko‘rsatilgan maydonlarni tuzating. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Yuqorida ko‘rsatilgan usul yo‘llaridan foydalaning.
nousresearch/hermes-3-llama-3.1-405bHermes 3 Llama 3.1 405B — Nous Research kompaniyasining barcha parametrlar bo‘yicha qo‘shimcha moslab o‘qitilgan 405B umumiy matn modeli. Uning yo‘naltiriladigan ChatML muloqoti, sxemaga yo‘naltirilgan JSON va funksiya chaqiruv formati ilova vositalari qaytargan kuzatuvlar bilan manba tahlili, yozish, kod va ko‘p qadamli ishni qo‘llab-quvvatlaydi.
Bu tavsif model imkoniyatlarini yoritadi. Ailoot da tanlangan usul uchun mavjud kirish, chiqish va parametrlar quyida keltirilgan.
Hermes 3 Llama 3.1 405B — Nous Research kompaniyasining Llama 3.1 405Bning barcha parametrlarini qo‘shimcha moslab o‘qitish orqali ishlab chiqilgan katta umumiy matn modeli. Ishlab chiqaruvchi foydalanuvchi ko‘rsatmalariga moslik, yo‘naltirilish, rolli suhbat, mulohaza, ko‘p navbatli suhbat va uzun kontekst izchilligini ta’kidlaydi. Chiqish matn bo‘lib, javoblar, yozma mazmun, kod, tuzilmali yozuvlar va funksiya chaqiruvi ma’lumotlarini o‘z ichiga oladi.
Bu katta Hermes 3 katalog varianti bo‘lib, 70B hamroh model va keyingi Hermes 4 mulohaza relizidan alohida. Ishlab chiqaruvchi avvalgi Hermes imkoniyatlarini yaxshilangan funksiya chaqirish, tuzilmali natijalar va kod yaratish bilan kengaytiradi. Model ko‘lami yetishmayotgan manbalar yoki tugallanish mezonini beradi deb taxmin qilish o‘rniga vazifaga haqiqiy dalillar va zarur yakuniy shaklni bering.
Hujjat tahlili uchun parchalarni belgilang va taqqoslash mezonlarini ko‘rsating. Har bir xulosa yonida tegishli manbani so‘rang va yo‘q ma’lumotga munosabatni belgilang. Yozish topshirig‘ida auditoriya, ohang va tahrirdan keyin saqlanishi shart bo‘lgan faktlarni bering. Amaliy prompt: “Ushbu tushuntirishni ko‘rsatilgan o‘quvchi uchun qayta yozing, belgilangan atamalarni saqlang va aniqlashtirish talab qiladigan asossiz da’volarni ko‘rsating.”
Hermes 3 tizim ko‘rsatmalari, foydalanuvchi xabarlari va yordamchi javoblarini ajratish uchun ChatMLdan foydalanadi. Uning o‘z shabloni suhbatni tuzib, yordamchi yaratish prefiksini qo‘shishi mumkin. Tizim ko‘rsatmalari rol, qoidalar va uslubni yo‘naltiradi; vazifa maxsus kirish qismini talab qilmasa, ular ixtiyoriy.
Davom etayotgan suhbat manba matnini ko‘rsatmalardan farqlashi va qabul qilingan faktlarni tegishli kontekstda saqlashi kerak. Rolli suhbatda har bir personajni kim boshqarishini va qaysi hodisalar belgilanganini ko‘rsating. Kodda o‘zgaradigan xatti-harakat va saqlanadigan talablarni ayting. Kerakli material muloqot davomida ko‘rinadigan qolishi kerak.
Aynan shu model kartasi vosita ta’rifi ifodasi ichidagi funksiya imzolari hamda funksiya nomi va argumentlari uchun zarur javob sxemasini hujjatlashtiradi. Model teglangan JSON chaqiruv obyektlarini yaratadi. Ilova tanlangan amalni tahlil qilib bajaradi, keyin natijasini nomlangan vosita javobida qaytaradi. Yordamchining keyingi javobi haqiqiy ma’lumotni tushuntirishi mumkin.
Har bir funksiyaga aniq maqsad va parametrlarning aniq tavsiflarini bering. Taklif etilgan qidiruv qaytgan manbaning o‘rnini bosmasin. Yakuniy xulosa o‘z asosini ko‘rsatishi uchun kuzatuvni tanlangan amal bilan bog‘lang. Yaratilgan kod ham mo‘ljallangan muhitda tekshirib ishga tushirilmaguncha taklif bo‘lib qoladi.
Hermes 3ning JSON rejimi kerakli sxemani o‘z ichiga olgan tizim ko‘rsatmasi bilan o‘qitilgan va javob sifatida JSON obyektini so‘raydi. Maydonlar va yetishmayotgan yoki qarama-qarshi manba qiymatlarini qanday ifodalashni belgilang. Obyekt sxemaga rioya qilsa ham, tuzilmani tekshiring va faktlarni ko‘rib chiqing.
E’lon qilingan konfiguratsiyada max_position_embeddings 131 072 ga o‘rnatilgan. Ko‘rsatmalar, hujjatlar, tarix, vosita natijalari va javobni birga rejalashtiring; bu maydon alohida universal chiqish chegarasini belgilamaydi. Ishlab chiqaruvchining to‘liq modeli va alohida e’lon qilingan kvantlangan variantlari o‘z aniqlik identifikatorlariga ega, shuning uchun bu variantlarni nomlangan 405B katalog varianti o‘rniga yashirin almashtirmaslik kerak.
Foydali yakuniy material — taxminlari va manba bog‘lanishlari aniq matn yoki kod materiali. Uni berilgan talablar va haqiqiy kuzatuvlar bilan solishtirib ko‘rib chiqing. Hermes 3ning ChatML, funksiya chaqirish va JSON jarayonlari Hermes 4ning keyingi gibrid fikrlash va navbatlashtirilgan mulohaza boshqaruvlaridan alohida qoladi.
POST /v1/messagestextjson, sse| Maydon | Tur | Talab | Qiymatlar va cheklovlar | Standart |
|---|---|---|---|---|
Maydonmodel | Turstring | TalabMajburiy | Qiymatlar va cheklovlar nousresearch/hermes-3-llama-3.1-405b | Standart— |
Maydonmessages | Turmessage[] | TalabMajburiy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].role | Turstring | TalabMajburiy | Qiymatlar va cheklovlar user, assistant | Standart— |
Maydonmessages[].content | Turstring | TalabMajburiy | Qiymatlar va cheklovlar | Standart— |
Maydonmax_tokens | Turinteger | TalabMajburiy | Qiymatlar va cheklovlar | Standart— |
Maydonstream | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standartfalse |
Matn · UTF-8 matni
messages[].content satri
| Parametr | Parametr talablari |
|---|---|
Parametrcontent_type | Parametr talablariapplication/json |
Parametrrequired | Parametr talablarimodel, messages, max_tokens |
Parametroptional_controls | Parametr talablaristream |
Parametrmaterial_types | Parametr talablaritext |
Parametrtext_file_material | Parametr talablariHaqiqiy UTF-8 hujjatini o‘qing va uning matnini ko‘rsatilgan kirish yoki xabar kontenti satriga joylashtiring. |
Hayot sikli: synchronous_or_streamed
Tarif ma’lumotlari so‘rov imkoniyatlarini qo‘shmaydi. Qo‘llab-quvvatlanadigan parametrlar tanlangan usulda ko‘rsatilgan.
Har bir to‘lovni ko‘rsatilgan shartlarga moslang. Har bir muqobil sozlamalar to‘plami uchun bitta tarifdan foydalaning.
| Sozlama | Tariflar jadvali | Kontekst tokenlari soni bundan ko‘p | Kontekst tokenlari soni bundan oshmaydi, chegara kiradi | To‘lov |
|---|---|---|---|---|
| SozlamaTokenlar uchun bazaviy tariflar | Tariflar jadvaliAsosiy tarif | Kontekst tokenlari soni bundan ko‘p— | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.002 / 1K token Chiqish · Chiqish tokenlari $0.002 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
| SozlamaSo‘rov uzunligi bo‘yicha 1-daraja | Tariflar jadvali— | Kontekst tokenlari soni bundan ko‘p0 | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.002 / 1K token Chiqish · Chiqish tokenlari $0.002 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
Ailoot so‘rovdan oldin taxminiy summani band qiladi. Natijadan keyin o‘lchangan sarf asosidagi yakuniy to‘lovni yechadi. Oqimli javob bo‘yicha yakuniy hisob-kitob yakuniy sarf yozuviga asoslanadi. Summani band qilish va to‘lovni hisoblash tartibi →
{\n "model": "nousresearch/hermes-3-llama-3.1-405b",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'nousresearch/hermes-3-llama-3.1-405b', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON yoki SSE
Qaytarilgan har bir to‘liq javob, fayl va kontent qismini saqlang.
Barcha kontent bloklari, fikrlash imzolari va haqiqiy vosita ishlatish IDlarini saqlang. SSE bloklarining barcha o‘zgarish qismlarini yig‘ing; birinchi matn bloki to‘liq chiqish emas.
So‘rov va javob IDlari hamda sarlavhalarini saqlang. Matn vazifasini olish uchun umumiy URL taqdim etilmagan.
| Maydon | Tur |
|---|---|
Maydonid | Turstring |
Maydonmodel | Turstring |
Maydoncontent[] | Turtext|thinking|tool_use|other content block |
Maydonstop_reason | Turstring|null |
Maydonusage | Turobject |
| Javob | Shart | Keyingi qadam |
|---|---|---|
Javob400 · invalid_request_error | ShartMajburiy maydonlar, material ifodasi yoki parametr qiymati noto‘g‘ri | Keyingi qadamYangi yaratish so‘rovidan oldin ko‘rsatilgan maydonlarni tuzating. |
Ailoot Ultra nousresearch/hermes-3-llama-3.1-405b
Yuqorida ko‘rsatilgan usul yo‘llaridan foydalaning.
Ingliz tilidagi texnik misol
Rewrite a technical explanation for customers\n\nRewrite this explanation for customers in 80 words or fewer: 'We store an immutable invoice snapshot at purchase. Editing the catalog later changes future invoices but cannot alter that snapshot.' Preserve the meaning of immutable snapshot, explain the effect of a later catalog edit and identify any claim you would need clarified before promising invoice corrections.A concise customer-facing explanation and one separate clarification question about invoice corrections.The rewrite preserves the distinction between historical snapshots and future invoices without inventing a correction process.