Meta Llama 3.2 3B Instruct — ko‘p tilli yordamchi suhbatlari, topilgan manbalarga asoslangan ishlar va umumlashtirish uchun yaratilgan, ko‘rsatmalarga moslab sozlangan matn modeli. Ishlab chiqaruvchining model jadvali 3.21B parametrli 3B toifasini ko‘rsatadi. U matnni qabul qiladi va matn yoki kod yaratadi. Uni ishlab chiqishda modelni siyraklashtirish va bilim distillatsiyasi ko‘rsatmalarga moslab sozlash bilan birlashtirilgan; natijada aniq yo‘naltirilgan yozish va yordamchi topshiriqlar uchun kichik model profili yaratilgan.
Modelga manba materiali, savol va javobning kutilgan shaklini bering. Yozishga yordam so‘rovida auditoriya, ohang va saqlanishi kerak bo‘lgan tafsilotlarni ko‘rsatish mumkin. Xulosa uchun qamrab olinadigan bo‘limlar va kerakli uzunlik yoki tuzilmani belgilash mumkin. Bilimlar bazasi bo‘yicha qisqa javob uchun tegishli parchani bering va o‘sha manbaga asoslangan izohni so‘rang.
Ishlab chiqaruvchi ko‘rsatmalarga moslab sozlangan matn modellarining mo‘ljallangan qo‘llanishlari qatorida bilim qidirish, umumlashtirish, mobil yozish yordamchilari, so‘rovlarni qayta yozish va promptlarni qayta yozishni sanaydi. Qidiruv ilovasi topgan parchalarini taqdim etib, modeldan javob tuzishni so‘rashi mumkin. O‘quvchi yoki boshqa komponent dalilni tekshira olishi uchun parcha identifikatorlarini natija bilan birga saqlang.
So‘rovni qayta yozishda asl savolni saqlang va uning maqsadini yo‘qotmaydigan ixcham qidiruv ifodasini so‘rang. Hujjat xulosasi uchun asosiy da’volar va ularga ta’sir qiladigan aniqlashtiruvchi shartlarni so‘rang. Haqiqiy chiqishda tushib qolgan shartlar, o‘zgargan sonlar yoki to‘qilgan ma’lumotlar borligini tekshiring, ayniqsa qisqa javob kattaroq manbani siqqanida.
Ingliz, nemis, fransuz, italyan, portugal, hind, ispan va tay tillari — rasman qo‘llab-quvvatlanadigan sakkiz til. Kerakli chiqish tilini ko‘rsating va o‘zgarmasligi shart bo‘lgan nomlar yoki maxsus atamalar yozilishini saqlang. Ko‘p tilli topshiriq faqat ravonlikka tayanish o‘rniga qaytarilgan ifodaning ma’nosini baholash uchun yetarli manba kontekstini o‘z ichiga olishi kerak.
Standart Llama 3.2 matn nazorat nuqtasi 128K tokenli kontekst oynasiga ega. Bu byudjetdan tegishli manba materiali, suhbat tarixi va yaratiladigan natija uchun foydalaning. Davom etish uchun kerakli avvalgi qarorlarni saqlang va javob uchun joy qoldiring. Dastlabki o‘qitish ma’lumotlarining chegarasi 2023-yil dekabr, shu sababli keyingi ma’lumotlar topshiriq yoki tashqi qidiruv ilovasi orqali beriladigan dalilni talab qiladi.
Bu yordamchiga o‘xshash muloqot uchun tayyorlangan Instruct nazorat nuqtasidir. Model kartasi nazoratli nozik sozlash va inson afzalliklariga moslashtirishni, kichik modellarni ishlab chiqishda esa qo‘shimcha distillatsiyani tavsiflaydi. Foydalanish misollarida tizim va foydalanuvchi xabarlari chat formati orqali beriladi. Tizim ko‘rsatmasi rol va chiqishdan kutilgan talablarni belgilashi, foydalanuvchi xabari esa joriy topshiriq va manbalarni taqdim etishi mumkin.
Nazorat nuqtasini bevosita ishlatganda suhbat formatini tanlangan nashrga mos saqlang. Natijani aniq belgilang va yaratilgan javobni, jumladan uning berilgan dalilga munosabatini tekshiring. Tuzilmali matn materiali uchun kerakli maydonlar yoki sarlavhalarni ko‘rsating va ilova uni qabul qilishidan oldin haqiqiy chiqishni tekshiring; yozma format talabi har bir qiymat to‘g‘ri bo‘lishiga kafolat emas.
Ishlab chiqaruvchi standart matn modelini alohida e’lon qilingan kvantlangan Llama 3.2 matn profillaridan ajratadi. Model jadvalida kvantlangan profillar uchun standart 128K oynadan farqli 8K kontekst ko‘rsatilgan. 3B deb belgilangan har bir joylashtirish bir xil kontekst hajmini saqlaydi deb taxmin qilish o‘rniga, model va ishchi byudjetni birga tanlang.
3B Instruct modeli Llama 3.2 ning kattaroq tasvir modellaridan ham alohida turadi. Ushbu matn profili uchun matnli manba materialini yoki tashqi ilova olgan matnni tayyorlang. Modeldan aniq javob, qayta yozish, xulosa yoki qisqa kod izohi uchun foydalaning. Tanlangan nazorat nuqtasi, prompt va manbani natija bilan birga saqlang, keyingi ko‘rsatmani esa yetishmayotgan tafsilot yoki kuzatilgan xatoga aniq yo‘naltiring.
", "aboutText": "Meta Llama 3.2 3B Instruct — ko‘p tilli yordamchi suhbatlari, topilgan manbalarga asoslangan ishlar va umumlashtirish uchun yaratilgan, ko‘rsatmalarga moslab sozlangan matn modeli. Ishlab chiqaruvchining model jadvali 3.21B parametrli 3B toifasini ko‘rsatadi. U matnni qabul qiladi va matn yoki kod yaratadi. Uni ishlab chiqishda modelni siyraklashtirish va bilim distillatsiyasi ko‘rsatmalarga moslab sozlash bilan birlashtirilgan; natijada aniq yo‘naltirilgan yozish va yordamchi topshiriqlar uchun kichik model profili yaratilgan.\n\n### Chegaralangan matnli natijani belgilang\n\nModelga manba materiali, savol va javobning kutilgan shaklini bering. Yozishga yordam so‘rovida auditoriya, ohang va saqlanishi kerak bo‘lgan tafsilotlarni ko‘rsatish mumkin. Xulosa uchun qamrab olinadigan bo‘limlar va kerakli uzunlik yoki tuzilmani belgilash mumkin. Bilimlar bazasi bo‘yicha qisqa javob uchun tegishli parchani bering va o‘sha manbaga asoslangan izohni so‘rang.\n\nIshlab chiqaruvchi ko‘rsatmalarga moslab sozlangan matn modellarining mo‘ljallangan qo‘llanishlari qatorida bilim qidirish, umumlashtirish, mobil yozish yordamchilari, so‘rovlarni qayta yozish va promptlarni qayta yozishni sanaydi. Qidiruv ilovasi topgan parchalarini taqdim etib, modeldan javob tuzishni so‘rashi mumkin. O‘quvchi yoki boshqa komponent dalilni tekshira olishi uchun parcha identifikatorlarini natija bilan birga saqlang.\n\nSo‘rovni qayta yozishda asl savolni saqlang va uning maqsadini yo‘qotmaydigan ixcham qidiruv ifodasini so‘rang. Hujjat xulosasi uchun asosiy da’volar va ularga ta’sir qiladigan aniqlashtiruvchi shartlarni so‘rang. Haqiqiy chiqishda tushib qolgan shartlar, o‘zgargan sonlar yoki to‘qilgan ma’lumotlar borligini tekshiring, ayniqsa qisqa javob kattaroq manbani siqqanida.\n\n### Tillar va kontekst\n\nIngliz, nemis, fransuz, italyan, portugal, hind, ispan va tay tillari — rasman qo‘llab-quvvatlanadigan sakkiz til. Kerakli chiqish tilini ko‘rsating va o‘zgarmasligi shart bo‘lgan nomlar yoki maxsus atamalar yozilishini saqlang. Ko‘p tilli topshiriq faqat ravonlikka tayanish o‘rniga qaytarilgan ifodaning ma’nosini baholash uchun yetarli manba kontekstini o‘z ichiga olishi kerak.\n\nStandart Llama 3.2 matn nazorat nuqtasi 128K tokenli kontekst oynasiga ega. Bu byudjetdan tegishli manba materiali, suhbat tarixi va yaratiladigan natija uchun foydalaning. Davom etish uchun kerakli avvalgi qarorlarni saqlang va javob uchun joy qoldiring. Dastlabki o‘qitish ma’lumotlarining chegarasi 2023-yil dekabr, shu sababli keyingi ma’lumotlar topshiriq yoki tashqi qidiruv ilovasi orqali beriladigan dalilni talab qiladi.\n\n### Ko‘rsatmalarga moslab sozlash va suhbat formati\n\nBu yordamchiga o‘xshash muloqot uchun tayyorlangan Instruct nazorat nuqtasidir. Model kartasi nazoratli nozik sozlash va inson afzalliklariga moslashtirishni, kichik modellarni ishlab chiqishda esa qo‘shimcha distillatsiyani tavsiflaydi. Foydalanish misollarida tizim va foydalanuvchi xabarlari chat formati orqali beriladi. Tizim ko‘rsatmasi rol va chiqishdan kutilgan talablarni belgilashi, foydalanuvchi xabari esa joriy topshiriq va manbalarni taqdim etishi mumkin.\n\nNazorat nuqtasini bevosita ishlatganda suhbat formatini tanlangan nashrga mos saqlang. Natijani aniq belgilang va yaratilgan javobni, jumladan uning berilgan dalilga munosabatini tekshiring. Tuzilmali matn materiali uchun kerakli maydonlar yoki sarlavhalarni ko‘rsating va ilova uni qabul qilishidan oldin haqiqiy chiqishni tekshiring; yozma format talabi har bir qiymat to‘g‘ri bo‘lishiga kafolat emas.\n\n### Standart, kvantlangan va tasvir profillari\n\nIshlab chiqaruvchi standart matn modelini alohida e’lon qilingan kvantlangan Llama 3.2 matn profillaridan ajratadi. Model jadvalida kvantlangan profillar uchun standart 128K oynadan farqli 8K kontekst ko‘rsatilgan. 3B deb belgilangan har bir joylashtirish bir xil kontekst hajmini saqlaydi deb taxmin qilish o‘rniga, model va ishchi byudjetni birga tanlang.\n\n3B Instruct modeli Llama 3.2 ning kattaroq tasvir modellaridan ham alohida turadi. Ushbu matn profili uchun matnli manba materialini yoki tashqi ilova olgan matnni tayyorlang. Modeldan aniq javob, qayta yozish, xulosa yoki qisqa kod izohi uchun foydalaning. Tanlangan nazorat nuqtasi, prompt va manbani natija bilan birga saqlang, keyingi ko‘rsatmani esa yetishmayotgan tafsilot yoki kuzatilgan xatoga aniq yo‘naltiring.", "editorialOverlay": { "copy_fields": { "practical_html": "Ingliz tilidagi texnik misol
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct — ko‘p tilli chat, topilgan manbalarga asoslangan xulosalar va yozishga yordam berish uchun ixcham matn modeli. Uning standart nazorat nuqtasi 128K kontekstga ega; alohida e’lon qilingan kvantlangan variantlarning ish oynasi boshqacha.
Bu tavsif model imkoniyatlarini yoritadi. Ailoot da tanlangan usul uchun mavjud kirish, chiqish va parametrlar quyida keltirilgan.
Meta Llama 3.2 3B Instruct — ko‘p tilli yordamchi suhbatlari, topilgan manbalarga asoslangan ishlar va umumlashtirish uchun yaratilgan, ko‘rsatmalarga moslab sozlangan matn modeli. Ishlab chiqaruvchining model jadvali 3.21B parametrli 3B toifasini ko‘rsatadi. U matnni qabul qiladi va matn yoki kod yaratadi. Uni ishlab chiqishda modelni siyraklashtirish va bilim distillatsiyasi ko‘rsatmalarga moslab sozlash bilan birlashtirilgan; natijada aniq yo‘naltirilgan yozish va yordamchi topshiriqlar uchun kichik model profili yaratilgan.
Modelga manba materiali, savol va javobning kutilgan shaklini bering. Yozishga yordam so‘rovida auditoriya, ohang va saqlanishi kerak bo‘lgan tafsilotlarni ko‘rsatish mumkin. Xulosa uchun qamrab olinadigan bo‘limlar va kerakli uzunlik yoki tuzilmani belgilash mumkin. Bilimlar bazasi bo‘yicha qisqa javob uchun tegishli parchani bering va o‘sha manbaga asoslangan izohni so‘rang.
Ishlab chiqaruvchi ko‘rsatmalarga moslab sozlangan matn modellarining mo‘ljallangan qo‘llanishlari qatorida bilim qidirish, umumlashtirish, mobil yozish yordamchilari, so‘rovlarni qayta yozish va promptlarni qayta yozishni sanaydi. Qidiruv ilovasi topgan parchalarini taqdim etib, modeldan javob tuzishni so‘rashi mumkin. O‘quvchi yoki boshqa komponent dalilni tekshira olishi uchun parcha identifikatorlarini natija bilan birga saqlang.
So‘rovni qayta yozishda asl savolni saqlang va uning maqsadini yo‘qotmaydigan ixcham qidiruv ifodasini so‘rang. Hujjat xulosasi uchun asosiy da’volar va ularga ta’sir qiladigan aniqlashtiruvchi shartlarni so‘rang. Haqiqiy chiqishda tushib qolgan shartlar, o‘zgargan sonlar yoki to‘qilgan ma’lumotlar borligini tekshiring, ayniqsa qisqa javob kattaroq manbani siqqanida.
Ingliz, nemis, fransuz, italyan, portugal, hind, ispan va tay tillari — rasman qo‘llab-quvvatlanadigan sakkiz til. Kerakli chiqish tilini ko‘rsating va o‘zgarmasligi shart bo‘lgan nomlar yoki maxsus atamalar yozilishini saqlang. Ko‘p tilli topshiriq faqat ravonlikka tayanish o‘rniga qaytarilgan ifodaning ma’nosini baholash uchun yetarli manba kontekstini o‘z ichiga olishi kerak.
Standart Llama 3.2 matn nazorat nuqtasi 128K tokenli kontekst oynasiga ega. Bu byudjetdan tegishli manba materiali, suhbat tarixi va yaratiladigan natija uchun foydalaning. Davom etish uchun kerakli avvalgi qarorlarni saqlang va javob uchun joy qoldiring. Dastlabki o‘qitish ma’lumotlarining chegarasi 2023-yil dekabr, shu sababli keyingi ma’lumotlar topshiriq yoki tashqi qidiruv ilovasi orqali beriladigan dalilni talab qiladi.
Bu yordamchiga o‘xshash muloqot uchun tayyorlangan Instruct nazorat nuqtasidir. Model kartasi nazoratli nozik sozlash va inson afzalliklariga moslashtirishni, kichik modellarni ishlab chiqishda esa qo‘shimcha distillatsiyani tavsiflaydi. Foydalanish misollarida tizim va foydalanuvchi xabarlari chat formati orqali beriladi. Tizim ko‘rsatmasi rol va chiqishdan kutilgan talablarni belgilashi, foydalanuvchi xabari esa joriy topshiriq va manbalarni taqdim etishi mumkin.
Nazorat nuqtasini bevosita ishlatganda suhbat formatini tanlangan nashrga mos saqlang. Natijani aniq belgilang va yaratilgan javobni, jumladan uning berilgan dalilga munosabatini tekshiring. Tuzilmali matn materiali uchun kerakli maydonlar yoki sarlavhalarni ko‘rsating va ilova uni qabul qilishidan oldin haqiqiy chiqishni tekshiring; yozma format talabi har bir qiymat to‘g‘ri bo‘lishiga kafolat emas.
Ishlab chiqaruvchi standart matn modelini alohida e’lon qilingan kvantlangan Llama 3.2 matn profillaridan ajratadi. Model jadvalida kvantlangan profillar uchun standart 128K oynadan farqli 8K kontekst ko‘rsatilgan. 3B deb belgilangan har bir joylashtirish bir xil kontekst hajmini saqlaydi deb taxmin qilish o‘rniga, model va ishchi byudjetni birga tanlang.
3B Instruct modeli Llama 3.2 ning kattaroq tasvir modellaridan ham alohida turadi. Ushbu matn profili uchun matnli manba materialini yoki tashqi ilova olgan matnni tayyorlang. Modeldan aniq javob, qayta yozish, xulosa yoki qisqa kod izohi uchun foydalaning. Tanlangan nazorat nuqtasi, prompt va manbani natija bilan birga saqlang, keyingi ko‘rsatmani esa yetishmayotgan tafsilot yoki kuzatilgan xatoga aniq yo‘naltiring.
POST /v1/chat/completionstexttext| Maydon | Tur | Talab | Qiymatlar va cheklovlar | Standart |
|---|---|---|---|---|
Maydonmodel | Turstring | TalabMajburiy | Qiymatlar va cheklovlar meta-llama/llama-3.2-3b-instruct | Standart— |
Maydonmessages | Turmessage[] | TalabMajburiy | Qiymatlar va cheklovlar Elementlarning eng kam soni: 1 | Standart— |
Maydonmessages[].role | Turstring | TalabMajburiy | Qiymatlar va cheklovlar Namunalar: system, user, assistant, tool, function Shartlar: Bu rollar manba kodining moslik turlarida ochiq ifodalangan; aniq rollar to‘plami har bir modelga xos bo‘lib qoladi. Modelga bogʻliq | Standart— |
Maydonmessages[].content | Turstring|content_part[]|null | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].tool_calls | Turtool_call[] | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].tool_call_id | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Quyidagi holatda qo‘llanadi: role=tool; haqiqatan qaytarilgan IDdan foydalaning | Standart— |
Maydonmessages[].name | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].reasoning_content | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Quyidagi holatda qo‘llanadi: Ushbu model foydalanganda, haqiqatan qaytarilgan fikrlash ma’lumotlarini keyingi so‘rovda qayta yuboring | Standart— |
Maydonmessages[].reasoning_details | Turobject|array | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonmax_tokens | Turinteger | TalabIxtiyoriy | Qiymatlar va cheklovlar Eng kam: 1 Modelga bogʻliq | Standart— |
Maydonmax_completion_tokens | Turinteger | TalabIxtiyoriy | Qiymatlar va cheklovlar Eng kam: 1 Modelga bogʻliq | Standart— |
Maydonstream | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standartfalse |
Maydonstream_options.include_usage | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontemperature | Turnumber | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontop_p | Turnumber | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonstop | Turstring|string[] | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontools | Turfunction_tool[] | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydontools[].type | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar function Modelga bogʻliq | Standart— |
Maydontools[].function.name | Turstring | TalabMajburiy | Qiymatlar va cheklovlar Quyidagi holatda qo‘llanadi: Funksiya vositasi taqdim etilgan | Standart— |
Maydontools[].function.description | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydontools[].function.parameters | TurJSON_schema | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standart— |
Maydontool_choice | Turstring|object | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonparallel_tool_calls | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonresponse_format | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonreasoning_effort | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonreasoning | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonservice_tier | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydoninstructions | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Moslik maydoni | Standart— |
Maydonfunctions | Turfunction[] | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonfunction_call | Turstring|object | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonprompt_cache_options | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Modelga bogʻliq | Standart— |
Maydonmodalities | Turstring[] | TalabIxtiyoriy | Qiymatlar va cheklovlar text | Standart— |
Maydonprovider | Turobject | TalabIxtiyoriy | Qiymatlar va cheklovlar Shartlar: Ushbu Ultra matn marshrutida provider.options rad etiladi | Standart— |
Maydoncache_control.ttl | Turstring | TalabIxtiyoriy | Qiymatlar va cheklovlar Shartlar: Haqiqiy prompt-kesh joylarida 1h rad etiladi | Standart— |
Matn · UTF8 matni
messages[].content
| Parametr | Parametr talablari |
|---|---|
Parametrcontent_type | Parametr talablariapplication/json |
Parametrrequired | Parametr talablarimodel, messages |
Parametrmaterial_types | Parametr talablaritext |
Parametrmessages | Parametr talablarirole/content tuzilishidagi xabarlar massivi |
Parametrfile_material | Parametr talablariHaqiqiy UTF-8 hujjati aynan matn sifatida kiritiladi; fayl IDsi faraz qilinmaydi |
Parametroptional_controls | Parametr talablaristream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
Parametrcontrol_scope | Parametr talablariModelga xos; foydalanuvchi funksiya vositalari hostingdagi vositalardan farq qiladi |
Parametroutput_modalities | Parametr talablaritext |
Parametrhosted_operations | Parametr talablarifalse |
Parametrmultimodal_input_binding | Parametr talablarinull |
Hayot sikli: synchronous_or_streamed
Aniq model IDsini messages bilan yuboring.
Kontekst uzunligi chiqishning yuqori chegarasi emas.
Matn fayli aynan matnni taqdim etishi mumkin; tasvir, audio va fayl obyekti kirishlari aniq bog‘lashni talab qiladi.
Tarif ma’lumotlari so‘rov imkoniyatlarini qo‘shmaydi. Qo‘llab-quvvatlanadigan parametrlar tanlangan usulda ko‘rsatilgan.
Har bir to‘lovni ko‘rsatilgan shartlarga moslang. Har bir muqobil sozlamalar to‘plami uchun bitta tarifdan foydalaning.
| Sozlama | Tariflar jadvali | Kontekst tokenlari soni bundan ko‘p | Kontekst tokenlari soni bundan oshmaydi, chegara kiradi | To‘lov |
|---|---|---|---|---|
| SozlamaTokenlar uchun bazaviy tariflar | Tariflar jadvaliAsosiy tarif | Kontekst tokenlari soni bundan ko‘p— | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.0001 / 1K token Chiqish · Chiqish tokenlari $0.00066 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
| SozlamaSo‘rov uzunligi bo‘yicha 1-daraja | Tariflar jadvali— | Kontekst tokenlari soni bundan ko‘p0 | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.0001 / 1K token Chiqish · Chiqish tokenlari $0.00066 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
Ailoot so‘rovdan oldin taxminiy summani band qiladi. Natijadan keyin o‘lchangan sarf asosidagi yakuniy to‘lovni yechadi. Oqimli javob bo‘yicha yakuniy hisob-kitob yakuniy sarf yozuviga asoslanadi. Summani band qilish va to‘lovni hisoblash tartibi →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.2-3b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.2-3b-instruct',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson yoki SSE
Qaytarilgan har bir to‘liq javob, fayl va kontent qismini saqlang.
Har bir javob variantini va uning kontenti, vosita chaqiruvlari hamda fikrlash ma’lumotlarini saqlang. SSEda o‘zgarish qismlarini variant va vosita indeksi bo‘yicha yig‘ing, yakuniy tugash sababi va sarf ma’lumotlarini saqlang.
So‘rov va javob IDlari hamda sarlavhalarini saqlang. Matn vazifasini olish uchun umumiy URL taqdim etilmagan.
| Maydon | Tur |
|---|---|
Maydonchoices[].index | Turinteger |
Maydonchoices[].message.content | Turstring|null |
Maydonchoices[].message.tool_calls | Turtool_call[] |
Maydonchoices[].message.reasoning_content | Turstring |
Maydonchoices[].message.reasoning_details | Turobject|array |
Maydonchoices[].finish_reason | Turstring|null |
Maydonusage | Turobject |
| Javob | Shart | Keyingi qadam |
|---|---|---|
Javob400 · invalid_request_error | ShartMajburiy maydonlar, material ifodasi yoki parametr qiymati noto‘g‘ri | Keyingi qadamYangi yaratish so‘rovidan oldin ko‘rsatilgan maydonlarni tuzating. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Yuqorida ko‘rsatilgan usul yo‘llaridan foydalaning.
meta-llama/llama-3.2-3b-instructMeta Llama 3.2 3B Instruct — ko‘p tilli chat, topilgan manbalarga asoslangan xulosalar va yozishga yordam berish uchun ixcham matn modeli. Uning standart nazorat nuqtasi 128K kontekstga ega; alohida e’lon qilingan kvantlangan variantlarning ish oynasi boshqacha.
Bu tavsif model imkoniyatlarini yoritadi. Ailoot da tanlangan usul uchun mavjud kirish, chiqish va parametrlar quyida keltirilgan.
Meta Llama 3.2 3B Instruct — ko‘p tilli yordamchi suhbatlari, topilgan manbalarga asoslangan ishlar va umumlashtirish uchun yaratilgan, ko‘rsatmalarga moslab sozlangan matn modeli. Ishlab chiqaruvchining model jadvali 3.21B parametrli 3B toifasini ko‘rsatadi. U matnni qabul qiladi va matn yoki kod yaratadi. Uni ishlab chiqishda modelni siyraklashtirish va bilim distillatsiyasi ko‘rsatmalarga moslab sozlash bilan birlashtirilgan; natijada aniq yo‘naltirilgan yozish va yordamchi topshiriqlar uchun kichik model profili yaratilgan.
Modelga manba materiali, savol va javobning kutilgan shaklini bering. Yozishga yordam so‘rovida auditoriya, ohang va saqlanishi kerak bo‘lgan tafsilotlarni ko‘rsatish mumkin. Xulosa uchun qamrab olinadigan bo‘limlar va kerakli uzunlik yoki tuzilmani belgilash mumkin. Bilimlar bazasi bo‘yicha qisqa javob uchun tegishli parchani bering va o‘sha manbaga asoslangan izohni so‘rang.
Ishlab chiqaruvchi ko‘rsatmalarga moslab sozlangan matn modellarining mo‘ljallangan qo‘llanishlari qatorida bilim qidirish, umumlashtirish, mobil yozish yordamchilari, so‘rovlarni qayta yozish va promptlarni qayta yozishni sanaydi. Qidiruv ilovasi topgan parchalarini taqdim etib, modeldan javob tuzishni so‘rashi mumkin. O‘quvchi yoki boshqa komponent dalilni tekshira olishi uchun parcha identifikatorlarini natija bilan birga saqlang.
So‘rovni qayta yozishda asl savolni saqlang va uning maqsadini yo‘qotmaydigan ixcham qidiruv ifodasini so‘rang. Hujjat xulosasi uchun asosiy da’volar va ularga ta’sir qiladigan aniqlashtiruvchi shartlarni so‘rang. Haqiqiy chiqishda tushib qolgan shartlar, o‘zgargan sonlar yoki to‘qilgan ma’lumotlar borligini tekshiring, ayniqsa qisqa javob kattaroq manbani siqqanida.
Ingliz, nemis, fransuz, italyan, portugal, hind, ispan va tay tillari — rasman qo‘llab-quvvatlanadigan sakkiz til. Kerakli chiqish tilini ko‘rsating va o‘zgarmasligi shart bo‘lgan nomlar yoki maxsus atamalar yozilishini saqlang. Ko‘p tilli topshiriq faqat ravonlikka tayanish o‘rniga qaytarilgan ifodaning ma’nosini baholash uchun yetarli manba kontekstini o‘z ichiga olishi kerak.
Standart Llama 3.2 matn nazorat nuqtasi 128K tokenli kontekst oynasiga ega. Bu byudjetdan tegishli manba materiali, suhbat tarixi va yaratiladigan natija uchun foydalaning. Davom etish uchun kerakli avvalgi qarorlarni saqlang va javob uchun joy qoldiring. Dastlabki o‘qitish ma’lumotlarining chegarasi 2023-yil dekabr, shu sababli keyingi ma’lumotlar topshiriq yoki tashqi qidiruv ilovasi orqali beriladigan dalilni talab qiladi.
Bu yordamchiga o‘xshash muloqot uchun tayyorlangan Instruct nazorat nuqtasidir. Model kartasi nazoratli nozik sozlash va inson afzalliklariga moslashtirishni, kichik modellarni ishlab chiqishda esa qo‘shimcha distillatsiyani tavsiflaydi. Foydalanish misollarida tizim va foydalanuvchi xabarlari chat formati orqali beriladi. Tizim ko‘rsatmasi rol va chiqishdan kutilgan talablarni belgilashi, foydalanuvchi xabari esa joriy topshiriq va manbalarni taqdim etishi mumkin.
Nazorat nuqtasini bevosita ishlatganda suhbat formatini tanlangan nashrga mos saqlang. Natijani aniq belgilang va yaratilgan javobni, jumladan uning berilgan dalilga munosabatini tekshiring. Tuzilmali matn materiali uchun kerakli maydonlar yoki sarlavhalarni ko‘rsating va ilova uni qabul qilishidan oldin haqiqiy chiqishni tekshiring; yozma format talabi har bir qiymat to‘g‘ri bo‘lishiga kafolat emas.
Ishlab chiqaruvchi standart matn modelini alohida e’lon qilingan kvantlangan Llama 3.2 matn profillaridan ajratadi. Model jadvalida kvantlangan profillar uchun standart 128K oynadan farqli 8K kontekst ko‘rsatilgan. 3B deb belgilangan har bir joylashtirish bir xil kontekst hajmini saqlaydi deb taxmin qilish o‘rniga, model va ishchi byudjetni birga tanlang.
3B Instruct modeli Llama 3.2 ning kattaroq tasvir modellaridan ham alohida turadi. Ushbu matn profili uchun matnli manba materialini yoki tashqi ilova olgan matnni tayyorlang. Modeldan aniq javob, qayta yozish, xulosa yoki qisqa kod izohi uchun foydalaning. Tanlangan nazorat nuqtasi, prompt va manbani natija bilan birga saqlang, keyingi ko‘rsatmani esa yetishmayotgan tafsilot yoki kuzatilgan xatoga aniq yo‘naltiring.
POST /v1/messagestextjson, sse| Maydon | Tur | Talab | Qiymatlar va cheklovlar | Standart |
|---|---|---|---|---|
Maydonmodel | Turstring | TalabMajburiy | Qiymatlar va cheklovlar meta-llama/llama-3.2-3b-instruct | Standart— |
Maydonmessages | Turmessage[] | TalabMajburiy | Qiymatlar va cheklovlar | Standart— |
Maydonmessages[].role | Turstring | TalabMajburiy | Qiymatlar va cheklovlar user, assistant | Standart— |
Maydonmessages[].content | Turstring | TalabMajburiy | Qiymatlar va cheklovlar | Standart— |
Maydonmax_tokens | Turinteger | TalabMajburiy | Qiymatlar va cheklovlar | Standart— |
Maydonstream | Turboolean | TalabIxtiyoriy | Qiymatlar va cheklovlar | Standartfalse |
Matn · UTF-8 matni
messages[].content satri
| Parametr | Parametr talablari |
|---|---|
Parametrcontent_type | Parametr talablariapplication/json |
Parametrrequired | Parametr talablarimodel, messages, max_tokens |
Parametroptional_controls | Parametr talablaristream |
Parametrmaterial_types | Parametr talablaritext |
Parametrtext_file_material | Parametr talablariHaqiqiy UTF-8 hujjatini o‘qing va uning matnini ko‘rsatilgan kirish yoki xabar kontenti satriga joylashtiring. |
Hayot sikli: synchronous_or_streamed
Tarif ma’lumotlari so‘rov imkoniyatlarini qo‘shmaydi. Qo‘llab-quvvatlanadigan parametrlar tanlangan usulda ko‘rsatilgan.
Har bir to‘lovni ko‘rsatilgan shartlarga moslang. Har bir muqobil sozlamalar to‘plami uchun bitta tarifdan foydalaning.
| Sozlama | Tariflar jadvali | Kontekst tokenlari soni bundan ko‘p | Kontekst tokenlari soni bundan oshmaydi, chegara kiradi | To‘lov |
|---|---|---|---|---|
| SozlamaTokenlar uchun bazaviy tariflar | Tariflar jadvaliAsosiy tarif | Kontekst tokenlari soni bundan ko‘p— | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.0001 / 1K token Chiqish · Chiqish tokenlari $0.00066 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
| SozlamaSo‘rov uzunligi bo‘yicha 1-daraja | Tariflar jadvali— | Kontekst tokenlari soni bundan ko‘p0 | Kontekst tokenlari soni bundan oshmaydi, chegara kiradiYuqori chegara yo‘q | To‘lov Kirish · Kirish tokenlari $0.0001 / 1K token Chiqish · Chiqish tokenlari $0.00066 / 1K token Kirish · Keshdan o‘qish — / 1K token Kirish · Keshga yozish — / 1K token Kirish · Keshga yozish, 1 soat — / 1K token |
Ailoot so‘rovdan oldin taxminiy summani band qiladi. Natijadan keyin o‘lchangan sarf asosidagi yakuniy to‘lovni yechadi. Oqimli javob bo‘yicha yakuniy hisob-kitob yakuniy sarf yozuviga asoslanadi. Summani band qilish va to‘lovni hisoblash tartibi →
{\n "model": "meta-llama/llama-3.2-3b-instruct",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.2-3b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON yoki SSE
Qaytarilgan har bir to‘liq javob, fayl va kontent qismini saqlang.
Barcha kontent bloklari, fikrlash imzolari va haqiqiy vosita ishlatish IDlarini saqlang. SSE bloklarining barcha o‘zgarish qismlarini yig‘ing; birinchi matn bloki to‘liq chiqish emas.
So‘rov va javob IDlari hamda sarlavhalarini saqlang. Matn vazifasini olish uchun umumiy URL taqdim etilmagan.
| Maydon | Tur |
|---|---|
Maydonid | Turstring |
Maydonmodel | Turstring |
Maydoncontent[] | Turtext|thinking|tool_use|other content block |
Maydonstop_reason | Turstring|null |
Maydonusage | Turobject |
| Javob | Shart | Keyingi qadam |
|---|---|---|
Javob400 · invalid_request_error | ShartMajburiy maydonlar, material ifodasi yoki parametr qiymati noto‘g‘ri | Keyingi qadamYangi yaratish so‘rovidan oldin ko‘rsatilgan maydonlarni tuzating. |
Ailoot Ultra meta-llama/llama-3.2-3b-instruct
Yuqorida ko‘rsatilgan usul yo‘llaridan foydalaning.
Ingliz tilidagi texnik misol
Rewrite a knowledge-base query\n\nRewrite this support question into one concise search query: 'I changed my work email yesterday and now the old address still gets export notifications, even though I log in with the new one.' Preserve the distinction between login identity and notification destination. Return the query and two key concepts it must retain; do not answer the question.One search query plus two retained concepts covering changed login email and stale export-notification address.The rewrite keeps the notification problem and does not collapse it into a login failure.