{ "aboutHtml": "

Llama 3.1 8B Instruct เป็นโมเดลข้อความแปดพันล้านพารามิเตอร์ของ Meta สำหรับสนทนาหลายภาษาและผู้ช่วยตามคำสั่ง รับบทสนทนาเป็นลายลักษณ์อักษรกับข้อมูลต้นฉบับ และสร้างข้อความหรือโค้ด เป็นรุ่น Instruct ขนาด 8B ที่แยกจากฐานฝึกก่อนใช้งานและโมเดล 70B กับ 405B ในตระกูล

สถาปัตยกรรม บริบท และภาษา

โมเดลใช้สถาปัตยกรรม autoregressive Transformer พร้อม grouped-query attention ตระกูลที่ปรับตามคำสั่งใช้ supervised fine-tuning และการเรียนรู้แบบเสริมกำลังจากข้อมูลย้อนกลับของคน เพื่อปรับคำตอบสนทนาให้สอดคล้อง ผู้สร้างระบุบริบท 128k สำหรับรุ่นข้อความนี้ ซึ่งไม่ใช่ข้อกำหนดภาพหรือบริบทยาวของโมเดล Llama 4 ที่มาทีหลัง

แปดภาษาที่รองรับอย่างเป็นทางการคืออังกฤษ เยอรมัน ฝรั่งเศส อิตาลี โปรตุเกส ฮินดี สเปน และไทย ข้อมูลฝึกก่อนใช้งานครอบคลุมชุดภาษากว้างกว่า ซึ่งต่างจากภาษาที่การ์ดรองรับชัดเจน ระบุภาษาสุดท้ายและชื่อ รหัสตัวแปร หรือศัพท์ที่ควรไม่เปลี่ยนในผลหลายภาษา

ตระกูลนี้ฝึกก่อนใช้งานบนข้อมูลประมาณสิบห้าล้านล้านโทเคน โดยมีขอบเขตข้อมูลเดือนธันวาคม 2023 การปรับละเอียดรวมข้อมูลคำสั่งและตัวอย่างสังเคราะห์มากกว่ายี่สิบห้าล้านรายการ นี่อธิบายการฝึกโมเดล ไม่ใช่การเข้าถึงฐานความรู้ส่วนตัวหรือข้อมูลสดเมื่อมีคำถามใหม่

การดำเนินการข้อความที่กำหนดไว้

คำขอด้านสนับสนุนสามารถป้อนข้อความผู้ใช้และข้อความอ้างอิงที่เกี่ยวข้อง แล้วขอคำตอบพร้อมเงื่อนไขสนับสนุน บันทึกกระชับสามารถแยกปัญหา ข้อมูลที่ป้อนแล้ว และขั้นถัดไปที่จำเป็น กำหนดชื่อช่องและวิธีจัดการค่าที่ไม่มีเมื่อแอปพลิเคชันต้องประมวลผลผลนั้น

สำหรับการสรุป ให้ป้อนข้อความหรือบทโต้ตอบจริง และระบุกลุ่มผู้อ่าน ความยาว และข้อเท็จจริงที่ต้องรักษา ขอการตัดสินใจหรือคำถามที่ยังไม่คลี่คลายซึ่งเกี่ยวข้องกับหัวข้อเดียว แทนบทสรุปไร้ทิศทางของข้อมูลที่ไม่เกี่ยวข้อง การติดตามผลอาจขอคำตอบสั้นลงหรือคำอธิบายเงื่อนไขหนึ่งให้ชัดขึ้น โดยคงข้อเท็จจริงต้นฉบับเดียวกัน

สำหรับการแก้ไข ให้ระบุผู้อ่านกับน้ำเสียงและความหมายที่ต้องไม่เปลี่ยน งานในทางปฏิบัติอาจขอข้อความชัดขึ้นตามด้วยรายการเปลี่ยนแปลงสั้น หรือข้อความที่แก้อย่างเดียวหากจะใช้โดยตรง งานจำแนกควรป้อนป้ายกำกับที่อนุญาตกับความแตกต่างระหว่างกัน แทนพึ่งชื่อป้ายให้กำหนดกฎเอง

การสร้างโค้ดและตัวอย่าง

ผลลัพธ์ตามเอกสารรวมโค้ดด้วย ป้อนภาษา ข้อมูลนำเข้าที่ต้องการ และผลที่คาด ก่อนขอฟังก์ชัน สำหรับคำอธิบาย ให้ป้อนฟังก์ชันเดิมกับข้อมูลนำเข้าที่เป็นรูปธรรม และถามว่าขั้นใดกำหนดค่าที่ส่งกลับ สำหรับการแก้ไข ให้แนบความล้มเหลวที่พบกับพฤติกรรมที่ต้องการ โดยคงอินเทอร์เฟซที่ต้องเข้ากันได้

ผลที่มีประโยชน์สามารถแยกโค้ดที่เสนอ สมมติฐาน และตัวอย่างข้อมูลนำเข้า แอปพลิเคชันหรือนักพัฒนาเป็นผู้คอมไพล์ รัน หรือเปลี่ยนคลังโค้ดจริง ซอร์สโค้ดที่เขียนเป็นผลงานสำหรับตรวจ ไม่ใช่การดำเนินการภายนอกที่เสร็จเพียงเพราะโมเดลส่งกลับ

ตระกูลนี้ยังรองรับการใช้ผลที่สร้างเพื่อเป็นตัวอย่างสังเคราะห์และการกลั่นความรู้ คำขอข้อความที่กำหนดไว้สามารถสร้างตัวอย่างหลากหลายภายใต้กฎที่ป้อนและในรูปแบบที่ระบุได้ เก็บกฎกับป้ายกำกับเพื่อให้ตรวจตัวอย่างแต่ละรายการได้ ตัวอย่างที่สร้างไม่ได้ยืนยันความถูกต้องของชุดข้อมูลฝึกอย่างเป็นอิสระ

บทบาทการสนทนาและใช้เครื่องมือ

การ์ดโมเดลสาธิตเทมเพลตสนทนาที่มีข้อความระบบและผู้ใช้แยกกัน กำหนดบทบาทผู้ช่วยและข้อกำหนดคำตอบในบริบทระบบ แล้วป้อนคำถามกับข้อมูลต้นฉบับเป็นงาน เก็บข้อความก่อนหน้าที่เกี่ยวข้องเมื่อถามติดตามหรือป้อนหลักฐานใหม่ที่เปลี่ยนผล

Llama 3.1 มีเอกสารรูปแบบใช้เครื่องมือหลายแบบ แอปพลิเคชันอธิบายฟังก์ชัน โมเดลสร้างการเรียกและอาร์กิวเมนต์ที่เสนอ แอปพลิเคชันดำเนินการและส่งผลกลับด้วยบทบาท tool คำตอบถัดไปจึงใช้ข้อมูลที่ส่งกลับได้ เชื่อมการดำเนินการต้นทางกับผลลัพธ์ตลอดการสนทนา

เช่น การค้นข้อมูลอาจคืนค่าอ้างอิงปัจจุบันที่ขาดจากข้อความ หรือเครื่องมือคำนวณให้ผลตัวเลขที่คำอธิบายต้องใช้ ผู้ช่วยที่ใช้เครื่องมือต้องได้รับการดำเนินการเหล่านั้นจากสภาพแวดล้อม พฤติกรรมข้อความของโมเดลไม่ได้สร้างการเชื่อมต่อแหล่งภายนอกหรือทำผลข้างเคียงเสร็จด้วยตัวเอง

ขอบเขตในทางปฏิบัติ

ควรเก็บป้ายบริบท 128k ของผู้สร้างไว้กับรุ่น 8B Instruct ตรงตัวและการตั้งค่าที่ใช้ ตัวอย่างการสร้าง 256 โทเคนเป็นเพียงทางเลือกการใช้ แหล่งข้อมูลที่ตรวจอ่านไม่มีการระบุความจุคำตอบสูงสุดแบบตายตัวแยกต่างหาก ขนาด 8B ไม่ควรรับจำนวนพารามิเตอร์ของสมาชิกรายอื่นหรือตัวควบคุมการให้เหตุผลที่มีชื่อจากตระกูลอื่น

นี่คือโมเดลข้อความอย่างเดียว ข้อมูลนำเข้าภาพ ความเข้าใจเสียง และการสร้างคำพูดต้องมีองค์ประกอบที่ระบุแยก กำหนดผลงานสุดท้ายก่อนป้อนข้อมูล ได้แก่ คำตอบกระชับ บันทึกที่สกัด ข้อความแก้ไข คำอธิบาย หรือข้อเสนอโค้ด เก็บข้อมูลต้นฉบับที่จำเป็นเพื่อตรวจความหมายและรูปแบบของผลงานนั้น

", "aboutText": "Llama 3.1 8B Instruct เป็นโมเดลข้อความแปดพันล้านพารามิเตอร์ของ Meta สำหรับสนทนาหลายภาษาและผู้ช่วยตามคำสั่ง รับบทสนทนาเป็นลายลักษณ์อักษรกับข้อมูลต้นฉบับ และสร้างข้อความหรือโค้ด เป็นรุ่น Instruct ขนาด 8B ที่แยกจากฐานฝึกก่อนใช้งานและโมเดล 70B กับ 405B ในตระกูล\n\nสถาปัตยกรรม บริบท และภาษา\n\nโมเดลใช้สถาปัตยกรรม autoregressive Transformer พร้อม grouped-query attention ตระกูลที่ปรับตามคำสั่งใช้ supervised fine-tuning และการเรียนรู้แบบเสริมกำลังจากข้อมูลย้อนกลับของคน เพื่อปรับคำตอบสนทนาให้สอดคล้อง ผู้สร้างระบุบริบท 128k สำหรับรุ่นข้อความนี้ ซึ่งไม่ใช่ข้อกำหนดภาพหรือบริบทยาวของโมเดล Llama 4 ที่มาทีหลัง\n\nแปดภาษาที่รองรับอย่างเป็นทางการคืออังกฤษ เยอรมัน ฝรั่งเศส อิตาลี โปรตุเกส ฮินดี สเปน และไทย ข้อมูลฝึกก่อนใช้งานครอบคลุมชุดภาษากว้างกว่า ซึ่งต่างจากภาษาที่การ์ดรองรับชัดเจน ระบุภาษาสุดท้ายและชื่อ รหัสตัวแปร หรือศัพท์ที่ควรไม่เปลี่ยนในผลหลายภาษา\n\nตระกูลนี้ฝึกก่อนใช้งานบนข้อมูลประมาณสิบห้าล้านล้านโทเคน โดยมีขอบเขตข้อมูลเดือนธันวาคม 2023 การปรับละเอียดรวมข้อมูลคำสั่งและตัวอย่างสังเคราะห์มากกว่ายี่สิบห้าล้านรายการ นี่อธิบายการฝึกโมเดล ไม่ใช่การเข้าถึงฐานความรู้ส่วนตัวหรือข้อมูลสดเมื่อมีคำถามใหม่\n\nการดำเนินการข้อความที่กำหนดไว้\n\nคำขอด้านสนับสนุนสามารถป้อนข้อความผู้ใช้และข้อความอ้างอิงที่เกี่ยวข้อง แล้วขอคำตอบพร้อมเงื่อนไขสนับสนุน บันทึกกระชับสามารถแยกปัญหา ข้อมูลที่ป้อนแล้ว และขั้นถัดไปที่จำเป็น กำหนดชื่อช่องและวิธีจัดการค่าที่ไม่มีเมื่อแอปพลิเคชันต้องประมวลผลผลนั้น\n\nสำหรับการสรุป ให้ป้อนข้อความหรือบทโต้ตอบจริง และระบุกลุ่มผู้อ่าน ความยาว และข้อเท็จจริงที่ต้องรักษา ขอการตัดสินใจหรือคำถามที่ยังไม่คลี่คลายซึ่งเกี่ยวข้องกับหัวข้อเดียว แทนบทสรุปไร้ทิศทางของข้อมูลที่ไม่เกี่ยวข้อง การติดตามผลอาจขอคำตอบสั้นลงหรือคำอธิบายเงื่อนไขหนึ่งให้ชัดขึ้น โดยคงข้อเท็จจริงต้นฉบับเดียวกัน\n\nสำหรับการแก้ไข ให้ระบุผู้อ่านกับน้ำเสียงและความหมายที่ต้องไม่เปลี่ยน งานในทางปฏิบัติอาจขอข้อความชัดขึ้นตามด้วยรายการเปลี่ยนแปลงสั้น หรือข้อความที่แก้อย่างเดียวหากจะใช้โดยตรง งานจำแนกควรป้อนป้ายกำกับที่อนุญาตกับความแตกต่างระหว่างกัน แทนพึ่งชื่อป้ายให้กำหนดกฎเอง\n\nการสร้างโค้ดและตัวอย่าง\n\nผลลัพธ์ตามเอกสารรวมโค้ดด้วย ป้อนภาษา ข้อมูลนำเข้าที่ต้องการ และผลที่คาด ก่อนขอฟังก์ชัน สำหรับคำอธิบาย ให้ป้อนฟังก์ชันเดิมกับข้อมูลนำเข้าที่เป็นรูปธรรม และถามว่าขั้นใดกำหนดค่าที่ส่งกลับ สำหรับการแก้ไข ให้แนบความล้มเหลวที่พบกับพฤติกรรมที่ต้องการ โดยคงอินเทอร์เฟซที่ต้องเข้ากันได้\n\nผลที่มีประโยชน์สามารถแยกโค้ดที่เสนอ สมมติฐาน และตัวอย่างข้อมูลนำเข้า แอปพลิเคชันหรือนักพัฒนาเป็นผู้คอมไพล์ รัน หรือเปลี่ยนคลังโค้ดจริง ซอร์สโค้ดที่เขียนเป็นผลงานสำหรับตรวจ ไม่ใช่การดำเนินการภายนอกที่เสร็จเพียงเพราะโมเดลส่งกลับ\n\nตระกูลนี้ยังรองรับการใช้ผลที่สร้างเพื่อเป็นตัวอย่างสังเคราะห์และการกลั่นความรู้ คำขอข้อความที่กำหนดไว้สามารถสร้างตัวอย่างหลากหลายภายใต้กฎที่ป้อนและในรูปแบบที่ระบุได้ เก็บกฎกับป้ายกำกับเพื่อให้ตรวจตัวอย่างแต่ละรายการได้ ตัวอย่างที่สร้างไม่ได้ยืนยันความถูกต้องของชุดข้อมูลฝึกอย่างเป็นอิสระ\n\nบทบาทการสนทนาและใช้เครื่องมือ\n\nการ์ดโมเดลสาธิตเทมเพลตสนทนาที่มีข้อความระบบและผู้ใช้แยกกัน กำหนดบทบาทผู้ช่วยและข้อกำหนดคำตอบในบริบทระบบ แล้วป้อนคำถามกับข้อมูลต้นฉบับเป็นงาน เก็บข้อความก่อนหน้าที่เกี่ยวข้องเมื่อถามติดตามหรือป้อนหลักฐานใหม่ที่เปลี่ยนผล\n\nLlama 3.1 มีเอกสารรูปแบบใช้เครื่องมือหลายแบบ แอปพลิเคชันอธิบายฟังก์ชัน โมเดลสร้างการเรียกและอาร์กิวเมนต์ที่เสนอ แอปพลิเคชันดำเนินการและส่งผลกลับด้วยบทบาท tool คำตอบถัดไปจึงใช้ข้อมูลที่ส่งกลับได้ เชื่อมการดำเนินการต้นทางกับผลลัพธ์ตลอดการสนทนา\n\nเช่น การค้นข้อมูลอาจคืนค่าอ้างอิงปัจจุบันที่ขาดจากข้อความ หรือเครื่องมือคำนวณให้ผลตัวเลขที่คำอธิบายต้องใช้ ผู้ช่วยที่ใช้เครื่องมือต้องได้รับการดำเนินการเหล่านั้นจากสภาพแวดล้อม พฤติกรรมข้อความของโมเดลไม่ได้สร้างการเชื่อมต่อแหล่งภายนอกหรือทำผลข้างเคียงเสร็จด้วยตัวเอง\n\nขอบเขตในทางปฏิบัติ\n\nควรเก็บป้ายบริบท 128k ของผู้สร้างไว้กับรุ่น 8B Instruct ตรงตัวและการตั้งค่าที่ใช้ ตัวอย่างการสร้าง 256 โทเคนเป็นเพียงทางเลือกการใช้ แหล่งข้อมูลที่ตรวจอ่านไม่มีการระบุความจุคำตอบสูงสุดแบบตายตัวแยกต่างหาก ขนาด 8B ไม่ควรรับจำนวนพารามิเตอร์ของสมาชิกรายอื่นหรือตัวควบคุมการให้เหตุผลที่มีชื่อจากตระกูลอื่น\n\nนี่คือโมเดลข้อความอย่างเดียว ข้อมูลนำเข้าภาพ ความเข้าใจเสียง และการสร้างคำพูดต้องมีองค์ประกอบที่ระบุแยก กำหนดผลงานสุดท้ายก่อนป้อนข้อมูล ได้แก่ คำตอบกระชับ บันทึกที่สกัด ข้อความแก้ไข คำอธิบาย หรือข้อเสนอโค้ด เก็บข้อมูลต้นฉบับที่จำเป็นเพื่อตรวจความหมายและรูปแบบของผลงานนั้น", "editorialOverlay": { "copy_fields": { "practical_html": "

งานตัวอย่างจริง

ตัวอย่างทางเทคนิคภาษาอังกฤษ

Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.

ผลลัพธ์ที่คาดหวัง

One German customer notice preserving the identifier, event sequence and qualified transit time.

ตรวจสอบผลลัพธ์

The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.
" }, "copy_sha256": "e41b76f19b3f529c26767d380f4ba5ca8b7e62aa3588be26a101552ec548de59", "copy_source": { "locale": "th", "pack_sha256": "0f56d90ba41881e1134accf82e57338f246f8753ca4c0cee929aaffada5d10e7", "record_model_id": "meta-llama/llama-3.1-8b-instruct", "source_facts_sha256": "5c0d3cb1e67c59e17cd7e0360ac408fafa23598f3d80470d573321ec3304479e", "validation_sha256": "a2ac2f28056280fc0b2ea34a501bf156d5ce155406e57e708edf30bfdf6bfdc6" }, "html_sha256": "10c732ea7a41601d7a984d08ea25ec330c21437505de7aae90300a5a25bdb0e9", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "th", "methods": [ { "html": "
M

Meta: Llama 3.1 8B Instruct

Meta /meta-llama/llama-3.1-8b-instruct

เริ่มต้น

Llama 3.1 8B Instruct เป็นโมเดลข้อความตามคำสั่งขนาดเล็กกว่าของ Meta สำหรับสนทนาหลายภาษา สรุป และคำตอบที่อิงต้นฉบับ มีขนาดแปดพันล้านพารามิเตอร์ บริบทผู้สร้าง 128k, grouped-query attention และรูปแบบใช้เครื่องมือตามเอกสาร โดยส่งข้อความหรือโค้ดกลับ

อินพุตที่รองรับ
ข้อความ
ผลลัพธ์
ข้อความ
เกี่ยวกับโมเดล

คำอธิบายนี้ครอบคลุมความสามารถของโมเดล อินพุต เอาต์พุต และตัวเลือกที่ใช้ได้ใน Ailoot แสดงด้านล่างตามเมธอดที่เลือก

Llama 3.1 8B Instruct เป็นโมเดลข้อความแปดพันล้านพารามิเตอร์ของ Meta สำหรับสนทนาหลายภาษาและผู้ช่วยตามคำสั่ง รับบทสนทนาเป็นลายลักษณ์อักษรกับข้อมูลต้นฉบับ และสร้างข้อความหรือโค้ด เป็นรุ่น Instruct ขนาด 8B ที่แยกจากฐานฝึกก่อนใช้งานและโมเดล 70B กับ 405B ในตระกูล

สถาปัตยกรรม บริบท และภาษา

โมเดลใช้สถาปัตยกรรม autoregressive Transformer พร้อม grouped-query attention ตระกูลที่ปรับตามคำสั่งใช้ supervised fine-tuning และการเรียนรู้แบบเสริมกำลังจากข้อมูลย้อนกลับของคน เพื่อปรับคำตอบสนทนาให้สอดคล้อง ผู้สร้างระบุบริบท 128k สำหรับรุ่นข้อความนี้ ซึ่งไม่ใช่ข้อกำหนดภาพหรือบริบทยาวของโมเดล Llama 4 ที่มาทีหลัง

แปดภาษาที่รองรับอย่างเป็นทางการคืออังกฤษ เยอรมัน ฝรั่งเศส อิตาลี โปรตุเกส ฮินดี สเปน และไทย ข้อมูลฝึกก่อนใช้งานครอบคลุมชุดภาษากว้างกว่า ซึ่งต่างจากภาษาที่การ์ดรองรับชัดเจน ระบุภาษาสุดท้ายและชื่อ รหัสตัวแปร หรือศัพท์ที่ควรไม่เปลี่ยนในผลหลายภาษา

ตระกูลนี้ฝึกก่อนใช้งานบนข้อมูลประมาณสิบห้าล้านล้านโทเคน โดยมีขอบเขตข้อมูลเดือนธันวาคม 2023 การปรับละเอียดรวมข้อมูลคำสั่งและตัวอย่างสังเคราะห์มากกว่ายี่สิบห้าล้านรายการ นี่อธิบายการฝึกโมเดล ไม่ใช่การเข้าถึงฐานความรู้ส่วนตัวหรือข้อมูลสดเมื่อมีคำถามใหม่

การดำเนินการข้อความที่กำหนดไว้

คำขอด้านสนับสนุนสามารถป้อนข้อความผู้ใช้และข้อความอ้างอิงที่เกี่ยวข้อง แล้วขอคำตอบพร้อมเงื่อนไขสนับสนุน บันทึกกระชับสามารถแยกปัญหา ข้อมูลที่ป้อนแล้ว และขั้นถัดไปที่จำเป็น กำหนดชื่อช่องและวิธีจัดการค่าที่ไม่มีเมื่อแอปพลิเคชันต้องประมวลผลผลนั้น

สำหรับการสรุป ให้ป้อนข้อความหรือบทโต้ตอบจริง และระบุกลุ่มผู้อ่าน ความยาว และข้อเท็จจริงที่ต้องรักษา ขอการตัดสินใจหรือคำถามที่ยังไม่คลี่คลายซึ่งเกี่ยวข้องกับหัวข้อเดียว แทนบทสรุปไร้ทิศทางของข้อมูลที่ไม่เกี่ยวข้อง การติดตามผลอาจขอคำตอบสั้นลงหรือคำอธิบายเงื่อนไขหนึ่งให้ชัดขึ้น โดยคงข้อเท็จจริงต้นฉบับเดียวกัน

สำหรับการแก้ไข ให้ระบุผู้อ่านกับน้ำเสียงและความหมายที่ต้องไม่เปลี่ยน งานในทางปฏิบัติอาจขอข้อความชัดขึ้นตามด้วยรายการเปลี่ยนแปลงสั้น หรือข้อความที่แก้อย่างเดียวหากจะใช้โดยตรง งานจำแนกควรป้อนป้ายกำกับที่อนุญาตกับความแตกต่างระหว่างกัน แทนพึ่งชื่อป้ายให้กำหนดกฎเอง

การสร้างโค้ดและตัวอย่าง

ผลลัพธ์ตามเอกสารรวมโค้ดด้วย ป้อนภาษา ข้อมูลนำเข้าที่ต้องการ และผลที่คาด ก่อนขอฟังก์ชัน สำหรับคำอธิบาย ให้ป้อนฟังก์ชันเดิมกับข้อมูลนำเข้าที่เป็นรูปธรรม และถามว่าขั้นใดกำหนดค่าที่ส่งกลับ สำหรับการแก้ไข ให้แนบความล้มเหลวที่พบกับพฤติกรรมที่ต้องการ โดยคงอินเทอร์เฟซที่ต้องเข้ากันได้

ผลที่มีประโยชน์สามารถแยกโค้ดที่เสนอ สมมติฐาน และตัวอย่างข้อมูลนำเข้า แอปพลิเคชันหรือนักพัฒนาเป็นผู้คอมไพล์ รัน หรือเปลี่ยนคลังโค้ดจริง ซอร์สโค้ดที่เขียนเป็นผลงานสำหรับตรวจ ไม่ใช่การดำเนินการภายนอกที่เสร็จเพียงเพราะโมเดลส่งกลับ

ตระกูลนี้ยังรองรับการใช้ผลที่สร้างเพื่อเป็นตัวอย่างสังเคราะห์และการกลั่นความรู้ คำขอข้อความที่กำหนดไว้สามารถสร้างตัวอย่างหลากหลายภายใต้กฎที่ป้อนและในรูปแบบที่ระบุได้ เก็บกฎกับป้ายกำกับเพื่อให้ตรวจตัวอย่างแต่ละรายการได้ ตัวอย่างที่สร้างไม่ได้ยืนยันความถูกต้องของชุดข้อมูลฝึกอย่างเป็นอิสระ

บทบาทการสนทนาและใช้เครื่องมือ

การ์ดโมเดลสาธิตเทมเพลตสนทนาที่มีข้อความระบบและผู้ใช้แยกกัน กำหนดบทบาทผู้ช่วยและข้อกำหนดคำตอบในบริบทระบบ แล้วป้อนคำถามกับข้อมูลต้นฉบับเป็นงาน เก็บข้อความก่อนหน้าที่เกี่ยวข้องเมื่อถามติดตามหรือป้อนหลักฐานใหม่ที่เปลี่ยนผล

Llama 3.1 มีเอกสารรูปแบบใช้เครื่องมือหลายแบบ แอปพลิเคชันอธิบายฟังก์ชัน โมเดลสร้างการเรียกและอาร์กิวเมนต์ที่เสนอ แอปพลิเคชันดำเนินการและส่งผลกลับด้วยบทบาท tool คำตอบถัดไปจึงใช้ข้อมูลที่ส่งกลับได้ เชื่อมการดำเนินการต้นทางกับผลลัพธ์ตลอดการสนทนา

เช่น การค้นข้อมูลอาจคืนค่าอ้างอิงปัจจุบันที่ขาดจากข้อความ หรือเครื่องมือคำนวณให้ผลตัวเลขที่คำอธิบายต้องใช้ ผู้ช่วยที่ใช้เครื่องมือต้องได้รับการดำเนินการเหล่านั้นจากสภาพแวดล้อม พฤติกรรมข้อความของโมเดลไม่ได้สร้างการเชื่อมต่อแหล่งภายนอกหรือทำผลข้างเคียงเสร็จด้วยตัวเอง

ขอบเขตในทางปฏิบัติ

ควรเก็บป้ายบริบท 128k ของผู้สร้างไว้กับรุ่น 8B Instruct ตรงตัวและการตั้งค่าที่ใช้ ตัวอย่างการสร้าง 256 โทเคนเป็นเพียงทางเลือกการใช้ แหล่งข้อมูลที่ตรวจอ่านไม่มีการระบุความจุคำตอบสูงสุดแบบตายตัวแยกต่างหาก ขนาด 8B ไม่ควรรับจำนวนพารามิเตอร์ของสมาชิกรายอื่นหรือตัวควบคุมการให้เหตุผลที่มีชื่อจากตระกูลอื่น

นี่คือโมเดลข้อความอย่างเดียว ข้อมูลนำเข้าภาพ ความเข้าใจเสียง และการสร้างคำพูดต้องมีองค์ประกอบที่ระบุแยก กำหนดผลงานสุดท้ายก่อนป้อนข้อมูล ได้แก่ คำตอบกระชับ บันทึกที่สกัด ข้อความแก้ไข คำอธิบาย หรือข้อเสนอโค้ด เก็บข้อมูลต้นฉบับที่จำเป็นเพื่อตรวจความหมายและรูปแบบของผลงานนั้น

ใช้งานได้ใน Ailoot · อินพุตและเมธอด

Ailoot Ultra · OpenAI Chat POST /v1/chat/completions
ขาเข้า
text
ขาออก
text
รูปแบบเอาต์พุต
json หรือ SSE
ฟิลด์ประเภทข้อกำหนดค่าและข้อจำกัดค่าเริ่มต้น
ฟิลด์modelประเภทstringข้อกำหนดจำเป็นค่าและข้อจำกัด
meta-llama/llama-3.1-8b-instruct
ค่าเริ่มต้น—
ฟิลด์messagesประเภทmessage[]ข้อกำหนดจำเป็นค่าและข้อจำกัด
จำนวนรายการขั้นต่ำ: 1
ค่าเริ่มต้น—
ฟิลด์messages[].roleประเภทstringข้อกำหนดจำเป็นค่าและข้อจำกัด
ตัวอย่าง: system, user, assistant, tool, function
เงื่อนไข: บทบาทเหล่านี้แทนอย่างชัดเจนด้วยชนิดข้อมูลเพื่อความเข้ากันได้ในซอร์สโค้ด แต่ชุดบทบาทที่แน่นอนยังขึ้นกับแต่ละโมเดล
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์messages[].contentประเภทstring|content_part[]|nullข้อกำหนดไม่บังคับค่าและข้อจำกัดค่าเริ่มต้น—
ฟิลด์messages[].tool_callsประเภทtool_call[]ข้อกำหนดไม่บังคับค่าและข้อจำกัดค่าเริ่มต้น—
ฟิลด์messages[].tool_call_idประเภทstringข้อกำหนดไม่บังคับค่าและข้อจำกัด
ใช้เมื่อ: role=tool โดยใช้ ID ที่ส่งกลับจริง
ค่าเริ่มต้น—
ฟิลด์messages[].nameประเภทstringข้อกำหนดไม่บังคับค่าและข้อจำกัดค่าเริ่มต้น—
ฟิลด์messages[].reasoning_contentประเภทstringข้อกำหนดไม่บังคับค่าและข้อจำกัด
ใช้เมื่อ: ส่งเนื้อหาการใช้เหตุผลที่คืนจริงกลับในคำขอถัดไป เมื่อโมเดลนี้ใช้เนื้อหานั้น
ค่าเริ่มต้น—
ฟิลด์messages[].reasoning_detailsประเภทobject|arrayข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์max_tokensประเภทintegerข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขั้นต่ำ: 1
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์max_completion_tokensประเภทintegerข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขั้นต่ำ: 1
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์streamประเภทbooleanข้อกำหนดไม่บังคับค่าและข้อจำกัดค่าเริ่มต้นfalse
ฟิลด์stream_options.include_usageประเภทbooleanข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์temperatureประเภทnumberข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์top_pประเภทnumberข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์stopประเภทstring|string[]ข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์toolsประเภทfunction_tool[]ข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์tools[].typeประเภทstringข้อกำหนดไม่บังคับค่าและข้อจำกัด
function
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์tools[].function.nameประเภทstringข้อกำหนดจำเป็นค่าและข้อจำกัด
ใช้เมื่อ: มีเครื่องมือฟังก์ชันให้ใช้
ค่าเริ่มต้น—
ฟิลด์tools[].function.descriptionประเภทstringข้อกำหนดไม่บังคับค่าและข้อจำกัดค่าเริ่มต้น—
ฟิลด์tools[].function.parametersประเภทJSON_schemaข้อกำหนดไม่บังคับค่าและข้อจำกัดค่าเริ่มต้น—
ฟิลด์tool_choiceประเภทstring|objectข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์parallel_tool_callsประเภทbooleanข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์response_formatประเภทobjectข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์reasoning_effortประเภทstringข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์reasoningประเภทobjectข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์service_tierประเภทstringข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์instructionsประเภทstringข้อกำหนดไม่บังคับค่าและข้อจำกัด
ฟิลด์เพื่อความเข้ากันได้
ค่าเริ่มต้น—
ฟิลด์functionsประเภทfunction[]ข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์function_callประเภทstring|objectข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์prompt_cache_optionsประเภทobjectข้อกำหนดไม่บังคับค่าและข้อจำกัด
ขึ้นอยู่กับโมเดล
ค่าเริ่มต้น—
ฟิลด์modalitiesประเภทstring[]ข้อกำหนดไม่บังคับค่าและข้อจำกัด
text
ค่าเริ่มต้น—
ฟิลด์providerประเภทobjectข้อกำหนดไม่บังคับค่าและข้อจำกัด
เงื่อนไข: เส้นทางข้อความ Ultra นี้ปฏิเสธ provider.options
ค่าเริ่มต้น—
ฟิลด์cache_control.ttlประเภทstringข้อกำหนดไม่บังคับค่าและข้อจำกัด
เงื่อนไข: ตำแหน่งแคชพรอมป์ต์จริงปฏิเสธ 1h
ค่าเริ่มต้น—
ชุดผสมของสื่ออินพุต

ข้อความ · ข้อความ UTF8

messages[].content

พารามิเตอร์และวงจรการทำงานของเมธอด
พารามิเตอร์ข้อกำหนด
พารามิเตอร์content_typeข้อกำหนดapplication/json
พารามิเตอร์requiredข้อกำหนดmodel, messages
พารามิเตอร์material_typesข้อกำหนดtext
พารามิเตอร์messagesข้อกำหนดอาร์เรย์ข้อความที่มีโครงสร้าง role/content
พารามิเตอร์file_materialข้อกำหนดแทรกเอกสาร UTF-8 จริงเป็นข้อความตามต้นฉบับ โดยไม่อนุมาน ID ไฟล์
พารามิเตอร์optional_controlsข้อกำหนดstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice
พารามิเตอร์control_scopeข้อกำหนดขึ้นกับโมเดล เครื่องมือฟังก์ชันของผู้ใช้ต่างจากเครื่องมือที่โฮสต์จัดให้
พารามิเตอร์output_modalitiesข้อกำหนดtext
พารามิเตอร์hosted_operationsข้อกำหนดfalse
พารามิเตอร์multimodal_input_bindingข้อกำหนดnull

วงจรการทำงาน: synchronous_or_streamed

ส่ง ID โมเดลที่ตรงทุกตัวพร้อม messages

ความยาวบริบทไม่ใช่เพดานผลลัพธ์

ไฟล์ข้อความให้ข้อความตามต้นฉบับได้ ส่วนข้อมูลเข้าภาพ/เสียง/ออบเจ็กต์ไฟล์ต้องมีการผูกที่ตรงตามจริง

ราคา

ข้อมูลอัตราราคาไม่ได้เพิ่มตัวเลือกคำขอ พารามิเตอร์ที่รองรับระบุไว้สำหรับเมธอดที่เลือก

โหมดรวดเร็ว
อัตรามาตรฐาน เมื่อเลือกโหมดรวดเร็ว
โหมดยืดหยุ่น
อัตรามาตรฐาน เมื่อเลือกโหมด flex
ระดับการใช้เหตุผลสูงสุด
อัตรามาตรฐาน เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด

อัตราค่าบริการ Ailoot

ราคาตามการตั้งค่า

เทียบค่าบริการแต่ละรายการกับเงื่อนไขที่แสดง เลือกใช้อัตราเดียวสำหรับแต่ละชุดการตั้งค่าที่เป็นตัวเลือกทดแทนกัน

การตั้งค่าตารางอัตราค่าบริการโทเค็นบริบท มากกว่าโทเค็นบริบท ไม่เกินและรวมค่าค่าบริการ
การตั้งค่าอัตราราคาพื้นฐานของโทเคนตารางอัตราค่าบริการอัตราพื้นฐานโทเค็นบริบท มากกว่า—โทเค็นบริบท ไม่เกินและรวมค่าไม่มีขีดจำกัดสูงสุดค่าบริการ
ขาเข้า · โทเค็นอินพุต $0.00044 / 1K โทเค็น
ขาออก · โทเค็นเอาต์พุต $0.00044 / 1K โทเค็น
ขาเข้า · การอ่านแคช $0.00044 / 1K โทเค็น
ขาเข้า · การเขียนแคช — / 1K โทเค็น
ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น
การตั้งค่าระดับความยาวคำขอ 1ตารางอัตราค่าบริการ—โทเค็นบริบท มากกว่า0โทเค็นบริบท ไม่เกินและรวมค่าไม่มีขีดจำกัดสูงสุดค่าบริการ
ขาเข้า · โทเค็นอินพุต $0.00044 / 1K โทเค็น
ขาออก · โทเค็นเอาต์พุต $0.00044 / 1K โทเค็น
ขาเข้า · การอ่านแคช $0.00044 / 1K โทเค็น
ขาเข้า · การเขียนแคช — / 1K โทเค็น
ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น

Ailoot กันยอดเงินประมาณการไว้ก่อนส่งคำขอ หลังได้ผลลัพธ์ จะคิดค่าบริการสุดท้ายตามการใช้งานที่วัดได้ การคิดค่าบริการแบบสตรีมใช้บันทึกการใช้งานสุดท้าย วิธีกันยอดเงินและคิดค่าบริการสุดท้าย →

ตัวอย่างคำขอ

Ailoot Ultra · OpenAI Chat

set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n  --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n    if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\n

รับและบันทึกผลลัพธ์

Ailoot Ultra · OpenAI Chat

json หรือ SSE

เก็บผลลัพธ์ที่เสร็จสมบูรณ์ทั้งหมด

เก็บทุกการตอบกลับ ไฟล์ และส่วนเนื้อหาที่ส่งกลับมาอย่างครบถ้วน

เก็บทุกตัวเลือกพร้อมเนื้อหา/การเรียกเครื่องมือ/การใช้เหตุผล ใน SSE ให้ประกอบส่วนเพิ่มตามดัชนีตัวเลือก/เครื่องมือ และเก็บเหตุผลสิ้นสุดกับข้อมูลการใช้งานสุดท้าย

เมื่อต้องตรวจสอบการตอบกลับต้นฉบับ

เก็บ ID และส่วนหัวของคำขอ/คำตอบ ไม่มี URL ทั่วไปสำหรับดึงงานข้อความให้ใช้

ฟิลด์การตอบกลับ
ฟิลด์ประเภท
ฟิลด์choices[].indexประเภทinteger
ฟิลด์choices[].message.contentประเภทstring|null
ฟิลด์choices[].message.tool_callsประเภทtool_call[]
ฟิลด์choices[].message.reasoning_contentประเภทstring
ฟิลด์choices[].message.reasoning_detailsประเภทobject|array
ฟิลด์choices[].finish_reasonประเภทstring|null
ฟิลด์usageประเภทobject
ข้อผิดพลาดและขั้นตอนถัดไป
การตอบกลับเงื่อนไขขั้นตอนถัดไป
การตอบกลับ400 · invalid_request_errorเงื่อนไขฟิลด์จำเป็น รูปแบบการแทนข้อมูล หรือค่าพารามิเตอร์ไม่ถูกต้องขั้นตอนถัดไปแก้ฟิลด์ที่ระบุก่อนส่งคำขอสร้างครั้งใหม่

ชื่ออื่น

ชื่ออื่นของโมเดล

Ailoot Ultra meta-llama/llama-3.1-8b-instruct

ชื่อพาธเมธอดอื่น

ใช้พาธเมธอดที่แสดงด้านบน

ID ที่เกี่ยวข้องสำหรับเรียกใช้โมเดล

meta-llama/llama-3.1-8b-instruct

", "method_identity": { "effective_request_model_id": "meta-llama/llama-3.1-8b-instruct", "fmt": "chat", "http": "POST", "path": "/v1/chat/completions", "request_model_id": "meta-llama/llama-3.1-8b-instruct", "route_label": "Ultra" }, "method_key": "Ultra|chat|/v1/chat/completions|meta-llama%2Fllama-3.1-8b-instruct", "ordinal": 0, "rawMethod": { "available": null, "cache_read": 0.44, "cache_write": null, "cache_write_1h": null, "contract": { "data": { "all_results": "Keep every choice and its content/tool calls/reasoning. In SSE assemble deltas by choice/tool index, retain the final finish reason and usage.", "authentication": { "api_key_source": "AILOOT_API_KEY", "header": "Authorization: Bearer" }, "errors": [ { "code": null, "condition": "ฟิลด์จำเป็น รูปแบบการแทนข้อมูล หรือค่าพารามิเตอร์ไม่ถูกต้อง", "http_status": 400, "recovery": "แก้ฟิลด์ที่ระบุก่อนส่งคำขอสร้างครั้งใหม่", "type": "invalid_request_error" } ], "hints": [ "Model context is not an output cap.", "A model-dependent field needs the exact published model profile; unspecified defaults/enums are not guessed.", "Tool calls propose actions; the client application returns actual observations with the returned call ID.", "Guarded canonical keys must occur once; duplicate or case-varied model/tools/cap fields are rejected." ], "ignored_fields": [], "lifecycle": { "create": { "http": "POST", "path": "/v1/chat/completions" }, "job_read": null, "mode": "synchronous_or_streamed", "unknown": "เก็บ ID และส่วนหัวของคำขอ/คำตอบ ไม่มี URL ทั่วไปสำหรับดึงงานข้อความให้ใช้" }, "material_combinations": [ { "mode": "text", "representation": "messages[].content", "required_material": "ข้อความ UTF8" } ], "operation_modes": [ "conversation", "function_tool_continuation", "streaming" ], "outputs": { "all_results": "เก็บทุกตัวเลือกพร้อมเนื้อหา/การเรียกเครื่องมือ/การใช้เหตุผล ใน SSE ให้ประกอบส่วนเพิ่มตามดัชนีตัวเลือก/เครื่องมือ และเก็บเหตุผลสิ้นสุดกับข้อมูลการใช้งานสุดท้าย", "family": "text", "fields": [ { "description": null, "name": "choices[].index", "type": "integer" }, { "description": null, "name": "choices[].message.content", "type": "string|null" }, { "description": null, "name": "choices[].message.tool_calls", "type": "tool_call[]" }, { "description": null, "name": "choices[].message.reasoning_content", "type": "string" }, { "description": null, "name": "choices[].message.reasoning_details", "type": "object|array" }, { "description": null, "name": "choices[].finish_reason", "type": "string|null" }, { "description": null, "name": "usage", "type": "object" } ], "format": "json หรือ SSE" }, "parameters": [ { "availability": "source_interface", "default": null, "default_known": false, "enum": [ "meta-llama/llama-3.1-8b-instruct" ], "enum_known": true, "name": "model", "required": true, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "min_items": 1, "name": "messages", "required": true, "type": "message[]" }, { "availability": "model_dependent", "conditions": "บทบาทเหล่านี้แทนอย่างชัดเจนด้วยชนิดข้อมูลเพื่อความเข้ากันได้ในซอร์สโค้ด แต่ชุดบทบาทที่แน่นอนยังขึ้นกับแต่ละโมเดล", "default": null, "default_known": false, "enum": [ "system", "user", "assistant", "tool", "function" ], "enum_exhaustive": false, "enum_known": true, "name": "messages[].role", "required": true, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].content", "required": false, "type": "string|content_part[]|null" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].tool_calls", "required": false, "type": "tool_call[]" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].tool_call_id", "required": false, "type": "string", "when": "role=tool โดยใช้ ID ที่ส่งกลับจริง" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].name", "required": false, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].reasoning_content", "required": false, "type": "string", "when": "ส่งเนื้อหาการใช้เหตุผลที่คืนจริงกลับในคำขอถัดไป เมื่อโมเดลนี้ใช้เนื้อหานั้น" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].reasoning_details", "required": false, "type": "object|array" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "minimum": 1, "name": "max_tokens", "required": false, "type": "integer" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "minimum": 1, "name": "max_completion_tokens", "required": false, "type": "integer" }, { "availability": "source_interface", "default": false, "default_known": true, "enum": null, "enum_known": false, "name": "stream", "required": false, "type": "boolean" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "stream_options.include_usage", "required": false, "type": "boolean" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "temperature", "required": false, "type": "number" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "top_p", "required": false, "type": "number" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "stop", "required": false, "type": "string|string[]" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "tools", "required": false, "type": "function_tool[]" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": [ "function" ], "enum_known": true, "name": "tools[].type", "required": false, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "tools[].function.name", "required": true, "type": "string", "when": "มีเครื่องมือฟังก์ชันให้ใช้" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "tools[].function.description", "required": false, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "tools[].function.parameters", "required": false, "type": "JSON_schema" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "tool_choice", "required": false, "type": "string|object" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "parallel_tool_calls", "required": false, "type": "boolean" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "response_format", "required": false, "type": "object" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "reasoning_effort", "required": false, "type": "string" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "reasoning", "required": false, "type": "object" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "service_tier", "required": false, "type": "string" }, { "availability": "source_compatibility", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "instructions", "required": false, "type": "string" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "functions", "required": false, "type": "function[]" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "function_call", "required": false, "type": "string|object" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "prompt_cache_options", "required": false, "type": "object" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": [ "text" ], "enum_known": true, "name": "modalities", "required": false, "type": "string[]" }, { "availability": "source_interface", "conditions": "เส้นทางข้อความ Ultra นี้ปฏิเสธ provider.options", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "provider", "required": false, "type": "object" }, { "availability": "source_interface", "conditions": "ตำแหน่งแคชพรอมป์ต์จริงปฏิเสธ 1h", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "cache_control.ttl", "required": false, "type": "string" } ], "profile_binding": "Exact existing Ailoot model and method; interface constraints below do not assert provider qualification.", "unsupported": [ "additional models/models list", "plugins", "route", "hosted tools; ordinary client function tools remain separate", "non-text output modalities", "provider.options overrides", "one-hour prompt-cache TTL" ] }, "hints": [ "ส่ง ID โมเดลที่ตรงทุกตัวพร้อม messages", "ความยาวบริบทไม่ใช่เพดานผลลัพธ์", "ไฟล์ข้อความให้ข้อความตามต้นฉบับได้ ส่วนข้อมูลเข้าภาพ/เสียง/ออบเจ็กต์ไฟล์ต้องมีการผูกที่ตรงตามจริง" ], "input": { "content_type": "application/json", "control_scope": "ขึ้นกับโมเดล เครื่องมือฟังก์ชันของผู้ใช้ต่างจากเครื่องมือที่โฮสต์จัดให้", "file_material": "แทรกเอกสาร UTF-8 จริงเป็นข้อความตามต้นฉบับ โดยไม่อนุมาน ID ไฟล์", "hosted_operations": false, "material_types": [ "text" ], "messages": "อาร์เรย์ข้อความที่มีโครงสร้าง role/content", "multimodal_input_binding": null, "optional_controls": [ "stream", "temperature", "top_p", "stop", "max_tokens", "max_completion_tokens", "reasoning", "response_format", "tools", "tool_choice" ], "output_modalities": [ "text" ], "required": [ "model", "messages" ] }, "lifecycle": { "mode": "synchronous_or_streamed", "unknown": "preserve original request id; no generic chat job retrieval path" }, "manufacturer_capability": null, "method": { "http": "POST", "path": "/v1/chat/completions" }, "method_aliases": [], "operation_modes": [ "text_chat" ], "output": { "content": "choices[].message.content or stream delta", "family": "text", "format": "json or supported SSE", "tool_calls": "retain actual returned function calls" } }, "ctx": null, "declared_pricing_profiles": [ { "dimensions": { "regime": "base" }, "label": "อัตราราคาพื้นฐานของโทเคน", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "dimensions": { "max_context_tokens_inclusive": null, "min_context_tokens_exclusive": 0 }, "label": "ระดับความยาวคำขอ 1", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } ], "examples": [ { "code": "set -eu\n: \"${AILOOT_API_KEY:?Set your Ailoot API key}\"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{\"model\": \"meta-llama/llama-3.1-8b-instruct\", \"messages\": [{\"role\": \"user\", \"content\": \"Explain the difference between an observation and a hypothesis in three sentences.\"}]}')\n\nPath(\"request.json\").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H \"Authorization: Bearer $AILOOT_API_KEY\" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path(\"result.json\").read_text())\nfor x in r.get(\"choices\",[]):\n if x.get(\"message\",{}).get(\"content\"): print(x[\"message\"][\"content\"])\nPY_RESULT\n", "label": "curl · retained exact creation", "language": "bash" }, { "code": "from openai import OpenAI\nimport os\n\nif not os.environ.get(\"AILOOT_API_KEY\", \"\").strip(): raise SystemExit(\"Set AILOOT_API_KEY before making a request\")\nclient=OpenAI(base_url=\"https://api.ailoot.ai/v1\",api_key=os.environ[\"AILOOT_API_KEY\"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{\"role\":\"user\",\"content\":\"Explain observations and hypotheses in three sentences.\"}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem=\"result\"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + \".json\").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding=\"utf-8\")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b\"-_\", validate=True)\n ext = \"png\" if raw.startswith(b\"\\x89PNG\\r\\n\\x1a\\n\") else \"jpg\" if raw.startswith(b\"\\xff\\xd8\") else \"webp\" if raw[:4] == b\"RIFF\" and raw[8:12] == b\"WEBP\" else suffix\n file = Path(stem + \"-\" + label + \".\" + ext)\n file.write_bytes(raw)\n print(\"Saved\", file)\n for index, block in enumerate(data.get(\"content\") or []):\n print(\"Content\", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get(\"choices\") or []:\n print(\"Choice\", choice.get(\"index\"), json.dumps(choice.get(\"message\", choice.get(\"delta\", {})), ensure_ascii=False))\n for index, item in enumerate(data.get(\"output\") or []):\n print(\"Output\", index, json.dumps(item, ensure_ascii=False))\n if item.get(\"type\") == \"image_generation_call\" and item.get(\"result\"):\n save_blob(item[\"result\"], item.get(\"output_format\") or \"bin\", \"output-\" + str(index))\n for ci, candidate in enumerate(data.get(\"candidates\") or []):\n for pi, part in enumerate((candidate.get(\"content\") or {}).get(\"parts\") or []):\n print(\"Candidate/part\", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get(\"inlineData\") or part.get(\"inline_data\")\n if blob and blob.get(\"data\"):\n mime = blob.get(\"mimeType\") or blob.get(\"mime_type\")\n suffix = {\"image/png\":\"png\", \"image/jpeg\":\"jpg\", \"image/webp\":\"webp\", \"audio/wav\":\"wav\", \"audio/mpeg\":\"mp3\", \"video/mp4\":\"mp4\"}.get(mime, \"bin\")\n save_blob(blob[\"data\"], suffix, \"candidate-\" + str(ci) + \"-part-\" + str(pi))\n\nsave_result(result.to_dict(mode=\"json\"))\n", "label": "Python SDK · all choices", "language": "python" }, { "code": "from openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get(\"AILOOT_API_KEY\", \"\").strip(): raise SystemExit(\"Set AILOOT_API_KEY before making a request\")\nclient=OpenAI(base_url=\"https://api.ailoot.ai/v1\",api_key=os.environ[\"AILOOT_API_KEY\"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem=\"result\"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + \".json\").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding=\"utf-8\")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b\"-_\", validate=True)\n ext = \"png\" if raw.startswith(b\"\\x89PNG\\r\\n\\x1a\\n\") else \"jpg\" if raw.startswith(b\"\\xff\\xd8\") else \"webp\" if raw[:4] == b\"RIFF\" and raw[8:12] == b\"WEBP\" else suffix\n file = Path(stem + \"-\" + label + \".\" + ext)\n file.write_bytes(raw)\n print(\"Saved\", file)\n for index, block in enumerate(data.get(\"content\") or []):\n print(\"Content\", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get(\"choices\") or []:\n print(\"Choice\", choice.get(\"index\"), json.dumps(choice.get(\"message\", choice.get(\"delta\", {})), ensure_ascii=False))\n for index, item in enumerate(data.get(\"output\") or []):\n print(\"Output\", index, json.dumps(item, ensure_ascii=False))\n if item.get(\"type\") == \"image_generation_call\" and item.get(\"result\"):\n save_blob(item[\"result\"], item.get(\"output_format\") or \"bin\", \"output-\" + str(index))\n for ci, candidate in enumerate(data.get(\"candidates\") or []):\n for pi, part in enumerate((candidate.get(\"content\") or {}).get(\"parts\") or []):\n print(\"Candidate/part\", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get(\"inlineData\") or part.get(\"inline_data\")\n if blob and blob.get(\"data\"):\n mime = blob.get(\"mimeType\") or blob.get(\"mime_type\")\n suffix = {\"image/png\":\"png\", \"image/jpeg\":\"jpg\", \"image/webp\":\"webp\", \"audio/wav\":\"wav\", \"audio/mpeg\":\"mp3\", \"video/mp4\":\"mp4\"}.get(mime, \"bin\")\n save_blob(blob[\"data\"], suffix, \"candidate-\" + str(ci) + \"-part-\" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{\"role\":\"user\",\"content\":\"Explain observations and hypotheses in three sentences.\"}]) as stream:\n with Path(\"stream-events.jsonl\").open(\"w\",encoding=\"utf-8\") as log:\n for event in stream:\n payload=event.to_dict(mode=\"json\")\n log.write(json.dumps(payload,ensure_ascii=False)+\"\\n\"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode=\"json\"),\"stream-result\")\n", "label": "Python SDK streaming · all events", "language": "python" } ], "family": "openai", "fast_multiplier": 1, "flex_multiplier": 1, "fmt": "chat", "hints": [ "Send exact model ID with messages.", "Context length is not an output cap.", "A text file may supply literal text; image/audio/file-object inputs need exact binding." ], "http": "POST", "in": 0.44, "input": [ "text" ], "label": "OpenAI Chat", "max_out": null, "max_reasoning_effort_multiplier": 1, "method_aliases": [], "out": 0.44, "output": [ "text" ], "path": "/v1/chat/completions", "price_conditions": [ { "label": "โหมดรวดเร็ว", "value": "อัตรามาตรฐาน", "when": "เมื่อเลือกโหมดรวดเร็ว" }, { "label": "โหมดยืดหยุ่น", "value": "อัตรามาตรฐาน", "when": "เมื่อเลือกโหมด flex" }, { "label": "ระดับการใช้เหตุผลสูงสุด", "value": "อัตรามาตรฐาน", "when": "เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด" } ], "pricing": { "billing_mode": "token", "image_input_price": null, "image_output_price": null, "per_request_price": null }, "pricing_profiles": [ { "dimensions": { "regime": "base" }, "label": "Base token rates", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "dimensions": { "max_context_tokens_inclusive": null, "min_context_tokens_exclusive": 0 }, "label": "Request-length tier 1", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } ], "request_model_id": "meta-llama/llama-3.1-8b-instruct", "route_label": "Ultra", "status_reads": [], "tiers": [ { "cache_read": 0.44, "cache_read_multiplier": null, "cache_write": null, "cache_write_1h": null, "cache_write_multiplier": null, "created_at": "0001-01-01T00:00:00Z", "in": 0.44, "input_multiplier": null, "interval_boundary": "min_exclusive_max_inclusive", "max": null, "max_tokens": null, "min": 0, "min_tokens": 0, "null_rate_policy": "unknown or inherited; never zero", "out": 0.44, "output_multiplier": null, "per_request_price": null, "sort_order": 0, "tier_label": "", "updated_at": "0001-01-01T00:00:00Z" } ], "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } }, { "html": "
M

Meta: Llama 3.1 8B Instruct

Meta /meta-llama/llama-3.1-8b-instruct

เริ่มต้น

Llama 3.1 8B Instruct เป็นโมเดลข้อความตามคำสั่งขนาดเล็กกว่าของ Meta สำหรับสนทนาหลายภาษา สรุป และคำตอบที่อิงต้นฉบับ มีขนาดแปดพันล้านพารามิเตอร์ บริบทผู้สร้าง 128k, grouped-query attention และรูปแบบใช้เครื่องมือตามเอกสาร โดยส่งข้อความหรือโค้ดกลับ

อินพุตที่รองรับ
ข้อความ
ผลลัพธ์
json · sse
เกี่ยวกับโมเดล

คำอธิบายนี้ครอบคลุมความสามารถของโมเดล อินพุต เอาต์พุต และตัวเลือกที่ใช้ได้ใน Ailoot แสดงด้านล่างตามเมธอดที่เลือก

Llama 3.1 8B Instruct เป็นโมเดลข้อความแปดพันล้านพารามิเตอร์ของ Meta สำหรับสนทนาหลายภาษาและผู้ช่วยตามคำสั่ง รับบทสนทนาเป็นลายลักษณ์อักษรกับข้อมูลต้นฉบับ และสร้างข้อความหรือโค้ด เป็นรุ่น Instruct ขนาด 8B ที่แยกจากฐานฝึกก่อนใช้งานและโมเดล 70B กับ 405B ในตระกูล

สถาปัตยกรรม บริบท และภาษา

โมเดลใช้สถาปัตยกรรม autoregressive Transformer พร้อม grouped-query attention ตระกูลที่ปรับตามคำสั่งใช้ supervised fine-tuning และการเรียนรู้แบบเสริมกำลังจากข้อมูลย้อนกลับของคน เพื่อปรับคำตอบสนทนาให้สอดคล้อง ผู้สร้างระบุบริบท 128k สำหรับรุ่นข้อความนี้ ซึ่งไม่ใช่ข้อกำหนดภาพหรือบริบทยาวของโมเดล Llama 4 ที่มาทีหลัง

แปดภาษาที่รองรับอย่างเป็นทางการคืออังกฤษ เยอรมัน ฝรั่งเศส อิตาลี โปรตุเกส ฮินดี สเปน และไทย ข้อมูลฝึกก่อนใช้งานครอบคลุมชุดภาษากว้างกว่า ซึ่งต่างจากภาษาที่การ์ดรองรับชัดเจน ระบุภาษาสุดท้ายและชื่อ รหัสตัวแปร หรือศัพท์ที่ควรไม่เปลี่ยนในผลหลายภาษา

ตระกูลนี้ฝึกก่อนใช้งานบนข้อมูลประมาณสิบห้าล้านล้านโทเคน โดยมีขอบเขตข้อมูลเดือนธันวาคม 2023 การปรับละเอียดรวมข้อมูลคำสั่งและตัวอย่างสังเคราะห์มากกว่ายี่สิบห้าล้านรายการ นี่อธิบายการฝึกโมเดล ไม่ใช่การเข้าถึงฐานความรู้ส่วนตัวหรือข้อมูลสดเมื่อมีคำถามใหม่

การดำเนินการข้อความที่กำหนดไว้

คำขอด้านสนับสนุนสามารถป้อนข้อความผู้ใช้และข้อความอ้างอิงที่เกี่ยวข้อง แล้วขอคำตอบพร้อมเงื่อนไขสนับสนุน บันทึกกระชับสามารถแยกปัญหา ข้อมูลที่ป้อนแล้ว และขั้นถัดไปที่จำเป็น กำหนดชื่อช่องและวิธีจัดการค่าที่ไม่มีเมื่อแอปพลิเคชันต้องประมวลผลผลนั้น

สำหรับการสรุป ให้ป้อนข้อความหรือบทโต้ตอบจริง และระบุกลุ่มผู้อ่าน ความยาว และข้อเท็จจริงที่ต้องรักษา ขอการตัดสินใจหรือคำถามที่ยังไม่คลี่คลายซึ่งเกี่ยวข้องกับหัวข้อเดียว แทนบทสรุปไร้ทิศทางของข้อมูลที่ไม่เกี่ยวข้อง การติดตามผลอาจขอคำตอบสั้นลงหรือคำอธิบายเงื่อนไขหนึ่งให้ชัดขึ้น โดยคงข้อเท็จจริงต้นฉบับเดียวกัน

สำหรับการแก้ไข ให้ระบุผู้อ่านกับน้ำเสียงและความหมายที่ต้องไม่เปลี่ยน งานในทางปฏิบัติอาจขอข้อความชัดขึ้นตามด้วยรายการเปลี่ยนแปลงสั้น หรือข้อความที่แก้อย่างเดียวหากจะใช้โดยตรง งานจำแนกควรป้อนป้ายกำกับที่อนุญาตกับความแตกต่างระหว่างกัน แทนพึ่งชื่อป้ายให้กำหนดกฎเอง

การสร้างโค้ดและตัวอย่าง

ผลลัพธ์ตามเอกสารรวมโค้ดด้วย ป้อนภาษา ข้อมูลนำเข้าที่ต้องการ และผลที่คาด ก่อนขอฟังก์ชัน สำหรับคำอธิบาย ให้ป้อนฟังก์ชันเดิมกับข้อมูลนำเข้าที่เป็นรูปธรรม และถามว่าขั้นใดกำหนดค่าที่ส่งกลับ สำหรับการแก้ไข ให้แนบความล้มเหลวที่พบกับพฤติกรรมที่ต้องการ โดยคงอินเทอร์เฟซที่ต้องเข้ากันได้

ผลที่มีประโยชน์สามารถแยกโค้ดที่เสนอ สมมติฐาน และตัวอย่างข้อมูลนำเข้า แอปพลิเคชันหรือนักพัฒนาเป็นผู้คอมไพล์ รัน หรือเปลี่ยนคลังโค้ดจริง ซอร์สโค้ดที่เขียนเป็นผลงานสำหรับตรวจ ไม่ใช่การดำเนินการภายนอกที่เสร็จเพียงเพราะโมเดลส่งกลับ

ตระกูลนี้ยังรองรับการใช้ผลที่สร้างเพื่อเป็นตัวอย่างสังเคราะห์และการกลั่นความรู้ คำขอข้อความที่กำหนดไว้สามารถสร้างตัวอย่างหลากหลายภายใต้กฎที่ป้อนและในรูปแบบที่ระบุได้ เก็บกฎกับป้ายกำกับเพื่อให้ตรวจตัวอย่างแต่ละรายการได้ ตัวอย่างที่สร้างไม่ได้ยืนยันความถูกต้องของชุดข้อมูลฝึกอย่างเป็นอิสระ

บทบาทการสนทนาและใช้เครื่องมือ

การ์ดโมเดลสาธิตเทมเพลตสนทนาที่มีข้อความระบบและผู้ใช้แยกกัน กำหนดบทบาทผู้ช่วยและข้อกำหนดคำตอบในบริบทระบบ แล้วป้อนคำถามกับข้อมูลต้นฉบับเป็นงาน เก็บข้อความก่อนหน้าที่เกี่ยวข้องเมื่อถามติดตามหรือป้อนหลักฐานใหม่ที่เปลี่ยนผล

Llama 3.1 มีเอกสารรูปแบบใช้เครื่องมือหลายแบบ แอปพลิเคชันอธิบายฟังก์ชัน โมเดลสร้างการเรียกและอาร์กิวเมนต์ที่เสนอ แอปพลิเคชันดำเนินการและส่งผลกลับด้วยบทบาท tool คำตอบถัดไปจึงใช้ข้อมูลที่ส่งกลับได้ เชื่อมการดำเนินการต้นทางกับผลลัพธ์ตลอดการสนทนา

เช่น การค้นข้อมูลอาจคืนค่าอ้างอิงปัจจุบันที่ขาดจากข้อความ หรือเครื่องมือคำนวณให้ผลตัวเลขที่คำอธิบายต้องใช้ ผู้ช่วยที่ใช้เครื่องมือต้องได้รับการดำเนินการเหล่านั้นจากสภาพแวดล้อม พฤติกรรมข้อความของโมเดลไม่ได้สร้างการเชื่อมต่อแหล่งภายนอกหรือทำผลข้างเคียงเสร็จด้วยตัวเอง

ขอบเขตในทางปฏิบัติ

ควรเก็บป้ายบริบท 128k ของผู้สร้างไว้กับรุ่น 8B Instruct ตรงตัวและการตั้งค่าที่ใช้ ตัวอย่างการสร้าง 256 โทเคนเป็นเพียงทางเลือกการใช้ แหล่งข้อมูลที่ตรวจอ่านไม่มีการระบุความจุคำตอบสูงสุดแบบตายตัวแยกต่างหาก ขนาด 8B ไม่ควรรับจำนวนพารามิเตอร์ของสมาชิกรายอื่นหรือตัวควบคุมการให้เหตุผลที่มีชื่อจากตระกูลอื่น

นี่คือโมเดลข้อความอย่างเดียว ข้อมูลนำเข้าภาพ ความเข้าใจเสียง และการสร้างคำพูดต้องมีองค์ประกอบที่ระบุแยก กำหนดผลงานสุดท้ายก่อนป้อนข้อมูล ได้แก่ คำตอบกระชับ บันทึกที่สกัด ข้อความแก้ไข คำอธิบาย หรือข้อเสนอโค้ด เก็บข้อมูลต้นฉบับที่จำเป็นเพื่อตรวจความหมายและรูปแบบของผลงานนั้น

ใช้งานได้ใน Ailoot · อินพุตและเมธอด

Ailoot Ultra · Anthropic Messages POST /v1/messages
ขาเข้า
text
ขาออก
json, sse
รูปแบบเอาต์พุต
JSON หรือ SSE
ฟิลด์ประเภทข้อกำหนดค่าและข้อจำกัดค่าเริ่มต้น
ฟิลด์modelประเภทstringข้อกำหนดจำเป็นค่าและข้อจำกัด
meta-llama/llama-3.1-8b-instruct
ค่าเริ่มต้น—
ฟิลด์messagesประเภทmessage[]ข้อกำหนดจำเป็นค่าและข้อจำกัดค่าเริ่มต้น—
ฟิลด์messages[].roleประเภทstringข้อกำหนดจำเป็นค่าและข้อจำกัด
user, assistant
ค่าเริ่มต้น—
ฟิลด์messages[].contentประเภทstringข้อกำหนดจำเป็นค่าและข้อจำกัดค่าเริ่มต้น—
ฟิลด์max_tokensประเภทintegerข้อกำหนดจำเป็นค่าและข้อจำกัดค่าเริ่มต้น—
ฟิลด์streamประเภทbooleanข้อกำหนดไม่บังคับค่าและข้อจำกัดค่าเริ่มต้นfalse
ชุดผสมของสื่ออินพุต

ข้อความ · ข้อความ UTF-8

สตริง messages[].content

พารามิเตอร์และวงจรการทำงานของเมธอด
พารามิเตอร์ข้อกำหนด
พารามิเตอร์content_typeข้อกำหนดapplication/json
พารามิเตอร์requiredข้อกำหนดmodel, messages, max_tokens
พารามิเตอร์optional_controlsข้อกำหนดstream
พารามิเตอร์material_typesข้อกำหนดtext
พารามิเตอร์text_file_materialข้อกำหนดอ่านเอกสาร UTF-8 จริง แล้วใส่ข้อความใน input หรือสตริงเนื้อหาข้อความที่ระบุ

วงจรการทำงาน: synchronous_or_streamed

ราคา

ข้อมูลอัตราราคาไม่ได้เพิ่มตัวเลือกคำขอ พารามิเตอร์ที่รองรับระบุไว้สำหรับเมธอดที่เลือก

โหมดรวดเร็ว
อัตรามาตรฐาน เมื่อเลือกโหมดรวดเร็ว
โหมดยืดหยุ่น
อัตรามาตรฐาน เมื่อเลือกโหมด flex
ระดับการใช้เหตุผลสูงสุด
อัตรามาตรฐาน เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด

อัตราค่าบริการ Ailoot

ราคาตามการตั้งค่า

เทียบค่าบริการแต่ละรายการกับเงื่อนไขที่แสดง เลือกใช้อัตราเดียวสำหรับแต่ละชุดการตั้งค่าที่เป็นตัวเลือกทดแทนกัน

การตั้งค่าตารางอัตราค่าบริการโทเค็นบริบท มากกว่าโทเค็นบริบท ไม่เกินและรวมค่าค่าบริการ
การตั้งค่าอัตราราคาพื้นฐานของโทเคนตารางอัตราค่าบริการอัตราพื้นฐานโทเค็นบริบท มากกว่า—โทเค็นบริบท ไม่เกินและรวมค่าไม่มีขีดจำกัดสูงสุดค่าบริการ
ขาเข้า · โทเค็นอินพุต $0.00044 / 1K โทเค็น
ขาออก · โทเค็นเอาต์พุต $0.00044 / 1K โทเค็น
ขาเข้า · การอ่านแคช $0.00044 / 1K โทเค็น
ขาเข้า · การเขียนแคช — / 1K โทเค็น
ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น
การตั้งค่าระดับความยาวคำขอ 1ตารางอัตราค่าบริการ—โทเค็นบริบท มากกว่า0โทเค็นบริบท ไม่เกินและรวมค่าไม่มีขีดจำกัดสูงสุดค่าบริการ
ขาเข้า · โทเค็นอินพุต $0.00044 / 1K โทเค็น
ขาออก · โทเค็นเอาต์พุต $0.00044 / 1K โทเค็น
ขาเข้า · การอ่านแคช $0.00044 / 1K โทเค็น
ขาเข้า · การเขียนแคช — / 1K โทเค็น
ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น

Ailoot กันยอดเงินประมาณการไว้ก่อนส่งคำขอ หลังได้ผลลัพธ์ จะคิดค่าบริการสุดท้ายตามการใช้งานที่วัดได้ การคิดค่าบริการแบบสตรีมใช้บันทึกการใช้งานสุดท้าย วิธีกันยอดเงินและคิดค่าบริการสุดท้าย →

ตัวอย่างคำขอ

Ailoot Ultra · Anthropic Messages

{\n  "model": "meta-llama/llama-3.1-8b-instruct",\n  "max_tokens": 128,\n  "messages": [\n    {\n      "role": "user",\n      "content": "Summarize the incident report."\n    }\n  ],\n  "stream": false\n}

รับและบันทึกผลลัพธ์

Ailoot Ultra · Anthropic Messages

JSON หรือ SSE

เก็บผลลัพธ์ที่เสร็จสมบูรณ์ทั้งหมด

เก็บทุกการตอบกลับ ไฟล์ และส่วนเนื้อหาที่ส่งกลับมาอย่างครบถ้วน

เก็บทุกบล็อกเนื้อหา ลายเซ็นการคิด และ ID การใช้เครื่องมือจริง ประกอบส่วนเพิ่มของบล็อก SSE ทั้งหมด บล็อกข้อความแรกไม่ใช่ผลลัพธ์ทั้งหมด

เมื่อต้องตรวจสอบการตอบกลับต้นฉบับ

เก็บ ID และส่วนหัวของคำขอ/คำตอบ ไม่มี URL ทั่วไปสำหรับดึงงานข้อความให้ใช้

ฟิลด์การตอบกลับ
ฟิลด์ประเภท
ฟิลด์idประเภทstring
ฟิลด์modelประเภทstring
ฟิลด์content[]ประเภทtext|thinking|tool_use|other content block
ฟิลด์stop_reasonประเภทstring|null
ฟิลด์usageประเภทobject
ข้อผิดพลาดและขั้นตอนถัดไป
การตอบกลับเงื่อนไขขั้นตอนถัดไป
การตอบกลับ400 · invalid_request_errorเงื่อนไขฟิลด์จำเป็น รูปแบบการแทนข้อมูล หรือค่าพารามิเตอร์ไม่ถูกต้องขั้นตอนถัดไปแก้ฟิลด์ที่ระบุก่อนส่งคำขอสร้างครั้งใหม่

ชื่ออื่น

ชื่ออื่นของโมเดล

Ailoot Ultra meta-llama/llama-3.1-8b-instruct

ชื่อพาธเมธอดอื่น

ใช้พาธเมธอดที่แสดงด้านบน

ID ที่เกี่ยวข้องสำหรับเรียกใช้โมเดล

meta-llama/llama-3.1-8b-instruct

", "method_identity": { "effective_request_model_id": "meta-llama/llama-3.1-8b-instruct", "fmt": "messages", "http": "POST", "path": "/v1/messages", "request_model_id": "meta-llama/llama-3.1-8b-instruct", "route_label": "Ultra" }, "method_key": "Ultra|messages|/v1/messages|meta-llama%2Fllama-3.1-8b-instruct", "ordinal": 1, "rawMethod": { "available": null, "cache_read": 0.44, "cache_write": null, "cache_write_1h": null, "contract": { "data": { "authentication": { "api_key_source": "AILOOT_API_KEY", "headers": [ "Authorization: Bearer", "x-api-key", "anthropic-version" ], "version_example": "2023-06-01" }, "errors": [ { "code": null, "condition": "ฟิลด์จำเป็น รูปแบบการแทนข้อมูล หรือค่าพารามิเตอร์ไม่ถูกต้อง", "http_status": 400, "recovery": "แก้ฟิลด์ที่ระบุก่อนส่งคำขอสร้างครั้งใหม่", "type": "invalid_request_error" } ], "example_body": { "max_tokens": 128, "messages": [ { "content": "Summarize the incident report.", "role": "user" } ], "model": "meta-llama/llama-3.1-8b-instruct", "stream": false }, "lifecycle": { "create": { "http": "POST", "path": "/v1/messages" }, "job_read": null, "mode": "synchronous_or_streamed", "unknown": "เก็บ ID และส่วนหัวของคำขอ/คำตอบ ไม่มี URL ทั่วไปสำหรับดึงงานข้อความให้ใช้" }, "material_combinations": [ { "mode": "text", "representation": "สตริง messages[].content", "required_material": "ข้อความ UTF-8" } ], "operation_modes": [ "synchronous_json", "streamed_SSE" ], "outputs": { "all_results": "เก็บทุกบล็อกเนื้อหา ลายเซ็นการคิด และ ID การใช้เครื่องมือจริง ประกอบส่วนเพิ่มของบล็อก SSE ทั้งหมด บล็อกข้อความแรกไม่ใช่ผลลัพธ์ทั้งหมด", "family": "protocol", "fields": [ { "description": null, "name": "id", "type": "string" }, { "description": null, "name": "model", "type": "string" }, { "description": null, "name": "content[]", "type": "text|thinking|tool_use|other content block" }, { "description": null, "name": "stop_reason", "type": "string|null" }, { "description": null, "name": "usage", "type": "object" } ], "format": "JSON หรือ SSE" }, "parameters": [ { "availability": "source_interface", "default": null, "default_known": false, "enum": [ "meta-llama/llama-3.1-8b-instruct" ], "enum_known": true, "name": "model", "required": true, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages", "required": true, "type": "message[]" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": [ "user", "assistant" ], "enum_known": true, "name": "messages[].role", "required": true, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].content", "required": true, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "max_tokens", "required": true, "type": "integer" }, { "availability": "source_interface", "default": false, "default_known": true, "enum": null, "enum_known": false, "name": "stream", "required": false, "type": "boolean" } ], "profile_binding": "Documented current stock Messages bridge; optional model capabilities are separate from this minimal text request.", "request_schema": { "additionalProperties": false, "properties": { "max_tokens": { "minimum": 1, "type": "integer" }, "messages": { "items": { "additionalProperties": false, "properties": { "content": { "oneOf": [ { "type": "string" }, { "items": { "oneOf": [ { "properties": { "text": { "type": "string" }, "type": { "const": "text" } }, "required": [ "type", "text" ], "type": "object" }, { "properties": { "source": { "oneOf": [ { "properties": { "type": { "const": "url" }, "url": { "type": "string" } }, "required": [ "type", "url" ], "type": "object" }, { "properties": { "data": { "type": "string" }, "media_type": { "type": "string" }, "type": { "const": "base64" } }, "required": [ "type", "media_type", "data" ], "type": "object" } ] }, "type": { "const": "image" } }, "required": [ "type", "source" ], "type": "object" } ] }, "type": "array" } ] }, "role": { "enum": [ "user", "assistant" ], "type": "string" } }, "required": [ "role", "content" ], "type": "object" }, "minItems": 1, "type": "array" }, "model": { "enum": [ "meta-llama/llama-3.1-8b-instruct" ], "type": "string" }, "stream": { "default": false, "type": "boolean" } }, "required": [ "model", "messages", "max_tokens" ], "type": "object" }, "schema_template": { "max_tokens": 128, "messages": [ { "content": "Summarize the incident report.", "role": "user" } ], "model": "meta-llama/llama-3.1-8b-instruct", "stream": false }, "unsupported": [ "No query API key.", "Hosted/server-side tools and model-specific optional controls are not part of this minimal family example." ] }, "input": { "content_type": "application/json", "material_types": [ "text" ], "optional_controls": [ "stream" ], "required": [ "model", "messages", "max_tokens" ], "text_file_material": "อ่านเอกสาร UTF-8 จริง แล้วใส่ข้อความใน input หรือสตริงเนื้อหาข้อความที่ระบุ" }, "lifecycle": { "create": { "http": "POST", "path": "/v1/messages" }, "job_read": null, "mode": "synchronous_or_streamed", "unknown": "Keep request/response IDs and headers. No generic text job retrieval URL is supplied." }, "manufacturer_capability": null, "method": { "http": "POST", "path": "/v1/messages" }, "output": { "all_results": "Keep all content blocks, thinking signatures and actual tool-use IDs. Assemble all SSE block deltas; a first text block is not the complete output.", "family": "protocol", "format": "JSON or SSE" } }, "ctx": null, "declared_pricing_profiles": [ { "dimensions": { "regime": "base" }, "label": "อัตราราคาพื้นฐานของโทเคน", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "dimensions": { "max_context_tokens_inclusive": null, "min_context_tokens_exclusive": 0 }, "label": "ระดับความยาวคำขอ 1", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } ], "examples": [ { "code": "{\n \"model\": \"meta-llama/llama-3.1-8b-instruct\",\n \"max_tokens\": 128,\n \"messages\": [\n {\n \"role\": \"user\",\n \"content\": \"Summarize the incident report.\"\n }\n ],\n \"stream\": false\n}", "label": "Complete minimal JSON body", "language": "json" }, { "code": "set -eu\n: \"${AILOOT_API_KEY:?Set your Ailoot API key}\"\n: \"${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}\"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H \"x-api-key: $AILOOT_API_KEY\" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\n", "label": "curl · use your UTF-8 document", "language": "bash" }, { "code": "import json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\n", "label": "Python · save the complete result", "language": "python" } ], "family": "anthropic", "fast_multiplier": 1, "flex_multiplier": 1, "fmt": "messages", "http": "POST", "in": 0.44, "input": [ "text" ], "label": "Anthropic Messages", "max_out": null, "max_reasoning_effort_multiplier": 1, "method_aliases": [], "out": 0.44, "output": [ "json", "sse" ], "path": "/v1/messages", "price_conditions": [ { "label": "โหมดรวดเร็ว", "value": "อัตรามาตรฐาน", "when": "เมื่อเลือกโหมดรวดเร็ว" }, { "label": "โหมดยืดหยุ่น", "value": "อัตรามาตรฐาน", "when": "เมื่อเลือกโหมด flex" }, { "label": "ระดับการใช้เหตุผลสูงสุด", "value": "อัตรามาตรฐาน", "when": "เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด" } ], "pricing": { "billing_mode": "token", "image_input_price": null, "image_output_price": null, "per_request_price": null }, "pricing_profiles": [ { "dimensions": { "regime": "base" }, "label": "Base token rates", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "dimensions": { "max_context_tokens_inclusive": null, "min_context_tokens_exclusive": 0 }, "label": "Request-length tier 1", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } ], "request_model_id": "meta-llama/llama-3.1-8b-instruct", "route_label": "Ultra", "status_reads": [], "tiers": [ { "cache_read": 0.44, "cache_read_multiplier": null, "cache_write": null, "cache_write_1h": null, "cache_write_multiplier": null, "created_at": "0001-01-01T00:00:00Z", "in": 0.44, "input_multiplier": null, "max": null, "max_tokens": null, "min": 0, "min_tokens": 0, "out": 0.44, "output_multiplier": null, "per_request_price": null, "sort_order": 0, "tier_label": "", "updated_at": "0001-01-01T00:00:00Z" } ], "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } } ], "model_id": "meta-llama/llama-3.1-8b-instruct", "nativeProvenance": { "input_facts_canonical_sha256": "b0f502f40949b865ab6ab256a93eb6e06b12152e1e149f5d4a375ea85ff1cb34", "input_html_sha256": "55b1e23ef82378c3c3d96693cd0936a1184c6f43669aeede10ca71f8fbba234a", "private_audit_sha256": "d437b12bb95694b872f7dd49ebb348e40640cf8d66ca127f536fe8dd07e691bf", "role": "historical-normalized-input-audit-hashes", "schema": "ailoot-native-model-provenance-v2" }, "page": { "canonical": "https://ailoot.ai/models/th/meta-llama-llama-3-1-8b-instruct/", "description": "Llama 3.1 8B Instruct เป็นโมเดลข้อความตามคำสั่งขนาดเล็กกว่าของ Meta สำหรับสนทนาหลายภาษา สรุป และคำตอบที่อิงต้นฉบับ มีขนาดแปดพันล้านพารามิเตอร์ บริบทผู้สร้าง 128k, grouped-query attention และรูปแบบใช้เครื่องมือตามเอกสาร โดยส่งข้อความหรือโค้ดกลับ", "locale": "th", "md_url": "https://ailoot.ai/models/th/meta-llama-llama-3-1-8b-instruct/index.md", "title": "Meta: Llama 3.1 8B Instruct — Ailoot", "url": "https://ailoot.ai/models/th/meta-llama-llama-3-1-8b-instruct/" }, "practicalHtml": "

งานตัวอย่างจริง

ตัวอย่างทางเทคนิคภาษาอังกฤษ

Translate a delivery notice into German\n\nTranslate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date.

ผลลัพธ์ที่คาดหวัง

One German customer notice preserving the identifier, event sequence and qualified transit time.

ตรวจสอบผลลัพธ์

The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.
", "practicalText": "งานตัวอย่างจริง ตัวอย่างทางเทคนิคภาษาอังกฤษ Translate a delivery notice into German Translate this customer notice into German: 'Order BN-42 will leave our warehouse on Thursday. Delivery normally takes three business days. We will send tracking details after dispatch.' Preserve BN-42, distinguish dispatch from delivery and use a polite professional tone. Return only the translation; do not turn the normal transit time into a guaranteed arrival date. ผลลัพธ์ที่คาดหวัง One German customer notice preserving the identifier, event sequence and qualified transit time. ตรวจสอบผลลัพธ์ The translation distinguishes warehouse dispatch from delivery and retains the word's sense of a normal estimate.", "rawModel": { "about": "Llama 3.1 8B Instruct เป็นโมเดลข้อความแปดพันล้านพารามิเตอร์ของ Meta สำหรับสนทนาหลายภาษาและผู้ช่วยตามคำสั่ง รับบทสนทนาเป็นลายลักษณ์อักษรกับข้อมูลต้นฉบับ และสร้างข้อความหรือโค้ด เป็นรุ่น Instruct ขนาด 8B ที่แยกจากฐานฝึกก่อนใช้งานและโมเดล 70B กับ 405B ในตระกูล\n\nสถาปัตยกรรม บริบท และภาษา\n\nโมเดลใช้สถาปัตยกรรม autoregressive Transformer พร้อม grouped-query attention ตระกูลที่ปรับตามคำสั่งใช้ supervised fine-tuning และการเรียนรู้แบบเสริมกำลังจากข้อมูลย้อนกลับของคน เพื่อปรับคำตอบสนทนาให้สอดคล้อง ผู้สร้างระบุบริบท 128k สำหรับรุ่นข้อความนี้ ซึ่งไม่ใช่ข้อกำหนดภาพหรือบริบทยาวของโมเดล Llama 4 ที่มาทีหลัง\n\nแปดภาษาที่รองรับอย่างเป็นทางการคืออังกฤษ เยอรมัน ฝรั่งเศส อิตาลี โปรตุเกส ฮินดี สเปน และไทย ข้อมูลฝึกก่อนใช้งานครอบคลุมชุดภาษากว้างกว่า ซึ่งต่างจากภาษาที่การ์ดรองรับชัดเจน ระบุภาษาสุดท้ายและชื่อ รหัสตัวแปร หรือศัพท์ที่ควรไม่เปลี่ยนในผลหลายภาษา\n\nตระกูลนี้ฝึกก่อนใช้งานบนข้อมูลประมาณสิบห้าล้านล้านโทเคน โดยมีขอบเขตข้อมูลเดือนธันวาคม 2023 การปรับละเอียดรวมข้อมูลคำสั่งและตัวอย่างสังเคราะห์มากกว่ายี่สิบห้าล้านรายการ นี่อธิบายการฝึกโมเดล ไม่ใช่การเข้าถึงฐานความรู้ส่วนตัวหรือข้อมูลสดเมื่อมีคำถามใหม่\n\nการดำเนินการข้อความที่กำหนดไว้\n\nคำขอด้านสนับสนุนสามารถป้อนข้อความผู้ใช้และข้อความอ้างอิงที่เกี่ยวข้อง แล้วขอคำตอบพร้อมเงื่อนไขสนับสนุน บันทึกกระชับสามารถแยกปัญหา ข้อมูลที่ป้อนแล้ว และขั้นถัดไปที่จำเป็น กำหนดชื่อช่องและวิธีจัดการค่าที่ไม่มีเมื่อแอปพลิเคชันต้องประมวลผลผลนั้น\n\nสำหรับการสรุป ให้ป้อนข้อความหรือบทโต้ตอบจริง และระบุกลุ่มผู้อ่าน ความยาว และข้อเท็จจริงที่ต้องรักษา ขอการตัดสินใจหรือคำถามที่ยังไม่คลี่คลายซึ่งเกี่ยวข้องกับหัวข้อเดียว แทนบทสรุปไร้ทิศทางของข้อมูลที่ไม่เกี่ยวข้อง การติดตามผลอาจขอคำตอบสั้นลงหรือคำอธิบายเงื่อนไขหนึ่งให้ชัดขึ้น โดยคงข้อเท็จจริงต้นฉบับเดียวกัน\n\nสำหรับการแก้ไข ให้ระบุผู้อ่านกับน้ำเสียงและความหมายที่ต้องไม่เปลี่ยน งานในทางปฏิบัติอาจขอข้อความชัดขึ้นตามด้วยรายการเปลี่ยนแปลงสั้น หรือข้อความที่แก้อย่างเดียวหากจะใช้โดยตรง งานจำแนกควรป้อนป้ายกำกับที่อนุญาตกับความแตกต่างระหว่างกัน แทนพึ่งชื่อป้ายให้กำหนดกฎเอง\n\nการสร้างโค้ดและตัวอย่าง\n\nผลลัพธ์ตามเอกสารรวมโค้ดด้วย ป้อนภาษา ข้อมูลนำเข้าที่ต้องการ และผลที่คาด ก่อนขอฟังก์ชัน สำหรับคำอธิบาย ให้ป้อนฟังก์ชันเดิมกับข้อมูลนำเข้าที่เป็นรูปธรรม และถามว่าขั้นใดกำหนดค่าที่ส่งกลับ สำหรับการแก้ไข ให้แนบความล้มเหลวที่พบกับพฤติกรรมที่ต้องการ โดยคงอินเทอร์เฟซที่ต้องเข้ากันได้\n\nผลที่มีประโยชน์สามารถแยกโค้ดที่เสนอ สมมติฐาน และตัวอย่างข้อมูลนำเข้า แอปพลิเคชันหรือนักพัฒนาเป็นผู้คอมไพล์ รัน หรือเปลี่ยนคลังโค้ดจริง ซอร์สโค้ดที่เขียนเป็นผลงานสำหรับตรวจ ไม่ใช่การดำเนินการภายนอกที่เสร็จเพียงเพราะโมเดลส่งกลับ\n\nตระกูลนี้ยังรองรับการใช้ผลที่สร้างเพื่อเป็นตัวอย่างสังเคราะห์และการกลั่นความรู้ คำขอข้อความที่กำหนดไว้สามารถสร้างตัวอย่างหลากหลายภายใต้กฎที่ป้อนและในรูปแบบที่ระบุได้ เก็บกฎกับป้ายกำกับเพื่อให้ตรวจตัวอย่างแต่ละรายการได้ ตัวอย่างที่สร้างไม่ได้ยืนยันความถูกต้องของชุดข้อมูลฝึกอย่างเป็นอิสระ\n\nบทบาทการสนทนาและใช้เครื่องมือ\n\nการ์ดโมเดลสาธิตเทมเพลตสนทนาที่มีข้อความระบบและผู้ใช้แยกกัน กำหนดบทบาทผู้ช่วยและข้อกำหนดคำตอบในบริบทระบบ แล้วป้อนคำถามกับข้อมูลต้นฉบับเป็นงาน เก็บข้อความก่อนหน้าที่เกี่ยวข้องเมื่อถามติดตามหรือป้อนหลักฐานใหม่ที่เปลี่ยนผล\n\nLlama 3.1 มีเอกสารรูปแบบใช้เครื่องมือหลายแบบ แอปพลิเคชันอธิบายฟังก์ชัน โมเดลสร้างการเรียกและอาร์กิวเมนต์ที่เสนอ แอปพลิเคชันดำเนินการและส่งผลกลับด้วยบทบาท tool คำตอบถัดไปจึงใช้ข้อมูลที่ส่งกลับได้ เชื่อมการดำเนินการต้นทางกับผลลัพธ์ตลอดการสนทนา\n\nเช่น การค้นข้อมูลอาจคืนค่าอ้างอิงปัจจุบันที่ขาดจากข้อความ หรือเครื่องมือคำนวณให้ผลตัวเลขที่คำอธิบายต้องใช้ ผู้ช่วยที่ใช้เครื่องมือต้องได้รับการดำเนินการเหล่านั้นจากสภาพแวดล้อม พฤติกรรมข้อความของโมเดลไม่ได้สร้างการเชื่อมต่อแหล่งภายนอกหรือทำผลข้างเคียงเสร็จด้วยตัวเอง\n\nขอบเขตในทางปฏิบัติ\n\nควรเก็บป้ายบริบท 128k ของผู้สร้างไว้กับรุ่น 8B Instruct ตรงตัวและการตั้งค่าที่ใช้ ตัวอย่างการสร้าง 256 โทเคนเป็นเพียงทางเลือกการใช้ แหล่งข้อมูลที่ตรวจอ่านไม่มีการระบุความจุคำตอบสูงสุดแบบตายตัวแยกต่างหาก ขนาด 8B ไม่ควรรับจำนวนพารามิเตอร์ของสมาชิกรายอื่นหรือตัวควบคุมการให้เหตุผลที่มีชื่อจากตระกูลอื่น\n\nนี่คือโมเดลข้อความอย่างเดียว ข้อมูลนำเข้าภาพ ความเข้าใจเสียง และการสร้างคำพูดต้องมีองค์ประกอบที่ระบุแยก กำหนดผลงานสุดท้ายก่อนป้อนข้อมูล ได้แก่ คำตอบกระชับ บันทึกที่สกัด ข้อความแก้ไข คำอธิบาย หรือข้อเสนอโค้ด เก็บข้อมูลต้นฉบับที่จำเป็นเพื่อตรวจความหมายและรูปแบบของผลงานนั้น", "alias_of": null, "aliases": [], "author": "Meta", "available": null, "canonical_model": "meta-llama/llama-3.1-8b-instruct", "capabilities": { "context_length": 131072, "manufacturer_input": [ "text" ], "manufacturer_output": [ "text" ] }, "card_routes": [ { "label": "Ultra", "rates": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" } ], "summary": "ดูราคาตามการกำหนดค่าแบบครบถ้วนในรายละเอียด" } ], "ctx": null, "entity_type": "model", "formats": [ "chat", "messages" ], "id": "meta-llama/llama-3.1-8b-instruct", "input": [ "text" ], "kind": "text", "max_out": null, "methods": [ { "available": null, "cache_read": 0.44, "cache_write": null, "cache_write_1h": null, "contract": { "data": { "all_results": "Keep every choice and its content/tool calls/reasoning. In SSE assemble deltas by choice/tool index, retain the final finish reason and usage.", "authentication": { "api_key_source": "AILOOT_API_KEY", "header": "Authorization: Bearer" }, "errors": [ { "code": null, "condition": "ฟิลด์จำเป็น รูปแบบการแทนข้อมูล หรือค่าพารามิเตอร์ไม่ถูกต้อง", "http_status": 400, "recovery": "แก้ฟิลด์ที่ระบุก่อนส่งคำขอสร้างครั้งใหม่", "type": "invalid_request_error" } ], "hints": [ "Model context is not an output cap.", "A model-dependent field needs the exact published model profile; unspecified defaults/enums are not guessed.", "Tool calls propose actions; the client application returns actual observations with the returned call ID.", "Guarded canonical keys must occur once; duplicate or case-varied model/tools/cap fields are rejected." ], "ignored_fields": [], "lifecycle": { "create": { "http": "POST", "path": "/v1/chat/completions" }, "job_read": null, "mode": "synchronous_or_streamed", "unknown": "เก็บ ID และส่วนหัวของคำขอ/คำตอบ ไม่มี URL ทั่วไปสำหรับดึงงานข้อความให้ใช้" }, "material_combinations": [ { "mode": "text", "representation": "messages[].content", "required_material": "ข้อความ UTF8" } ], "operation_modes": [ "conversation", "function_tool_continuation", "streaming" ], "outputs": { "all_results": "เก็บทุกตัวเลือกพร้อมเนื้อหา/การเรียกเครื่องมือ/การใช้เหตุผล ใน SSE ให้ประกอบส่วนเพิ่มตามดัชนีตัวเลือก/เครื่องมือ และเก็บเหตุผลสิ้นสุดกับข้อมูลการใช้งานสุดท้าย", "family": "text", "fields": [ { "description": null, "name": "choices[].index", "type": "integer" }, { "description": null, "name": "choices[].message.content", "type": "string|null" }, { "description": null, "name": "choices[].message.tool_calls", "type": "tool_call[]" }, { "description": null, "name": "choices[].message.reasoning_content", "type": "string" }, { "description": null, "name": "choices[].message.reasoning_details", "type": "object|array" }, { "description": null, "name": "choices[].finish_reason", "type": "string|null" }, { "description": null, "name": "usage", "type": "object" } ], "format": "json หรือ SSE" }, "parameters": [ { "availability": "source_interface", "default": null, "default_known": false, "enum": [ "meta-llama/llama-3.1-8b-instruct" ], "enum_known": true, "name": "model", "required": true, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "min_items": 1, "name": "messages", "required": true, "type": "message[]" }, { "availability": "model_dependent", "conditions": "บทบาทเหล่านี้แทนอย่างชัดเจนด้วยชนิดข้อมูลเพื่อความเข้ากันได้ในซอร์สโค้ด แต่ชุดบทบาทที่แน่นอนยังขึ้นกับแต่ละโมเดล", "default": null, "default_known": false, "enum": [ "system", "user", "assistant", "tool", "function" ], "enum_exhaustive": false, "enum_known": true, "name": "messages[].role", "required": true, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].content", "required": false, "type": "string|content_part[]|null" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].tool_calls", "required": false, "type": "tool_call[]" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].tool_call_id", "required": false, "type": "string", "when": "role=tool โดยใช้ ID ที่ส่งกลับจริง" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].name", "required": false, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].reasoning_content", "required": false, "type": "string", "when": "ส่งเนื้อหาการใช้เหตุผลที่คืนจริงกลับในคำขอถัดไป เมื่อโมเดลนี้ใช้เนื้อหานั้น" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].reasoning_details", "required": false, "type": "object|array" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "minimum": 1, "name": "max_tokens", "required": false, "type": "integer" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "minimum": 1, "name": "max_completion_tokens", "required": false, "type": "integer" }, { "availability": "source_interface", "default": false, "default_known": true, "enum": null, "enum_known": false, "name": "stream", "required": false, "type": "boolean" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "stream_options.include_usage", "required": false, "type": "boolean" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "temperature", "required": false, "type": "number" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "top_p", "required": false, "type": "number" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "stop", "required": false, "type": "string|string[]" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "tools", "required": false, "type": "function_tool[]" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": [ "function" ], "enum_known": true, "name": "tools[].type", "required": false, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "tools[].function.name", "required": true, "type": "string", "when": "มีเครื่องมือฟังก์ชันให้ใช้" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "tools[].function.description", "required": false, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "tools[].function.parameters", "required": false, "type": "JSON_schema" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "tool_choice", "required": false, "type": "string|object" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "parallel_tool_calls", "required": false, "type": "boolean" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "response_format", "required": false, "type": "object" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "reasoning_effort", "required": false, "type": "string" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "reasoning", "required": false, "type": "object" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "service_tier", "required": false, "type": "string" }, { "availability": "source_compatibility", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "instructions", "required": false, "type": "string" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "functions", "required": false, "type": "function[]" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "function_call", "required": false, "type": "string|object" }, { "availability": "model_dependent", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "prompt_cache_options", "required": false, "type": "object" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": [ "text" ], "enum_known": true, "name": "modalities", "required": false, "type": "string[]" }, { "availability": "source_interface", "conditions": "เส้นทางข้อความ Ultra นี้ปฏิเสธ provider.options", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "provider", "required": false, "type": "object" }, { "availability": "source_interface", "conditions": "ตำแหน่งแคชพรอมป์ต์จริงปฏิเสธ 1h", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "cache_control.ttl", "required": false, "type": "string" } ], "profile_binding": "Exact existing Ailoot model and method; interface constraints below do not assert provider qualification.", "unsupported": [ "additional models/models list", "plugins", "route", "hosted tools; ordinary client function tools remain separate", "non-text output modalities", "provider.options overrides", "one-hour prompt-cache TTL" ] }, "hints": [ "ส่ง ID โมเดลที่ตรงทุกตัวพร้อม messages", "ความยาวบริบทไม่ใช่เพดานผลลัพธ์", "ไฟล์ข้อความให้ข้อความตามต้นฉบับได้ ส่วนข้อมูลเข้าภาพ/เสียง/ออบเจ็กต์ไฟล์ต้องมีการผูกที่ตรงตามจริง" ], "input": { "content_type": "application/json", "control_scope": "ขึ้นกับโมเดล เครื่องมือฟังก์ชันของผู้ใช้ต่างจากเครื่องมือที่โฮสต์จัดให้", "file_material": "แทรกเอกสาร UTF-8 จริงเป็นข้อความตามต้นฉบับ โดยไม่อนุมาน ID ไฟล์", "hosted_operations": false, "material_types": [ "text" ], "messages": "อาร์เรย์ข้อความที่มีโครงสร้าง role/content", "multimodal_input_binding": null, "optional_controls": [ "stream", "temperature", "top_p", "stop", "max_tokens", "max_completion_tokens", "reasoning", "response_format", "tools", "tool_choice" ], "output_modalities": [ "text" ], "required": [ "model", "messages" ] }, "lifecycle": { "mode": "synchronous_or_streamed", "unknown": "preserve original request id; no generic chat job retrieval path" }, "manufacturer_capability": null, "method": { "http": "POST", "path": "/v1/chat/completions" }, "method_aliases": [], "operation_modes": [ "text_chat" ], "output": { "content": "choices[].message.content or stream delta", "family": "text", "format": "json or supported SSE", "tool_calls": "retain actual returned function calls" } }, "ctx": null, "declared_pricing_profiles": [ { "dimensions": { "regime": "base" }, "label": "อัตราราคาพื้นฐานของโทเคน", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "dimensions": { "max_context_tokens_inclusive": null, "min_context_tokens_exclusive": 0 }, "label": "ระดับความยาวคำขอ 1", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } ], "examples": [ { "code": "set -eu\n: \"${AILOOT_API_KEY:?Set your Ailoot API key}\"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{\"model\": \"meta-llama/llama-3.1-8b-instruct\", \"messages\": [{\"role\": \"user\", \"content\": \"Explain the difference between an observation and a hypothesis in three sentences.\"}]}')\n\nPath(\"request.json\").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H \"Authorization: Bearer $AILOOT_API_KEY\" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path(\"result.json\").read_text())\nfor x in r.get(\"choices\",[]):\n if x.get(\"message\",{}).get(\"content\"): print(x[\"message\"][\"content\"])\nPY_RESULT\n", "label": "curl · retained exact creation", "language": "bash" }, { "code": "from openai import OpenAI\nimport os\n\nif not os.environ.get(\"AILOOT_API_KEY\", \"\").strip(): raise SystemExit(\"Set AILOOT_API_KEY before making a request\")\nclient=OpenAI(base_url=\"https://api.ailoot.ai/v1\",api_key=os.environ[\"AILOOT_API_KEY\"],max_retries=0)\nresult=client.chat.completions.create(model='meta-llama/llama-3.1-8b-instruct',messages=[{\"role\":\"user\",\"content\":\"Explain observations and hypotheses in three sentences.\"}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem=\"result\"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + \".json\").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding=\"utf-8\")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b\"-_\", validate=True)\n ext = \"png\" if raw.startswith(b\"\\x89PNG\\r\\n\\x1a\\n\") else \"jpg\" if raw.startswith(b\"\\xff\\xd8\") else \"webp\" if raw[:4] == b\"RIFF\" and raw[8:12] == b\"WEBP\" else suffix\n file = Path(stem + \"-\" + label + \".\" + ext)\n file.write_bytes(raw)\n print(\"Saved\", file)\n for index, block in enumerate(data.get(\"content\") or []):\n print(\"Content\", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get(\"choices\") or []:\n print(\"Choice\", choice.get(\"index\"), json.dumps(choice.get(\"message\", choice.get(\"delta\", {})), ensure_ascii=False))\n for index, item in enumerate(data.get(\"output\") or []):\n print(\"Output\", index, json.dumps(item, ensure_ascii=False))\n if item.get(\"type\") == \"image_generation_call\" and item.get(\"result\"):\n save_blob(item[\"result\"], item.get(\"output_format\") or \"bin\", \"output-\" + str(index))\n for ci, candidate in enumerate(data.get(\"candidates\") or []):\n for pi, part in enumerate((candidate.get(\"content\") or {}).get(\"parts\") or []):\n print(\"Candidate/part\", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get(\"inlineData\") or part.get(\"inline_data\")\n if blob and blob.get(\"data\"):\n mime = blob.get(\"mimeType\") or blob.get(\"mime_type\")\n suffix = {\"image/png\":\"png\", \"image/jpeg\":\"jpg\", \"image/webp\":\"webp\", \"audio/wav\":\"wav\", \"audio/mpeg\":\"mp3\", \"video/mp4\":\"mp4\"}.get(mime, \"bin\")\n save_blob(blob[\"data\"], suffix, \"candidate-\" + str(ci) + \"-part-\" + str(pi))\n\nsave_result(result.to_dict(mode=\"json\"))\n", "label": "Python SDK · all choices", "language": "python" }, { "code": "from openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get(\"AILOOT_API_KEY\", \"\").strip(): raise SystemExit(\"Set AILOOT_API_KEY before making a request\")\nclient=OpenAI(base_url=\"https://api.ailoot.ai/v1\",api_key=os.environ[\"AILOOT_API_KEY\"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem=\"result\"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + \".json\").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding=\"utf-8\")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b\"-_\", validate=True)\n ext = \"png\" if raw.startswith(b\"\\x89PNG\\r\\n\\x1a\\n\") else \"jpg\" if raw.startswith(b\"\\xff\\xd8\") else \"webp\" if raw[:4] == b\"RIFF\" and raw[8:12] == b\"WEBP\" else suffix\n file = Path(stem + \"-\" + label + \".\" + ext)\n file.write_bytes(raw)\n print(\"Saved\", file)\n for index, block in enumerate(data.get(\"content\") or []):\n print(\"Content\", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get(\"choices\") or []:\n print(\"Choice\", choice.get(\"index\"), json.dumps(choice.get(\"message\", choice.get(\"delta\", {})), ensure_ascii=False))\n for index, item in enumerate(data.get(\"output\") or []):\n print(\"Output\", index, json.dumps(item, ensure_ascii=False))\n if item.get(\"type\") == \"image_generation_call\" and item.get(\"result\"):\n save_blob(item[\"result\"], item.get(\"output_format\") or \"bin\", \"output-\" + str(index))\n for ci, candidate in enumerate(data.get(\"candidates\") or []):\n for pi, part in enumerate((candidate.get(\"content\") or {}).get(\"parts\") or []):\n print(\"Candidate/part\", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get(\"inlineData\") or part.get(\"inline_data\")\n if blob and blob.get(\"data\"):\n mime = blob.get(\"mimeType\") or blob.get(\"mime_type\")\n suffix = {\"image/png\":\"png\", \"image/jpeg\":\"jpg\", \"image/webp\":\"webp\", \"audio/wav\":\"wav\", \"audio/mpeg\":\"mp3\", \"video/mp4\":\"mp4\"}.get(mime, \"bin\")\n save_blob(blob[\"data\"], suffix, \"candidate-\" + str(ci) + \"-part-\" + str(pi))\n\nwith client.chat.completions.stream(model='meta-llama/llama-3.1-8b-instruct',messages=[{\"role\":\"user\",\"content\":\"Explain observations and hypotheses in three sentences.\"}]) as stream:\n with Path(\"stream-events.jsonl\").open(\"w\",encoding=\"utf-8\") as log:\n for event in stream:\n payload=event.to_dict(mode=\"json\")\n log.write(json.dumps(payload,ensure_ascii=False)+\"\\n\"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode=\"json\"),\"stream-result\")\n", "label": "Python SDK streaming · all events", "language": "python" } ], "family": "openai", "fast_multiplier": 1, "flex_multiplier": 1, "fmt": "chat", "hints": [ "Send exact model ID with messages.", "Context length is not an output cap.", "A text file may supply literal text; image/audio/file-object inputs need exact binding." ], "http": "POST", "in": 0.44, "input": [ "text" ], "label": "OpenAI Chat", "max_out": null, "max_reasoning_effort_multiplier": 1, "method_aliases": [], "out": 0.44, "output": [ "text" ], "path": "/v1/chat/completions", "price_conditions": [ { "label": "โหมดรวดเร็ว", "value": "อัตรามาตรฐาน", "when": "เมื่อเลือกโหมดรวดเร็ว" }, { "label": "โหมดยืดหยุ่น", "value": "อัตรามาตรฐาน", "when": "เมื่อเลือกโหมด flex" }, { "label": "ระดับการใช้เหตุผลสูงสุด", "value": "อัตรามาตรฐาน", "when": "เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด" } ], "pricing": { "billing_mode": "token", "image_input_price": null, "image_output_price": null, "per_request_price": null }, "pricing_profiles": [ { "dimensions": { "regime": "base" }, "label": "Base token rates", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "dimensions": { "max_context_tokens_inclusive": null, "min_context_tokens_exclusive": 0 }, "label": "Request-length tier 1", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } ], "request_model_id": "meta-llama/llama-3.1-8b-instruct", "route_label": "Ultra", "status_reads": [], "tiers": [ { "cache_read": 0.44, "cache_read_multiplier": null, "cache_write": null, "cache_write_1h": null, "cache_write_multiplier": null, "created_at": "0001-01-01T00:00:00Z", "in": 0.44, "input_multiplier": null, "interval_boundary": "min_exclusive_max_inclusive", "max": null, "max_tokens": null, "min": 0, "min_tokens": 0, "null_rate_policy": "unknown or inherited; never zero", "out": 0.44, "output_multiplier": null, "per_request_price": null, "sort_order": 0, "tier_label": "", "updated_at": "0001-01-01T00:00:00Z" } ], "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "available": null, "cache_read": 0.44, "cache_write": null, "cache_write_1h": null, "contract": { "data": { "authentication": { "api_key_source": "AILOOT_API_KEY", "headers": [ "Authorization: Bearer", "x-api-key", "anthropic-version" ], "version_example": "2023-06-01" }, "errors": [ { "code": null, "condition": "ฟิลด์จำเป็น รูปแบบการแทนข้อมูล หรือค่าพารามิเตอร์ไม่ถูกต้อง", "http_status": 400, "recovery": "แก้ฟิลด์ที่ระบุก่อนส่งคำขอสร้างครั้งใหม่", "type": "invalid_request_error" } ], "example_body": { "max_tokens": 128, "messages": [ { "content": "Summarize the incident report.", "role": "user" } ], "model": "meta-llama/llama-3.1-8b-instruct", "stream": false }, "lifecycle": { "create": { "http": "POST", "path": "/v1/messages" }, "job_read": null, "mode": "synchronous_or_streamed", "unknown": "เก็บ ID และส่วนหัวของคำขอ/คำตอบ ไม่มี URL ทั่วไปสำหรับดึงงานข้อความให้ใช้" }, "material_combinations": [ { "mode": "text", "representation": "สตริง messages[].content", "required_material": "ข้อความ UTF-8" } ], "operation_modes": [ "synchronous_json", "streamed_SSE" ], "outputs": { "all_results": "เก็บทุกบล็อกเนื้อหา ลายเซ็นการคิด และ ID การใช้เครื่องมือจริง ประกอบส่วนเพิ่มของบล็อก SSE ทั้งหมด บล็อกข้อความแรกไม่ใช่ผลลัพธ์ทั้งหมด", "family": "protocol", "fields": [ { "description": null, "name": "id", "type": "string" }, { "description": null, "name": "model", "type": "string" }, { "description": null, "name": "content[]", "type": "text|thinking|tool_use|other content block" }, { "description": null, "name": "stop_reason", "type": "string|null" }, { "description": null, "name": "usage", "type": "object" } ], "format": "JSON หรือ SSE" }, "parameters": [ { "availability": "source_interface", "default": null, "default_known": false, "enum": [ "meta-llama/llama-3.1-8b-instruct" ], "enum_known": true, "name": "model", "required": true, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages", "required": true, "type": "message[]" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": [ "user", "assistant" ], "enum_known": true, "name": "messages[].role", "required": true, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "messages[].content", "required": true, "type": "string" }, { "availability": "source_interface", "default": null, "default_known": false, "enum": null, "enum_known": false, "name": "max_tokens", "required": true, "type": "integer" }, { "availability": "source_interface", "default": false, "default_known": true, "enum": null, "enum_known": false, "name": "stream", "required": false, "type": "boolean" } ], "profile_binding": "Documented current stock Messages bridge; optional model capabilities are separate from this minimal text request.", "request_schema": { "additionalProperties": false, "properties": { "max_tokens": { "minimum": 1, "type": "integer" }, "messages": { "items": { "additionalProperties": false, "properties": { "content": { "oneOf": [ { "type": "string" }, { "items": { "oneOf": [ { "properties": { "text": { "type": "string" }, "type": { "const": "text" } }, "required": [ "type", "text" ], "type": "object" }, { "properties": { "source": { "oneOf": [ { "properties": { "type": { "const": "url" }, "url": { "type": "string" } }, "required": [ "type", "url" ], "type": "object" }, { "properties": { "data": { "type": "string" }, "media_type": { "type": "string" }, "type": { "const": "base64" } }, "required": [ "type", "media_type", "data" ], "type": "object" } ] }, "type": { "const": "image" } }, "required": [ "type", "source" ], "type": "object" } ] }, "type": "array" } ] }, "role": { "enum": [ "user", "assistant" ], "type": "string" } }, "required": [ "role", "content" ], "type": "object" }, "minItems": 1, "type": "array" }, "model": { "enum": [ "meta-llama/llama-3.1-8b-instruct" ], "type": "string" }, "stream": { "default": false, "type": "boolean" } }, "required": [ "model", "messages", "max_tokens" ], "type": "object" }, "schema_template": { "max_tokens": 128, "messages": [ { "content": "Summarize the incident report.", "role": "user" } ], "model": "meta-llama/llama-3.1-8b-instruct", "stream": false }, "unsupported": [ "No query API key.", "Hosted/server-side tools and model-specific optional controls are not part of this minimal family example." ] }, "input": { "content_type": "application/json", "material_types": [ "text" ], "optional_controls": [ "stream" ], "required": [ "model", "messages", "max_tokens" ], "text_file_material": "อ่านเอกสาร UTF-8 จริง แล้วใส่ข้อความใน input หรือสตริงเนื้อหาข้อความที่ระบุ" }, "lifecycle": { "create": { "http": "POST", "path": "/v1/messages" }, "job_read": null, "mode": "synchronous_or_streamed", "unknown": "Keep request/response IDs and headers. No generic text job retrieval URL is supplied." }, "manufacturer_capability": null, "method": { "http": "POST", "path": "/v1/messages" }, "output": { "all_results": "Keep all content blocks, thinking signatures and actual tool-use IDs. Assemble all SSE block deltas; a first text block is not the complete output.", "family": "protocol", "format": "JSON or SSE" } }, "ctx": null, "declared_pricing_profiles": [ { "dimensions": { "regime": "base" }, "label": "อัตราราคาพื้นฐานของโทเคน", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "dimensions": { "max_context_tokens_inclusive": null, "min_context_tokens_exclusive": 0 }, "label": "ระดับความยาวคำขอ 1", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } ], "examples": [ { "code": "{\n \"model\": \"meta-llama/llama-3.1-8b-instruct\",\n \"max_tokens\": 128,\n \"messages\": [\n {\n \"role\": \"user\",\n \"content\": \"Summarize the incident report.\"\n }\n ],\n \"stream\": false\n}", "label": "Complete minimal JSON body", "language": "json" }, { "code": "set -eu\n: \"${AILOOT_API_KEY:?Set your Ailoot API key}\"\n: \"${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}\"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H \"x-api-key: $AILOOT_API_KEY\" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\n", "label": "curl · use your UTF-8 document", "language": "bash" }, { "code": "import json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'meta-llama/llama-3.1-8b-instruct', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\n", "label": "Python · save the complete result", "language": "python" } ], "family": "anthropic", "fast_multiplier": 1, "flex_multiplier": 1, "fmt": "messages", "http": "POST", "in": 0.44, "input": [ "text" ], "label": "Anthropic Messages", "max_out": null, "max_reasoning_effort_multiplier": 1, "method_aliases": [], "out": 0.44, "output": [ "json", "sse" ], "path": "/v1/messages", "price_conditions": [ { "label": "โหมดรวดเร็ว", "value": "อัตรามาตรฐาน", "when": "เมื่อเลือกโหมดรวดเร็ว" }, { "label": "โหมดยืดหยุ่น", "value": "อัตรามาตรฐาน", "when": "เมื่อเลือกโหมด flex" }, { "label": "ระดับการใช้เหตุผลสูงสุด", "value": "อัตรามาตรฐาน", "when": "เมื่อใช้การปรับตามค่าเริ่มต้น (default) สำหรับระดับการใช้เหตุผลสูงสุด" } ], "pricing": { "billing_mode": "token", "image_input_price": null, "image_output_price": null, "per_request_price": null }, "pricing_profiles": [ { "dimensions": { "regime": "base" }, "label": "Base token rates", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "dimensions": { "max_context_tokens_inclusive": null, "min_context_tokens_exclusive": 0 }, "label": "Request-length tier 1", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } ], "request_model_id": "meta-llama/llama-3.1-8b-instruct", "route_label": "Ultra", "status_reads": [], "tiers": [ { "cache_read": 0.44, "cache_read_multiplier": null, "cache_write": null, "cache_write_1h": null, "cache_write_multiplier": null, "created_at": "0001-01-01T00:00:00Z", "in": 0.44, "input_multiplier": null, "max": null, "max_tokens": null, "min": 0, "min_tokens": 0, "out": 0.44, "output_multiplier": null, "per_request_price": null, "sort_order": 0, "tier_label": "", "updated_at": "0001-01-01T00:00:00Z" } ], "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } ], "model_aliases": [ { "canonical_model_id": "meta-llama/llama-3.1-8b-instruct", "request_model_id": "meta-llama/llama-3.1-8b-instruct", "route_label": "Ultra" } ], "name": "Meta: Llama 3.1 8B Instruct", "price": { "in": 0.44, "in_label": null, "out": 0.44, "out_label": null, "scope_label": "Token rates", "sort_in": 0.44, "sort_out": 0.44, "varies": true }, "pricing_profiles": [ { "dimensions": { "regime": "base" }, "label": "OpenAI Chat · Base token rates", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "dimensions": { "max_context_tokens_inclusive": null, "min_context_tokens_exclusive": 0 }, "label": "OpenAI Chat · Request-length tier 1", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "dimensions": { "regime": "base" }, "label": "Anthropic Messages · Base token rates", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] }, { "dimensions": { "max_context_tokens_inclusive": null, "min_context_tokens_exclusive": 0 }, "label": "Anthropic Messages · Request-length tier 1", "units": [ { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "input_price", "label": "Input tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "input_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "output_price", "label": "Output tokens", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "output_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "out", "unit": "output_token" }, { "amount": "0.00044000", "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_read_price", "label": "Cache read", "native_amount_usd_per_unit": "0.00000044", "native_quantity": 1, "native_unit": "cached_input_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "cached_input_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_price", "label": "Cache write", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "generic_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "generic_cache_creation_token" }, { "amount": null, "amount_unit": "usd_per_thousand_tokens", "billing_input": true, "estimate_only": false, "key": "cache_write_1h_price", "label": "Cache write, 1 hour", "native_amount_usd_per_unit": null, "native_quantity": 1, "native_unit": "one_hour_cache_creation_token", "public_unit_label": "/ 1K tokens", "quantity": 1000, "quantity_is_estimate": false, "rate_role": "typed_native_retail_rate", "side": "in", "unit": "one_hour_cache_creation_token" } ] } ], "public_id": "meta-llama/llama-3.1-8b-instruct", "short": "Llama 3.1 8B Instruct เป็นโมเดลข้อความตามคำสั่งขนาดเล็กกว่าของ Meta สำหรับสนทนาหลายภาษา สรุป และคำตอบที่อิงต้นฉบับ มีขนาดแปดพันล้านพารามิเตอร์ บริบทผู้สร้าง 128k, grouped-query attention และรูปแบบใช้เครื่องมือตามเอกสาร โดยส่งข้อความหรือโค้ดกลับ" }, "renderer_schema": { "method_order": "Original DTO methods order; every exact route/format/path/caller survives.", "prices": "Original public DTO fields and original native display HTML; no flattened or normalized offers." }, "representation": "exact-public-dto-and-native-renderer-html", "representationNotes": { "current_reference": { "about_json_pointer": "/aboutHtml", "methods": [ { "contract_json_pointer": "/methods/0/rawMethod/contract", "html_json_pointer": "/methods/0/html", "method_ordinal": 0 }, { "contract_json_pointer": "/methods/1/rawMethod/contract", "html_json_pointer": "/methods/1/html", "method_ordinal": 1 } ], "role": "current-semantic-reference" }, "raw_input": { "examples_role": "historical-input-not-current-ready-examples", "json_pointers": [ "/rawModel", "/methods/0/rawMethod", "/methods/1/rawMethod" ], "role": "historical-owner-input" }, "schema": "ailoot-native-model-representations-v1" }, "schema": "ailoot-static-model-facts-v1", "schema_version": 1, "shortText": "Llama 3.1 8B Instruct เป็นโมเดลข้อความตามคำสั่งขนาดเล็กกว่าของ Meta สำหรับสนทนาหลายภาษา สรุป และคำตอบที่อิงต้นฉบับ มีขนาดแปดพันล้านพารามิเตอร์ บริบทผู้สร้าง 128k, grouped-query attention และรูปแบบใช้เครื่องมือตามเอกสาร โดยส่งข้อความหรือโค้ดกลับ", "source": { "audit_sha256": "2e00086bcbfc28e64d0cebe97aa47c17d8d5618963027f8ffb9dc6123d7d25b1", "bridge_map_sha256": "1125275768b9636fc8461bc7da5061239a81ddfe508e2557843ca42c58ab0036", "raw_model_json_sha256": "9eb4298c2e504d111fe0098d4e3dce8247eeeb8649b1b89c5f148e055096a86d", "renderer_sha256": "890edb706fafafdd4f598bb324acf65fada58918b0911b97eb80e68be2ef65d9" }, "sourceRevision": "02582f5f646fb5d5e9bc51c8856fbeee810f4acd31c2cf5844e4f697bc47a86b" }