บทนำ: การให้เหตุผลจากเอกสารยาว
QwenLong-L1-32B เป็นโมเดลให้เหตุผลด้วยข้อความบริบทยาวของ Tongyi Lab มีเป้าหมายตอบคำถามที่หลักฐานกระจายอยู่ทั่วเอกสารหรือหลายเอกสาร แทนการทวนข้อความที่อยู่ใกล้ ๆ สร้างจาก DeepSeek-R1-Distill-Qwen-32B และฝึกต่อเพื่อให้เหตุผลโดยอิงเอกสาร ส่งข้อความและคำถาม แล้วโมเดลสร้างลำดับการให้เหตุผลกับคำตอบเป็นข้อความ หน้าสแกน เสียง และวิดีโอต้องมีขั้นตอนแปลงแยกที่เหมาะสมก่อนเข้าสู่ขั้นตอนงานข้อความนี้
การฝึกบริบทยาวทำงานอย่างไร
กรอบ QwenLong-L1 อุ่นเครื่องนโยบายการให้เหตุผลด้วย supervised fine-tuning ก่อน แล้วเพิ่มความยาวบริบทผ่านหลักสูตร reinforcement learning การสุ่มตัวอย่างย้อนหลังที่คำนึงถึงความยากปรับว่าตัวอย่างใดจะถูกนำมาทบทวนเมื่อการฝึกคืบหน้า ผู้ผลิตผสานรางวัลผลลัพธ์แบบไบนารีที่อิงกฎกับอิงโมเดล โดยใช้ group-relative policy optimization เพื่อกระตุ้นคำตอบที่ยังยึดหลักฐานยาว นี่อธิบายวิธีฝึก checkpoint ไม่ได้หมายความว่าคำตอบแต่ละรายการผ่านการยืนยันอัตโนมัติจากผู้ตัดสินภายนอก
รุ่นที่เผยแพร่
นี่คือ QwenLong-L1-32B รุ่นต้นฉบับ ส่วน QwenLong-L1-32B-AWQ ที่มีชื่อแยกเป็นรุ่น quantized INT4 และควรคงตัวตนของตน การกำหนดค่าที่เผยแพร่ของโมเดลนี้ใช้สถาปัตยกรรม causal-language-model Qwen2 ที่มี 64 ชั้นและน้ำหนัก bfloat16 ความเชี่ยวชาญเอกสารของโมเดลเกี่ยวข้องกับการเลือกใช้มากกว่าการถือว่าชื่อ 32B เป็นหลักฐานว่าทุกงานทั่วไปจะดีขึ้น
การเตรียมคำถามเอกสาร
ตัวอย่างผู้ผลิตแยกเอกสารจากคำถามด้วยตัวคั่นข้อความชัดเจน และขอวลีคำตอบสุดท้ายที่รู้จำได้หลังการให้เหตุผล ทำตามโครงสร้างนั้นโดยส่งเนื้อหาเอกสารที่เกี่ยวข้อง รักษาหัวข้อกับตารางให้อ่านได้ และถามคำถามที่เป็นรูปธรรมหนึ่งข้อ สำหรับการคำนวณจากรายงาน ให้คงหน่วย รอบรายงาน และป้ายตาราง แล้วขอสูตร ค่าที่ใช้ และผลสุดท้าย สำหรับการเปรียบเทียบนโยบาย ให้ติดป้ายเอกสาร A และ B แล้วขอตารางกฎที่ตรงกัน ความต่าง และหัวข้อสนับสนุนแต่ละแถว นี่คือการประยุกต์ที่ผู้เขียนจัดทำจากความสามารถเชิงตัวเลขและข้ามเอกสารตามเอกสาร
ตัวอย่างแยกวิเคราะห์ข้อความให้เหตุผลกับคำตอบสุดท้ายออกจากกัน ใช้งบการสร้าง 10,000 โทเคน temperature 0.7 และ top_p 0.95 ค่าเหล่านี้เป็นการตั้งค่าตัวอย่าง ไม่ใช่ความยาวผลลัพธ์สูงสุดที่ประกาศ การ์ดยังแสดงข้อความ system สำหรับกำหนดตัวตนแบบเลือกใช้ รักษาคำแนะนำพรอมป์ต์ของโมเดลนี้เอง แทนการนำคำแนะนำของ checkpoint อื่นมาใช้เพียงเพราะเป็นบรรพบุรุษของโมเดล
การประมวลผลเอกสารยาว
Tongyi Lab ตรวจยืนยันความยาวบริบทสูงสุด 131,072 โทเคนด้วย YaRN และแนะนำการขยายเมื่ออินพุตรวมผลลัพธ์เกิน 32,768 โทเคนอย่างมีนัยสำคัญ ตัวอย่างอธิบาย factor สี่ หรือค่าน้อยกว่า เช่น สอง สำหรับงาน 65,536 โทเคน การขยายแบบ static อาจลดประสิทธิภาพกับข้อความสั้น การ์ดจึงไม่แนะนำให้เปิดเมื่อคำขอปกติอยู่ภายใน 32,768 โทเคน การกำหนดค่าที่เผยแพร่ระบุ 131,072 ตำแหน่งแต่ไม่มีฟิลด์ rope_scaling ที่เปิดใช้ จึงควรตรวจการกำหนดค่าควบคู่กับขั้นตอนบริบทยาวแบบมีเงื่อนไขของผู้ผลิต
อินพุตยาวยังต้องเผื่อพื้นที่สำหรับการให้เหตุผลและคำตอบ เริ่มจากข้อความที่คำถามต้องใช้ ตัดหัวกระดาษและข้อความนำทางที่ซ้ำ แล้วเก็บตัวระบุหน้าหรือหัวข้อ ขอการอ้างหลักฐานในผลลัพธ์เพื่อให้ผู้ตรวจทานไล่ข้อสรุปกลับไปยังต้นฉบับได้ บริบทขนาดใหญ่ช่วยวางหลักฐานมากขึ้นในคำขอเดียว ไม่ได้รับประกันการจำทุกรายละเอียดได้สมบูรณ์
การฝึกเอกสารครอบคลุมอะไร
DocQA-RL-1.6K มีโจทย์ฝึก 1,600 ข้อในสามด้านการให้เหตุผล ได้แก่ คำถามเชิงตัวเลข 600 ข้อจากเอกสารเฉพาะทางยาว เช่น รายงานการเงิน คำถามปรนัยเชิงตรรกะ 600 ข้อเกี่ยวกับเอกสารกฎหมาย การเงิน ประกันภัย และการผลิต และตัวอย่างหลายทอด 400 ข้อที่เชื่อมหลักฐานข้ามแหล่งข้อมูล ทำให้โมเดลเป็นตัวเลือกที่เกี่ยวข้องสำหรับคำนวณจากรายงาน ตีความกฎ และคำถามที่ต้องใช้หลายข้อความสนับสนุน ด้านการฝึกอธิบายประสบการณ์กับงานเหล่านั้น ไม่ใช่การรับรองวิชาชีพหรือข้อสรุปที่รับประกัน
ผลลัพธ์เชิงปฏิบัติและขีดจำกัด
เลือกคำตอบที่ตรวจได้ เช่น ค่าคำนวณพร้อมหน่วย การเปรียบเทียบกฎพร้อมอ้างหัวข้อ หรือข้อสรุปสั้นพร้อมลำดับข้อเท็จจริงสนับสนุน หากเอกสารไม่มีวันที่หรือนิยามที่ต้องใช้ ให้โมเดลระบุหลักฐานที่ขาดแทนการแต่งขึ้น เอกสารเผยแพร่เน้นการตอบคำถามเอกสารและไม่ได้ระบุข้อกำหนดการเรียกเครื่องมือเฉพาะหรือเพดานผลลัพธ์ตายตัวแยก ให้ถือคำตอบเป็นร่างที่อิงหลักฐาน และตรวจการคำนวณ การอ้างอิง และการตีความเทียบกับเอกสารที่ให้มา
", "aboutText": "บทนำ: การให้เหตุผลจากเอกสารยาว\n\nQwenLong-L1-32B เป็นโมเดลให้เหตุผลด้วยข้อความบริบทยาวของ Tongyi Lab มีเป้าหมายตอบคำถามที่หลักฐานกระจายอยู่ทั่วเอกสารหรือหลายเอกสาร แทนการทวนข้อความที่อยู่ใกล้ ๆ สร้างจาก DeepSeek-R1-Distill-Qwen-32B และฝึกต่อเพื่อให้เหตุผลโดยอิงเอกสาร ส่งข้อความและคำถาม แล้วโมเดลสร้างลำดับการให้เหตุผลกับคำตอบเป็นข้อความ หน้าสแกน เสียง และวิดีโอต้องมีขั้นตอนแปลงแยกที่เหมาะสมก่อนเข้าสู่ขั้นตอนงานข้อความนี้\n\nการฝึกบริบทยาวทำงานอย่างไร\n\nกรอบ QwenLong-L1 อุ่นเครื่องนโยบายการให้เหตุผลด้วย supervised fine-tuning ก่อน แล้วเพิ่มความยาวบริบทผ่านหลักสูตร reinforcement learning การสุ่มตัวอย่างย้อนหลังที่คำนึงถึงความยากปรับว่าตัวอย่างใดจะถูกนำมาทบทวนเมื่อการฝึกคืบหน้า ผู้ผลิตผสานรางวัลผลลัพธ์แบบไบนารีที่อิงกฎกับอิงโมเดล โดยใช้ group-relative policy optimization เพื่อกระตุ้นคำตอบที่ยังยึดหลักฐานยาว นี่อธิบายวิธีฝึก checkpoint ไม่ได้หมายความว่าคำตอบแต่ละรายการผ่านการยืนยันอัตโนมัติจากผู้ตัดสินภายนอก\n\nรุ่นที่เผยแพร่\n\nนี่คือ QwenLong-L1-32B รุ่นต้นฉบับ ส่วน QwenLong-L1-32B-AWQ ที่มีชื่อแยกเป็นรุ่น quantized INT4 และควรคงตัวตนของตน การกำหนดค่าที่เผยแพร่ของโมเดลนี้ใช้สถาปัตยกรรม causal-language-model Qwen2 ที่มี 64 ชั้นและน้ำหนัก bfloat16 ความเชี่ยวชาญเอกสารของโมเดลเกี่ยวข้องกับการเลือกใช้มากกว่าการถือว่าชื่อ 32B เป็นหลักฐานว่าทุกงานทั่วไปจะดีขึ้น\n\nการเตรียมคำถามเอกสาร\n\nตัวอย่างผู้ผลิตแยกเอกสารจากคำถามด้วยตัวคั่นข้อความชัดเจน และขอวลีคำตอบสุดท้ายที่รู้จำได้หลังการให้เหตุผล ทำตามโครงสร้างนั้นโดยส่งเนื้อหาเอกสารที่เกี่ยวข้อง รักษาหัวข้อกับตารางให้อ่านได้ และถามคำถามที่เป็นรูปธรรมหนึ่งข้อ สำหรับการคำนวณจากรายงาน ให้คงหน่วย รอบรายงาน และป้ายตาราง แล้วขอสูตร ค่าที่ใช้ และผลสุดท้าย สำหรับการเปรียบเทียบนโยบาย ให้ติดป้ายเอกสาร A และ B แล้วขอตารางกฎที่ตรงกัน ความต่าง และหัวข้อสนับสนุนแต่ละแถว นี่คือการประยุกต์ที่ผู้เขียนจัดทำจากความสามารถเชิงตัวเลขและข้ามเอกสารตามเอกสาร\n\nตัวอย่างแยกวิเคราะห์ข้อความให้เหตุผลกับคำตอบสุดท้ายออกจากกัน ใช้งบการสร้าง 10,000 โทเคน temperature 0.7 และ top_p 0.95 ค่าเหล่านี้เป็นการตั้งค่าตัวอย่าง ไม่ใช่ความยาวผลลัพธ์สูงสุดที่ประกาศ การ์ดยังแสดงข้อความ system สำหรับกำหนดตัวตนแบบเลือกใช้ รักษาคำแนะนำพรอมป์ต์ของโมเดลนี้เอง แทนการนำคำแนะนำของ checkpoint อื่นมาใช้เพียงเพราะเป็นบรรพบุรุษของโมเดล\n\nการประมวลผลเอกสารยาว\n\nTongyi Lab ตรวจยืนยันความยาวบริบทสูงสุด 131,072 โทเคนด้วย YaRN และแนะนำการขยายเมื่ออินพุตรวมผลลัพธ์เกิน 32,768 โทเคนอย่างมีนัยสำคัญ ตัวอย่างอธิบาย factor สี่ หรือค่าน้อยกว่า เช่น สอง สำหรับงาน 65,536 โทเคน การขยายแบบ static อาจลดประสิทธิภาพกับข้อความสั้น การ์ดจึงไม่แนะนำให้เปิดเมื่อคำขอปกติอยู่ภายใน 32,768 โทเคน การกำหนดค่าที่เผยแพร่ระบุ 131,072 ตำแหน่งแต่ไม่มีฟิลด์ rope_scaling ที่เปิดใช้ จึงควรตรวจการกำหนดค่าควบคู่กับขั้นตอนบริบทยาวแบบมีเงื่อนไขของผู้ผลิต\n\nอินพุตยาวยังต้องเผื่อพื้นที่สำหรับการให้เหตุผลและคำตอบ เริ่มจากข้อความที่คำถามต้องใช้ ตัดหัวกระดาษและข้อความนำทางที่ซ้ำ แล้วเก็บตัวระบุหน้าหรือหัวข้อ ขอการอ้างหลักฐานในผลลัพธ์เพื่อให้ผู้ตรวจทานไล่ข้อสรุปกลับไปยังต้นฉบับได้ บริบทขนาดใหญ่ช่วยวางหลักฐานมากขึ้นในคำขอเดียว ไม่ได้รับประกันการจำทุกรายละเอียดได้สมบูรณ์\n\nการฝึกเอกสารครอบคลุมอะไร\n\nDocQA-RL-1.6K มีโจทย์ฝึก 1,600 ข้อในสามด้านการให้เหตุผล ได้แก่ คำถามเชิงตัวเลข 600 ข้อจากเอกสารเฉพาะทางยาว เช่น รายงานการเงิน คำถามปรนัยเชิงตรรกะ 600 ข้อเกี่ยวกับเอกสารกฎหมาย การเงิน ประกันภัย และการผลิต และตัวอย่างหลายทอด 400 ข้อที่เชื่อมหลักฐานข้ามแหล่งข้อมูล ทำให้โมเดลเป็นตัวเลือกที่เกี่ยวข้องสำหรับคำนวณจากรายงาน ตีความกฎ และคำถามที่ต้องใช้หลายข้อความสนับสนุน ด้านการฝึกอธิบายประสบการณ์กับงานเหล่านั้น ไม่ใช่การรับรองวิชาชีพหรือข้อสรุปที่รับประกัน\n\nผลลัพธ์เชิงปฏิบัติและขีดจำกัด\n\nเลือกคำตอบที่ตรวจได้ เช่น ค่าคำนวณพร้อมหน่วย การเปรียบเทียบกฎพร้อมอ้างหัวข้อ หรือข้อสรุปสั้นพร้อมลำดับข้อเท็จจริงสนับสนุน หากเอกสารไม่มีวันที่หรือนิยามที่ต้องใช้ ให้โมเดลระบุหลักฐานที่ขาดแทนการแต่งขึ้น เอกสารเผยแพร่เน้นการตอบคำถามเอกสารและไม่ได้ระบุข้อกำหนดการเรียกเครื่องมือเฉพาะหรือเพดานผลลัพธ์ตายตัวแยก ให้ถือคำตอบเป็นร่างที่อิงหลักฐาน และตรวจการคำนวณ การอ้างอิง และการตีความเทียบกับเอกสารที่ให้มา", "editorialOverlay": { "copy_fields": { "practical_html": "ตัวอย่างทางเทคนิคภาษาอังกฤษ
Connect evidence across report sections\n\nDocument section 1 says 240 units were shipped. Section 4 says 30 shipped units were returned before month end. Appendix A says net shipped units equal shipped minus returned units. Calculate net shipped units for the month, cite every section needed and state whether revenue can be calculated from these facts. End with a clearly labelled final answer.A source-linked formula and calculation, a revenue-information limit and a labelled final result.Check that all three source sections support the calculation and that a price or revenue value is not invented.Tongyi-Zhiwen/QwenLong-L1-32BQwenLong-L1-32B เป็นโมเดลให้เหตุผลด้วยข้อความของ Tongyi Lab สำหรับคำถามที่อิงเอกสารยาว ผสานจุดเริ่มจาก DeepSeek-R1-Distill-Qwen-32B กับ reinforcement learning ที่เน้นเอกสาร เพื่อให้เหตุผลเชิงตัวเลข ตรรกะ และข้ามเอกสาร
คำอธิบายนี้ครอบคลุมความสามารถของโมเดล อินพุต เอาต์พุต และตัวเลือกที่ใช้ได้ใน Ailoot แสดงด้านล่างตามเมธอดที่เลือก
บทนำ: การให้เหตุผลจากเอกสารยาว
QwenLong-L1-32B เป็นโมเดลให้เหตุผลด้วยข้อความบริบทยาวของ Tongyi Lab มีเป้าหมายตอบคำถามที่หลักฐานกระจายอยู่ทั่วเอกสารหรือหลายเอกสาร แทนการทวนข้อความที่อยู่ใกล้ ๆ สร้างจาก DeepSeek-R1-Distill-Qwen-32B และฝึกต่อเพื่อให้เหตุผลโดยอิงเอกสาร ส่งข้อความและคำถาม แล้วโมเดลสร้างลำดับการให้เหตุผลกับคำตอบเป็นข้อความ หน้าสแกน เสียง และวิดีโอต้องมีขั้นตอนแปลงแยกที่เหมาะสมก่อนเข้าสู่ขั้นตอนงานข้อความนี้
การฝึกบริบทยาวทำงานอย่างไร
กรอบ QwenLong-L1 อุ่นเครื่องนโยบายการให้เหตุผลด้วย supervised fine-tuning ก่อน แล้วเพิ่มความยาวบริบทผ่านหลักสูตร reinforcement learning การสุ่มตัวอย่างย้อนหลังที่คำนึงถึงความยากปรับว่าตัวอย่างใดจะถูกนำมาทบทวนเมื่อการฝึกคืบหน้า ผู้ผลิตผสานรางวัลผลลัพธ์แบบไบนารีที่อิงกฎกับอิงโมเดล โดยใช้ group-relative policy optimization เพื่อกระตุ้นคำตอบที่ยังยึดหลักฐานยาว นี่อธิบายวิธีฝึก checkpoint ไม่ได้หมายความว่าคำตอบแต่ละรายการผ่านการยืนยันอัตโนมัติจากผู้ตัดสินภายนอก
รุ่นที่เผยแพร่
นี่คือ QwenLong-L1-32B รุ่นต้นฉบับ ส่วน QwenLong-L1-32B-AWQ ที่มีชื่อแยกเป็นรุ่น quantized INT4 และควรคงตัวตนของตน การกำหนดค่าที่เผยแพร่ของโมเดลนี้ใช้สถาปัตยกรรม causal-language-model Qwen2 ที่มี 64 ชั้นและน้ำหนัก bfloat16 ความเชี่ยวชาญเอกสารของโมเดลเกี่ยวข้องกับการเลือกใช้มากกว่าการถือว่าชื่อ 32B เป็นหลักฐานว่าทุกงานทั่วไปจะดีขึ้น
การเตรียมคำถามเอกสาร
ตัวอย่างผู้ผลิตแยกเอกสารจากคำถามด้วยตัวคั่นข้อความชัดเจน และขอวลีคำตอบสุดท้ายที่รู้จำได้หลังการให้เหตุผล ทำตามโครงสร้างนั้นโดยส่งเนื้อหาเอกสารที่เกี่ยวข้อง รักษาหัวข้อกับตารางให้อ่านได้ และถามคำถามที่เป็นรูปธรรมหนึ่งข้อ สำหรับการคำนวณจากรายงาน ให้คงหน่วย รอบรายงาน และป้ายตาราง แล้วขอสูตร ค่าที่ใช้ และผลสุดท้าย สำหรับการเปรียบเทียบนโยบาย ให้ติดป้ายเอกสาร A และ B แล้วขอตารางกฎที่ตรงกัน ความต่าง และหัวข้อสนับสนุนแต่ละแถว นี่คือการประยุกต์ที่ผู้เขียนจัดทำจากความสามารถเชิงตัวเลขและข้ามเอกสารตามเอกสาร
ตัวอย่างแยกวิเคราะห์ข้อความให้เหตุผลกับคำตอบสุดท้ายออกจากกัน ใช้งบการสร้าง 10,000 โทเคน temperature 0.7 และ top_p 0.95 ค่าเหล่านี้เป็นการตั้งค่าตัวอย่าง ไม่ใช่ความยาวผลลัพธ์สูงสุดที่ประกาศ การ์ดยังแสดงข้อความ system สำหรับกำหนดตัวตนแบบเลือกใช้ รักษาคำแนะนำพรอมป์ต์ของโมเดลนี้เอง แทนการนำคำแนะนำของ checkpoint อื่นมาใช้เพียงเพราะเป็นบรรพบุรุษของโมเดล
การประมวลผลเอกสารยาว
Tongyi Lab ตรวจยืนยันความยาวบริบทสูงสุด 131,072 โทเคนด้วย YaRN และแนะนำการขยายเมื่ออินพุตรวมผลลัพธ์เกิน 32,768 โทเคนอย่างมีนัยสำคัญ ตัวอย่างอธิบาย factor สี่ หรือค่าน้อยกว่า เช่น สอง สำหรับงาน 65,536 โทเคน การขยายแบบ static อาจลดประสิทธิภาพกับข้อความสั้น การ์ดจึงไม่แนะนำให้เปิดเมื่อคำขอปกติอยู่ภายใน 32,768 โทเคน การกำหนดค่าที่เผยแพร่ระบุ 131,072 ตำแหน่งแต่ไม่มีฟิลด์ rope_scaling ที่เปิดใช้ จึงควรตรวจการกำหนดค่าควบคู่กับขั้นตอนบริบทยาวแบบมีเงื่อนไขของผู้ผลิต
อินพุตยาวยังต้องเผื่อพื้นที่สำหรับการให้เหตุผลและคำตอบ เริ่มจากข้อความที่คำถามต้องใช้ ตัดหัวกระดาษและข้อความนำทางที่ซ้ำ แล้วเก็บตัวระบุหน้าหรือหัวข้อ ขอการอ้างหลักฐานในผลลัพธ์เพื่อให้ผู้ตรวจทานไล่ข้อสรุปกลับไปยังต้นฉบับได้ บริบทขนาดใหญ่ช่วยวางหลักฐานมากขึ้นในคำขอเดียว ไม่ได้รับประกันการจำทุกรายละเอียดได้สมบูรณ์
การฝึกเอกสารครอบคลุมอะไร
DocQA-RL-1.6K มีโจทย์ฝึก 1,600 ข้อในสามด้านการให้เหตุผล ได้แก่ คำถามเชิงตัวเลข 600 ข้อจากเอกสารเฉพาะทางยาว เช่น รายงานการเงิน คำถามปรนัยเชิงตรรกะ 600 ข้อเกี่ยวกับเอกสารกฎหมาย การเงิน ประกันภัย และการผลิต และตัวอย่างหลายทอด 400 ข้อที่เชื่อมหลักฐานข้ามแหล่งข้อมูล ทำให้โมเดลเป็นตัวเลือกที่เกี่ยวข้องสำหรับคำนวณจากรายงาน ตีความกฎ และคำถามที่ต้องใช้หลายข้อความสนับสนุน ด้านการฝึกอธิบายประสบการณ์กับงานเหล่านั้น ไม่ใช่การรับรองวิชาชีพหรือข้อสรุปที่รับประกัน
ผลลัพธ์เชิงปฏิบัติและขีดจำกัด
เลือกคำตอบที่ตรวจได้ เช่น ค่าคำนวณพร้อมหน่วย การเปรียบเทียบกฎพร้อมอ้างหัวข้อ หรือข้อสรุปสั้นพร้อมลำดับข้อเท็จจริงสนับสนุน หากเอกสารไม่มีวันที่หรือนิยามที่ต้องใช้ ให้โมเดลระบุหลักฐานที่ขาดแทนการแต่งขึ้น เอกสารเผยแพร่เน้นการตอบคำถามเอกสารและไม่ได้ระบุข้อกำหนดการเรียกเครื่องมือเฉพาะหรือเพดานผลลัพธ์ตายตัวแยก ให้ถือคำตอบเป็นร่างที่อิงหลักฐาน และตรวจการคำนวณ การอ้างอิง และการตีความเทียบกับเอกสารที่ให้มา
POST /v1/chat/completionstexttext| ฟิลด์ | ประเภท | ข้อกำหนด | ค่าและข้อจำกัด | ค่าเริ่มต้น |
|---|---|---|---|---|
ฟิลด์model | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด Tongyi-Zhiwen/QwenLong-L1-32B | ค่าเริ่มต้น— |
ฟิลด์messages | ประเภทmessage[] | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด จำนวนรายการขั้นต่ำ: 1 | ค่าเริ่มต้น— |
ฟิลด์messages[].role | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด ตัวอย่าง: system, user, assistant, tool, function เงื่อนไข: บทบาทเหล่านี้แทนอย่างชัดเจนด้วยชนิดข้อมูลเพื่อความเข้ากันได้ในซอร์สโค้ด แต่ชุดบทบาทที่แน่นอนยังขึ้นกับแต่ละโมเดล ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์messages[].content | ประเภทstring|content_part[]|null | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์messages[].tool_calls | ประเภทtool_call[] | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์messages[].tool_call_id | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ใช้เมื่อ: role=tool โดยใช้ ID ที่ส่งกลับจริง | ค่าเริ่มต้น— |
ฟิลด์messages[].name | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์messages[].reasoning_content | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ใช้เมื่อ: ส่งเนื้อหาการใช้เหตุผลที่คืนจริงกลับในคำขอถัดไป เมื่อโมเดลนี้ใช้เนื้อหานั้น | ค่าเริ่มต้น— |
ฟิลด์messages[].reasoning_details | ประเภทobject|array | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์max_tokens | ประเภทinteger | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขั้นต่ำ: 1 ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์max_completion_tokens | ประเภทinteger | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขั้นต่ำ: 1 ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์stream | ประเภทboolean | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้นfalse |
ฟิลด์stream_options.include_usage | ประเภทboolean | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์temperature | ประเภทnumber | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์top_p | ประเภทnumber | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์stop | ประเภทstring|string[] | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์tools | ประเภทfunction_tool[] | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์tools[].type | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด function ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์tools[].function.name | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด ใช้เมื่อ: มีเครื่องมือฟังก์ชันให้ใช้ | ค่าเริ่มต้น— |
ฟิลด์tools[].function.description | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์tools[].function.parameters | ประเภทJSON_schema | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์tool_choice | ประเภทstring|object | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์parallel_tool_calls | ประเภทboolean | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์response_format | ประเภทobject | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์reasoning_effort | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์reasoning | ประเภทobject | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์service_tier | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์instructions | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ฟิลด์เพื่อความเข้ากันได้ | ค่าเริ่มต้น— |
ฟิลด์functions | ประเภทfunction[] | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์function_call | ประเภทstring|object | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์prompt_cache_options | ประเภทobject | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด ขึ้นอยู่กับโมเดล | ค่าเริ่มต้น— |
ฟิลด์modalities | ประเภทstring[] | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด text | ค่าเริ่มต้น— |
ฟิลด์provider | ประเภทobject | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด เงื่อนไข: เส้นทางข้อความ Ultra นี้ปฏิเสธ provider.options | ค่าเริ่มต้น— |
ฟิลด์cache_control.ttl | ประเภทstring | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด เงื่อนไข: ตำแหน่งแคชพรอมป์ต์จริงปฏิเสธ 1h | ค่าเริ่มต้น— |
ข้อความ · ข้อความ UTF8
messages[].content
| พารามิเตอร์ | ข้อกำหนด |
|---|---|
พารามิเตอร์content_type | ข้อกำหนดapplication/json |
พารามิเตอร์required | ข้อกำหนดmodel, messages |
พารามิเตอร์material_types | ข้อกำหนดtext |
พารามิเตอร์messages | ข้อกำหนดอาร์เรย์ข้อความที่มีโครงสร้าง role/content |
พารามิเตอร์file_material | ข้อกำหนดแทรกเอกสาร UTF-8 จริงเป็นข้อความตามต้นฉบับ โดยไม่อนุมาน ID ไฟล์ |
พารามิเตอร์optional_controls | ข้อกำหนดstream, temperature, top_p, stop, max_tokens, max_completion_tokens, reasoning, response_format, tools, tool_choice |
พารามิเตอร์control_scope | ข้อกำหนดขึ้นกับโมเดล เครื่องมือฟังก์ชันของผู้ใช้ต่างจากเครื่องมือที่โฮสต์จัดให้ |
พารามิเตอร์output_modalities | ข้อกำหนดtext |
พารามิเตอร์hosted_operations | ข้อกำหนดfalse |
พารามิเตอร์multimodal_input_binding | ข้อกำหนดnull |
วงจรการทำงาน: synchronous_or_streamed
ส่ง ID โมเดลที่ตรงทุกตัวพร้อม messages
ความยาวบริบทไม่ใช่เพดานผลลัพธ์
ไฟล์ข้อความให้ข้อความตามต้นฉบับได้ ส่วนข้อมูลเข้าภาพ/เสียง/ออบเจ็กต์ไฟล์ต้องมีการผูกที่ตรงตามจริง
ข้อมูลอัตราราคาไม่ได้เพิ่มตัวเลือกคำขอ พารามิเตอร์ที่รองรับระบุไว้สำหรับเมธอดที่เลือก
| การตั้งค่า | ตารางอัตราค่าบริการ | ค่าบริการ |
|---|---|---|
| การตั้งค่าอัตราราคาพื้นฐานของโทเคน | ตารางอัตราค่าบริการอัตราพื้นฐาน | ค่าบริการ ขาเข้า · โทเค็นอินพุต $0.00028 / 1K โทเค็น ขาออก · โทเค็นเอาต์พุต $0.0012 / 1K โทเค็น ขาเข้า · การอ่านแคช $0 / 1K โทเค็น ขาเข้า · การเขียนแคช $0 / 1K โทเค็น ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น |
Ailoot กันยอดเงินประมาณการไว้ก่อนส่งคำขอ หลังได้ผลลัพธ์ จะคิดค่าบริการสุดท้ายตามการใช้งานที่วัดได้ การคิดค่าบริการแบบสตรีมใช้บันทึกการใช้งานสุดท้าย วิธีกันยอดเงินและคิดค่าบริการสุดท้าย →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "Tongyi-Zhiwen/QwenLong-L1-32B", "messages": [{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}]}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nr=json.loads(Path("result.json").read_text())\nfor x in r.get("choices",[]):\n if x.get("message",{}).get("content"): print(x["message"]["content"])\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nresult=client.chat.completions.create(model='Tongyi-Zhiwen/QwenLong-L1-32B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}])\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(result.to_dict(mode="json"))\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='Tongyi-Zhiwen/QwenLong-L1-32B',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson หรือ SSE
เก็บทุกการตอบกลับ ไฟล์ และส่วนเนื้อหาที่ส่งกลับมาอย่างครบถ้วน
เก็บทุกตัวเลือกพร้อมเนื้อหา/การเรียกเครื่องมือ/การใช้เหตุผล ใน SSE ให้ประกอบส่วนเพิ่มตามดัชนีตัวเลือก/เครื่องมือ และเก็บเหตุผลสิ้นสุดกับข้อมูลการใช้งานสุดท้าย
เก็บ ID และส่วนหัวของคำขอ/คำตอบ ไม่มี URL ทั่วไปสำหรับดึงงานข้อความให้ใช้
| ฟิลด์ | ประเภท |
|---|---|
ฟิลด์choices[].index | ประเภทinteger |
ฟิลด์choices[].message.content | ประเภทstring|null |
ฟิลด์choices[].message.tool_calls | ประเภทtool_call[] |
ฟิลด์choices[].message.reasoning_content | ประเภทstring |
ฟิลด์choices[].message.reasoning_details | ประเภทobject|array |
ฟิลด์choices[].finish_reason | ประเภทstring|null |
ฟิลด์usage | ประเภทobject |
| การตอบกลับ | เงื่อนไข | ขั้นตอนถัดไป |
|---|---|---|
การตอบกลับ400 · invalid_request_error | เงื่อนไขฟิลด์จำเป็น รูปแบบการแทนข้อมูล หรือค่าพารามิเตอร์ไม่ถูกต้อง | ขั้นตอนถัดไปแก้ฟิลด์ที่ระบุก่อนส่งคำขอสร้างครั้งใหม่ |
Ailoot Ultra Tongyi-Zhiwen/QwenLong-L1-32B
ใช้พาธเมธอดที่แสดงด้านบน
Tongyi-Zhiwen/QwenLong-L1-32BQwenLong-L1-32B เป็นโมเดลให้เหตุผลด้วยข้อความของ Tongyi Lab สำหรับคำถามที่อิงเอกสารยาว ผสานจุดเริ่มจาก DeepSeek-R1-Distill-Qwen-32B กับ reinforcement learning ที่เน้นเอกสาร เพื่อให้เหตุผลเชิงตัวเลข ตรรกะ และข้ามเอกสาร
คำอธิบายนี้ครอบคลุมความสามารถของโมเดล อินพุต เอาต์พุต และตัวเลือกที่ใช้ได้ใน Ailoot แสดงด้านล่างตามเมธอดที่เลือก
บทนำ: การให้เหตุผลจากเอกสารยาว
QwenLong-L1-32B เป็นโมเดลให้เหตุผลด้วยข้อความบริบทยาวของ Tongyi Lab มีเป้าหมายตอบคำถามที่หลักฐานกระจายอยู่ทั่วเอกสารหรือหลายเอกสาร แทนการทวนข้อความที่อยู่ใกล้ ๆ สร้างจาก DeepSeek-R1-Distill-Qwen-32B และฝึกต่อเพื่อให้เหตุผลโดยอิงเอกสาร ส่งข้อความและคำถาม แล้วโมเดลสร้างลำดับการให้เหตุผลกับคำตอบเป็นข้อความ หน้าสแกน เสียง และวิดีโอต้องมีขั้นตอนแปลงแยกที่เหมาะสมก่อนเข้าสู่ขั้นตอนงานข้อความนี้
การฝึกบริบทยาวทำงานอย่างไร
กรอบ QwenLong-L1 อุ่นเครื่องนโยบายการให้เหตุผลด้วย supervised fine-tuning ก่อน แล้วเพิ่มความยาวบริบทผ่านหลักสูตร reinforcement learning การสุ่มตัวอย่างย้อนหลังที่คำนึงถึงความยากปรับว่าตัวอย่างใดจะถูกนำมาทบทวนเมื่อการฝึกคืบหน้า ผู้ผลิตผสานรางวัลผลลัพธ์แบบไบนารีที่อิงกฎกับอิงโมเดล โดยใช้ group-relative policy optimization เพื่อกระตุ้นคำตอบที่ยังยึดหลักฐานยาว นี่อธิบายวิธีฝึก checkpoint ไม่ได้หมายความว่าคำตอบแต่ละรายการผ่านการยืนยันอัตโนมัติจากผู้ตัดสินภายนอก
รุ่นที่เผยแพร่
นี่คือ QwenLong-L1-32B รุ่นต้นฉบับ ส่วน QwenLong-L1-32B-AWQ ที่มีชื่อแยกเป็นรุ่น quantized INT4 และควรคงตัวตนของตน การกำหนดค่าที่เผยแพร่ของโมเดลนี้ใช้สถาปัตยกรรม causal-language-model Qwen2 ที่มี 64 ชั้นและน้ำหนัก bfloat16 ความเชี่ยวชาญเอกสารของโมเดลเกี่ยวข้องกับการเลือกใช้มากกว่าการถือว่าชื่อ 32B เป็นหลักฐานว่าทุกงานทั่วไปจะดีขึ้น
การเตรียมคำถามเอกสาร
ตัวอย่างผู้ผลิตแยกเอกสารจากคำถามด้วยตัวคั่นข้อความชัดเจน และขอวลีคำตอบสุดท้ายที่รู้จำได้หลังการให้เหตุผล ทำตามโครงสร้างนั้นโดยส่งเนื้อหาเอกสารที่เกี่ยวข้อง รักษาหัวข้อกับตารางให้อ่านได้ และถามคำถามที่เป็นรูปธรรมหนึ่งข้อ สำหรับการคำนวณจากรายงาน ให้คงหน่วย รอบรายงาน และป้ายตาราง แล้วขอสูตร ค่าที่ใช้ และผลสุดท้าย สำหรับการเปรียบเทียบนโยบาย ให้ติดป้ายเอกสาร A และ B แล้วขอตารางกฎที่ตรงกัน ความต่าง และหัวข้อสนับสนุนแต่ละแถว นี่คือการประยุกต์ที่ผู้เขียนจัดทำจากความสามารถเชิงตัวเลขและข้ามเอกสารตามเอกสาร
ตัวอย่างแยกวิเคราะห์ข้อความให้เหตุผลกับคำตอบสุดท้ายออกจากกัน ใช้งบการสร้าง 10,000 โทเคน temperature 0.7 และ top_p 0.95 ค่าเหล่านี้เป็นการตั้งค่าตัวอย่าง ไม่ใช่ความยาวผลลัพธ์สูงสุดที่ประกาศ การ์ดยังแสดงข้อความ system สำหรับกำหนดตัวตนแบบเลือกใช้ รักษาคำแนะนำพรอมป์ต์ของโมเดลนี้เอง แทนการนำคำแนะนำของ checkpoint อื่นมาใช้เพียงเพราะเป็นบรรพบุรุษของโมเดล
การประมวลผลเอกสารยาว
Tongyi Lab ตรวจยืนยันความยาวบริบทสูงสุด 131,072 โทเคนด้วย YaRN และแนะนำการขยายเมื่ออินพุตรวมผลลัพธ์เกิน 32,768 โทเคนอย่างมีนัยสำคัญ ตัวอย่างอธิบาย factor สี่ หรือค่าน้อยกว่า เช่น สอง สำหรับงาน 65,536 โทเคน การขยายแบบ static อาจลดประสิทธิภาพกับข้อความสั้น การ์ดจึงไม่แนะนำให้เปิดเมื่อคำขอปกติอยู่ภายใน 32,768 โทเคน การกำหนดค่าที่เผยแพร่ระบุ 131,072 ตำแหน่งแต่ไม่มีฟิลด์ rope_scaling ที่เปิดใช้ จึงควรตรวจการกำหนดค่าควบคู่กับขั้นตอนบริบทยาวแบบมีเงื่อนไขของผู้ผลิต
อินพุตยาวยังต้องเผื่อพื้นที่สำหรับการให้เหตุผลและคำตอบ เริ่มจากข้อความที่คำถามต้องใช้ ตัดหัวกระดาษและข้อความนำทางที่ซ้ำ แล้วเก็บตัวระบุหน้าหรือหัวข้อ ขอการอ้างหลักฐานในผลลัพธ์เพื่อให้ผู้ตรวจทานไล่ข้อสรุปกลับไปยังต้นฉบับได้ บริบทขนาดใหญ่ช่วยวางหลักฐานมากขึ้นในคำขอเดียว ไม่ได้รับประกันการจำทุกรายละเอียดได้สมบูรณ์
การฝึกเอกสารครอบคลุมอะไร
DocQA-RL-1.6K มีโจทย์ฝึก 1,600 ข้อในสามด้านการให้เหตุผล ได้แก่ คำถามเชิงตัวเลข 600 ข้อจากเอกสารเฉพาะทางยาว เช่น รายงานการเงิน คำถามปรนัยเชิงตรรกะ 600 ข้อเกี่ยวกับเอกสารกฎหมาย การเงิน ประกันภัย และการผลิต และตัวอย่างหลายทอด 400 ข้อที่เชื่อมหลักฐานข้ามแหล่งข้อมูล ทำให้โมเดลเป็นตัวเลือกที่เกี่ยวข้องสำหรับคำนวณจากรายงาน ตีความกฎ และคำถามที่ต้องใช้หลายข้อความสนับสนุน ด้านการฝึกอธิบายประสบการณ์กับงานเหล่านั้น ไม่ใช่การรับรองวิชาชีพหรือข้อสรุปที่รับประกัน
ผลลัพธ์เชิงปฏิบัติและขีดจำกัด
เลือกคำตอบที่ตรวจได้ เช่น ค่าคำนวณพร้อมหน่วย การเปรียบเทียบกฎพร้อมอ้างหัวข้อ หรือข้อสรุปสั้นพร้อมลำดับข้อเท็จจริงสนับสนุน หากเอกสารไม่มีวันที่หรือนิยามที่ต้องใช้ ให้โมเดลระบุหลักฐานที่ขาดแทนการแต่งขึ้น เอกสารเผยแพร่เน้นการตอบคำถามเอกสารและไม่ได้ระบุข้อกำหนดการเรียกเครื่องมือเฉพาะหรือเพดานผลลัพธ์ตายตัวแยก ให้ถือคำตอบเป็นร่างที่อิงหลักฐาน และตรวจการคำนวณ การอ้างอิง และการตีความเทียบกับเอกสารที่ให้มา
POST /v1/messagestextjson, sse| ฟิลด์ | ประเภท | ข้อกำหนด | ค่าและข้อจำกัด | ค่าเริ่มต้น |
|---|---|---|---|---|
ฟิลด์model | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด Tongyi-Zhiwen/QwenLong-L1-32B | ค่าเริ่มต้น— |
ฟิลด์messages | ประเภทmessage[] | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์messages[].role | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด user, assistant | ค่าเริ่มต้น— |
ฟิลด์messages[].content | ประเภทstring | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์max_tokens | ประเภทinteger | ข้อกำหนดจำเป็น | ค่าและข้อจำกัด | ค่าเริ่มต้น— |
ฟิลด์stream | ประเภทboolean | ข้อกำหนดไม่บังคับ | ค่าและข้อจำกัด | ค่าเริ่มต้นfalse |
ข้อความ · ข้อความ UTF-8
สตริง messages[].content
| พารามิเตอร์ | ข้อกำหนด |
|---|---|
พารามิเตอร์content_type | ข้อกำหนดapplication/json |
พารามิเตอร์required | ข้อกำหนดmodel, messages, max_tokens |
พารามิเตอร์optional_controls | ข้อกำหนดstream |
พารามิเตอร์material_types | ข้อกำหนดtext |
พารามิเตอร์text_file_material | ข้อกำหนดอ่านเอกสาร UTF-8 จริง แล้วใส่ข้อความใน input หรือสตริงเนื้อหาข้อความที่ระบุ |
วงจรการทำงาน: synchronous_or_streamed
ข้อมูลอัตราราคาไม่ได้เพิ่มตัวเลือกคำขอ พารามิเตอร์ที่รองรับระบุไว้สำหรับเมธอดที่เลือก
| การตั้งค่า | ตารางอัตราค่าบริการ | ค่าบริการ |
|---|---|---|
| การตั้งค่าอัตราราคาพื้นฐานของโทเคน | ตารางอัตราค่าบริการอัตราพื้นฐาน | ค่าบริการ ขาเข้า · โทเค็นอินพุต $0.00028 / 1K โทเค็น ขาออก · โทเค็นเอาต์พุต $0.0012 / 1K โทเค็น ขาเข้า · การอ่านแคช $0 / 1K โทเค็น ขาเข้า · การเขียนแคช $0 / 1K โทเค็น ขาเข้า · การเขียนแคช, 1 ชั่วโมง — / 1K โทเค็น |
Ailoot กันยอดเงินประมาณการไว้ก่อนส่งคำขอ หลังได้ผลลัพธ์ จะคิดค่าบริการสุดท้ายตามการใช้งานที่วัดได้ การคิดค่าบริการแบบสตรีมใช้บันทึกการใช้งานสุดท้าย วิธีกันยอดเงินและคิดค่าบริการสุดท้าย →
{\n "model": "Tongyi-Zhiwen/QwenLong-L1-32B",\n "max_tokens": 128,\n "messages": [\n {\n "role": "user",\n "content": "Summarize the incident report."\n }\n ],\n "stream": false\n}set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 document}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Tongyi-Zhiwen/QwenLong-L1-32B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nPath('request.json').write_text(json.dumps(payload, ensure_ascii=False), encoding='utf-8')\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "x-api-key: $AILOOT_API_KEY" -H 'anthropic-version: 2023-06-01' -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nPY_RESULT\nimport json, os\nfrom pathlib import Path\n\nsource_file = Path(os.environ['AILOOT_TEXT_FILE'])\nif not source_file.is_file():\n raise SystemExit('Set AILOOT_TEXT_FILE to your actual UTF-8 document')\ntext = source_file.read_text(encoding='utf-8')\nif not text.strip():\n raise SystemExit('Choose a document containing text')\npayload = {'model': 'Tongyi-Zhiwen/QwenLong-L1-32B', 'max_tokens': 128, 'messages': [{'role': 'user', 'content': 'Summarize the incident report.'}]}\npayload['messages'][0]['content'] = 'Summarize this material and quote supporting source passages.\\n\\n' + text\nfrom urllib.request import Request, urlopen\nfrom urllib.error import HTTPError\n\napi_key = os.environ['AILOOT_API_KEY']\nif not api_key.strip():\n raise SystemExit('Set AILOOT_API_KEY before making a request')\nheaders = {'x-api-key': 'PLACEHOLDER_KEY', 'anthropic-version': '2023-06-01', 'Content-Type': 'application/json'}\nheaders['x-api-key'] = api_key\nrequest = Request('https://api.ailoot.ai/v1/messages', data=json.dumps(payload, ensure_ascii=False).encode('utf-8'), headers=headers, method='POST')\ntry:\n with urlopen(request, timeout=120) as response:\n raw = response.read()\n Path('response-headers.txt').write_text(str(response.headers), encoding='utf-8')\nexcept HTTPError as error:\n Path('result.json').write_bytes(error.read())\n Path('response-headers.txt').write_text(str(error.headers), encoding='utf-8')\n raise\nPath('result.json').write_bytes(raw)\nimport json\nfrom pathlib import Path\n\nresult = json.loads(Path('result.json').read_text(encoding='utf-8'))\nprint(json.dumps(result, ensure_ascii=False, indent=2))\nJSON หรือ SSE
เก็บทุกการตอบกลับ ไฟล์ และส่วนเนื้อหาที่ส่งกลับมาอย่างครบถ้วน
เก็บทุกบล็อกเนื้อหา ลายเซ็นการคิด และ ID การใช้เครื่องมือจริง ประกอบส่วนเพิ่มของบล็อก SSE ทั้งหมด บล็อกข้อความแรกไม่ใช่ผลลัพธ์ทั้งหมด
เก็บ ID และส่วนหัวของคำขอ/คำตอบ ไม่มี URL ทั่วไปสำหรับดึงงานข้อความให้ใช้
| ฟิลด์ | ประเภท |
|---|---|
ฟิลด์id | ประเภทstring |
ฟิลด์model | ประเภทstring |
ฟิลด์content[] | ประเภทtext|thinking|tool_use|other content block |
ฟิลด์stop_reason | ประเภทstring|null |
ฟิลด์usage | ประเภทobject |
| การตอบกลับ | เงื่อนไข | ขั้นตอนถัดไป |
|---|---|---|
การตอบกลับ400 · invalid_request_error | เงื่อนไขฟิลด์จำเป็น รูปแบบการแทนข้อมูล หรือค่าพารามิเตอร์ไม่ถูกต้อง | ขั้นตอนถัดไปแก้ฟิลด์ที่ระบุก่อนส่งคำขอสร้างครั้งใหม่ |
Ailoot Ultra Tongyi-Zhiwen/QwenLong-L1-32B
ใช้พาธเมธอดที่แสดงด้านบน
ตัวอย่างทางเทคนิคภาษาอังกฤษ
Connect evidence across report sections\n\nDocument section 1 says 240 units were shipped. Section 4 says 30 shipped units were returned before month end. Appendix A says net shipped units equal shipped minus returned units. Calculate net shipped units for the month, cite every section needed and state whether revenue can be calculated from these facts. End with a clearly labelled final answer.A source-linked formula and calculation, a revenue-information limit and a labelled final result.Check that all three source sections support the calculation and that a price or revenue value is not invented.