docs
แผงควบคุม
SDK และเฟรมเวิร์ก

LiteLLM Proxy

Markdown

เกตเวย์ที่ตั้งเอง · OpenAI Chat

คู่มือฉบับเต็ม
รูปแบบตั้งค่าที่ไหน
OpenAI Chatconfig.yaml → model_list → litellm_params (model, api_base, api_key); เริ่มใช้งานด้วย litellm --config config.yaml

การตั้งค่า

คัดลอกการตั้งค่าและแทนที่ sk-... ด้วยคีย์ของคุณจากหน้าบัญชี Ailoot ควรเก็บคีย์ไว้ในตัวแปรสภาพแวดล้อม AILOOT_API_KEYหากแอปรองรับ.

ก่อนเริ่ม ให้เรียก GET /v1/models ด้วยคีย์ Ailoot ของคุณ เลือก ID รุ่นที่ตรงกันและมีเมธอด POST /v1/chat/completions แล้วใช้ ID นั้นในการตั้งค่า สำหรับเอเจนต์ ให้ตรวจสอบการรองรับเครื่องมือและคุณสมบัติที่ไคลเอนต์เวอร์ชันของคุณต้องใช้ด้วย

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# เรียกใช้: litellm --config config.yaml

การตั้งค่านี้อ่านคีย์จากตัวแปร AILOOT_API_KEY. กำหนดตัวแปรนี้ก่อนเริ่มแอป:

export AILOOT_API_KEY="sk-..."   # เพิ่มใน ~/.zshrc หรือ ~/.bashrc

ตัวอย่างโมเดล: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. เลือกโมเดลอื่นได้จาก แค็ตตาล็อก — ตรวจ⁠สอบว่าโมเดลนั้นรองรับรูปแบบที่ต้องการ.

สิ่งที่ควรทราบ

การทดสอบ

  • สำหรับรูปแบบ OpenAI ใช้ที่อยู่ https://api.ailoot.ai/v1 (หรือพาธเต็ม หากแอปขอที่อยู่เต็ม).
  • ลองถามคำถามสั้น ๆ หากได้รับข้อผิดพลาด ให้ดูรหัสและ Request ID แล้วเทียบกับหน้า ข้อผิดพลาดและขีดจำกัด.
  • 404 ทันทีหลังตั้งค่ามักหมายถึงที่อยู่ไม่ถูกต้อง โดยใส่ส่วนนี้เกินมาหรือขาดไป /v1.
  • 402 หมายถึงยอดเงินไม่พอสำหรับกันวงเงิน เอเจนต์กันวงเงินมากกว่าแชต: เหตุผล.

เอกสารของแอป: https://docs.litellm.ai/docs/providers/openai_compatible

ยังมีคำถามอยู่ใช่ไหม ส่ง Request ID และรายละเอียดมาให้เรา เราจะช่วยตรวจ⁠สอบติดต่อฝ่ายสนับสนุน
เข้าสู่ระบบสมัครสมาชิกแผงควบคุม
ราคา