LiteLLM

Salin konfigurasi dan gantikan sk-... dengan kunci anda daripada panel pengguna Ailoot. Sebaiknya simpan kunci dalam pemboleh ubah persekitaran AILOOT_API_KEY, jika aplikasi menyokongnya.

Sebelum bermula, panggil GET /v1/models dengan kunci Ailoot anda. Pilih ID model tepat yang kaedahnya merangkumi POST /v1/chat/completions, kemudian gunakannya dalam konfigurasi. Untuk ejen, semak juga sokongan alat dan ciri yang diperlukan oleh versi klien anda.

import os
import litellm
r = litellm.completion(
    model="openai/claude-sonnet-5-5",
    api_base="https://api.ailoot.ai/v1",
    api_key=os.environ["AILOOT_API_KEY"],
    messages=[{"role": "user", "content": "Helo"}])
print(r.choices[0].message.content)
# pembenaman: litellm.embedding(model="openai/nemotron-3-embed", api_base="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], input=["teks"])

Contoh model: openai/claude-sonnet-5-5, openai/qwen3.8-max, openai/nemotron-3-embed. Ambil mana-mana model lain daripada katalog — pastikan model mempunyai format yang diperlukan.

• Alamat untuk format OpenAI ialah https://api.ailoot.ai/v1 (atau laluan penuh, jika aplikasi meminta alamat penuh).
• Ajukan soalan ringkas. Jika ralat diterima, semak kod dan Request ID serta rujuk halaman Ralat dan had.
• 404 sejurus selepas konfigurasi hampir selalu bermaksud alamat tidak betul: terdapat lebihan atau kekurangan /v1.
• 402 — baki tidak mencukupi untuk rizab. Ejen merizabkan lebih banyak daripada sembang: sebabnya.

Dokumentasi aplikasi: https://docs.litellm.ai/docs/providers/openai_compatible