LiteLLM Proxy

Oma yhdyskäytävä · OpenAI Chat

Koko opas

Muoto	Missä asetetaan
OpenAI Chat	config.yaml → model_list → litellm_params (model, api_base, api_key); käynnistys litellm --config config.yaml

Asetukset

Kopioi konfiguraatio ja korvaa sk-... omalla Ailootin hallintapaneelin avaimellasi. Avain kannattaa säilyttää ympäristömuuttujassa AILOOT_API_KEY, jos sovellus tukee sitä.

Kutsu ennen käynnistystä GET /v1/models omalla Ailoot-avaimellasi. Valitse tarkka mallitunnus, jonka menetelmiin kuuluu POST /v1/chat/completions, ja käytä sitä asetuksissa. Tarkista agentteja varten myös työkalutuki ja asiakasversiosi tarvitsemat ominaisuudet.

model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# käynnistys: litellm --config config.yaml

Tämä asetus lukee avaimen muuttujasta AILOOT_API_KEY. Määritä se ennen sovelluksen käynnistämistä:

export AILOOT_API_KEY="sk-..."   # lisää tiedostoon ~/.zshrc tai ~/.bashrc

setx AILOOT_API_KEY "sk-..."   # käynnistä sitten terminaali uudelleen

Esimerkkimalli: openai/claude-sonnet-5-5, openai/gpt-6.1-sol. Valitse muut mallit luettelosta — tarkista, että malli tukee tarvittavaa muotoa.

Hyvä tietää

Tarkistus

OpenAI-muodon osoite on https://api.ailoot.ai/v1 (tai koko polku, jos sovellus pyytää koko osoitetta).
Esitä lyhyt kysymys. Jos saat virheen, katso koodi ja Request ID ja tarkista ohjeet sivulta Virheet ja rajoitukset.
404 heti asetusten jälkeen tarkoittaa lähes aina väärää osoitetta: ylimääräinen tai puuttuva /v1.
402 — saldo ei riitä varaukseen. Agentit varaavat chatia enemmän: miksi.

Sovelluksen dokumentaatio: https://docs.litellm.ai/docs/providers/openai_compatible

Onko vielä kysyttävää? Lähetä Request ID ja kuvaus — autamme selvittämään asian.Ota yhteyttä tukeen