Source: https://ailoot.ai/docs/kk/integrations/litellm-proxy/
Canonical: https://ailoot.ai/docs/kk/integrations/litellm-proxy/
Language: kk

[SDK мен фреймворктер](https://ailoot.ai/docs/kk/integrations/#sdk) 

# LiteLLM Proxy

[Markdown](https://ailoot.ai/docs/kk/integrations/litellm-proxy/index.md)

Өз шлюзіңіз · OpenAI Chat

| Формат | Қайда баптау керек |
| --- | --- |
| OpenAI Chat | config.yaml → model\_list → litellm\_params (model, api\_base, api\_key); іске қосу: litellm --config config.yaml |

## [](https://ailoot.ai/docs/kk/integrations/litellm-proxy/#setup)Баптау

Конфигурацияны көшіріп, мынаны ауыстырыңыз: `sk-...` Ailoot жеке кабинетіңіздегі кілтке. Кілтті мына орта айнымалысында сақтаған дұрыс: `AILOOT_API_KEY`, қолданба мұны қолдаса.

Іске қоспас бұрын Ailoot кілтіңізбен GET /v1/models сұрауын жіберіңіз. Әдістері POST /v1/chat/completions қамтитын нақты модель ID мәнін таңдап, баптауда қолданыңыз. Агенттер үшін клиент нұсқасына қажетті құралдар мен мүмкіндіктердің қолдауын да тексеріңіз.

```yaml
model_list:
  - model_name: claude-sonnet
    litellm_params:
      model: openai/claude-sonnet-5-5
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY
  - model_name: gpt-sol
    litellm_params:
      model: openai/gpt-6.1-sol
      api_base: https://api.ailoot.ai/v1
      api_key: os.environ/AILOOT_API_KEY

# іске қосу: litellm --config config.yaml
```

Бұл баптау кілтті мына айнымалыдан оқиды: `AILOOT_API_KEY`. Оны қолданбаны іске қоспас бұрын орнатыңыз:

```bash
export AILOOT_API_KEY="sk-..."   # ~/.zshrc немесе ~/.bashrc файлына қосыңыз
```

```powershell
setx AILOOT_API_KEY "sk-..."   # содан кейін терминалды қайта іске қосыңыз
```

Модель мысалы: `openai/claude-sonnet-5-5, openai/gpt-6.1-sol`. Кез келген басқа модельді мына жерден алыңыз: [каталогтан](https://ailoot.ai/models/kk/) — оның қажетті форматты қолдайтынын тексеріңіз.

## [](https://ailoot.ai/docs/kk/integrations/litellm-proxy/#notes)Білу маңызды

Бір Ailoot кілтінің үстінен командаға өз ішкі кілттеріңізді тарату қажет болса, прокси пайдалы. Ailoot ішіндегі есептен шығару api\_key ішінде көрсетілген кілтке жазылады. Мекенжай /v1 бөлігімен.

## [](https://ailoot.ai/docs/kk/integrations/litellm-proxy/#check)Тексеру

- OpenAI форматы үшін мекенжай — `https://api.ailoot.ai/v1` (немесе қолданба толық мекенжай сұраса, толық жол).
- Қысқа сұрақ қойыңыз. Қате келсе, код пен Request ID-ді қарап, мына бетпен салыстырыңыз: [Қателер және лимиттер](https://ailoot.ai/docs/kk/errors/).
- Баптаудан кейін бірден шыққан 404 әрдайым дерлік мекенжайдың қате екенін білдіреді: артық немесе жетіспейтін `/v1`.
- 402 — резервке баланс жетпейді. Агенттер чатқа қарағанда көбірек резервтейді: [неге](https://ailoot.ai/docs/kk/billing/reserve/).

Қолданба құжаттамасы: [https://docs.litellm.ai/docs/providers/openai\_compatible](https://docs.litellm.ai/docs/providers/openai_compatible)

Сұрақтарыңыз қалды ма? Request ID мен сипаттаманы жіберіңіз — мәселені анықтауға көмектесеміз.[Қолдау қызметіне жазу](mailto:support@ailoot.ai)

## Ailoot · Компания және оның жобалар портфелі





Ailoot жинақталған жұмыс тәжірибесіне, кең клиенттік базаға, тұрақты қызметке және KPI көрсеткіштерін үздіксіз бақылауға сүйенеді.





Компания және оның жобалар портфелі: миллиондаған клиент; ай сайынғы сату көлемі миллиардтармен есептеледі.





Ailoot осы тәжірибені клиенттердің өнімдерінде, агенттерінде, қолданбаларында және автоматтандыруларында жасанды интеллект мүмкіндіктеріне API арқылы қол жеткізуді қамтамасыз етуге пайдаланады.
