AnythingLLM
MarkdownPokalbis su dokumentais · OpenAI Chat
Visas vadovas
| Formatas | Kur nustatyti |
|---|---|
| OpenAI Chat | Settings > AI Providers > LLM > Generic OpenAI (Docker: env LLM_PROVIDER='generic-openai') |
Nustatymas
Nukopijuokite konfigūraciją ir pakeiskite sk-... savo raktu iš Ailoot paskyros. Geriau raktą laikyti aplinkos kintamajame AILOOT_API_KEY, jei programa tai palaiko.
Prieš paleisdami iškvieskite GET /v1/models su savo Ailoot raktu. Pasirinkite tikslų modelio ID, kurio metodai apima POST /v1/chat/completions, ir naudokite jį konfigūracijoje. Agentams taip pat patikrinkite įrankių palaikymą ir jūsų kliento versijai reikalingas funkcijas.
UI: Base URL = https://api.ailoot.ai/v1
API Key = sk-...
Chat Model Name = deepseek-v4-pro
Token context window = pagal modelį
Docker .env:
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.ailoot.ai/v1'
GENERIC_OPEN_AI_MODEL_PREF='deepseek-v4-pro'
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=128000
GENERIC_OPEN_AI_API_KEY='sk-...'Modelio pavyzdys: deepseek-v4-pro. Bet kurį kitą modelį rinkitės iš katalogo — patikrinkite, ar jis turi reikiamą formatą.
Svarbu žinoti
Patikra
- OpenAI formato adresas —
https://api.ailoot.ai/v1(arba visas kelias, jei programa prašo viso adreso). - Užduokite trumpą klausimą. Jei gavote klaidą, peržiūrėkite kodą ir Request ID bei palyginkite su puslapiu Klaidos ir limitai.
- 404 iškart po nustatymo beveik visada reiškia neteisingą adresą: perteklinį arba trūkstamą
/v1. - 402 — nepakanka balanso rezervui. Agentai rezervuoja daugiau nei pokalbis: kodėl.
Programos dokumentacija: https://docs.anythingllm.com/setup/llm-configuration/cloud/openai-generic
Liko klausimų? Atsiųskite Request ID ir aprašymą — padėsime išsiaiškinti.Rašyti pagalbos tarnybai