docs
Pokalbių programos

AnythingLLM

Markdown

Pokalbis su dokumentais · OpenAI Chat

Visas vadovas
FormatasKur nustatyti
OpenAI ChatSettings > AI Providers > LLM > Generic OpenAI (Docker: env LLM_PROVIDER='generic-openai')

Nustatymas

Nukopijuokite konfigūraciją ir pakeiskite sk-... savo raktu iš Ailoot paskyros. Geriau raktą laikyti aplinkos kintamajame AILOOT_API_KEY, jei programa tai palaiko.

Prieš paleisdami iškvieskite GET /v1/models su savo Ailoot raktu. Pasirinkite tikslų modelio ID, kurio metodai apima POST /v1/chat/completions, ir naudokite jį konfigūracijoje. Agentams taip pat patikrinkite įrankių palaikymą ir jūsų kliento versijai reikalingas funkcijas.

UI: Base URL = https://api.ailoot.ai/v1
API Key = sk-...
Chat Model Name = deepseek-v4-pro
Token context window = pagal modelį

Docker .env:
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.ailoot.ai/v1'
GENERIC_OPEN_AI_MODEL_PREF='deepseek-v4-pro'
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=128000
GENERIC_OPEN_AI_API_KEY='sk-...'

Modelio pavyzdys: deepseek-v4-pro. Bet kurį kitą modelį rinkitės iš katalogo — patikrinkite, ar jis turi reikiamą formatą.

Svarbu žinoti

Patikra

  • OpenAI formato adresas — https://api.ailoot.ai/v1 (arba visas kelias, jei programa prašo viso adreso).
  • Užduokite trumpą klausimą. Jei gavote klaidą, peržiūrėkite kodą ir Request ID bei palyginkite su puslapiu Klaidos ir limitai.
  • 404 iškart po nustatymo beveik visada reiškia neteisingą adresą: perteklinį arba trūkstamą /v1.
  • 402 — nepakanka balanso rezervui. Agentai rezervuoja daugiau nei pokalbis: kodėl.

Programos dokumentacija: https://docs.anythingllm.com/setup/llm-configuration/cloud/openai-generic

Liko klausimų? Atsiųskite Request ID ir aprašymą — padėsime išsiaiškinti.Rašyti pagalbos tarnybai