LlamaIndex
MarkdownKeretrendszer · OpenAI Chat
Teljes útmutató
| Formátum | Hol állítható be? |
|---|---|
| OpenAI Chat | llama-index-llms-openai-like csomag, OpenAILike(api_base=..., api_key=..., model=..., is_chat_model=True) osztály |
Beállítás
Másolja le a konfigurációt, és cserélje ki a sk-... értéket a saját Ailoot-fiókkulcsára. Érdemes a kulcsot a következő környezeti AILOOT_API_KEYváltozóban tárolni, ha az alkalmazás támogatja.
Indítás előtt hívd meg a GET /v1/models végpontot az Ailoot-kulcsoddal. Válassz pontos modellazonosítót, amelynek metódusai között szerepel POST /v1/chat/completions, és ezt használd a beállításban. Ügynököknél ellenőrizd az eszközkezelést és a kliensverziódhoz szükséges funkciókat is.
pip install llama-index-llms-openai-likeimport os
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
model="deepseek-v4-pro",
api_base="https://api.ailoot.ai/v1",
api_key=os.environ["AILOOT_API_KEY"],
is_chat_model=True,
is_function_calling_model=True,
context_window=128000)
print(llm.complete("Szia"))Példamodell: deepseek-v4-pro, claude-sonnet-5-5, gpt-6.1-sol. Más modelleket a katalógusból válasszon — ellenőrizze, hogy támogatják-e a szükséges formátumot.
Fontos tudnivalók
Ellenőrzés
- OpenAI formátumnál a cím:
https://api.ailoot.ai/v1(vagy a teljes útvonal, ha az alkalmazás teljes címet kér). - Tegyen fel egy rövid kérdést. Ha hiba érkezik, nézze meg a kódot és a Request ID-t, majd vesse össze ezzel az oldallal: Hibák és korlátok.
- A közvetlenül a beállítás után érkező 404-es hiba szinte mindig hibás címet jelent: felesleges vagy hiányzó
/v1. - 402 — az egyenleg nem fedezi a zárolást. Az ügynökök többet zárolnak, mint a csevegők: miért?.
Az alkalmazás dokumentációja: https://developers.llamaindex.ai/python/framework-api-reference/llms/openai_like/