AnythingLLM

Sao chép cấu hình và thay sk-... bằng khóa của bạn từ trang quản lý tài khoản Ailoot. Nên lưu khóa trong biến môi trường AILOOT_API_KEY, nếu ứng dụng hỗ trợ.

Trước khi chạy, gọi GET /v1/models bằng khóa Ailoot của bạn. Chọn ID mô hình chính xác có các phương thức POST /v1/chat/completions rồi dùng ID đó trong cấu hình. Với tác tử, hãy kiểm tra cả công cụ và tính năng mà phiên bản ứng dụng của bạn cần.

UI: Base URL = https://api.ailoot.ai/v1
API Key = sk-...
Chat Model Name = deepseek-v4-pro
Token context window = theo mô hình

Docker .env:
LLM_PROVIDER='generic-openai'
GENERIC_OPEN_AI_BASE_PATH='https://api.ailoot.ai/v1'
GENERIC_OPEN_AI_MODEL_PREF='deepseek-v4-pro'
GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=128000
GENERIC_OPEN_AI_API_KEY='sk-...'

Mô hình ví dụ: deepseek-v4-pro. Chọn bất kỳ mô hình khác từ danh mục — kiểm tra xem mô hình đó có định dạng cần thiết hay không.

• Với định dạng OpenAI, địa chỉ là https://api.ailoot.ai/v1 (hoặc đường dẫn đầy đủ nếu ứng dụng yêu cầu địa chỉ đầy đủ).
• Đặt một câu hỏi ngắn. Nếu nhận được lỗi, hãy xem mã lỗi và Request ID rồi đối chiếu với trang Lỗi và giới hạn.
• Lỗi 404 ngay sau khi cấu hình hầu như luôn là do địa chỉ sai: thừa hoặc thiếu /v1.
• 402 — số dư không đủ cho khoản giữ trước. Tác nhân giữ trước nhiều tiền hơn ứng dụng trò chuyện: lý do.

Tài liệu của ứng dụng: https://docs.anythingllm.com/setup/llm-configuration/cloud/openai-generic