DeepSeek: DeepSeek V3.1

DeepSeek V3.1 là mô hình văn bản lai với chế độ suy nghĩ và phản hồi trực tiếp trong một phiên bản. Ngữ cảnh 128K và cấu hình sử dụng công cụ cải thiện hỗ trợ lập trình, phân tích tài liệu, tìm kiếm do ứng dụng cung cấp, với kết quả là văn bản hoặc lời gọi công cụ đề xuất.

Ailoot Ultra · OpenAI Chat POST /v1/chat/completions deepseek-v3.1-thinking

Về mô hình

Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.

DeepSeek V3.1 là mô hình văn bản lai của DeepSeek: cùng một phiên bản có tên hỗ trợ phản hồi suy nghĩ và không suy nghĩ qua các thiết lập mẫu trò chuyện khác nhau. Nhà sản xuất nhấn mạnh sử dụng công cụ, nhiệm vụ tác tử và hiệu quả suy luận được cải thiện so với mô hình trước. Mô hình nhận chỉ dẫn viết và ngữ cảnh văn bản, tạo câu trả lời, mã hoặc nội dung lời gọi công cụ. Định danh V3.1 gốc tách biệt với Terminus, V3.2 và dòng V4.

Thẻ mô hình liệt kê tổng cộng 671 tỷ tham số, 37 tỷ tham số hoạt động và ngữ cảnh 128K cho cả phiên bản nền tảng lẫn hậu huấn luyện. V3.1 phát triển từ nền tảng V3 gốc với huấn luyện mở rộng trên tài liệu dài trước hậu huấn luyện. Cấu trúc hỗn hợp chuyên gia và attention tiềm ẩn theo kiến trúc V3. Các đặc điểm thiết kế giải thích cấu hình văn bản ngữ cảnh dài mà không biến con số ngữ cảnh thành thông số đầu ra tối đa riêng.

Chế độ không suy nghĩ chuẩn bị phản hồi trực tiếp, còn chế độ suy nghĩ bắt đầu giai đoạn suy luận trước câu trả lời. Mẫu của nhà sản xuất dùng dấu đóng suy nghĩ cho phản hồi trực tiếp và dấu mở suy nghĩ cho lượt suy luận hiện tại. Trong hội thoại nhiều lượt, nội dung suy luận trước bị loại bỏ, còn phản hồi cuối và dấu đóng vẫn ở trong ngữ cảnh. Đây là quy tắc lịch sử V3.1 gốc, khác với quy tắc V3.2 sau đó giữ suy luận qua các thông điệp liên quan công cụ.

Gọi công cụ tiêu chuẩn được ghi nhận ở chế độ không suy nghĩ. Ứng dụng cung cấp tên hàm, mô tả và lược đồ tham số; mô hình trả tên công cụ đã chọn và đối số JSON theo biểu diễn lời gọi công cụ của nhà sản xuất. Ứng dụng thực thi thao tác và trả kết quả. Giao mục đích cụ thể cho công cụ, giữ quan sát trả về gắn với lời gọi để bước mô hình tiếp theo có bằng chứng thay vì giả định hành động đã xảy ra.

Tìm kiếm ở chế độ suy nghĩ dùng định dạng tác tử tìm kiếm chuyên biệt riêng. DeepSeek ghi nhận công cụ tìm kiếm do người dùng cung cấp cho câu hỏi cần thông tin bên ngoài hoặc hiện tại, với lời gọi và quan sát lặp lại qua nhiều lượt. Vì vậy, tìm kiếm là một phần quy trình bao quanh, không phải tuyên bố phản hồi văn bản tự duyệt web. Xác định câu hỏi, tiêu chí nguồn và câu trả lời cuối cần nhận trước khi nhiệm vụ tìm kiếm bắt đầu.

Với lập trình, cung cấp đoạn hoặc tệp liên quan, hành vi quan sát được, hành vi mong đợi và ràng buộc cần giữ. Một đề bài minh họa là: “Xác định nguyên nhân lỗi này với đầu vào được cung cấp, đề xuất cách sửa tập trung và giải thích điều kiện thay đổi xử lý.” Với nhiệm vụ tài liệu, gắn nhãn các phần nguồn và yêu cầu so sánh theo yêu cầu rõ ràng. Yêu cầu câu trả lời cuối phân biệt kết luận có nguồn hỗ trợ với hành động tiếp theo được đề xuất.

Nhà sản xuất huấn luyện V3.1 bằng định dạng thang UE8M0 FP8 cho trọng số và giá trị kích hoạt. Các khuyến nghị cục bộ cũng xác định tham số nhạy về độ chính xác cần được xử lý đúng. Đây là đặc điểm của tham chiếu được nhà sản xuất công bố, không phải tuyên bố về độ chính xác hoặc cách triển khai mà mọi ứng dụng chọn. Bản phái sinh, biến thể lượng tử hóa và checkpoint Terminus sau đó vẫn là lựa chọn riêng so với phiên bản V3.1 gốc có tên.

Chuẩn bị công việc dài hơn với câu hỏi rõ ràng, nhãn nguồn và sản phẩm cuối xác định. Phân bổ hội thoại, văn bản nguồn, suy luận, đầu ra trong ngữ cảnh được ghi nhận và chỉ giữ bằng chứng liên quan khi nhiệm vụ mở rộng. Với tác tử, nêu hành động được phép và tiêu chí đánh dấu kết quả hoàn tất. Sản phẩm hữu ích là câu trả lời văn bản, đề xuất mã hoặc phân tích có nguồn hỗ trợ có thể đánh giá, gắn với đầu vào và quan sát ứng dụng thực sự trả về.

Ailoot Ultra · OpenAI Chat POST /v1/chat/completions deepseek-v3.1-thinking

deepseek-v3.1-thinking

DeepSeek /deepseek-v3.1-thinking

Bắt đầu

Đầu vào được chấp nhận: Văn bản
Kết quả: Văn bản

Có trên Ailoot · đầu vào & phương thức

Ailoot Ultra · OpenAI Chat POST /v1/chat/completions

Đầu vào: text
Đầu ra: text
Định dạng đầu ra: json hoặc SSE

Trường	Loại	Yêu cầu	Giá trị & giới hạn	Mặc định
Trường`model`	Loại`string`	Yêu cầuBắt buộc	Giá trị & giới hạn deepseek-v3.1-thinking	Mặc định—
Trường`messages`	Loại`message[]`	Yêu cầuBắt buộc	Giá trị & giới hạn Số mục tối thiểu: 1	Mặc định—
Trường`messages[].role`	Loại`string`	Yêu cầuBắt buộc	Giá trị & giới hạn Tùy thuộc vào mô hình	Mặc định—
Trường`messages[].content`	Loại`string`	Yêu cầuKhông bắt buộc	Giá trị & giới hạn Áp dụng khi: Hội thoại văn bản	Mặc định—
Trường`stream`	Loại`boolean`	Yêu cầuKhông bắt buộc	Giá trị & giới hạn	Mặc địnhfalse

Tổ hợp tư liệu đầu vào

Văn bản · Văn bản UTF8

messages[].content

Tham số phương thức và vòng đời

Tham số	Hợp đồng
Tham số`content_type`	Hợp đồngapplication/json
Tham số`required`	Hợp đồngmodel, messages
Tham số`material_types`	Hợp đồngtext
Tham số`messages`	Hợp đồngMảng thông điệp có cấu trúc role/content
Tham số`file_material`	Hợp đồngTài liệu UTF-8 thực tế được chèn nguyên dạng văn bản; không suy ra ID tệp
Tham số`optional_controls`	Hợp đồngstream
Tham số`control_scope`	Hợp đồngHội thoại văn bản; stream là giá trị boolean và mặc định là false.
Tham số`output_modalities`	Hợp đồngtext
Tham số`hosted_operations`	Hợp đồngfalse
Tham số`multimodal_input_binding`	Hợp đồngnull

Bí danh phương thức: /chat/completions

Vòng đời: synchronous_or_streamed

Gửi ID mô hình chính xác cùng messages.

Độ dài ngữ cảnh không phải giới hạn đầu ra.

Tệp văn bản có thể cung cấp nguyên văn nội dung; đầu vào hình ảnh, âm thanh hoặc đối tượng tệp cần có liên kết chính xác.

Bảng giá

Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.

Chế độ nhanh: Chưa chỉ định Khi chọn chế độ nhanh
Chế độ Flex: Chưa chỉ định Khi chọn chế độ flex
Mức độ suy luận tối đa: Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa

Mức phí Ailoot

Giá theo cấu hình

Cấu hình	Biểu mức phí	Phí
Cấu hìnhGiá cơ sở cho token	Biểu mức phíMức phí cơ bản	Phí Đầu vào · Token đầu vào $0.000572 / 1K token Đầu ra · Token đầu ra $0.0023 / 1K token Đầu vào · Đọc bộ nhớ đệm $0 / 1K token Đầu vào · Ghi bộ nhớ đệm $0 / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token

Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →

Ví dụ yêu cầu

Ailoot Ultra · OpenAI Chat

curlPython SDK

set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model":"deepseek-v3.1-thinking","messages":[{"role":"user","content":"hello"}],"stream":false}')

Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
  -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
  --data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("choices",[]):
    if x.get("message",{}).get("content"): print(x["message"]["content"])
PY_RESULT

from openai import OpenAI
import os

if not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.chat.completions.create(model="deepseek-v3.1-thinking", messages=[{"role":"user","content":"hello"}], stream=False)
import base64, json
from pathlib import Path

def save_result(data, stem="result"):
    # Keep every field, including usage, IDs, reasoning and tool requests.
    Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")
    print(json.dumps(data, ensure_ascii=False, indent=2))
    def save_blob(encoded, suffix, label):
        raw = base64.b64decode(encoded, altchars=b"-_", validate=True)
        ext = "png" if raw.startswith(b"\x89PNG\r\n\x1a\n") else "jpg" if raw.startswith(b"\xff\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix
        file = Path(stem + "-" + label + "." + ext)
        file.write_bytes(raw)
        print("Saved", file)
    for index, block in enumerate(data.get("content") or []):
        print("Content", index, json.dumps(block, ensure_ascii=False))
    for choice in data.get("choices") or []:
        print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))
    for index, item in enumerate(data.get("output") or []):
        print("Output", index, json.dumps(item, ensure_ascii=False))
        if item.get("type") == "image_generation_call" and item.get("result"):
            save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))
    for ci, candidate in enumerate(data.get("candidates") or []):
        for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):
            print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))
            blob = part.get("inlineData") or part.get("inline_data")
            if blob and blob.get("data"):
                mime = blob.get("mimeType") or blob.get("mime_type")
                suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")
                save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))

save_result(result.to_dict(mode="json"))

Nhận và lưu kết quả

Ailoot Ultra · OpenAI Chat

json hoặc SSE

Lưu tất cả kết quả đã hoàn tất

Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.

Giữ mọi phương án trả lời cùng nội dung, lệnh gọi công cụ và dữ liệu suy luận của phương án đó. Với SSE, ghép các phần thay đổi theo chỉ số phương án và công cụ, giữ lý do kết thúc cuối cùng cùng dữ liệu sử dụng.

Nếu cần kiểm tra phản hồi gốc

Giữ ID và header của yêu cầu, phản hồi. Không cung cấp URL chung để truy xuất tác vụ văn bản.

Trường phản hồi

Trường	Loại
Trường`choices[].index`	Loạiinteger
Trường`choices[].message.content`	Loạistring\|null
Trường`choices[].message.tool_calls`	Loạitool_call[]
Trường`choices[].message.reasoning_content`	Loạistring
Trường`choices[].message.reasoning_details`	Loạiobject\|array
Trường`choices[].finish_reason`	Loạistring\|null
Trường`usage`	Loạiobject

Lỗi và bước tiếp theo

Phản hồi	Điều kiện	Bước tiếp theo
Phản hồi400 · `invalid_request_error`	Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ	Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới.

Bí danh

Bí danh mô hình

Ailoot Ultra deepseek-v3.1-thinking

Bí danh đường dẫn phương thức

/chat/completions

ID gọi liên quan

deepseek-v3.1-thinking

FAQ · DeepSeek: DeepSeek V3.1

Có những đầu vào và kết quả nào?: POST /v1/chat/completions · deepseek-v3.1-thinking: text → text
Yêu cầu sử dụng những trường nào?: POST /v1/chat/completions · deepseek-v3.1-thinking: model, messages, stream
Áp dụng những giới hạn nào?: POST /v1/chat/completions · deepseek-v3.1-thinking: messages.min_items: 1

DeepSeek: DeepSeek V3.1