Mistral: Mistral Embed 2312
Mistral Embed 2312 chuyển văn bản thành vector 1.024 chiều cho tìm kiếm ngữ nghĩa, truy xuất và phân tích văn bản liên quan. Trang của nhà sản xuất mô tả ngữ cảnh 8k; kết quả là biểu diễn số liên kết với mỗi đầu vào, thay vì câu trả lời được sinh ra.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Mistral Embed 2312 là mô hình embedding văn bản của Mistral AI để biểu diễn ý nghĩa dưới dạng số. Mô hình nhận chuỗi văn bản hoặc danh sách chuỗi và trả về embedding cho mỗi đầu vào. Kết quả là vector mà ứng dụng dùng cho độ tương đồng, truy xuất, phân loại hoặc phân cụm, thay vì lời giải thích hội thoại. Trang mô hình cho phiên bản cụ thể của nhà sản xuất xác định mistral-embed-2312.
Đầu vào, ngữ cảnh và hình dạng vector
Trang mô hình cụ thể mô tả nhãn ngữ cảnh 8k. Chuẩn bị từng mục văn bản trong dung lượng đầu vào áp dụng và giữ định danh mục cùng vector. Có thể chia tài liệu nguồn dài thành các đoạn hữu ích, đồng thời giữ tiêu đề tài liệu, phần và vị trí nguồn cần để trả về đúng tài liệu về sau.
Hướng dẫn Mistral Embed của nhà sản xuất quy định 1.024 chiều cho mỗi embedding văn bản, bất kể độ dài đầu vào nhìn thấy được. Vì vậy, câu hỏi ngắn và đoạn dài hơn có cùng hình dạng vector dù nội dung và số token khác nhau. Đây là số chiều biểu diễn đầu ra, không phải ngân sách token trả lời hoặc thước đo số từ nguồn được giữ lại.
Phản hồi được tài liệu mô tả bao gồm embedding và thông tin sử dụng token; ví dụ endpoint gắn từng vector với chỉ số đầu vào. Giữ liên kết đó khi xử lý nhiều văn bản. Ứng dụng cần văn bản gốc và các định danh cùng kết quả số để hiển thị kết quả tìm kiếm hữu ích hoặc cung cấp tài liệu nguồn cho bước sau.
Độ tương đồng ngữ nghĩa
Hướng dẫn giải thích rằng các văn bản liên quan thường ở gần nhau trong không gian embedding. Điều này hỗ trợ tìm đoạn dùng từ khác để thể hiện cùng chủ đề hoặc yêu cầu. Truy vấn cơ sở kiến thức minh họa có thể hỏi cách khôi phục quyền truy cập, trong khi quy trình liên quan dùng cụm từ khác cho cùng thao tác. Ứng dụng có thể so sánh vector truy vấn với các vector đoạn đã lưu thay vì chỉ dựa vào khớp từ chính xác.
Các ví dụ của nhà sản xuất dùng embedding chuẩn hóa về độ dài đơn vị. Với những vector đó, độ tương đồng cosine, tích vô hướng và khoảng cách Euclidean cho thứ hạng tương đồng nhất quán, dù giá trị số không giống nhau. Chọn một phương pháp so sánh phù hợp và áp dụng nhất quán cho biểu diễn truy vấn và tài liệu.
Độ tương đồng không chứng minh hai phát biểu có thể thay thế cho nhau. Giữ văn bản nguồn và kiểm tra điều kiện, ngày hoặc định danh quan trọng đối với câu hỏi. Hai đoạn có thể cùng nói về một chủ đề nhưng mô tả quy trình hoặc ngoại lệ khác nhau. Embedding cung cấp tín hiệu truy xuất; diễn giải đoạn được chọn là phần riêng của nhiệm vụ.
Truy xuất và câu trả lời dựa trên nguồn
Quy trình tài liệu thực tế chuẩn bị vector cho các đoạn cơ sở kiến thức, lưu định danh và văn bản gốc, rồi so sánh câu hỏi mới với bộ sưu tập. Trả về đoạn liên quan kèm vị trí nguồn. Ứng dụng có thể hiển thị trực tiếp những đoạn đó hoặc cung cấp cho mô hình sinh văn bản để viết câu trả lời dựa trên tài liệu truy xuất.
Để có kết quả tìm kiếm hữu ích, giữ tiêu đề tài liệu, phần, đoạn và định danh dùng để tìm nó. Trợ lý hỗ trợ sau đó có thể truy xuất quy trình liên quan đến câu hỏi của người dùng rồi chuyển quy trình đó cho giai đoạn viết câu trả lời. Mistral Embed thực hiện bước biểu diễn số; bản thân nó không soạn lời giải thích cuối cùng hoặc thực hiện hành động bên ngoài.
Các cách dùng khác được mô tả
Nhà sản xuất còn liệt kê phát hiện cách diễn đạt tương đương, phân loại, phân cụm và xử lý theo batch trong các quy trình embedding. Tác vụ so sánh có thể truy xuất các đoạn có ý nghĩa liên quan để xem xét. Quy trình phân loại có thể so sánh đầu vào với ví dụ có nhãn hoặc dùng vector làm đặc trưng cho bộ phân loại riêng. Quy trình phân cụm có thể nhóm các mục tương tự để con người hoặc bước ứng dụng sau mô tả.
Định nghĩa mục đích biểu diễn trước khi chuẩn bị dữ liệu. Đoạn dùng cho tìm kiếm ngữ nghĩa nên giữ thông tin người đọc cần sau truy xuất; ví dụ phân loại nên chứa cách diễn đạt phân biệt lớp. Giữ cách chuẩn bị nhất quán để truy vấn và mục được lưu biểu diễn tài liệu có thể so sánh.
Ranh giới phiên bản và đầu ra
Dùng cùng phiên bản mô hình và biểu diễn tương thích cho tài liệu và truy vấn. Vector có cùng số tọa độ từ mô hình khác không tự động thuộc cùng không gian ngữ nghĩa. Khi thay mô hình hoặc biểu diễn, các mục lưu trữ và truy vấn cần tiếp tục đồng bộ.
Mục này mô tả đầu vào văn bản và đầu ra vector số, với ngữ cảnh 8k của nhà sản xuất cùng biểu diễn 1.024 chiều được tài liệu Mistral Embed quy định. Số chiều có thể cấu hình và định dạng lượng tử hóa của Codestral Embed thuộc mô hình mã được đặt tên riêng đó, không nên giả định ở đây. Hình ảnh, âm thanh, văn bản được sinh ra và thực thi công cụ là những khả năng riêng nằm ngoài kết quả embedding văn bản này.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings mistralai/mistral-embed-2312
mistralai/mistral-embed-2312Bắt đầu
Mistral Embed 2312 chuyển văn bản thành vector 1.024 chiều cho tìm kiếm ngữ nghĩa, truy xuất và phân tích văn bản liên quan. Trang của nhà sản xuất mô tả ngữ cảnh 8k; kết quả là biểu diễn số liên kết với mỗi đầu vào, thay vì câu trả lời được sinh ra.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Ngữ cảnh
- 8.192 tokens
- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn mistralai/mistral-embed-2312 | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 8.192 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng8192 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Mức giá tiêu chuẩn Khi chọn chế độ nhanh
- Chế độ Flex
- Mức giá tiêu chuẩn Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Mức giá tiêu chuẩn Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0.0002 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "mistralai/mistral-embed-2312", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='mistralai/mistral-embed-2312',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra mistralai/mistral-embed-2312
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Mistral: Mistral Embed 2312
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·mistralai/mistral-embed-2312:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·mistralai/mistral-embed-2312:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·mistralai/mistral-embed-2312:ctx:8192;input.budget.maximum:8192(byte UTF8);input.min_items:1