LiquidAI: LFM2.5-Embedding-350M (free)
LiquidAI LFM2.5-Embedding-350M tạo một vector 1024 chiều cho mỗi văn bản để truy xuất đa ngôn ngữ và xuyên ngôn ngữ. Mô hình hướng đến 11 ngôn ngữ và đầu vào ngắn 512 token, với tiền tố riêng cho truy vấn và tài liệu.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
LFM2.5-Embedding-350M là bi-encoder dense của LiquidAI cho truy xuất đa ngôn ngữ và xuyên ngôn ngữ. Mô hình tạo một vector 1024 chiều cho mỗi văn bản và hướng đến tìm kiếm ngữ cảnh ngắn trên mười một ngôn ngữ. Họ mô hình có tên 350M dùng bản thích nghi hai chiều của LFM2.5-350M-Base; bảng mô hình chi tiết nêu khoảng 354 triệu tham số cho phiên bản embedding này.
Biểu diễn truy xuất hai chiều
Nhà sản xuất điều chỉnh kiến trúc nền để cơ chế chú ý và tích chập cục bộ dùng được ngữ cảnh ở cả hai phía của token. Phép gộp theo kiểu CLS chuyển văn bản đã xử lý thành một vector dense. Bảng mô hình mô tả mười bảy lớp: mười khối tích chập, sáu khối chú ý và một giai đoạn gộp. Đây là bộ mã hóa truy xuất có cách chuẩn bị và đầu ra riêng, thay vì nhiệm vụ sinh văn bản của mô hình nền.
LFM2.5-ColBERT-350M được đặt tên riêng giữ vector của từng token để tương tác muộn. Biểu diễn đó yêu cầu chỉ mục và phương pháp so sánh khác. Mô hình Embedding ở đây cung cấp một vector cho mỗi tài liệu hoặc truy vấn, với độ tương đồng cosine là phép so sánh được tài liệu mô tả.
Dùng đúng prompt bất đối xứng
Chuẩn bị truy vấn tìm kiếm với “query:” và đoạn nguồn với “document:”. Nhà sản xuất lưu những prompt này trong cấu hình và quy trình tham chiếu áp dụng tên prompt tương ứng. Nhà sản xuất đặc biệt khuyến nghị dùng vai trò tương ứng ở mỗi phía vì mô hình được huấn luyện với các tiền tố đó. Tiền tố tài liệu này khác với quy ước “passage:” của các mô hình E5.
Bộ sưu tập tìm kiếm sản phẩm thực tế có thể chứa mô tả bằng các ngôn ngữ được hỗ trợ. Chuẩn bị cách diễn đạt tìm kiếm của người dùng làm truy vấn và mỗi mô tả sản phẩm làm tài liệu. Lưu văn bản gốc, định danh sản phẩm và ngôn ngữ cùng vector để kết quả tìm kiếm trả về bản ghi tương ứng. Với bộ sưu tập hỗ trợ, giữ chính sách hoặc chỉ dẫn liên quan đến câu hỏi thay vì thay bằng nhãn ngắn không liên quan.
Ngôn ngữ và kích thước đoạn
Tập ngôn ngữ được tài liệu mô tả gồm tiếng Anh, Tây Ban Nha, Đức, Pháp, Ý, Bồ Đào Nha, Ả Rập, Thụy Điển, Na Uy, Nhật và Hàn. Nhà sản xuất nêu rõ mục tiêu truy xuất cả trong cùng một ngôn ngữ và qua ranh giới ngôn ngữ. Chuẩn bị câu hỏi thực tế của đối tượng mục tiêu và kiểm tra văn bản tài liệu trả về bằng những ngôn ngữ đó.
Thông số độ dài tài liệu là 512 token. Chia nguồn dài thành các đoạn mạch lạc giữ tiêu đề, định nghĩa và điều kiện cần cho kết quả truy xuất. Tiền tố vai trò và ngữ cảnh thêm vào thuộc đầu vào đã chuẩn bị. Câu trả lời FAQ, giải thích sản phẩm hoặc phần tập trung của tài liệu kỹ thuật là đơn vị phù hợp hơn cả cuốn hướng dẫn quá lớn.
Huấn luyện và đối sánh
Nhà sản xuất mô tả ba giai đoạn huấn luyện: tiền huấn luyện tương phản tiếng Anh, chưng cất đa ngôn ngữ và xuyên ngôn ngữ, rồi tinh chỉnh bằng các mẫu âm khó được khai thác. Mô hình kết quả được thiết kế cho danh mục sản phẩm, bộ sưu tập FAQ và hỗ trợ, tìm tệp hoặc ghi chú và truy xuất kiến thức doanh nghiệp. Đó là các nhiệm vụ cho biểu diễn văn bản, không phải tuyên bố một ứng dụng cụ thể đã triển khai.
Ví dụ của nhà sản xuất chuẩn hóa vector truy vấn và tài liệu rồi xếp hạng bằng tích vô hướng, tương đương độ tương đồng cosine. Tính trước các biểu diễn kho văn bản khi chuẩn bị tài liệu nguồn, sau đó tạo embedding truy vấn tìm kiếm và trả về tài liệu ứng viên cùng văn bản, định danh. Giữ mô hình đã chọn và quy ước vai trò cùng chỉ mục để phép so sánh số dùng các biểu diễn tương thích.
Kết quả hữu ích là chỉ mục tìm kiếm dense gọn hoặc vector truy vấn truy xuất tài liệu nguồn trên tập ngôn ngữ được mô tả. Phiên bản LFM2.5 Embedding cụ thể này vẫn tách biệt với mô hình ColBERT đi kèm, các bộ truy xuất LFM2 cũ và triển khai lượng tử hóa bên ngoài. Văn bản đoạn được chọn là bằng chứng người đọc hoặc giai đoạn trả lời RAG sau sử dụng.
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:free
liquid/lfm-2.5-embedding-350m:freeBắt đầu
LiquidAI LFM2.5-Embedding-350M tạo một vector 1024 chiều cho mỗi văn bản để truy xuất đa ngôn ngữ và xuyên ngôn ngữ. Mô hình hướng đến 11 ngôn ngữ và đầu vào ngắn 512 token, với tiền tố riêng cho truy vấn và tài liệu.
- Đầu vào được chấp nhận
- Văn bản · token_ids
- Kết quả
- embedding
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Biểu diễn nhúng POST /v1/embeddings
- Đầu vào
text,token_ids- Đầu ra
embedding- Ngữ cảnh
- 512 tokens
- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn liquid/lfm-2.5-embedding-350m:free | Mặc định— |
Trườnginput | Loạistring|string[]|integer[]|integer[][] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 Điều kiện: Lô không rỗng và đồng nhất. ID token là số nguyên không âm. Ngân sách đầu vào: Tối đa: 512 · Đơn vị văn bản: byte UTF8 · Đơn vị token: phần tử của mảng token | Mặc định— |
Trườngencoding_format | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn float | Mặc địnhfloat |
Trườngdimensions | Loạiinteger | Yêu cầuKhông hỗ trợ | Giá trị & giới hạn Tối thiểu: 1 | Mặc định— |
Trườnguser | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngsession_id | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngtrace | Loạijson_value | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: Nguồn tài liệu cho phép trường siêu dữ liệu JSON này; ý nghĩa chính xác tại hệ thống nguồn phụ thuộc vào từng mô hình. | Mặc định— |
Trườngprovider | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: provider.options bị từ chối | Mặc định— |
Tổ hợp tư liệu đầu vào
text_to_embedding
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, input |
Tham sốinput_shapes | Hợp đồngstring, string[], nonnegative_integer_token_array, nonnegative_integer_token_array[] |
Tham sốencoding_format | Hợp đồngfloat |
Tham sốdimensions_override | Hợp đồngfalse |
Tham sốmax_input_budget_units | Hợp đồng512 |
Tham sốmultimodal_objects | Hợp đồngfalse |
Tham sốmaterial_types | Hợp đồngtext, token_ids |
Vòng đời: synchronous_json
Giữ lại chỉ mục và số chiều của mọi vector.
Việc mô hình mang tên đa phương thức không có nghĩa là đường dẫn cụ thể này chấp nhận đối tượng ảnh.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Mức giá tiêu chuẩn Khi chọn chế độ nhanh
- Chế độ Flex
- Mức giá tiêu chuẩn Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Mức giá tiêu chuẩn Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Biểu diễn nhúng
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "liquid/lfm-2.5-embedding-350m:free", "input": ["First document", "Second document"]}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/embeddings \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
r=json.loads(Path("result.json").read_text())
for x in r.get("data",[]): print(json.dumps({"index":x.get("index"),"embedding":x.get("embedding")}))
PY_RESULT
from openai import OpenAI
import os
client=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)
result=client.embeddings.create(model='liquid/lfm-2.5-embedding-350m:free',input=["First document","Second document"])
print(result)
for item in result.data:print(item.index,item.embedding)
Nhận và lưu kết quả
Ailoot Ultra · Biểu diễn nhúng
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi vector kèm chỉ mục của nó. Số lượng vector phải bằng số lượng đầu vào; số chiều phải nhất quán.
Nếu cần kiểm tra phản hồi gốc
Không có điểm cuối tác vụ embedding nào được bổ sung.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngobject | Loạistring |
Trườngmodel | Loạistring |
Trườngdata[].index | Loạiinteger |
Trườngdata[].embedding | Loạifinite float[] |
Trườngusage | Loạiobject |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Bí danh
Bí danh mô hình
Ailoot Ultra liquid/lfm-2.5-embedding-350m:free
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · LiquidAI: LFM2.5-Embedding-350M (free)
- Có những đầu vào và kết quả nào?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:text,token_ids→embedding- Yêu cầu sử dụng những trường nào?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:model,input,encoding_format,provider- Áp dụng những giới hạn nào?
POST /v1/embeddings·liquid/lfm-2.5-embedding-350m:free:ctx:512;input.budget.maximum:512(byte UTF8);input.min_items:1