Respan: Span-01
Span-01 là bộ phân loại hành vi văn bản của Respan dành cho hội thoại và vết thực thi của tác tử. Bạn định nghĩa các hành vi bằng ngôn ngữ thông thường, và mô hình trả về ba xác suất cho mỗi hành vi: có mặt, vắng mặt và không quan sát được, giữ lại độ bất định khi vết thực thi được cung cấp không đủ để phân xử câu hỏi.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Span-01 là mô hình chấm điểm hành vi của Respan dành cho hội thoại và vết thực thi của tác tử. Mô hình đọc một tương tác văn bản cùng các định nghĩa hành vi viết bằng ngôn ngữ thông thường và trả về xác suất cho từng định nghĩa. Đầu ra phân biệt hành vi có mặt, vắng mặt hay không quan sát được trong vết thực thi đã cung cấp. Nhờ đó, quy trình đánh giá nhận được một tín hiệu dạng số với cách biểu diễn rõ ràng cho việc thiếu bằng chứng, thay vì một lời giải thích được sinh ra cần phải phân tích cú pháp.
Định nghĩa hành vi bạn muốn quan sát
Các hành vi do người gọi cung cấp. Chèn lời nhắc độc hại, khẳng định không có căn cứ, làm lộ thông tin bí mật, vòng lặp lặp đi lặp lại, dùng sai công cụ và sự bực bội của người dùng là những định nghĩa khả dĩ, không phải một hệ phân loại cố định có sẵn trong mô hình. Hãy nêu rõ điều gì được tính là hành vi và điều gì không. Một định nghĩa hẹp có thể phân biệt người dùng yêu cầu chuyển sang người thật với việc chỉ bày tỏ thất vọng. Một định nghĩa khác có thể phân biệt trợ lý thừa nhận vấn đề với việc hứa một hành động mà nó không thể thực hiện.
Hãy dùng mã định danh ổn định cho các định nghĩa để kết quả luôn gắn với hành vi đang được đánh giá. Giữ tiêu chí tập trung vào điều mà vết thực thi có thể thể hiện. Nếu hành vi cần một tài liệu nguồn, kết quả công cụ hoặc phản hồi sau đó của khách hàng, hãy đưa bằng chứng đó vào đúng vị trí của nó trong tương tác văn bản. Riêng một định nghĩa không thể xác lập một sự kiện không có trong vết thực thi.
Chuẩn bị ngữ cảnh trước đó và lượt mục tiêu
Đầu vào theo tài liệu tách các tin nhắn trước đó trong span.input khỏi lượt mục tiêu trong span.output. Nội dung của mỗi tin nhắn là một chuỗi. Hãy cung cấp ngữ cảnh hội thoại thực tế và lượt bạn muốn chấm điểm, giữ nguyên vai trò người nói và thứ tự cần thiết để diễn giải. Đây là hồ sơ chấm điểm văn bản; văn bản tài liệu đã chuẩn bị hoặc bản chép lời có thể là bằng chứng, còn nội dung đa phương tiện dùng để thu được văn bản đó tự nó không phải là đầu vào theo tài liệu.
Với một tương tác hỗ trợ, hãy giữ yêu cầu của khách hàng cùng câu trả lời đề xuất của trợ lý. Với tác tử dùng công cụ, hãy giữ quan sát công cụ liên quan và câu trả lời dựa vào quan sát đó. Một định nghĩa minh họa về tính có căn cứ có thể hỏi liệu trợ lý có khẳng định một kết luận mà quan sát đã cung cấp không hỗ trợ hay không. Kết quả hữu ích liên quan đến hành vi đã định nghĩa trong đoạn đó, không phải chẩn đoán đầy đủ cho toàn bộ ứng dụng.
Đọc ba xác suất cho mỗi định nghĩa
Mỗi kết quả gồm mã định danh hành vi cùng p_present, p_absent và p_not_observable. Tổng ba xác suất xấp xỉ bằng 1. Có mặt ước tính rằng hành vi đã xảy ra; vắng mặt ước tính rằng hành vi không xảy ra; không quan sát được ước tính rằng đoạn đã cung cấp thiếu bằng chứng cần thiết để kết luận. Đây là những ý nghĩa riêng biệt và cần được giữ tách biệt khi diễn giải kết quả.
Ví dụ, một đoạn kết thúc bằng việc trợ lý nói sẽ giải quyết vấn đề có thể thể hiện một lời hứa. Đoạn đó chưa thể cho thấy khách hàng đã chấp nhận giải pháp cuối cùng nếu chưa có phản hồi nào của khách hàng. Hãy coi kết quả thiếu bằng chứng đó là chưa xác định thay vì chuyển thành vắng mặt. Xác suất có mặt thấp không tự động là bằng chứng mạnh cho sự vắng mặt khi một phần đáng kể của phân phối thuộc về không quan sát được.
Chấm điểm một lượt cho mọi định nghĩa hành vi
Respan mô tả Span-01 là một bộ phân loại suy luận, được huấn luyện trước tiên cho phân loại tổng quát bằng RLAIF rồi chuyên biệt hóa cho phát hiện hành vi. Mỗi định nghĩa chạy như một nhánh song song trên cùng một vết thực thi, và mô hình trả về xác suất hành vi trong một lượt truyền xuôi. Cơ chế chú ý lai hỗ trợ việc xử lý các vết thực thi dài và phức tạp. Mô hình không sinh token, không viết nhận định dạng tường thuật và không tạo lời giải thích tự do cho kết quả phân loại.
Hướng dẫn khái niệm và tài liệu tham chiếu chấm điểm không quy định giới hạn số hành vi cho mỗi yêu cầu. Mỗi định nghĩa vẫn là một phần của bài đánh giá được cung cấp, vì vậy hãy giữ từng định nghĩa rõ ràng và phù hợp thay vì coi việc không có giới hạn số lượng là bằng chứng của dung lượng đầu vào không giới hạn. Kết quả chứa một mục cho mỗi hành vi theo thứ tự trong yêu cầu, được nhận diện bằng id. Nhiều định nghĩa mô tả nhiều quan sát độc lập; chúng không phải các lựa chọn danh mục loại trừ lẫn nhau mà tổng phải bằng một trên các hành vi.
Chuẩn bị sản phẩm đánh giá hữu ích
Hãy kết hợp các xác suất trả về với ngưỡng và quy tắc rà soát dành riêng cho tác vụ ở bên ngoài mô hình. Nhà sản xuất khuyến nghị dùng các cuộc hội thoại có nhãn để chọn những ngưỡng đó và kiểm tra các kết quả có mặt sát ngưỡng hoặc không quan sát được ở mức cao. Một quy trình hỗ trợ có thể ghi riêng sự bực bội, đề xuất chuyển cấp và lời hứa không có căn cứ. Một quy trình đánh giá chất lượng tác tử có thể theo dõi hành động lặp lại hoặc việc câu trả lời có dùng bằng chứng được cung cấp hay không.
Hãy giữ đoạn văn bản, định nghĩa hành vi, mã định danh kết quả và toàn bộ phân phối ba chiều cùng nhau. Khi định nghĩa thay đổi, cần hiểu rằng điều mà xác suất đo lường cũng thay đổi. Hãy xem xét các lỗi dễ thấy dựa trên cuộc hội thoại thực tế thay vì coi một kết quả dạng số là bằng chứng của một sự kiện không được quan sát. Sản phẩm hữu ích là một bản ghi hành vi gắn với vết thực thi và tiêu chí, kèm độ bất định được giữ lại để kiểm tra sau hoặc cho quyết định tiếp theo của ứng dụng.
Ailoot Ultra · System One POST /v1/systemone respan/span-01
respan/span-01Bắt đầu
Span-01 là bộ phân loại hành vi văn bản của Respan dành cho hội thoại và vết thực thi của tác tử. Bạn định nghĩa các hành vi bằng ngôn ngữ thông thường, và mô hình trả về ba xác suất cho mỗi hành vi: có mặt, vắng mặt và không quan sát được, giữ lại độ bất định khi vết thực thi được cung cấp không đủ để phân xử câu hỏi.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- decisions
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · System One POST /v1/systemone
- Đầu vào
text- Đầu ra
decisions- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn respan/span-01 | Mặc định— |
Trườngprovider | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngquestions | Loạiobject | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngsession_id | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstate | Loạischema | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtrace | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngquestions.<id>.type | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn noul, choice, score | Mặc định— |
Trườngquestions.<id>.instructions | Loạistring|object|array | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngquestions.<id>.criteria | Loạiobject|array | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: choice/score: bắt buộc; noul: tùy chọn. Tiêu chí của choice là đối tượng; score là mảng có minItems1. | Mặc định— |
Trườngquestions.<id>.criteria.true | Loạistring|object|array | Yêu cầuBắt buộc | Giá trị & giới hạn Áp dụng khi: Đã cung cấp đối tượng tiêu chí noul | Mặc định— |
Trườngquestions.<id>.criteria.false | Loạistring|object|array | Yêu cầuBắt buộc | Giá trị & giới hạn Áp dụng khi: Đã cung cấp đối tượng tiêu chí noul | Mặc định— |
Tổ hợp tư liệu đầu vào
noul · Bắt buộc: state, questions.<id>.type=noul, questions.<id>.instructions
choice · Bắt buộc: state, questions.<id>.type=choice, questions.<id>.instructions, criteria object
score · Bắt buộc: state, questions.<id>.type=score, questions.<id>.instructions, criteria array with minItems1
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, state, questions |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốoptional_controls | Hợp đồngprovider, session_id, trace, user |
Tham sốmultimodal_input_binding | Hợp đồngnull |
Vòng đời: synchronous
Gửi ID mô hình chính xác và giữ lại toàn bộ phản hồi gốc.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Token ngữ cảnh, lớn hơn | Token ngữ cảnh, tối đa và bao gồm | Phí |
|---|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Token ngữ cảnh, lớn hơn— | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.00004 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhBậc 1 theo độ dài yêu cầu | Biểu mức phí— | Token ngữ cảnh, lớn hơn0 | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0.00004 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · System One
{
"model": "respan/span-01",
"questions": {
"is_bug": {
"criteria": {
"false": "The customer is asking a question or requesting a feature.",
"true": "The customer describes broken or unexpected product behavior."
},
"instructions": "Is the customer reporting a software defect?",
"type": "noul"
},
"team": {
"criteria": {
"account": "Login, permissions, or profile issues.",
"frontend": "Rendering, layout, or browser compatibility issues.",
"payments": "Checkout, billing, or payment processing issues."
},
"instructions": "Which team should own this ticket?",
"type": "choice"
},
"urgency": {
"criteria": [
"Can wait for the next release",
"Should be fixed this week",
"Blocking revenue right now"
],
"instructions": "How urgent is this ticket?",
"type": "score"
}
},
"state": {
"customer_tier": "enterprise",
"ticket": "My checkout page shows a blank screen after I click Pay. I have tried two browsers."
}
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='respan/span-01'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/systemone \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Nhận và lưu kết quả
Ailoot Ultra · System One
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi câu trả lời được cung cấp theo ID câu hỏi với đúng kiểu dữ liệu, giá trị noul/choice/score, độ tin cậy, xác suất và chú giải. Toàn bộ JSON gốc chỉ được lưu và trả về sau khi quyết toán.
Nếu cần kiểm tra phản hồi gốc
Giữ nguyên thao tác ban đầu và phản hồi đầy đủ/một phần; không gửi lại POST.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngmodel | Loạistring |
Trườngid | Loạistring |
Trườngprovider | Loạistring |
Trườnganswers.<id>.type | Loạistring |
Trườnganswers.<id>.noul | Loạinumber |
Trườnganswers.<id>.choice | Loạistring |
Trườnganswers.<id>.score | Loạinumber |
Trườnganswers.<id>.confidence | Loạinumber |
Trườnganswers.<id>.probabilities | Loạiobject |
Trườnganswers.<id>.legend | Loạiobject |
Trườngusage.input_tokens | Loạiinteger |
Trườngusage.output_tokens | Loạiinteger |
Trườngusage.cost | Loạinumber |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, biểu diễn hoặc giá trị không hợp lệ | Bước tiếp theoSửa trường yêu cầu được chỉ ra. |
Bí danh
Bí danh mô hình
Ailoot Ultra respan/span-01
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Respan: Span-01
- Có những đầu vào và kết quả nào?
POST /v1/systemone·respan/span-01:text→decisions- Yêu cầu sử dụng những trường nào?
POST /v1/systemone·respan/span-01:model,provider,questions,session_id,state,trace,user