Respan: Span-01 Lite
Span-01 Lite là hồ sơ chấm điểm hành vi mang tên riêng của Respan dành cho hội thoại văn bản và vết thực thi của tác tử. Mô hình dùng các hành vi do người gọi định nghĩa và trả về xác suất có mặt, vắng mặt và không quan sát được cho từng hành vi, theo cùng quy trình chấm điểm được tài liệu hóa như Span-01.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Span-01 Lite là một hồ sơ mô hình mang tên riêng trong họ chấm điểm hành vi Span-01 của Respan. Tài liệu khởi động nhanh và bảng mô hình của nhà sản xuất xác định Lite là một trong hai hồ sơ dùng chung quy trình chấm điểm. Mô hình nhận một tương tác văn bản và các định nghĩa hành vi viết bằng ngôn ngữ thông thường, sau đó trả về ba xác suất cho mỗi định nghĩa: có mặt, vắng mặt và không quan sát được. Đầu ra hữu ích của hồ sơ này là một bản ghi hành vi với độ bất định được nêu rõ, không phải câu trả lời viết cho cuộc hội thoại.
Chọn điều cần quan sát và ranh giới của nó
Hãy định nghĩa hành vi bằng những từ ngữ phù hợp với tác vụ của bạn. Với kiểm tra chuyển giao, hãy nêu rõ hành vi đó nghĩa là người dùng yêu cầu rõ ràng được gặp người thật, trợ lý nói rằng cần chuyển giao, hay một trong hai điều kiện. Nếu sự thất vọng đơn thuần không được tính, hãy nói rõ điều đó. Với kiểm tra lời xin lỗi, hãy định nghĩa cách diễn đạt nào được coi là xin lỗi thay vì dựa vào một nhãn không rõ ràng. Mỗi định nghĩa có một mã định danh mà bộ chấm điểm trả về cùng các xác suất của nó.
Tập hành vi thuộc về người gọi. Các ví dụ như sự bực bội, lời hứa không có cơ sở, dùng sai công cụ hay hành động lặp lại của tác tử là những định nghĩa cần cung cấp, không phải danh sách danh mục cố định có sẵn. Hãy giữ mỗi định nghĩa ở mức có thể quan sát được trong tương tác đã cung cấp. Một đoạn hội thoại ngắn có thể đủ để xác định trợ lý có xin lỗi hay không nhưng lại thiếu bằng chứng rằng một vấn đề bên ngoài thực sự đã được giải quyết.
Chuẩn bị đoạn hội thoại
Theo tài liệu của Respan, đầu vào đặt các tin nhắn trước đó trong span.input và lượt đang được đánh giá trong span.output. Nội dung tin nhắn là một chuỗi. Hãy giữ ngữ cảnh cần thiết để hiểu lượt đó, bao gồm vai trò người nói, yêu cầu liên quan của người dùng và mọi bằng chứng dạng văn bản mà trợ lý đã dùng. Với kiểm tra chất lượng, hãy cung cấp lượt thực tế thay vì một bản diễn giải đã lược bỏ hành vi đang được đánh giá.
Một bản đánh giá minh họa có thể lấy tin nhắn người dùng mô tả sự cố lặp đi lặp lại và câu trả lời của trợ lý đề nghị điều tra. Hãy định nghĩa sự bực bội của người dùng và lời hứa của trợ lý thành hai quan sát riêng. Nếu kết quả công cụ quan trọng để đánh giá một khẳng định có căn cứ hay không, hãy giữ phần văn bản liên quan của kết quả đó trong ngữ cảnh. Đầu ra là đánh giá các định nghĩa đó trong đoạn đã cung cấp; mô hình không thực hiện việc điều tra đã hứa và cũng không tự thay đổi cuộc hội thoại.
Có mặt, vắng mặt và không quan sát được
Phản hồi chấm điểm chứa id của hành vi cùng p_present, p_absent và p_not_observable, với tổng xấp xỉ bằng 1. Không quan sát được nghĩa là vết thực thi không thể trả lời câu hỏi. Điều này khác với vắng mặt. Với một định nghĩa như việc khách hàng chấp nhận giải pháp, một đoạn kết thúc trước khi khách hàng phản hồi là bằng chứng chưa đầy đủ, ngay cả khi câu trả lời của trợ lý nghe có vẻ chắc chắn.
Hãy giữ cả ba giá trị khi chuẩn bị kết quả để rà soát. Một danh mục được chọn theo giá trị cao nhất có thể hữu ích để hiển thị, nhưng chính phân phối mới giữ lại mức độ bất định của quan sát. Đừng chỉ dựa vào một giá trị có mặt thấp để kết luận rằng hành vi chắc chắn không xảy ra. Khi phần thiếu bằng chứng chiếm ưu thế, hành động hữu ích có thể là thu thập ngữ cảnh liên quan hoặc giữ kết quả ở trạng thái chưa xác định thay vì bịa ra một lời giải thích.
Nhiều định nghĩa trên cùng một bằng chứng
Quy trình chấm điểm của nhà sản xuất đánh giá nhiều định nghĩa hành vi cùng lúc trên một vết thực thi và trả về kết quả cho từng mã định danh theo thứ tự trong yêu cầu. Tài liệu không quy định giới hạn số hành vi cho mỗi yêu cầu. Điều này không xác lập một cửa sổ token chung hay kích thước vết thực thi không giới hạn. Hãy giữ các định nghĩa có mục đích rõ ràng và bằng chứng phù hợp, đồng thời giữ liên kết giữa mỗi kết quả trả về với định nghĩa đã tạo ra nó.
Kết quả hành vi là các quan sát độc lập, không phải một đáp án lựa chọn loại trừ duy nhất. Sự bực bội, lời xin lỗi và đề xuất chuyển giao đều có thể cùng xuất hiện trong một lượt trao đổi. Mỗi phân phối ba chiều có ý nghĩa trong phạm vi định nghĩa của nó; cộng các giá trị có mặt của những hành vi khác nhau không tạo ra một phân phối danh mục đã chuẩn hóa hay một điểm thang tiêu chí có thứ tự.
Giữ hồ sơ đã chọn đi cùng kết quả
Nhà sản xuất ghi tài liệu cho tên Lite và tên phiên bản tiêu chuẩn với cùng dạng yêu cầu và kết quả. Quy ước đó hỗ trợ việc chuẩn bị vết thực thi và diễn giải xác suất hành vi cho cả hai hồ sơ có tên. Nó không xác lập rằng Lite có cùng trọng số, số tham số hay chất lượng như phiên bản còn lại. Hãy giữ hồ sơ đã chọn có thể nhận diện được khi xem xét kết quả, thay vì âm thầm hoán đổi kết quả từ các phiên bản khác nhau.
Hãy dùng các cuộc hội thoại có nhãn từ tác vụ dự kiến để chọn ngưỡng cho ghi nhật ký, định tuyến hoặc rà soát. Giữ lại các kết quả không quan sát được ở mức cao và các quan sát sát ngưỡng để kiểm tra, rồi so sánh mọi lỗi dễ thấy với lượt gốc và định nghĩa hành vi. Sản phẩm cuối cùng hữu ích chứa mã định danh của đoạn văn bản, định nghĩa, hồ sơ đã chọn và kết quả xác suất ba chiều đầy đủ. Một bước sau đó của ứng dụng quyết định cách xử lý quan sát đó; đầu ra chấm điểm của Lite tự nó không thực hiện chuyển giao, không chặn câu trả lời và không tạo bản sửa.
Ailoot Ultra · System One POST /v1/systemone respan/span-01-lite
respan/span-01-liteBắt đầu
Span-01 Lite là hồ sơ chấm điểm hành vi mang tên riêng của Respan dành cho hội thoại văn bản và vết thực thi của tác tử. Mô hình dùng các hành vi do người gọi định nghĩa và trả về xác suất có mặt, vắng mặt và không quan sát được cho từng hành vi, theo cùng quy trình chấm điểm được tài liệu hóa như Span-01.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- decisions
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · System One POST /v1/systemone
- Đầu vào
text- Đầu ra
decisions- Định dạng đầu ra
- json
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn respan/span-01-lite | Mặc định— |
Trườngprovider | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngquestions | Loạiobject | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngsession_id | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstate | Loạischema | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtrace | Loạischema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngquestions.<id>.type | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn noul, choice, score | Mặc định— |
Trườngquestions.<id>.instructions | Loạistring|object|array | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngquestions.<id>.criteria | Loạiobject|array | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Điều kiện: choice/score: bắt buộc; noul: tùy chọn. Tiêu chí của choice là đối tượng; score là mảng có minItems1. | Mặc định— |
Trườngquestions.<id>.criteria.true | Loạistring|object|array | Yêu cầuBắt buộc | Giá trị & giới hạn Áp dụng khi: Đã cung cấp đối tượng tiêu chí noul | Mặc định— |
Trườngquestions.<id>.criteria.false | Loạistring|object|array | Yêu cầuBắt buộc | Giá trị & giới hạn Áp dụng khi: Đã cung cấp đối tượng tiêu chí noul | Mặc định— |
Tổ hợp tư liệu đầu vào
noul · Bắt buộc: state, questions.<id>.type=noul, questions.<id>.instructions
choice · Bắt buộc: state, questions.<id>.type=choice, questions.<id>.instructions, criteria object
score · Bắt buộc: state, questions.<id>.type=score, questions.<id>.instructions, criteria array with minItems1
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, state, questions |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốoptional_controls | Hợp đồngprovider, session_id, trace, user |
Tham sốmultimodal_input_binding | Hợp đồngnull |
Vòng đời: synchronous
Gửi ID mô hình chính xác và giữ lại toàn bộ phản hồi gốc.
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Chưa chỉ định Khi chọn chế độ nhanh
- Chế độ Flex
- Chưa chỉ định Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Chưa chỉ định Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
Mức phí Ailoot
Giá theo cấu hình
Đối chiếu từng khoản phí với điều kiện hiển thị. Dùng một mức phí cho mỗi nhóm cấu hình thay thế.
| Cấu hình | Biểu mức phí | Token ngữ cảnh, lớn hơn | Token ngữ cảnh, tối đa và bao gồm | Phí |
|---|---|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Token ngữ cảnh, lớn hơn— | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
| Cấu hìnhBậc 1 theo độ dài yêu cầu | Biểu mức phí— | Token ngữ cảnh, lớn hơn0 | Token ngữ cảnh, tối đa và bao gồmKhông có giới hạn trên | Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · System One
{
"model": "respan/span-01-lite",
"questions": {
"is_bug": {
"criteria": {
"false": "The customer is asking a question or requesting a feature.",
"true": "The customer describes broken or unexpected product behavior."
},
"instructions": "Is the customer reporting a software defect?",
"type": "noul"
},
"team": {
"criteria": {
"account": "Login, permissions, or profile issues.",
"frontend": "Rendering, layout, or browser compatibility issues.",
"payments": "Checkout, billing, or payment processing issues."
},
"instructions": "Which team should own this ticket?",
"type": "choice"
},
"urgency": {
"criteria": [
"Can wait for the next release",
"Should be fixed this week",
"Blocking revenue right now"
],
"instructions": "How urgent is this ticket?",
"type": "score"
}
},
"state": {
"customer_tier": "enterprise",
"ticket": "My checkout page shows a blank screen after I click Pay. I have tried two browsers."
}
}set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
: "${AILOOT_REQUEST_FILE:?Set your actual JSON request file}"
export AILOOT_REQUEST_FILE
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads(Path(os.environ['AILOOT_REQUEST_FILE']).read_text(encoding='utf-8'))
if not isinstance(p,dict): raise SystemExit('Request must be a JSON object')
p['model']='respan/span-01-lite'
Path('request.json').write_text(json.dumps(p,ensure_ascii=False),encoding='utf-8')
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/systemone \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
python3 - <<'PY_RESULT'
import json
from pathlib import Path
print(json.dumps(json.loads(Path('result.json').read_text()),ensure_ascii=False,indent=2))
PY_RESULT
Nhận và lưu kết quả
Ailoot Ultra · System One
json
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ lại mọi câu trả lời được cung cấp theo ID câu hỏi với đúng kiểu dữ liệu, giá trị noul/choice/score, độ tin cậy, xác suất và chú giải. Toàn bộ JSON gốc chỉ được lưu và trả về sau khi quyết toán.
Nếu cần kiểm tra phản hồi gốc
Giữ nguyên thao tác ban đầu và phản hồi đầy đủ/một phần; không gửi lại POST.
Trường phản hồi
| Trường | Loại |
|---|---|
Trườngmodel | Loạistring |
Trườngid | Loạistring |
Trườngprovider | Loạistring |
Trườnganswers.<id>.type | Loạistring |
Trườnganswers.<id>.noul | Loạinumber |
Trườnganswers.<id>.choice | Loạistring |
Trườnganswers.<id>.score | Loạinumber |
Trườnganswers.<id>.confidence | Loạinumber |
Trườnganswers.<id>.probabilities | Loạiobject |
Trườnganswers.<id>.legend | Loạiobject |
Trườngusage.input_tokens | Loạiinteger |
Trườngusage.output_tokens | Loạiinteger |
Trườngusage.cost | Loạinumber |
Lỗi và bước tiếp theo
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, biểu diễn hoặc giá trị không hợp lệ | Bước tiếp theoSửa trường yêu cầu được chỉ ra. |
Bí danh
Bí danh mô hình
Ailoot Ultra respan/span-01-lite
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · Respan: Span-01 Lite
- Có những đầu vào và kết quả nào?
POST /v1/systemone·respan/span-01-lite:text→decisions- Yêu cầu sử dụng những trường nào?
POST /v1/systemone·respan/span-01-lite:model,provider,questions,session_id,state,trace,user