NVIDIA: Nemotron 3 Nano Omni 30B A3B Reasoning (free)
Nemotron 3 Nano Omni 30B A3B Reasoning là mô hình suy luận của NVIDIA cho công việc tập trung vào ngữ cảnh bên trong ứng dụng tác tử. Phiên bản Ailoot này nhận hội thoại văn bản và trả về văn bản, với giới hạn đầu vào 256.000 token và tối đa 65.536 token đầu ra. Dùng tài liệu, câu hỏi và ràng buộc được cung cấp để yêu cầu phân tích tập trung hoặc bản bàn giao ngữ cảnh.
Về mô hình
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Nemotron 3 Nano Omni 30B A3B Reasoning là mô hình của NVIDIA có tổng cộng 30 tỷ tham số, trong đó 3 tỷ tham số hoạt động, được mô tả cho tác vụ nhận thức và tác tử con phụ trách ngữ cảnh trong các hệ thống tác tử doanh nghiệp. Phương thức Ailoot cho phiên bản này là hội thoại văn bản qua POST /v1/chat/completions. Chọn ID mô hình chính xác nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free và cung cấp mảng messages không rỗng chứa chỉ dẫn và văn bản nguồn cho tác vụ. Mỗi tin nhắn có role là system, developer, user hoặc assistant và content là chuỗi thuần. name tùy chọn là chuỗi; chỉ dùng những trường này cho mỗi tin nhắn. Gửi stream:false hoặc bỏ qua stream.
Dùng mô hình để xem xét tập hợp tài liệu được cung cấp và trả về câu trả lời tập trung, bản so sánh hoặc bản tóm lược ngữ cảnh cho bước tiếp theo của ứng dụng. Lời nhắc bàn giao có thể cung cấp câu hỏi gốc, trích đoạn liên quan và ràng buộc, rồi yêu cầu các dữ kiện đã xác lập, câu hỏi chưa giải quyết và các đoạn nguồn hỗ trợ từng kết luận. Với so sánh, hãy nêu tiêu chí và đưa vào thông số thực tế của các phương án để mô hình làm việc từ cùng bằng chứng.
Phiên bản này nhận đầu vào văn bản và tạo đầu ra văn bản. Để làm việc với tài liệu, chèn văn bản UTF-8 liên quan vào content của tin nhắn và giữ tiêu đề hoặc nhãn nguồn giúp phân biệt các trích đoạn. Cung cấp lịch sử hội thoại cần thiết cho câu hỏi tiếp nối. Giữ mọi việc thực thi công cụ hoặc truy xuất trong ứng dụng tích hợp mô hình và truyền các kết quả văn bản đã hoàn tất vào hội thoại. Đầu vào phương tiện, tùy chọn gọi công cụ và tùy chọn bộ nhớ đệm tường minh nằm ngoài cấu hình yêu cầu của phiên bản này.
Trang mô hình liệt kê cửa sổ ngữ cảnh 256.000 token và tối đa 65.536 token đầu ra. Ailoot còn yêu cầu toàn bộ phần thân yêu cầu JSON UTF-8, gồm chỉ dẫn và tên trường, nằm trong 256.000 byte. Để đặt trần đầu ra tường minh, chỉ đặt đúng một trong max_tokens hoặc max_completion_tokens thành số nguyên dương từ 1 đến 65.536. Nếu không cung cấp trường nào, Ailoot chuyển tiếp trần đầu ra 4.096 token. Giữ toàn bộ hội thoại được cung cấp và câu trả lời được yêu cầu trong các giới hạn tương ứng. Đầu vào dài hữu ích khi câu trả lời phụ thuộc vào nhiều trích đoạn liên kết với nhau, nhưng lựa chọn tập trung và sản phẩm đầu ra cụ thể giúp dễ kiểm tra phản hồi có bám theo bằng chứng hay không. Cấu trúc yêu cầu qua lời nhắc có thể đề nghị các phần có tên hoặc bảng; coi văn bản trả về là sản phẩm đầu ra thay vì giả định đó là đối tượng bị ràng buộc bởi lược đồ.
Với phản hồi đầy đủ, gửi stream:false và giữ toàn bộ JSON. Đọc văn bản được tạo từ choices[].message.content và giữ mọi choice, finish_reason, usage cùng mọi trường suy luận được cung cấp. Giữ nhãn nguồn trong câu trả lời cuối khi quy trình của bạn cần truy vết kết luận về đầu vào. Kiểm tra câu trả lời được yêu cầu đã đầy đủ trước khi chuyển sang bước ứng dụng khác.
Chuẩn bị tài liệu nguồn công khai hoặc tổng hợp cho phiên bản miễn phí này; điều khoản sử dụng được ghi trong tài liệu loại trừ thông tin bí mật và dữ liệu cá nhân. Nếu phản hồi chưa đầy đủ hoặc kết quả gửi chưa chắc chắn, giữ định danh yêu cầu ban đầu và phản hồi để kiểm tra lần thử hiện có. Yêu cầu văn bản trả kết quả qua phản hồi hội thoại; không có tác vụ bất đồng bộ hoặc tuyến hủy riêng được ghi trong tài liệu cho thẻ này.
Ailoot Ultra · Chat Completions POST /v1/chat/completions nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free
nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free
nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:freeBắt đầu
Nemotron 3 Nano Omni 30B A3B Reasoning là mô hình suy luận của NVIDIA cho công việc tập trung vào ngữ cảnh bên trong ứng dụng tác tử. Phiên bản Ailoot này nhận hội thoại văn bản và trả về văn bản, với giới hạn đầu vào 256.000 token và tối đa 65.536 token đầu ra. Dùng tài liệu, câu hỏi và ràng buộc được cung cấp để yêu cầu phân tích tập trung hoặc bản bàn giao ngữ cảnh.
- Đầu vào được chấp nhận
- Văn bản
- Kết quả
- Văn bản
Có trên Ailoot · đầu vào & phương thức
Ailoot Ultra · Chat Completions POST /v1/chat/completions
- Đầu vào
text- Đầu ra
text- Ngữ cảnh
- 256.000 tokens
- Đầu ra tối đa
- 65.536 tokens
- Định dạng đầu ra
- JSON or supported SSE
| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free | Mặc định— |
Trườngmessages | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstream | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn false | Mặc địnhfalse |
Trườngmax_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 65.536 | Mặc định— |
Trườngmax_completion_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 65.536 | Mặc định— |
Trườngn | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 128 | Mặc định— |
Trườngtemperature | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_p | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngseed | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstop | Loại | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngfrequency_penalty | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngpresence_penalty | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Tham số phương thức và vòng đời
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, messages |
Tham sốoptional | Hợp đồngstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốconditions | Hợp đồngUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 256000 bytes. |
Vòng đời: synchronous_json_or_sse
Bảng giá
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
- Chế độ nhanh
- Mức giá tiêu chuẩn Khi chọn chế độ nhanh
- Chế độ Flex
- Mức giá tiêu chuẩn Khi chọn chế độ flex
- Mức độ suy luận tối đa
- Mức giá tiêu chuẩn Khi áp dụng mức điều chỉnh mặc định (default) cho mức độ suy luận tối đa
- Giá lưu đệm tường minh
- Chưa bật Khi yêu cầu lưu đệm tường minh
- Đơn giá bằng không cho văn bản thuần túy
- Bộ nhớ đệm, công cụ và phương tiện tuân theo các điều kiện tính giá được liệt kê riêng cho từng loại. Cho đầu vào và đầu ra chỉ có văn bản
Mức phí Ailoot
Giá theo cấu hình
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
Ví dụ yêu cầu
Ailoot Ultra · Chat Completions
set -eu
: "${AILOOT_API_KEY:?Set your Ailoot API key}"
export AILOOT_API_KEY
python3 - <<'PY_REQUEST'
import json,os
from pathlib import Path
p=json.loads('{"model": "nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')
Path("request.json").write_text(json.dumps(p,ensure_ascii=False))
PY_REQUEST
curl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \
-H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \
--data-binary @request.json -D response-headers.txt -o result.json
# Submit once. Retain the complete result, original identifiers and every response header.
Nhận và lưu kết quả
Ailoot Ultra · Chat Completions
JSON or supported SSE
Lưu tất cả kết quả đã hoàn tất
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Nếu cần kiểm tra phản hồi gốc
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Bí danh
Bí danh mô hình
Ailoot Ultra nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free
Bí danh đường dẫn phương thức
Dùng các đường dẫn phương thức hiển thị ở trên.
ID gọi liên quan
FAQ · NVIDIA: Nemotron 3 Nano Omni 30B A3B Reasoning (free)
- Có những đầu vào và kết quả nào?
POST /v1/chat/completions·nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free:text→text- Yêu cầu sử dụng những trường nào?
POST /v1/chat/completions·nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free:model,messages,stream,max_tokens,max_completion_tokens,n,temperature,top_p,seed,stop,frequency_penalty,presence_penalty,user- Áp dụng những giới hạn nào?
POST /v1/chat/completions·nvidia/nemotron-3-nano-omni-30b-a3b-reasoning:free:ctx:256000;max_out:65536;max_tokens.minimum:1;max_tokens.maximum:65536;max_completion_tokens.minimum:1;max_completion_tokens.maximum:65536;n.minimum:1;n.maximum:128