NVIDIA Nemotron 3 Ultra là mô hình suy luận và điều phối quy mô lớn trong dòng Nemotron 3. Mô hình được thiết kế cho tác tử nhiều bước có yêu cầu cao, phân tích ngữ cảnh dài và suy luận về mã nguồn, toán học, khoa học. Mô hình có tổng cộng 550B tham số, trong đó 55B được kích hoạt. Kiến trúc kết hợp các lớp Mamba-2, chú ý và Latent Mixture-of-Experts, cùng các lớp Multi-Token Prediction hỗ trợ thiết kế sinh của mô hình.
LatentMoE chiếu thông tin sang biểu diễn tiềm ẩn nhỏ hơn để các chuyên gia xử lý. Quy trình huấn luyện của NVIDIA kết hợp tiền huấn luyện, tinh chỉnh có giám sát, học tăng cường và chưng cất on-policy trên nhiều lĩnh vực. Mục đích thực tế của các giai đoạn này là cải thiện suy luận, làm theo chỉ dẫn, sử dụng công cụ và hành vi tác tử trên nhiều loại tác vụ. Ultra tạo văn bản: lời giải thích, lời giải, mã nguồn, kế hoạch hoặc cấu trúc phản hồi được yêu cầu. Cung cấp tài liệu mà câu trả lời cần sử dụng và các điều kiện xác định kết quả có đúng hay không.
Với suy luận toán học hoặc khoa học, đưa vào đầy đủ đề bài, các giá trị đã biết, đơn vị và những giả định được phép. Một yêu cầu hữu ích là: “Suy ra kết quả từ các điều kiện này, xác định giả định ở từng giai đoạn, kiểm tra thứ nguyên và giải thích kết quả quan sát nào sẽ bác bỏ kết luận.” Yêu cầu kết quả cuối cùng ngắn gọn sau phần giải thích quá trình làm. Nếu có dữ liệu thực nghiệm, phân biệt phần được đo với phần được tính và yêu cầu giữ rõ sự bất định hoặc thông tin còn thiếu, thay vì lấp chúng bằng một câu trả lời chắc chắn.
Với mã nguồn và quy trình tác tử, cung cấp mục tiêu, các tệp liên quan dưới dạng văn bản và đầu ra thực tế của những bước trước. Ultra dành cho nhiệm vụ có nhiều quyết định phụ thuộc lẫn nhau, vì vậy bản ghi rõ ràng về việc đã hoàn tất và các câu hỏi còn lại rất hữu ích. Ví dụ: “Rà soát đề xuất di chuyển này theo lược đồ và các phép kiểm tra đang thất bại. Xác định quan hệ phụ thuộc cản trở việc hoàn tất, đề xuất một chỉnh sửa tập trung và nêu kết quả mong đợi của phép kiểm tra tiếp theo.” Sau đó, ứng dụng kết nối công cụ có thể thực thi bước được đề xuất và trả về bằng chứng cho quyết định tiếp theo.
Nhà sản xuất hỗ trợ bật hoặc tắt suy luận qua mẫu hội thoại. Suy luận được bật mặc định, tạo chuỗi suy luận rồi đến câu trả lời. Thẻ Ultra cũng mô tả chế độ suy luận medium-effort, sử dụng ít token suy luận hơn chế độ suy nghĩ đầy đủ. Đây là tùy chọn riêng của Ultra; không nên nhầm với thiết lập low-effort được tài liệu hóa cho Super. Xác định sản phẩm cuối cùng mong muốn và chừa chỗ cho nó sau suy luận. Chuỗi suy luận chưa hoàn tất không thay thế được câu trả lời hoàn chỉnh cho câu hỏi ban đầu.
Ultra hỗ trợ ngữ cảnh tối đa 1M token. Với tập hợp tài liệu hoặc tệp nguồn lớn, gắn nhãn các phần và cho mô hình biết chính xác cần so sánh, lần theo hoặc đối chiếu điều gì. Giữ thứ tự nguồn khi trình tự thời gian hoặc quan hệ phụ thuộc có ý nghĩa. Kết quả hữu ích cho tài liệu dài bao gồm phát hiện, đoạn làm căn cứ và hệ quả đối với câu hỏi. Chọn tài liệu liên quan và dành chỗ cho đầu ra; cửa sổ ngữ cảnh mô tả chuỗi làm việc, không phải độ dài câu trả lời cuối cùng được bảo đảm riêng.
Nhà sản xuất liệt kê tiếng Anh, Pháp, Tây Ban Nha, Ý, Đức, Nhật, Hindi, Hàn, Bồ Đào Nha Brazil và Trung Quốc. Nêu ngôn ngữ đầu ra và giữ mã định danh kỹ thuật hoặc trích dẫn nguồn khi câu chữ chính xác có ý nghĩa quan trọng. Với phân tích đa ngôn ngữ, dùng cùng tiêu chí cho từng tài liệu và yêu cầu giải thích khác biệt về thuật ngữ hoặc giả định. Chỉ riêng sự trôi chảy không đủ để xác lập rằng hai yêu cầu được diễn đạt khác nhau có cùng ý nghĩa.
NVIDIA cung cấp ví dụ gọi công cụ rõ ràng có suy luận. Định nghĩa mục đích, đối số và kết quả mong đợi của từng hàm, rồi trả đầu ra thực tế của hàm về mô hình. Ứng dụng thực hiện thao tác; mô hình suy luận trên kết quả quan sát được trả về. Quy trình tác tử dài dễ kiểm tra hơn khi phân biệt rõ hành động đề xuất, kết quả đã thực thi và các phép kiểm tra còn chưa giải quyết. Với báo cáo cuối cùng, yêu cầu câu trả lời, bằng chứng hỗ trợ, các giả định và mọi phần việc còn lại. Kiểm chứng phép tính theo đơn vị ban đầu, thay đổi mã theo các phép kiểm tra đã quan sát và nhận định thực tế theo nguồn được cung cấp.
", "aboutText": "NVIDIA Nemotron 3 Ultra là mô hình suy luận và điều phối quy mô lớn trong dòng Nemotron 3. Mô hình được thiết kế cho tác tử nhiều bước có yêu cầu cao, phân tích ngữ cảnh dài và suy luận về mã nguồn, toán học, khoa học. Mô hình có tổng cộng 550B tham số, trong đó 55B được kích hoạt. Kiến trúc kết hợp các lớp Mamba-2, chú ý và Latent Mixture-of-Experts, cùng các lớp Multi-Token Prediction hỗ trợ thiết kế sinh của mô hình.\n\nLatentMoE chiếu thông tin sang biểu diễn tiềm ẩn nhỏ hơn để các chuyên gia xử lý. Quy trình huấn luyện của NVIDIA kết hợp tiền huấn luyện, tinh chỉnh có giám sát, học tăng cường và chưng cất on-policy trên nhiều lĩnh vực. Mục đích thực tế của các giai đoạn này là cải thiện suy luận, làm theo chỉ dẫn, sử dụng công cụ và hành vi tác tử trên nhiều loại tác vụ. Ultra tạo văn bản: lời giải thích, lời giải, mã nguồn, kế hoạch hoặc cấu trúc phản hồi được yêu cầu. Cung cấp tài liệu mà câu trả lời cần sử dụng và các điều kiện xác định kết quả có đúng hay không.\n\nVới suy luận toán học hoặc khoa học, đưa vào đầy đủ đề bài, các giá trị đã biết, đơn vị và những giả định được phép. Một yêu cầu hữu ích là: “Suy ra kết quả từ các điều kiện này, xác định giả định ở từng giai đoạn, kiểm tra thứ nguyên và giải thích kết quả quan sát nào sẽ bác bỏ kết luận.” Yêu cầu kết quả cuối cùng ngắn gọn sau phần giải thích quá trình làm. Nếu có dữ liệu thực nghiệm, phân biệt phần được đo với phần được tính và yêu cầu giữ rõ sự bất định hoặc thông tin còn thiếu, thay vì lấp chúng bằng một câu trả lời chắc chắn.\n\nVới mã nguồn và quy trình tác tử, cung cấp mục tiêu, các tệp liên quan dưới dạng văn bản và đầu ra thực tế của những bước trước. Ultra dành cho nhiệm vụ có nhiều quyết định phụ thuộc lẫn nhau, vì vậy bản ghi rõ ràng về việc đã hoàn tất và các câu hỏi còn lại rất hữu ích. Ví dụ: “Rà soát đề xuất di chuyển này theo lược đồ và các phép kiểm tra đang thất bại. Xác định quan hệ phụ thuộc cản trở việc hoàn tất, đề xuất một chỉnh sửa tập trung và nêu kết quả mong đợi của phép kiểm tra tiếp theo.” Sau đó, ứng dụng kết nối công cụ có thể thực thi bước được đề xuất và trả về bằng chứng cho quyết định tiếp theo.\n\nNhà sản xuất hỗ trợ bật hoặc tắt suy luận qua mẫu hội thoại. Suy luận được bật mặc định, tạo chuỗi suy luận rồi đến câu trả lời. Thẻ Ultra cũng mô tả chế độ suy luận medium-effort, sử dụng ít token suy luận hơn chế độ suy nghĩ đầy đủ. Đây là tùy chọn riêng của Ultra; không nên nhầm với thiết lập low-effort được tài liệu hóa cho Super. Xác định sản phẩm cuối cùng mong muốn và chừa chỗ cho nó sau suy luận. Chuỗi suy luận chưa hoàn tất không thay thế được câu trả lời hoàn chỉnh cho câu hỏi ban đầu.\n\nUltra hỗ trợ ngữ cảnh tối đa 1M token. Với tập hợp tài liệu hoặc tệp nguồn lớn, gắn nhãn các phần và cho mô hình biết chính xác cần so sánh, lần theo hoặc đối chiếu điều gì. Giữ thứ tự nguồn khi trình tự thời gian hoặc quan hệ phụ thuộc có ý nghĩa. Kết quả hữu ích cho tài liệu dài bao gồm phát hiện, đoạn làm căn cứ và hệ quả đối với câu hỏi. Chọn tài liệu liên quan và dành chỗ cho đầu ra; cửa sổ ngữ cảnh mô tả chuỗi làm việc, không phải độ dài câu trả lời cuối cùng được bảo đảm riêng.\n\nNhà sản xuất liệt kê tiếng Anh, Pháp, Tây Ban Nha, Ý, Đức, Nhật, Hindi, Hàn, Bồ Đào Nha Brazil và Trung Quốc. Nêu ngôn ngữ đầu ra và giữ mã định danh kỹ thuật hoặc trích dẫn nguồn khi câu chữ chính xác có ý nghĩa quan trọng. Với phân tích đa ngôn ngữ, dùng cùng tiêu chí cho từng tài liệu và yêu cầu giải thích khác biệt về thuật ngữ hoặc giả định. Chỉ riêng sự trôi chảy không đủ để xác lập rằng hai yêu cầu được diễn đạt khác nhau có cùng ý nghĩa.\n\nNVIDIA cung cấp ví dụ gọi công cụ rõ ràng có suy luận. Định nghĩa mục đích, đối số và kết quả mong đợi của từng hàm, rồi trả đầu ra thực tế của hàm về mô hình. Ứng dụng thực hiện thao tác; mô hình suy luận trên kết quả quan sát được trả về. Quy trình tác tử dài dễ kiểm tra hơn khi phân biệt rõ hành động đề xuất, kết quả đã thực thi và các phép kiểm tra còn chưa giải quyết. Với báo cáo cuối cùng, yêu cầu câu trả lời, bằng chứng hỗ trợ, các giả định và mọi phần việc còn lại. Kiểm chứng phép tính theo đơn vị ban đầu, thay đổi mã theo các phép kiểm tra đã quan sát và nhận định thực tế theo nguồn được cung cấp.", "editorialOverlay": { "copy_fields": null, "copy_sha256": null, "copy_source": null, "html_sha256": "f919c98a3836f93413a9ba9edb1a30b0605a0043ced8c0e74cd7894b6d87b597", "module_sha256": "ee9dc1c50b1e6a8fb7fa062030fcb4646b9aaaeb08be513b723a5a92a7290f06", "raw_model_unchanged": true, "schema": "ailoot-native-model-editorial-v1" }, "locale": "vi", "methods": [ { "html": "nvidia/nemotron-3-ultra-550b-a55b:freeNVIDIA Nemotron 3 Ultra là mô hình suy luận văn bản lớn, có tổng cộng 550B tham số và 55B được kích hoạt. Thiết kế lai LatentMoE hỗ trợ tác tử nhiều bước có yêu cầu cao, lập trình, toán học, khoa học và phân tích tài liệu dài, với ngữ cảnh tối đa 1M token cùng các tùy chọn suy luận được nhà sản xuất tài liệu hóa.
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
NVIDIA Nemotron 3 Ultra là mô hình suy luận và điều phối quy mô lớn trong dòng Nemotron 3. Mô hình được thiết kế cho tác tử nhiều bước có yêu cầu cao, phân tích ngữ cảnh dài và suy luận về mã nguồn, toán học, khoa học. Mô hình có tổng cộng 550B tham số, trong đó 55B được kích hoạt. Kiến trúc kết hợp các lớp Mamba-2, chú ý và Latent Mixture-of-Experts, cùng các lớp Multi-Token Prediction hỗ trợ thiết kế sinh của mô hình.
LatentMoE chiếu thông tin sang biểu diễn tiềm ẩn nhỏ hơn để các chuyên gia xử lý. Quy trình huấn luyện của NVIDIA kết hợp tiền huấn luyện, tinh chỉnh có giám sát, học tăng cường và chưng cất on-policy trên nhiều lĩnh vực. Mục đích thực tế của các giai đoạn này là cải thiện suy luận, làm theo chỉ dẫn, sử dụng công cụ và hành vi tác tử trên nhiều loại tác vụ. Ultra tạo văn bản: lời giải thích, lời giải, mã nguồn, kế hoạch hoặc cấu trúc phản hồi được yêu cầu. Cung cấp tài liệu mà câu trả lời cần sử dụng và các điều kiện xác định kết quả có đúng hay không.
Với suy luận toán học hoặc khoa học, đưa vào đầy đủ đề bài, các giá trị đã biết, đơn vị và những giả định được phép. Một yêu cầu hữu ích là: “Suy ra kết quả từ các điều kiện này, xác định giả định ở từng giai đoạn, kiểm tra thứ nguyên và giải thích kết quả quan sát nào sẽ bác bỏ kết luận.” Yêu cầu kết quả cuối cùng ngắn gọn sau phần giải thích quá trình làm. Nếu có dữ liệu thực nghiệm, phân biệt phần được đo với phần được tính và yêu cầu giữ rõ sự bất định hoặc thông tin còn thiếu, thay vì lấp chúng bằng một câu trả lời chắc chắn.
Với mã nguồn và quy trình tác tử, cung cấp mục tiêu, các tệp liên quan dưới dạng văn bản và đầu ra thực tế của những bước trước. Ultra dành cho nhiệm vụ có nhiều quyết định phụ thuộc lẫn nhau, vì vậy bản ghi rõ ràng về việc đã hoàn tất và các câu hỏi còn lại rất hữu ích. Ví dụ: “Rà soát đề xuất di chuyển này theo lược đồ và các phép kiểm tra đang thất bại. Xác định quan hệ phụ thuộc cản trở việc hoàn tất, đề xuất một chỉnh sửa tập trung và nêu kết quả mong đợi của phép kiểm tra tiếp theo.” Sau đó, ứng dụng kết nối công cụ có thể thực thi bước được đề xuất và trả về bằng chứng cho quyết định tiếp theo.
Nhà sản xuất hỗ trợ bật hoặc tắt suy luận qua mẫu hội thoại. Suy luận được bật mặc định, tạo chuỗi suy luận rồi đến câu trả lời. Thẻ Ultra cũng mô tả chế độ suy luận medium-effort, sử dụng ít token suy luận hơn chế độ suy nghĩ đầy đủ. Đây là tùy chọn riêng của Ultra; không nên nhầm với thiết lập low-effort được tài liệu hóa cho Super. Xác định sản phẩm cuối cùng mong muốn và chừa chỗ cho nó sau suy luận. Chuỗi suy luận chưa hoàn tất không thay thế được câu trả lời hoàn chỉnh cho câu hỏi ban đầu.
Ultra hỗ trợ ngữ cảnh tối đa 1M token. Với tập hợp tài liệu hoặc tệp nguồn lớn, gắn nhãn các phần và cho mô hình biết chính xác cần so sánh, lần theo hoặc đối chiếu điều gì. Giữ thứ tự nguồn khi trình tự thời gian hoặc quan hệ phụ thuộc có ý nghĩa. Kết quả hữu ích cho tài liệu dài bao gồm phát hiện, đoạn làm căn cứ và hệ quả đối với câu hỏi. Chọn tài liệu liên quan và dành chỗ cho đầu ra; cửa sổ ngữ cảnh mô tả chuỗi làm việc, không phải độ dài câu trả lời cuối cùng được bảo đảm riêng.
Nhà sản xuất liệt kê tiếng Anh, Pháp, Tây Ban Nha, Ý, Đức, Nhật, Hindi, Hàn, Bồ Đào Nha Brazil và Trung Quốc. Nêu ngôn ngữ đầu ra và giữ mã định danh kỹ thuật hoặc trích dẫn nguồn khi câu chữ chính xác có ý nghĩa quan trọng. Với phân tích đa ngôn ngữ, dùng cùng tiêu chí cho từng tài liệu và yêu cầu giải thích khác biệt về thuật ngữ hoặc giả định. Chỉ riêng sự trôi chảy không đủ để xác lập rằng hai yêu cầu được diễn đạt khác nhau có cùng ý nghĩa.
NVIDIA cung cấp ví dụ gọi công cụ rõ ràng có suy luận. Định nghĩa mục đích, đối số và kết quả mong đợi của từng hàm, rồi trả đầu ra thực tế của hàm về mô hình. Ứng dụng thực hiện thao tác; mô hình suy luận trên kết quả quan sát được trả về. Quy trình tác tử dài dễ kiểm tra hơn khi phân biệt rõ hành động đề xuất, kết quả đã thực thi và các phép kiểm tra còn chưa giải quyết. Với báo cáo cuối cùng, yêu cầu câu trả lời, bằng chứng hỗ trợ, các giả định và mọi phần việc còn lại. Kiểm chứng phép tính theo đơn vị ban đầu, thay đổi mã theo các phép kiểm tra đã quan sát và nhận định thực tế theo nguồn được cung cấp.
POST /v1/chat/completionstexttext| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn nvidia/nemotron-3-ultra-550b-a55b:free | Mặc định— |
Trườngmessages | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstream | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn false | Mặc địnhfalse |
Trườngmax_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 65.536 | Mặc định— |
Trườngmax_completion_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 65.536 | Mặc định— |
Trườngn | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 128 | Mặc định— |
Trườngtemperature | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_p | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngseed | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstop | Loại | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngfrequency_penalty | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngpresence_penalty | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườnguser | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, messages |
Tham sốoptional | Hợp đồngstream, max_tokens, max_completion_tokens, n, temperature, top_p, seed, stop, frequency_penalty, presence_penalty, user |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốconditions | Hợp đồngUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
Vòng đời: synchronous_json
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3-ultra-550b-a55b:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3-ultra-550b-a55b:free
Dùng các đường dẫn phương thức hiển thị ở trên.
nvidia/nemotron-3-ultra-550b-a55b:freeNVIDIA Nemotron 3 Ultra là mô hình suy luận văn bản lớn, có tổng cộng 550B tham số và 55B được kích hoạt. Thiết kế lai LatentMoE hỗ trợ tác tử nhiều bước có yêu cầu cao, lập trình, toán học, khoa học và phân tích tài liệu dài, với ngữ cảnh tối đa 1M token cùng các tùy chọn suy luận được nhà sản xuất tài liệu hóa.
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
NVIDIA Nemotron 3 Ultra là mô hình suy luận và điều phối quy mô lớn trong dòng Nemotron 3. Mô hình được thiết kế cho tác tử nhiều bước có yêu cầu cao, phân tích ngữ cảnh dài và suy luận về mã nguồn, toán học, khoa học. Mô hình có tổng cộng 550B tham số, trong đó 55B được kích hoạt. Kiến trúc kết hợp các lớp Mamba-2, chú ý và Latent Mixture-of-Experts, cùng các lớp Multi-Token Prediction hỗ trợ thiết kế sinh của mô hình.
LatentMoE chiếu thông tin sang biểu diễn tiềm ẩn nhỏ hơn để các chuyên gia xử lý. Quy trình huấn luyện của NVIDIA kết hợp tiền huấn luyện, tinh chỉnh có giám sát, học tăng cường và chưng cất on-policy trên nhiều lĩnh vực. Mục đích thực tế của các giai đoạn này là cải thiện suy luận, làm theo chỉ dẫn, sử dụng công cụ và hành vi tác tử trên nhiều loại tác vụ. Ultra tạo văn bản: lời giải thích, lời giải, mã nguồn, kế hoạch hoặc cấu trúc phản hồi được yêu cầu. Cung cấp tài liệu mà câu trả lời cần sử dụng và các điều kiện xác định kết quả có đúng hay không.
Với suy luận toán học hoặc khoa học, đưa vào đầy đủ đề bài, các giá trị đã biết, đơn vị và những giả định được phép. Một yêu cầu hữu ích là: “Suy ra kết quả từ các điều kiện này, xác định giả định ở từng giai đoạn, kiểm tra thứ nguyên và giải thích kết quả quan sát nào sẽ bác bỏ kết luận.” Yêu cầu kết quả cuối cùng ngắn gọn sau phần giải thích quá trình làm. Nếu có dữ liệu thực nghiệm, phân biệt phần được đo với phần được tính và yêu cầu giữ rõ sự bất định hoặc thông tin còn thiếu, thay vì lấp chúng bằng một câu trả lời chắc chắn.
Với mã nguồn và quy trình tác tử, cung cấp mục tiêu, các tệp liên quan dưới dạng văn bản và đầu ra thực tế của những bước trước. Ultra dành cho nhiệm vụ có nhiều quyết định phụ thuộc lẫn nhau, vì vậy bản ghi rõ ràng về việc đã hoàn tất và các câu hỏi còn lại rất hữu ích. Ví dụ: “Rà soát đề xuất di chuyển này theo lược đồ và các phép kiểm tra đang thất bại. Xác định quan hệ phụ thuộc cản trở việc hoàn tất, đề xuất một chỉnh sửa tập trung và nêu kết quả mong đợi của phép kiểm tra tiếp theo.” Sau đó, ứng dụng kết nối công cụ có thể thực thi bước được đề xuất và trả về bằng chứng cho quyết định tiếp theo.
Nhà sản xuất hỗ trợ bật hoặc tắt suy luận qua mẫu hội thoại. Suy luận được bật mặc định, tạo chuỗi suy luận rồi đến câu trả lời. Thẻ Ultra cũng mô tả chế độ suy luận medium-effort, sử dụng ít token suy luận hơn chế độ suy nghĩ đầy đủ. Đây là tùy chọn riêng của Ultra; không nên nhầm với thiết lập low-effort được tài liệu hóa cho Super. Xác định sản phẩm cuối cùng mong muốn và chừa chỗ cho nó sau suy luận. Chuỗi suy luận chưa hoàn tất không thay thế được câu trả lời hoàn chỉnh cho câu hỏi ban đầu.
Ultra hỗ trợ ngữ cảnh tối đa 1M token. Với tập hợp tài liệu hoặc tệp nguồn lớn, gắn nhãn các phần và cho mô hình biết chính xác cần so sánh, lần theo hoặc đối chiếu điều gì. Giữ thứ tự nguồn khi trình tự thời gian hoặc quan hệ phụ thuộc có ý nghĩa. Kết quả hữu ích cho tài liệu dài bao gồm phát hiện, đoạn làm căn cứ và hệ quả đối với câu hỏi. Chọn tài liệu liên quan và dành chỗ cho đầu ra; cửa sổ ngữ cảnh mô tả chuỗi làm việc, không phải độ dài câu trả lời cuối cùng được bảo đảm riêng.
Nhà sản xuất liệt kê tiếng Anh, Pháp, Tây Ban Nha, Ý, Đức, Nhật, Hindi, Hàn, Bồ Đào Nha Brazil và Trung Quốc. Nêu ngôn ngữ đầu ra và giữ mã định danh kỹ thuật hoặc trích dẫn nguồn khi câu chữ chính xác có ý nghĩa quan trọng. Với phân tích đa ngôn ngữ, dùng cùng tiêu chí cho từng tài liệu và yêu cầu giải thích khác biệt về thuật ngữ hoặc giả định. Chỉ riêng sự trôi chảy không đủ để xác lập rằng hai yêu cầu được diễn đạt khác nhau có cùng ý nghĩa.
NVIDIA cung cấp ví dụ gọi công cụ rõ ràng có suy luận. Định nghĩa mục đích, đối số và kết quả mong đợi của từng hàm, rồi trả đầu ra thực tế của hàm về mô hình. Ứng dụng thực hiện thao tác; mô hình suy luận trên kết quả quan sát được trả về. Quy trình tác tử dài dễ kiểm tra hơn khi phân biệt rõ hành động đề xuất, kết quả đã thực thi và các phép kiểm tra còn chưa giải quyết. Với báo cáo cuối cùng, yêu cầu câu trả lời, bằng chứng hỗ trợ, các giả định và mọi phần việc còn lại. Kiểm chứng phép tính theo đơn vị ban đầu, thay đổi mã theo các phép kiểm tra đã quan sát và nhận định thực tế theo nguồn được cung cấp.
POST /v1/messagestexttext| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn nvidia/nemotron-3-ultra-550b-a55b:free | Mặc định— |
Trườngmessages | Loạiarray | Yêu cầuBắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstream | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn false | Mặc địnhfalse |
Trườngsystem | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmax_tokens | Loạiinteger | Yêu cầuBắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tối đa: 65.536 | Mặc định— |
Trườngtemperature | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_p | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtop_k | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngstop_sequences | Loạiarray | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmetadata | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
| Tham số | Hợp đồng |
|---|---|
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốrequired | Hợp đồngmodel, messages, max_tokens |
Tham sốoptional | Hợp đồngstream, system, temperature, top_p, top_k, stop_sequences, metadata |
Tham sốmaterial_types | Hợp đồngtext |
Tham sốconditions | Hợp đồngUse literal text messages only. Cache controls, tools, image/audio/video content and streamed responses are unavailable for this method., The complete encoded JSON request must not exceed 1000000 bytes. |
Vòng đời: synchronous_json
Thông tin biểu giá không bổ sung tùy chọn yêu cầu. Các tham số được hỗ trợ nằm trong phương thức đã chọn.
| Cấu hình | Biểu mức phí | Phí |
|---|---|---|
| Cấu hìnhGiá cơ sở cho token | Biểu mức phíMức phí cơ bản | Phí Đầu vào · Token đầu vào $0 / 1K token Đầu ra · Token đầu ra $0 / 1K token Đầu vào · Đọc bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm — / 1K token Đầu vào · Ghi bộ nhớ đệm, 1 giờ — / 1K token |
Ailoot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\nexport AILOOT_API_KEY\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/nemotron-3-ultra-550b-a55b:free", "messages": [{"role": "user", "content": "Summarize the supplied text in three concise points."}], "stream": false, "max_tokens": 256}')\n\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/messages \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\n# Submit once. Retain the complete result, original identifiers and every response header.\nJSON
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Retain the complete response, all actual results, original identifiers, usage and response headers.
Preserve the original response, headers and X-Client-Request-ID. An uncertain outcome does not authorize another creation.
Ailoot Ultra nvidia/nemotron-3-ultra-550b-a55b:free
Dùng các đường dẫn phương thức hiển thị ở trên.