Riva-Translate-4B-Instruct-v1.1 là mô hình chuyên dịch văn bản của NVIDIA. Mô hình xử lý câu riêng và tài liệu: nhận văn bản, trả về văn bản bằng ngôn ngữ đã chọn. Định dạng này phù hợp cho dịch giả, người làm marketing và nhà phát triển chuẩn bị tư liệu đa ngôn ngữ.
Mô hình có 12 ngôn ngữ và biến thể: tiếng Anh, Đức, Tây Ban Nha châu Âu và Mỹ Latinh, Pháp, Bồ Đào Nha Brazil, Nga, Trung với chữ giản thể và phồn thể, Nhật, Hàn và Ả Rập. Với tiếng Tây Ban Nha và Trung, có thể chỉ định riêng biến thể mong muốn; tiếng Bồ Đào Nha ở phiên bản này là biến thể Brazil.
Các hướng dịch xoay quanh tiếng Anh: từ tiếng Anh sang những ngôn ngữ được liệt kê và ngược lại. Văn bản tiếng Nga được dịch sang tiếng Anh, còn tiếng Anh sang tiếng Nga. Biến thể vùng miền thuộc lựa chọn hướng dịch, nên nêu cùng ngôn ngữ.
Yêu cầu tách hướng dịch và tư liệu. Tin nhắn hệ thống chỉ cặp ngôn ngữ, tin nhắn người dùng chứa văn bản nguồn. Chẳng hạn, en-ru đặt dịch từ tiếng Anh sang tiếng Nga, ru-en từ tiếng Nga sang tiếng Anh. Tiếng Tây Ban Nha châu Âu có en-es-es, Mỹ Latinh có en-es-us; tiếng Bồ Đào Nha Brazil có en-pt-br.
Có thể truyền nhiều ví dụ bản dịch trong yêu cầu. Mẫu hội thoại hỗ trợ xen kẽ văn bản người dùng và câu trả lời chứa bản dịch. Nhờ đó, có thể trình bày cặp văn bản nguồn và bản dịch trước tư liệu tiếp theo. NVIDIA khuyến nghị dùng mẫu dịch mà mô hình được tinh chỉnh trên đó: mẫu xác định rõ ngôn ngữ nguồn và đích.
Mô hình có khoảng bốn tỷ tham số, được xây dựng theo Transformer có bộ giải mã. Mô hình cơ sở được tạo bằng nén và chưng cất, rồi tiếp tục huấn luyện trên văn bản, học từ ví dụ và tối ưu theo sở thích. Ngữ cảnh tối đa là 8K token.
Chất lượng phụ thuộc vào chủ đề, điều kiện tác vụ, nhiễu trong văn bản nguồn và ngữ cảnh sẵn có. Câu trả lời có thể mắc lỗi ngữ pháp và thiếu chính xác về ý nghĩa. Làm rõ yêu cầu có thể giúp nhận bản dịch phù hợp hơn.
", "aboutText": "Riva-Translate-4B-Instruct-v1.1 là mô hình chuyên dịch văn bản của NVIDIA. Mô hình xử lý câu riêng và tài liệu: nhận văn bản, trả về văn bản bằng ngôn ngữ đã chọn. Định dạng này phù hợp cho dịch giả, người làm marketing và nhà phát triển chuẩn bị tư liệu đa ngôn ngữ.\n\n### Ngôn ngữ và biến thể vùng miền\n\nMô hình có 12 ngôn ngữ và biến thể: tiếng Anh, Đức, Tây Ban Nha châu Âu và Mỹ Latinh, Pháp, Bồ Đào Nha Brazil, Nga, Trung với chữ giản thể và phồn thể, Nhật, Hàn và Ả Rập. Với tiếng Tây Ban Nha và Trung, có thể chỉ định riêng biến thể mong muốn; tiếng Bồ Đào Nha ở phiên bản này là biến thể Brazil.\n\nCác hướng dịch xoay quanh tiếng Anh: từ tiếng Anh sang những ngôn ngữ được liệt kê và ngược lại. Văn bản tiếng Nga được dịch sang tiếng Anh, còn tiếng Anh sang tiếng Nga. Biến thể vùng miền thuộc lựa chọn hướng dịch, nên nêu cùng ngôn ngữ.\n\n### Cách đặt yêu cầu dịch\n\nYêu cầu tách hướng dịch và tư liệu. Tin nhắn hệ thống chỉ cặp ngôn ngữ, tin nhắn người dùng chứa văn bản nguồn. Chẳng hạn, `en-ru` đặt dịch từ tiếng Anh sang tiếng Nga, `ru-en` từ tiếng Nga sang tiếng Anh. Tiếng Tây Ban Nha châu Âu có `en-es-es`, Mỹ Latinh có `en-es-us`; tiếng Bồ Đào Nha Brazil có `en-pt-br`.\n\nCó thể truyền nhiều ví dụ bản dịch trong yêu cầu. Mẫu hội thoại hỗ trợ xen kẽ văn bản người dùng và câu trả lời chứa bản dịch. Nhờ đó, có thể trình bày cặp văn bản nguồn và bản dịch trước tư liệu tiếp theo. NVIDIA khuyến nghị dùng mẫu dịch mà mô hình được tinh chỉnh trên đó: mẫu xác định rõ ngôn ngữ nguồn và đích.\n\n### Ngữ cảnh và cấu trúc\n\nMô hình có khoảng bốn tỷ tham số, được xây dựng theo Transformer có bộ giải mã. Mô hình cơ sở được tạo bằng nén và chưng cất, rồi tiếp tục huấn luyện trên văn bản, học từ ví dụ và tối ưu theo sở thích. Ngữ cảnh tối đa là 8K token.\n\n### Những yếu tố ảnh hưởng đến bản dịch\n\nChất lượng phụ thuộc vào chủ đề, điều kiện tác vụ, nhiễu trong văn bản nguồn và ngữ cảnh sẵn có. Câu trả lời có thể mắc lỗi ngữ pháp và thiếu chính xác về ý nghĩa. Làm rõ yêu cầu có thể giúp nhận bản dịch phù hợp hơn.", "editorialOverlay": { "copy_fields": { "practical_html": "Ví dụ kỹ thuật bằng tiếng Anh
Translate a collection notice into Russian\n\nTranslation direction: English to Russian, en-ru. Translate this notice: 'Your repaired kettle is ready for collection at the service desk. Please bring receipt R-204. We will keep it until Friday at 18:00.' Preserve the receipt identifier and the collection deadline. Return only the translated notice.A Russian translation preserving the service-desk location, R-204 and Friday 18:00 deadline.The translation must not turn the collection deadline into the repair completion time.nvidia/riva-translate-4b-instruct-v1.1Riva-Translate-4B-Instruct-v1.1 của NVIDIA dịch câu và tài liệu giữa tiếng Anh với 11 ngôn ngữ, biến thể vùng miền khác, gồm tiếng Nga. Hỗ trợ ví dụ bản dịch trong yêu cầu và ngữ cảnh tối đa 8K token.
Mô tả này trình bày khả năng của mô hình. Đầu vào, đầu ra và tùy chọn có trên Ailoot được liệt kê bên dưới cho phương thức đã chọn.
Riva-Translate-4B-Instruct-v1.1 là mô hình chuyên dịch văn bản của NVIDIA. Mô hình xử lý câu riêng và tài liệu: nhận văn bản, trả về văn bản bằng ngôn ngữ đã chọn. Định dạng này phù hợp cho dịch giả, người làm marketing và nhà phát triển chuẩn bị tư liệu đa ngôn ngữ.
Mô hình có 12 ngôn ngữ và biến thể: tiếng Anh, Đức, Tây Ban Nha châu Âu và Mỹ Latinh, Pháp, Bồ Đào Nha Brazil, Nga, Trung với chữ giản thể và phồn thể, Nhật, Hàn và Ả Rập. Với tiếng Tây Ban Nha và Trung, có thể chỉ định riêng biến thể mong muốn; tiếng Bồ Đào Nha ở phiên bản này là biến thể Brazil.
Các hướng dịch xoay quanh tiếng Anh: từ tiếng Anh sang những ngôn ngữ được liệt kê và ngược lại. Văn bản tiếng Nga được dịch sang tiếng Anh, còn tiếng Anh sang tiếng Nga. Biến thể vùng miền thuộc lựa chọn hướng dịch, nên nêu cùng ngôn ngữ.
Yêu cầu tách hướng dịch và tư liệu. Tin nhắn hệ thống chỉ cặp ngôn ngữ, tin nhắn người dùng chứa văn bản nguồn. Chẳng hạn, en-ru đặt dịch từ tiếng Anh sang tiếng Nga, ru-en từ tiếng Nga sang tiếng Anh. Tiếng Tây Ban Nha châu Âu có en-es-es, Mỹ Latinh có en-es-us; tiếng Bồ Đào Nha Brazil có en-pt-br.
Có thể truyền nhiều ví dụ bản dịch trong yêu cầu. Mẫu hội thoại hỗ trợ xen kẽ văn bản người dùng và câu trả lời chứa bản dịch. Nhờ đó, có thể trình bày cặp văn bản nguồn và bản dịch trước tư liệu tiếp theo. NVIDIA khuyến nghị dùng mẫu dịch mà mô hình được tinh chỉnh trên đó: mẫu xác định rõ ngôn ngữ nguồn và đích.
Mô hình có khoảng bốn tỷ tham số, được xây dựng theo Transformer có bộ giải mã. Mô hình cơ sở được tạo bằng nén và chưng cất, rồi tiếp tục huấn luyện trên văn bản, học từ ví dụ và tối ưu theo sở thích. Ngữ cảnh tối đa là 8K token.
Chất lượng phụ thuộc vào chủ đề, điều kiện tác vụ, nhiễu trong văn bản nguồn và ngữ cảnh sẵn có. Câu trả lời có thể mắc lỗi ngữ pháp và thiếu chính xác về ý nghĩa. Làm rõ yêu cầu có thể giúp nhận bản dịch phù hợp hơn.
POST /v1/chat/completionstexttext| Trường | Loại | Yêu cầu | Giá trị & giới hạn | Mặc định |
|---|---|---|---|---|
Trườngmodel | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn nvidia/riva-translate-4b-instruct-v1.1 | Mặc định— |
Trườngmessages | Loạimessage[] | Yêu cầuBắt buộc | Giá trị & giới hạn Số mục tối thiểu: 1 | Mặc định— |
Trườngmessages[].role | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn Ví dụ: system, user, assistant, tool, function Điều kiện: Các vai trò này được biểu diễn rõ trong các kiểu tương thích của mã nguồn; tập vai trò chính xác vẫn tùy từng mô hình. Tùy thuộc vào mô hình | Mặc định— |
Trườngmessages[].content | Loạistring|content_part[]|null | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmessages[].tool_calls | Loạitool_call[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmessages[].tool_call_id | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Áp dụng khi: role=tool; dùng ID thực tế được trả về | Mặc định— |
Trườngmessages[].name | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngmessages[].reasoning_content | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Áp dụng khi: Gửi lại dữ liệu suy luận thực tế đã được trả về khi mô hình này sử dụng dữ liệu đó | Mặc định— |
Trườngmessages[].reasoning_details | Loạiobject|array | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngmax_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tùy thuộc vào mô hình | Mặc định— |
Trườngmax_completion_tokens | Loạiinteger | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tối thiểu: 1 Tùy thuộc vào mô hình | Mặc định— |
Trườngstream | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc địnhfalse |
Trườngstream_options.include_usage | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngtemperature | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngtop_p | Loạinumber | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngstop | Loạistring|string[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngtools | Loạifunction_tool[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngtools[].type | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngtools[].function.name | Loạistring | Yêu cầuBắt buộc | Giá trị & giới hạn Áp dụng khi: Có cung cấp công cụ hàm | Mặc định— |
Trườngtools[].function.description | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtools[].function.parameters | LoạiJSON_schema | Yêu cầuKhông bắt buộc | Giá trị & giới hạn | Mặc định— |
Trườngtool_choice | Loạistring|object | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngparallel_tool_calls | Loạiboolean | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngresponse_format | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngreasoning_effort | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngreasoning | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngservice_tier | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườnginstructions | Loạistring | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Trường tương thích | Mặc định— |
Trườngfunctions | Loạifunction[] | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngfunction_call | Loạistring|object | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Trườngprompt_cache_options | Loạiobject | Yêu cầuKhông bắt buộc | Giá trị & giới hạn Tùy thuộc vào mô hình | Mặc định— |
Văn bản · Văn bản UTF8
messages[].content
| Tham số | Hợp đồng |
|---|---|
Tham sốmaterial_types | Hợp đồngtext |
Tham sốrequired | Hợp đồngmodel, messages |
Tham sốoptional_controls | Hợp đồngnull |
Tham sốcontent_type | Hợp đồngapplication/json |
Tham sốtext_file_material | Hợp đồngNội dung UTF-8 thực tế được chèn dưới dạng văn bản; ID tệp/URLs cần được hỗ trợ chính xác riêng |
Vòng đời: exact retained published method
Cấu trúc phương thức và ID là chính xác; khả năng của nhà cung cấp tách biệt với việc cho phép tiếp nhận yêu cầu.
POST /v1/chat/completionsAiloot tạm giữ một khoản ước tính trước yêu cầu. Sau khi có kết quả, phí cuối cùng được quyết toán theo mức sử dụng đo được. Việc quyết toán khi truyền luồng dùng bản ghi mức sử dụng cuối cùng. Cách hoạt động của cơ chế tạm giữ và quyết toán →
set -eu\n: "${AILOOT_API_KEY:?Set your Ailoot API key}"\n: "${AILOOT_TEXT_FILE:?Set your actual UTF-8 source-material file}"\nexport AILOOT_TEXT_FILE\npython3 - <<'PY_REQUEST'\nimport json,os\nfrom pathlib import Path\np=json.loads('{"model": "nvidia/riva-translate-4b-instruct-v1.1", "messages": []}')\nf=Path(os.environ["AILOOT_TEXT_FILE"])\nif not f.is_file():raise SystemExit("Choose your actual UTF-8 source material")\ntext=f.read_text(encoding="utf-8")\nif not text.strip():raise SystemExit("Source material must contain text")\np["messages"]=[{"role":"user","content":"Summarize this material and quote supporting source passages.\\n\\n"+text}]\nPath("request.json").write_text(json.dumps(p,ensure_ascii=False))\nPY_REQUEST\ncurl --fail-with-body --silent --show-error https://api.ailoot.ai/v1/chat/completions \\\n -H "Authorization: Bearer $AILOOT_API_KEY" -H 'Content-Type: application/json' \\\n --data-binary @request.json -D response-headers.txt -o result.json\npython3 - <<'PY_RESULT'\nimport json\nfrom pathlib import Path\nprint(json.dumps(json.loads(Path("result.json").read_text()),ensure_ascii=False,indent=2))\nPY_RESULT\nfrom openai import OpenAI\nimport os\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient = OpenAI(base_url="https://api.ailoot.ai/v1", api_key=os.environ["AILOOT_API_KEY"], max_retries=0)\nresp = client.chat.completions.create(\n model="nvidia/riva-translate-4b-instruct-v1.1",\n messages=[{"role": "user", "content": "Explain the difference between an observation and a hypothesis in three sentences."}],\n)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nsave_result(resp.to_dict(mode="json"))\nimport OpenAI from "openai";\n\nif (!process.env.AILOOT_API_KEY?.trim()) throw new Error("Set AILOOT_API_KEY before making a request");\nconst client = new OpenAI({ baseURL: "https://api.ailoot.ai/v1", apiKey: process.env.AILOOT_API_KEY, maxRetries: 0 });\nconst resp = await client.chat.completions.create({\n model: "nvidia/riva-translate-4b-instruct-v1.1",\n messages: [{ role: "user", content: "Explain the difference between an observation and a hypothesis in three sentences." }],\n});\nimport { writeFileSync } from "node:fs";\n\nfunction saveResult(data, stem = "result") {\n writeFileSync(stem + ".json", JSON.stringify(data, null, 2));\n console.log(JSON.stringify(data, null, 2));\n const saveBlob = (encoded, suffix, label) => {\n const raw = Buffer.from(encoded, "base64");\n const ext = raw.subarray(0,8).equals(Buffer.from([137,80,78,71,13,10,26,10])) ? "png" : raw[0]===255 && raw[1]===216 ? "jpg" : raw.subarray(0,4).toString()==="RIFF" && raw.subarray(8,12).toString()==="WEBP" ? "webp" : suffix;\n const file = `${stem}-${label}.${ext}`;\n writeFileSync(file, raw); console.log("Saved", file);\n };\n for (const [i, block] of (data.content || []).entries()) console.log("Content", i, JSON.stringify(block));\n for (const choice of data.choices || []) console.log("Choice", choice.index, JSON.stringify(choice.message || choice.delta || {}));\n for (const [i, item] of (data.output || []).entries()) {\n console.log("Output", i, JSON.stringify(item));\n if (item.type === "image_generation_call" && item.result) saveBlob(item.result, item.output_format || "bin", `output-${i}`);\n }\n for (const [ci, candidate] of (data.candidates || []).entries()) {\n for (const [pi, part] of (candidate.content?.parts || []).entries()) {\n console.log("Candidate/part", ci, pi, JSON.stringify(part));\n const blob = part.inlineData || part.inline_data;\n if (blob?.data) {\n const mime = blob.mimeType || blob.mime_type;\n const suffix = ({"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"})[mime] || "bin";\n saveBlob(blob.data, suffix, `candidate-${ci}-part-${pi}`);\n }\n }\n }\n}\n\nsaveResult(resp);\nfrom openai import OpenAI\nimport os\nfrom pathlib import Path\n\nif not os.environ.get("AILOOT_API_KEY", "").strip(): raise SystemExit("Set AILOOT_API_KEY before making a request")\nclient=OpenAI(base_url="https://api.ailoot.ai/v1",api_key=os.environ["AILOOT_API_KEY"],max_retries=0)\nimport base64, json\nfrom pathlib import Path\n\ndef save_result(data, stem="result"):\n # Keep every field, including usage, IDs, reasoning and tool requests.\n Path(stem + ".json").write_text(json.dumps(data, ensure_ascii=False, indent=2), encoding="utf-8")\n print(json.dumps(data, ensure_ascii=False, indent=2))\n def save_blob(encoded, suffix, label):\n raw = base64.b64decode(encoded, altchars=b"-_", validate=True)\n ext = "png" if raw.startswith(b"\\x89PNG\\r\\n\\x1a\\n") else "jpg" if raw.startswith(b"\\xff\\xd8") else "webp" if raw[:4] == b"RIFF" and raw[8:12] == b"WEBP" else suffix\n file = Path(stem + "-" + label + "." + ext)\n file.write_bytes(raw)\n print("Saved", file)\n for index, block in enumerate(data.get("content") or []):\n print("Content", index, json.dumps(block, ensure_ascii=False))\n for choice in data.get("choices") or []:\n print("Choice", choice.get("index"), json.dumps(choice.get("message", choice.get("delta", {})), ensure_ascii=False))\n for index, item in enumerate(data.get("output") or []):\n print("Output", index, json.dumps(item, ensure_ascii=False))\n if item.get("type") == "image_generation_call" and item.get("result"):\n save_blob(item["result"], item.get("output_format") or "bin", "output-" + str(index))\n for ci, candidate in enumerate(data.get("candidates") or []):\n for pi, part in enumerate((candidate.get("content") or {}).get("parts") or []):\n print("Candidate/part", ci, pi, json.dumps(part, ensure_ascii=False))\n blob = part.get("inlineData") or part.get("inline_data")\n if blob and blob.get("data"):\n mime = blob.get("mimeType") or blob.get("mime_type")\n suffix = {"image/png":"png", "image/jpeg":"jpg", "image/webp":"webp", "audio/wav":"wav", "audio/mpeg":"mp3", "video/mp4":"mp4"}.get(mime, "bin")\n save_blob(blob["data"], suffix, "candidate-" + str(ci) + "-part-" + str(pi))\n\nwith client.chat.completions.stream(model='nvidia/riva-translate-4b-instruct-v1.1',messages=[{"role":"user","content":"Explain observations and hypotheses in three sentences."}]) as stream:\n with Path("stream-events.jsonl").open("w",encoding="utf-8") as log:\n for event in stream:\n payload=event.to_dict(mode="json")\n log.write(json.dumps(payload,ensure_ascii=False)+"\\n"); log.flush()\n print(json.dumps(payload,ensure_ascii=False))\n final=stream.get_final_completion()\n save_result(final.to_dict(mode="json"),"stream-result")\njson hoặc SSE
Lưu mọi phản hồi hoàn chỉnh, tệp và phần nội dung được trả về.
Giữ mọi phương án trả lời cùng nội dung, lệnh gọi công cụ và dữ liệu suy luận của phương án đó. Với SSE, ghép các phần thay đổi theo chỉ số phương án và công cụ, giữ lý do kết thúc cuối cùng cùng dữ liệu sử dụng.
Giữ ID và header của yêu cầu, phản hồi. Không cung cấp URL chung để truy xuất tác vụ văn bản.
| Trường | Loại |
|---|---|
Trườngchoices[].index | Loạiinteger |
Trườngchoices[].message.content | Loạistring|null |
Trườngchoices[].message.tool_calls | Loạitool_call[] |
Trườngchoices[].message.reasoning_content | Loạistring |
Trườngchoices[].message.reasoning_details | Loạiobject|array |
Trườngchoices[].finish_reason | Loạistring|null |
Trườngusage | Loạiobject |
| Phản hồi | Điều kiện | Bước tiếp theo |
|---|---|---|
Phản hồi400 · invalid_request_error | Điều kiệnTrường bắt buộc, cách biểu diễn tài liệu hoặc giá trị tham số không hợp lệ | Bước tiếp theoSửa các trường được chỉ ra trước khi gửi yêu cầu tạo mới. |
Ailoot nvidia/riva-translate-4b-instruct-v1.1
Dùng các đường dẫn phương thức hiển thị ở trên.
Ví dụ kỹ thuật bằng tiếng Anh
Translate a collection notice into Russian\n\nTranslation direction: English to Russian, en-ru. Translate this notice: 'Your repaired kettle is ready for collection at the service desk. Please bring receipt R-204. We will keep it until Friday at 18:00.' Preserve the receipt identifier and the collection deadline. Return only the translated notice.A Russian translation preserving the service-desk location, R-204 and Friday 18:00 deadline.The translation must not turn the collection deadline into the repair completion time.