NVIDIA: Nemotron 3.5 Embed 8B (free)

{"about":"### חיפוש לפי משמעות בבסיס ידע\n\nNemotron 3.5 Embed 8B הוא מודל של NVIDIA להמרת שאילתות ומסמכים להטמעות. הייצוגים המספריים האלה מסייעים להשוות טקסט לפי תוכן כשהניסוח של השאלה שונה מהמילים במקור. המודל מתאים לשכבת החיפוש של בסיס ידע ארגוני, שירות מידע ויישום שבוחר מסמכים לפני הכנת תשובה.\n\nהמודל המקורי של NVIDIA מאחד טקסט ותמונות מסמכים במרחב ייצוג אחד; דור 3.5 מוסיף חיפוש בתוכן החזותי של עמודים. בכרטיס Ailoot הזה משתמשים בתרחיש הטקסטואלי שלו: טקסט בקלט ווקטור בפלט.\n\nב־Ailoot זמינים קלט טקסט ופלט וקטורי דרך embeddings. היישום מקבל ייצוג של חומר המקור ומשתמש בו למציאת רשומות קרובות באינדקס. אם דרושה תשובה רציפה עם הסבר, אפשר להעביר את הטקסטים שנמצאו למודל יצירה נפרד יחד עם שאלת המשתמש.\n\n### מה מייחד את גרסת 8B\n\nהקידוד הטקסטואלי מבוסס על Nemotron 3 Embed 8B. ביצירת דור 3.5 שמרה NVIDIA על החלק הטקסטואלי הזה ועל מרחב ההטמעות שלו, והרחיבה את המודל המקורי ביכולות נוספות. בכרטיס שפורסם מתואר פלט של 4096 ערכים, שמתקבל ממיצוע ייצוגי הטוקנים ומנרמול L2. בהכנת אינדקס וקטורי יש להתאים את מספר הממדים שלו לתשובת המתודה בפועל.\n\nהחיפוש הטקסטואלי הוערך ב־34 שפות, ובהן רוסית. בהוראות ובמדריכים רב־לשוניים הדבר מאפשר לבחון את המודל כשכבת חיפוש משותפת. תוצאת הבחירה תלויה בהרכב הבסיס, בחלוקת המסמכים ובשאלות האופייניות של המשתמשים; כדאי לבדוק אותה על חומרים מתחום התוכן שלכם.\n\n### תהליך העבודה\n\n1. חלקו את מסמכי המקור למקטעים שכל אחד מהם מכיל תשובה או הסבר שלמים.\n2. קבלו הטמעות ושמרו אותן לצד הטקסט, הכותרת וההפניה למקור.\n3. המירו את שאלת המשתמש באותו מודל ומצאו רשומות קרובות.\n4. הציגו את המקטעים שנמצאו או השתמשו בהם ב־RAG להכנת תשובה המבוססת על מקורות.\n\n### גודל הקלט\n\nלגרסה הזאת מציין Ailoot הקשר טקסטואלי ומגבלת קלט של 32768 טוקנים. אפשר לשמור מקטעי מסמך ארוך כרשומות עצמאיות עם הפניה משותפת לחומר המקור. התוצאה הזמינה של המודל היא הטמעת טקסט, שבה היישום משתמש להמשך עיבוד.","alias_of":null,"aliases":[],"author":"NVIDIA","canonical_model":"nvidia/nemotron-3.5-embed-8b:free","ctx":32768,"formats":["embeddings"],"id":"nvidia/nemotron-3.5-embed-8b:free","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":32768,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"nvidia/nemotron-3.5-embed-8b:free","request_model_id":"nvidia/nemotron-3.5-embed-8b:free","route_label":"Ultra"}],"name":"NVIDIA: Nemotron 3.5 Embed 8B (free)","price":{"in":0,"in_label":null,"out":null,"out_label":null,"sort_in":0,"sort_out":null,"varies":false},"public_id":"nvidia/nemotron-3.5-embed-8b:free","short":"הטמעות טקסט רב־לשוניות של NVIDIA לחיפוש סמנטי במסמכים ולבניית RAG."}