Amazon: Titan Text Embeddings V2

{"about":"### הדור השני של הטמעות הטקסט של Titan\n\nAmazon Titan Text Embeddings V2 ממיר טקסט לייצוג מספרי לחיפוש ולמשימות אחרות המבוססות על קרבת משמעות. המודל מותאם לשליפת מקטעים מתאימים: המשתמש שואל במילים שלו, והיישום משווה את וקטור השאלה לווקטורים של חומרי בסיס הידע. כך אפשר למצוא מידע נחוץ בלי התאמה מלאה של מילות מפתח.\n\nV2 שונה מ־G1 בייצוג ברירת מחדל קומפקטי יותר: בתיעוד Amazon גודל הווקטור כברירת מחדל הוא **1 024 ממדים**. עבור היישום זהו מאפיין של הנתונים שהוא מאחסן ומשווה. כל הרשומות באינדקס אחד צריכות להשתמש בשיטת ייצוג אחידה; במעבר ממודל הטמעות אחר מכינים מחדש את האינדקס עבור המודל שנבחר.\n\n### היכן להשתמש\n\n- **RAG וחיפוש ארגוני:** להכין וקטורים של סעיפי תיעוד, ואז לשלוף מקטעים עבור מודל נפרד שעונה על השאלה.\n- **דמיון סמנטי:** להשוות טקסטים בניסוחים שונים ולמצוא חומרים קרובים.\n- **קיבוץ:** לחקור נושאים בפניות, בביקורות ובמסמכים באמצעות הקרבה בין הייצוגים שלהם.\n- **חיפוש בקוד:** לבנות תהליכי חיפוש לטקסטי מקור ולהסברים הנלווים להם.\n\nAmazon מציינת ש־V2 אומן על יותר מ־100 שפות טבעיות ועל 13 שפות תכנות, ובהן Python, JavaScript, Java, C++, Rust, Go ו־SQL. עם זאת, המודל מותאם בעיקר לטקסט באנגלית. בבסיס רב־לשוני כדאי במיוחד לבדוק בנפרד שאילתות שבהן שפת השאלה שונה משפת המסמכים: הופעת שפות באימון אינה קובעת איכות זהה בכל השילובים הללו.\n\n### עבודה ב־Ailoot\n\nהקלט הוא טקסט, והפלט הוא **הטמעה**. מגבלת הכרטיס היא **8 192 טוקני קלט**. עבור אינדקס חיפוש נוח לחלק חומרים ארוכים בגבולות משמעות: כותרות, סעיפים ופסקאות. לאחר מכן אפשר לשמור כל מקטע לצד הווקטור שלו והפניה למקור.\n\n### מחזור עבודה מעשי\n\nבחרו שאלות אמיתיות ותשובות מתאימות מהאוסף שלכם, צרו הטמעות ובדקו את תוצאות החיפוש. שנו את גודל המקטע ואת שיטת ההשוואה על אותו אוסף, תוך שמירת הקשר לטקסט המקורי. Titan מכין ייצוגים מספריים; ההשוואה, בחירת התוצאות וניסוח התשובה מתבצעים בשלבים הבאים ביישום. בדיקה כזאת עוזרת לבחור הגדרות אינדקס שמתאימות למינוח ולמבנה המסמכים שלכם.","alias_of":null,"aliases":[],"author":"Amazon","canonical_model":"amazon/titan-embed-text-v2","ctx":8192,"formats":["embeddings"],"id":"amazon/titan-embed-text-v2","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":8192,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0.04,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"amazon/titan-embed-text-v2","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"amazon/titan-embed-text-v2","request_model_id":"amazon/titan-embed-text-v2","route_label":"Ultra"}],"name":"Amazon: Titan Text Embeddings V2","price":{"in":0.04,"in_label":null,"out":null,"out_label":null,"sort_in":0.04,"sort_out":null,"varies":false},"public_id":"amazon/titan-embed-text-v2","short":"יוצר וקטורים של טקסט ל־RAG, לחיפוש סמנטי ולקיבוץ, לרבות חיפוש בחומרים רב־לשוניים ובקוד."}