Amazon: Titan Text Embeddings V2

{"about":"### Die zweite Generation der Text-Embeddings von Titan\n\nAmazon Titan Text Embeddings V2 wandelt Text in eine numerische Darstellung für die Suche und andere Aufgaben um, die auf semantischer Ähnlichkeit beruhen. Das Modell ist auf das Auffinden passender Abschnitte optimiert: Der Nutzer stellt eine Frage in eigenen Worten, und die Anwendung vergleicht deren Vektor mit den Vektoren der Inhalte einer Wissensdatenbank. So lassen sich benötigte Informationen auch ohne exakt übereinstimmende Schlüsselwörter finden.\n\nV2 unterscheidet sich von G1 durch eine kompaktere Standarddarstellung: Laut Amazon-Dokumentation beträgt die voreingestellte Vektorgrösse **1 024 Dimensionen**. Für die Anwendung ist dies eine Eigenschaft der Daten, die sie speichert und vergleicht. Alle Einträge eines Index müssen eine einheitlich abgestimmte Darstellung verwenden; beim Wechsel von einem anderen Embedding-Modell wird der Index für das gewählte Modell neu aufgebaut.\n\n### Einsatzgebiete\n\n- **RAG und Unternehmenssuche:** Vektoren von Dokumentationsabschnitten vorbereiten und anschliessend Abschnitte für ein separates Modell abrufen, das die Frage beantwortet.\n- **Semantische Ähnlichkeit:** Texte mit unterschiedlichen Formulierungen vergleichen und ähnliche Inhalte finden.\n- **Gruppierung:** Themen von Anfragen, Rezensionen und Dokumenten anhand der Ähnlichkeit ihrer Darstellungen untersuchen.\n- **Codesuche:** Suchanwendungen für Quelltexte und zugehörige Erläuterungen aufbauen.\n\nAmazon gibt für V2 ein Training in mehr als 100 natürlichen Sprachen und 13 Programmiersprachen an, darunter Python, JavaScript, Java, C++, Rust, Go und SQL. Das Modell ist dabei in erster Linie für englische Texte optimiert. In einer mehrsprachigen Datenbank sollten Sie insbesondere Anfragen prüfen, bei denen die Sprache der Frage von der Dokumentensprache abweicht: Dass Sprachen im Training enthalten sind, bedeutet nicht, dass alle solchen Kombinationen die gleiche Qualität erzielen.\n\n### Nutzung in Ailoot\n\nAls Eingabe dient Text, als Ausgabe erhalten Sie ein **Embedding**. Die Grenze dieser Modellkarte beträgt **8 192 Eingabe-Token**. Für einen Suchindex teilen Sie lange Inhalte zweckmässig an inhaltlichen Grenzen auf: nach Überschriften, Kapiteln und Absätzen. Anschliessend lässt sich jeder Abschnitt zusammen mit seinem Vektor und einem Verweis auf die ursprüngliche Quelle speichern.\n\n### Praktischer Ablauf\n\nWählen Sie reale Fragen und passende Antworten aus Ihrer Sammlung aus, erstellen Sie Embeddings und prüfen Sie die Suchergebnisse. Variieren Sie Abschnittsgrösse und Vergleichsverfahren anhand desselben Datensatzes und erhalten Sie dabei die Zuordnung zum Ausgangstext. Titan erstellt numerische Darstellungen; Vergleich, Ergebnisauswahl und Antworterstellung übernehmen die nachfolgenden Schritte der Anwendung. Diese Prüfung hilft, die Indexeinstellungen an Ihre Fachsprache und Dokumentenstruktur anzupassen.","alias_of":null,"aliases":[],"author":"Amazon","canonical_model":"amazon/titan-embed-text-v2","ctx":8192,"formats":["embeddings"],"id":"amazon/titan-embed-text-v2","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":8192,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0.04,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"amazon/titan-embed-text-v2","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"amazon/titan-embed-text-v2","request_model_id":"amazon/titan-embed-text-v2","route_label":"Ultra"}],"name":"Amazon: Titan Text Embeddings V2","price":{"in":0.04,"in_label":null,"out":null,"out_label":null,"sort_in":0.04,"sort_out":null,"varies":false},"public_id":"amazon/titan-embed-text-v2","short":"Erstellt Textvektoren für RAG, semantische Suche und Gruppierung, einschliesslich der Suche in mehrsprachigen Inhalten und Code."}