Amazon: Titan Text Embeddings V2

{"about":"### 2세대 Titan 텍스트 임베딩\n\nAmazon Titan Text Embeddings V2는 검색 등 의미의 가까움을 활용하는 작업을 위해 텍스트를 숫자 표현으로 변환합니다. 알맞은 텍스트 조각을 검색하는 데 최적화되어 있습니다. 사용자가 자신의 말로 질문하면 애플리케이션이 질문 벡터를 지식 기반 자료의 벡터와 비교합니다. 키워드가 완전히 일치하지 않아도 필요한 정보를 찾을 수 있습니다.\n\nV2는 G1보다 간결한 기본 표현을 사용합니다. Amazon 문서에 따르면 기본 벡터 크기는 **1,024차원**입니다. 이는 애플리케이션이 저장하고 비교하는 데이터의 특성입니다. 하나의 인덱스 안에서는 모든 항목이 일관된 표현 방식을 사용해야 합니다. 다른 임베딩 모델에서 전환할 때는 선택한 모델에 맞게 인덱스를 다시 준비합니다.\n\n### 활용 분야\n\n- **RAG와 사내 검색:** 문서의 각 절을 벡터로 만든 뒤, 질문에 답할 별도 모델을 위해 관련 조각을 검색합니다.\n- **의미 유사도:** 표현이 다른 텍스트를 비교해 비슷한 자료를 찾습니다.\n- **문서 묶기:** 표현의 가까움을 통해 문의, 후기, 문서의 주제를 살펴봅니다.\n- **코드 검색:** 소스 코드와 관련 설명을 대상으로 검색 작업을 구성합니다.\n\nAmazon은 V2가 100개 이상의 자연어와 Python, JavaScript, Java, C++, Rust, Go, SQL을 포함한 13개 프로그래밍 언어로 학습했다고 밝힙니다. 다만 모델은 주로 영어 텍스트에 최적화되어 있습니다. 다국어 자료에서는 질문과 문서의 언어가 다른 검색을 별도로 확인하는 것이 특히 유용합니다. 학습 언어에 포함되어 있다는 사실만으로 모든 언어 조합의 품질이 같다고 볼 수는 없습니다.\n\n### Ailoot에서 사용하기\n\n텍스트를 입력하면 **임베딩**을 받습니다. 이 모델 카드의 한도는 **입력 8,192토큰**입니다. 검색 인덱스를 만들 때 긴 자료는 제목, 절, 문단처럼 의미가 나뉘는 지점에서 나누면 편리합니다. 각 조각을 벡터 및 원본 참조와 함께 저장할 수 있습니다.\n\n### 실제 검증 과정\n\n자체 자료에서 실제 질문과 알맞은 답변을 고르고, 임베딩을 생성해 검색 결과를 확인합니다. 같은 평가 자료로 조각의 크기와 비교 방식을 바꾸되 원문과의 연결은 유지합니다. Titan은 숫자 표현을 준비하고, 비교와 결과 선택, 답변 작성은 애플리케이션의 다음 단계에서 수행합니다. 이 검증을 통해 사용 중인 용어와 문서 구조에 맞는 인덱스 설정을 선택할 수 있습니다.","alias_of":null,"aliases":[],"author":"Amazon","canonical_model":"amazon/titan-embed-text-v2","ctx":8192,"formats":["embeddings"],"id":"amazon/titan-embed-text-v2","input":["text"],"kind":"embedding","max_out":0,"methods":[{"cache_read":null,"cache_write":null,"cache_write_1h":null,"cache_write_5m":null,"conditional_meter":null,"ctx":8192,"family":"openai","fast_multiplier":1,"flex_multiplier":1,"fmt":"embeddings","http":"POST","img_in":null,"img_out":null,"in":0.04,"input":["text"],"label":"Эмбеддинги","max_out":0,"max_tool_calls":null,"out":0,"output":["embedding"],"path":"/v1/embeddings","request_model_id":"amazon/titan-embed-text-v2","route_label":"Ultra","status_reads":[],"tiers":[],"tool_prices":null,"unit":"token","units":[]}],"model_aliases":[{"canonical_model_id":"amazon/titan-embed-text-v2","request_model_id":"amazon/titan-embed-text-v2","route_label":"Ultra"}],"name":"Amazon: Titan Text Embeddings V2","price":{"in":0.04,"in_label":null,"out":null,"out_label":null,"sort_in":0.04,"sort_out":null,"varies":false},"public_id":"amazon/titan-embed-text-v2","short":"RAG, 의미 검색, 문서 묶기용 텍스트 벡터를 만들며 다국어 자료와 코드 검색에도 활용할 수 있습니다."}