together-embeddings

Together Embeddings & Reranking

概要

セマンティック検索のコンポーネントには、このスキルを使用します。

• エンベディングを作成する
• エンベディングをバッチ処理する
• 検索または RAG のパイプラインを構築する
• 検索した候補を再ランク付けする

このスキルは検索の仕組みを整えるためのものであり、最終的な言語モデルの応答そのものを生成するためのものではありません。

このスキルを優先する場面

• ベクトル検索またはセマンティック類似性の機能を構築する
• データパイプラインにエンベディング生成を追加する
• 再ランク付けによって検索品質を向上させる
• チャットモデルを呼び出す前に検索段階を組み立てる

別のスキルに引き継ぐ場面

• 最終的な回答生成には together-chat-completions を使用します
• 非常に大規模なオフラインのエンベディング一括再生成には together-batch-inference を使用します
• 再ランク付けに専用デプロイメントが必要な場合は together-dedicated-model-inference を使用します

クイックルーティング

• Embeddings API の使用
  • references/api-reference.md を読みます
  • scripts/embed_and_rerank.py または scripts/embed_and_rerank.ts から始めます
• セマンティック検索（エンベディング、保存、クエリ）
  • scripts/semantic_search.py から始めます。メモリ内ベクトルストア、コサイン類似度による検索、任意の再ランク付けが含まれています
• RAG パイプラインの構成
  • scripts/rag_pipeline.py から始めます
• モデルの選択と再ランク付けの制約
  • references/models.md を読みます

ワークフロー

1. ユーザーが直接の生成ではなく、ベクトルまたは検索を必要としていることを確認します。
2. エンベディングモデルとバッチの形状を選択します。
3. コーパスとクエリの両方で、一貫した方法でエンベディングを生成します。
4. 候補を検索します。メモリ内のコサイン類似度ストアは、プロトタイピングや小規模なコーパスに適しています（semantic_search.py を参照）。本番環境の規模では、専用のベクトルデータベースを使用します。
5. 追加のレイテンシとエンドポイント要件が妥当な場合にのみ再ランク付けを行います。専用の再ランク付けエンドポイントが利用できない場合は、コサイン類似度によるランキングが妥当な代替手段です。

重要なルール

• Python スクリプトには Together v2 SDK（together>=2.0.0）が必要です。古いバージョンを使用している場合は、先にアップグレードしてください：uv pip install --upgrade "together>=2.0.0"。
• エンベディングと再ランク付けは概念上、別のものとして扱います。再ランク付けは第 2 段階で精度を高める処理です。
• このリポジトリでの再ランク付けは専用エンドポイントを前提としています。製品に変更がない限り、サーバーレスで再ランク付けできるとは案内しないでください。エンドポイントが利用できない場合は、コサイン類似度によるランキングに切り替えてください。
• エンベディングモデルのコンテキスト上限は 514 トークンです。長いドキュメントはエンベディングの前にチャンクに分割してください。
• rag_pipeline.py の例は、検索と生成の組み合わせを示しています。生成はチャット補完への引き継ぎとして扱ってください。
• インデックス作成とクエリ処理で、モデルの一貫性を保ってください。

リソース一覧

• API の詳細：references/api-reference.md
• モデルガイド：references/models.md
• Python エンベディングの例：scripts/embed_and_rerank.py
• TypeScript エンベディングの例：scripts/embed_and_rerank.ts
• Python セマンティック検索：scripts/semantic_search.py
• Python RAG パイプライン：scripts/rag_pipeline.py

公式ドキュメント

• エンベディングの概要
• 再ランク付けの概要
• Embeddings API
• Rerank API