mcpField
T
together-embeddings

together-embeddings

github.com/togethercomputer数据与数据库3992 次安装2 周前更新
代码仓库

关于 together-embeddings

面向开发者的 Together 技能，用于构建语义检索流程，涵盖嵌入生成、候选检索、重排和 RAG 示例。它专注于语言模型生成之前的检索环节。

主要功能

  1. 01生成单条和批量嵌入
  2. 02构建余弦相似度语义搜索
  3. 03重排检索候选项
  4. 04组合 RAG 检索与生成流程

适用场景

  1. 01为应用添加语义搜索
  2. 02在数据流水线中生成文档嵌入
  3. 03通过重排改善候选项排序

安装

复制下面的命令，在终端中运行。

$npx skills add https://github.com/togethercomputer/skills --skill together-embeddings

安装后在 Claude Code 中输入/together-embeddings确认已加载。

包含的文件

除 SKILL.md 外，安装时一起下载的参考资料和脚本。

agents/
openai.yaml
references/
api-reference.md
models.md
scripts/
embed_and_rerank.py
embed_and_rerank.ts
rag_pipeline.py
semantic_search.py

详细介绍

Together Embeddings 与 Reranking

概述

在以下语义检索场景中使用此技能：

  • 创建嵌入
  • 批量生成嵌入
  • 构建检索或 RAG 管道
  • 对检索到的候选项重新排序

此技能用于检索流程，而非生成最终的大模型响应。

适用场景

  • 构建向量搜索或语义相似度功能
  • 将嵌入生成添加到数据管道
  • 通过重新排序提升检索质量
  • 在调用聊天模型前组装检索阶段

转交给其他技能

  • 使用 together-chat-completions 完成最终答案生成步骤
  • 对于超大规模离线嵌入回填，使用 together-batch-inference
  • 当重新排序需要专用部署时，使用 together-dedicated-model-inference

快速路由

工作流

  1. 确认用户需要的是向量或检索，而非直接生成。
  2. 选择嵌入模型和批次大小。
  3. 为语料库和查询路径生成嵌入，并保持方式一致。
  4. 检索候选项。内存余弦相似度存储适用于原型开发和小型语料库（参见 semantic_search.py）。生产规模请使用专用向量数据库。
  5. 只有在额外延迟和端点要求合理时才进行重新排序。如果没有可用的专用重新排序端点，使用余弦相似度排序作为合理的备选方案。

高优先级规则

  • Python 脚本需要 Together v2 SDK（together>=2.0.0）。如果用户使用的是旧版本，必须先升级：uv pip install --upgrade "together>=2.0.0"。
  • 将嵌入和重新排序视为不同环节；重新排序是第二阶段的精度优化步骤。
  • 此仓库中的重新排序假定使用专用端点。除非产品发生变化，否则不要承诺支持无服务器重新排序。如果没有可用端点，请退回到余弦相似度排序。
  • 嵌入模型的上下文限制为 514 个 token。对较长的文档进行分块后再生成嵌入。
  • rag_pipeline.py 示例展示了检索与生成；应将生成环节转交给 chat completions。
  • 索引和查询时保持模型一致。

资源索引

官方文档

评论

支持 Markdown