mcpField
L
LLM RAG

LLM RAG

github.com/binarybana其他287 周前更新

关于 LLM RAG

LLM RAG 是用于构建本地嵌入式检索增强生成知识库的项目,可从代码、网址和 PDF 创建可搜索内容。它使用 LlamaIndex 处理文档、Gemini 生成嵌入,并以 LanceDB 存储向量。

主要功能

  1. 01导入代码、网址和 PDF
  2. 02使用 LlamaIndex 处理文档
  3. 03使用 Gemini 生成嵌入
  4. 04使用 LanceDB 存储向量
  5. 05运行搜索服务

适用场景

  1. 01从代码构建本地搜索库
  2. 02为检索建立网址索引
  3. 03搜索 PDF 文档

MCP 相关

项目将知识库描述为支持 MCP,但提供的 README 未说明其 MCP 接口或服务行为。

详细介绍

LLM RAG

使用 LlamaIndex 进行文档处理、Gemini 进行嵌入、LanceDB 进行向量存储的 RAG(检索增强生成)实现。

设置

本项目使用 uv 进行依赖管理,使用 direnv 进行环境管理。开始使用:

  1. 安装依赖:
# Create and activate a new virtual environment
uv venv
source .venv/bin/activate

# Install dependencies
uv pip install -e .
  1. 设置环境:
# Create .env file with your Google API key
echo "GOOGLE_API_KEY=your_key_here" > .env

# Allow direnv to load the environment
direnv allow

使用

数据摄入
python -m llm_rag.ingest --source /path/to/source --type [code|url|pdf]
搜索服务
python -m llm_rag.search --db /path/to/lancedb

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。