关于 LLM RAG
LLM RAG 是用于构建本地嵌入式检索增强生成知识库的项目,可从代码、网址和 PDF 创建可搜索内容。它使用 LlamaIndex 处理文档、Gemini 生成嵌入,并以 LanceDB 存储向量。
主要功能
- 01导入代码、网址和 PDF
- 02使用 LlamaIndex 处理文档
- 03使用 Gemini 生成嵌入
- 04使用 LanceDB 存储向量
- 05运行搜索服务
适用场景
- 01从代码构建本地搜索库
- 02为检索建立网址索引
- 03搜索 PDF 文档
MCP 相关
项目将知识库描述为支持 MCP,但提供的 README 未说明其 MCP 接口或服务行为。
详细介绍
LLM RAG
使用 LlamaIndex 进行文档处理、Gemini 进行嵌入、LanceDB 进行向量存储的 RAG(检索增强生成)实现。
设置
本项目使用 uv 进行依赖管理,使用 direnv 进行环境管理。开始使用:
- 安装依赖:
# Create and activate a new virtual environment
uv venv
source .venv/bin/activate
# Install dependencies
uv pip install -e .
- 设置环境:
# Create .env file with your Google API key
echo "GOOGLE_API_KEY=your_key_here" > .env
# Allow direnv to load the environment
direnv allow
使用
数据摄入
python -m llm_rag.ingest --source /path/to/source --type [code|url|pdf]
搜索服务
python -m llm_rag.search --db /path/to/lancedb
评论
支持 Markdown
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。