Tiny Chat

Name: Tiny Chat
Author: to-aoki

本地服务

github.com/to-aokiAI 与智能体245 周前更新

代码仓库

关于 Tiny Chat

Tiny Chat 是面向日语用户的 LLM 聊天应用，结合 RAG、数据库和 Web 界面。它还提供 MCP 服务及兼容 OpenAI Chat API 的 RAG 服务。

主要功能

01RAG 聊天
02数据库模式
03Streamlit Web 界面
04OpenAI Chat API RAG 服务

适用场景

01通过聊天检索数据库内容
02单独启动数据库模式
03通过 Chat API 查询 Qdrant 集合

MCP 相关

Tiny Chat 可作为 MCP 服务运行，README 展示了在 Claude Desktop 中配置其命令和数据库配置文件的示例。

#chat #continue #rag #qdrant #mcp-server #openai-like

配置

本地服务的配置在各客户端中通用，复制后粘贴到客户端的 MCP 配置文件即可。

暂未收录安装方式

我们还没有获取到这个服务的安装包或远程地址，请按项目 README 中的说明安装。

代码仓库

工具

还没有获取到工具列表

本地服务需要在你的电脑上运行后才能读取工具，维护者暂未提供工具列表。

详细介绍

Tiny Chat

安装

已在 Python 3.10 或更高版本中测试

开发环境安装

pip install -r requirements.txt

软件包安装

# Build the package
pip install build
python -m build

# Install the built package
pip install dist/*.whl

Web 界面使用方法

从源代码运行（开发环境）

streamlit run tiny_chat/main.py --server.address=127.0.0.1

仅数据库（开发环境）

streamlit run tiny_chat/main.py --server.address=127.0.0.1 -- --database

运行已安装的软件包

tiny-chat

仅数据库

tiny-chat --database

MCP 使用方法

Claude Desktop 示例。

{
  "mcpServers": {
    "tiny-chat": {
      "command": "/path/to/tiny_chat/.venv/bin/tiny-chat-mcp",
      "env": {
        "DB_CONFIG": "/path/to/tiny_chat/database_config.json"
      }
    }
  }
}

OpenAI Chat API RAG 服务使用方法

tiny-chat-api

model：目标搜索 qdrant 集合名称（在对话中更改模型）。

curl http://localhost:8080/v1/chat/completions   -H "Content-Type: application/json"   -d '{"model": "qdrant-collection-name", "messages": [{"role": "user", "content": "カレーライスの材料は？"}]}'

支持 Markdown

登录后评论