llm_to_mcp_integration_engine

llm_to_mcp_integration_engine

🔍 什么是 llm_to_mcp_integration_engine？

llm_to_mcp_integration_engine 是一种用于 LLM 与 MCP 服务或函数之间的通信层新方案。

它通过确保在触发任何外部进程之前正确选择、验证和执行工具，提升工具调用的可靠性。

它会从 LLM 的响应中查找工具选择标记（SELECTED_TOOLS、SELECTED_TOOL、NO_TOOLS_SELECTED），并根据预定义的工具列表进行验证。

---

🚀 llm_to_mcp_integration_engine 有什么新特点？

llm_to_mcp_integration_engine 能有效处理非结构化输出，并结合动态解析和重试机制（RETRY_PROMPT、CHANGE_LLM_IN_RETRY），为 LLM 与工具的集成提供了更灵活、更具弹性的解决方案。

---

❓ 为什么需要 llm_to_mcp_integration_engine？

• LLM 经常会错误地格式化或排序工具调用，导致失败。
• 在触发任何 MCP 服务或函数之前，必须验证工具执行。
• 该协议为 LLM 与工具的集成带来清晰度、可控性和可靠性。

---

❌ 是否已有现成的通信层？

没有。
这是一个全新发明。我们推出了 LLM2MCP 协议，这是首个此类通信框架，能够以结构化、经过验证且可控的方式将 LLM 连接到 MCP 服务或函数。

它的新颖之处包括：

• 双重注册：工具／函数同时列在 LLM 提示词和引擎中，确保二者保持一致。
• 兼容非 JSON 格式：即使 LLM 响应并非完全符合 JSON 格式，引擎仍可通过正则表达式和基于逻辑的检查提取有效的工具选择。
• 重试框架：如果验证失败（缺少工具、格式错误等），引擎可以使用新的提示词重试，甚至切换到其他 LLM。
• 精细化故障检测：开发者可以准确诊断 LLM 在何处出错——无论是选择正确的工具、格式化参数，还是过渡到工具执行。
• 执行安全性：除非响应有效且经过验证，否则引擎不会调用任何工具或 MCP 服务。

将验证、回退机制、控制逻辑和健壮性整合到一个集成引擎中，这正是它成为一项新发明的原因。

---

⚙️ 如何使用

📦 通过 pip 安装

pip install llm_to_mcp_integration_engine

✅ 默认用法

from llm_to_mcp_integration_engine import llm_to_mcp_integration_default

llm_to_mcp_integration_default(
    tools_list=my_tools_list,
    llm_respons=response_from_llm,
    json_validation=True
)

🔧 高级用法

from llm_to_mcp_integration_engine import llm_to_mcp_integration_advance

llm_to_mcp_integration_advance(
    tools_list=my_tools_list,
    llm_respons=response_from_llm,
    json_validation=True,
    no_tools_selected=True,
    multi_stage_tools_select=True
)

🧠 自定义用法（例如，用于 Agent 式 HTML/CSS 工具）

from llm_to_mcp_integration_engine import llm_to_mcp_integration_custom

llm_to_mcp_integration_custom(
    tools_list=my_tools_list,
    llm_respons=response_from_llm,
    json_validation=True
)

---

✅ 使用 llm_to_mcp_integration_engine 的优势

• 灵活处理响应
• 可靠执行工具
• 可靠的程序化验证
• 改进工具链式调用
• 与推理技术协同增效（例如，思维链）
• 处理「无需工具」的场景
• 错误检测和重试机制
• 故障诊断与监控
• 通过分层使用 LLM 优化成本
• 标准化 LLM 与工具之间的接口

💡 还包括在失败时动态切换 LLM，以增强健壮性并提高成本效益。

---

📜 许可证

您可以将此引擎用于个人和研究用途。
但是，未经作者明确许可，不得修改或分发此引擎。