🚀 多 LLM 跨 HECK MCP 服務器

本项目是一个模型控制协议（MCP）服务器，允许同时交叉验证来自多家大型语言模型供应商的回应。它可与 Claude Desktop 整合为 MCP 服务器，提供统一接口来查询不同的 LLM APIs，为用户提供更全面、准确的语言模型服务。

✨ 主要特性

• 并行查询：可并行查询多个 LLM 供应商，目前支持 OpenAI (ChatGPT)、Anthropic (Claude)、Perplexity AI 和 Google (Gemini) 等。
• 异步并行处理：采用异步并行处理机制，加快响应速度，提升使用体验。
• 轻松集成：能够轻松集成到 Claude Desktop 中，为用户提供便捷的使用方式。

📦 安装指南

前提条件

• Python 3.8 或更高版本。
• 使用的 LLM 供应商 API 密钥。
• uv 包管理器（使用 pip install uv 安装）。

安装步骤

1. 克隆此仓库：

git clone https://github.com/lior-ps/multi-llm-cross-check-mcp-server.git
cd multi-llm-cross-check-mcp-server

2. 初始化 uv 环境并安装需求：

uv venv
uv pip install -r requirements.txt

3. 在 Claude Desktop 中配置： 创建一个名为 claude_desktop_config.json 的文件，放置在你的 Claude Desktop 配置目录下，内容如下：

{
    "mcp_servers": [
        {
            "command": "uv",
            "args": [
                "--directory",
                "/multi-llm-cross-check-mcp-server",
                "run",
                "main.py"
            ],
            "env": {
                "OPENAI_API_KEY": "your_openai_key",  // 设置为你的 OpenAI 密钥，来源 https://platform.openai.com/api-keys
                "ANTHROPIC_API_KEY": "your_anthropic_key",  // 设置为你的 Anthropic 密钥，来源 https://console.anthropic.com/account/keys
                "PERPLEXITY_API_KEY": "your_perplexity_key",  // 设置为你的 Perplexity 密钥，来源 https://www.perplexity.ai/settings/api
                "GEMINI_API_KEY": "your_gemini_key"  // 设置为你的 Gemini 密钥，来源 https://makersuite.google.com/app/apikey
            }
        }
    ]
}

⚠️ 重要提示

1. 只需添加你计划使用的 LLM 供应商的 API 密钥。服务器将自动跳过未配置 API 密钥的提供者。
2. 可能需要将 uv 可执行文件的完整路径放在 command 字段中。你可以通过运行 which uv（MacOS/Linux）或 where uv（Windows）来获取此路径。

💻 使用示例

基础用法

配置完成后，开启 Claude Desktop 时，服务将自动启动。你可以在对话中使用“cross_check”工具，要求“与其他 LLM 交叉验证”，提供提示后，它会返回所有已配置 LLM 供应商的回应。

响应格式

服务器返回一个字典，包含每个 LLM 供应商的回应：

{
    "ChatGPT": { ... },
    "Claude": { ... },
    "Perplexity": { ... },
    "Gemini": { ... }
}

如果某个模型出现错误（例如密钥无效或网络问题），该部分将被标记为错误，但不会影响其他模型的回应。

📚 详细文档

扩展和改进

• 支持更多供应商：后续计划支持更多 LLM 供应商，如 Amazon AI、Microsoft Azure、Hugging Face 等。
• 增强错误处理：添加更详细的日志记录和错误信息报告，方便用户排查问题。
• 结果分析功能：添加统计数据或可视化工具，帮助用户比较不同模型的回答。
• 高可用性设计：实现负载均衡和故障切换机制，确保在一个供应商不可用时仍能使用其他供应商。

这个项目的核心思想是通过 MCP 协议将多个 LLM 服务统一起来，利用并行请求提高性能，并提供灵活的配置来满足不同用户的需求。