Llm Bridge MCP

🚀 LLM 桥接 MCP

LLM 桥接 MCP 为 AI 代理提供了一个统一接口，使其能够与多个大型语言模型进行交互。借助消息控制协议（MCP），它可无缝访问不同的 LLM 提供商，让您能在应用程序中轻松切换模型，或同时使用多个模型。

🚀 快速开始

LLM 桥接 MCP 允许 AI 代理借助统一接口与多个大型语言模型交互。您可通过 Smithery 自动安装或手动克隆仓库进行安装，之后配置 API 密钥，即可使用其提供的工具与模型交互。

✨ 主要特性

• 统一接口访问多个 LLM 提供商：支持 OpenAI（GPT 模型）、Anthropic（Claude 模型）、Google（Gemini 模型）、DeepSeek 等众多模型。
• 类型安全和验证：使用 Pydantic AI 实现类型安全和验证。
• 自定义参数支持：支持自定义参数，如温度和最大令牌数。
• 使用情况跟踪和指标：提供使用情况跟踪和指标。

📦 安装指南

使用 Smithery 安装

通过 Smithery 自动安装 llm-bridge-mcp：

npx -y @smithery/cli install @sjquant/llm-bridge-mcp --client claude

手动安装

1. 克隆仓库：

git clone https://github.com/yourusername/llm-bridge-mcp.git
cd llm-bridge-mcp

2. 安装 uv（如果尚未安装）：

# 在 macOS/Linux 上
brew install uv

# 在 Linux 上
curl -LsSf https://astral.sh/uv/install.sh | sh

# 在 Windows 上
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

📚 详细文档

工具说明

服务器实现以下工具：

run_llm(
    prompt: str,
    model_name: KnownModelName = "openai:gpt-4o-mini",
    temperature: float = 0.7,
    max_tokens: int = 8192,
    system_prompt: str = "",
) -> LLMResponse

• prompt：发送到 LLM 的文本提示
• model_name：要使用的具体模型（默认："openai:gpt-4o-mini"）
• temperature：控制随机性（0.0 到 1.0）
• max_tokens：生成的最大令牌数
• system_prompt：可选的系统提示，用于指导模型行为

配置说明

在根目录创建一个 .env 文件，添加您的 API 密钥：

OPENAI_API_KEY=your_openai_api_key
ANTHROPIC_API_KEY=your_anthropic_api_key
GOOGLE_API_KEY=your_google_api_key
DEEPSEEK_API_KEY=your_deepseek_api_key

使用说明

与 Claude Desktop 或 Cursor 一起使用

将服务器条目添加到您的 Claude Desktop 配置文件或 .cursor/mcp.json 中：

"mcpServers": {
  "llm-bridge": {
    "command": "uvx",
    "args": [
      "llm-bridge-mcp"
    ],
    "env": {
      "OPENAI_API_KEY": "your_openai_api_key",
      "ANTHROPIC_API_KEY": "your_anthropic_api_key",
    }
  }
}