MCP LLM 桥接器

一个连接模型上下文协议（MCP）服务器与 OpenAI 兼容大语言模型 (LLM) 的桥梁。主要支持 OpenAI API，同时兼容实现 OpenAI API 规范的本地端点。

该实现提供了一个双向协议转换层，在 MCP 和 OpenAI 的函数调用接口之间进行转换。它将 MCP 工具规范转换为 OpenAI 函数架构，并处理函数调用映射回 MCP 工具执行的过程。这使得任何 OpenAI 兼容的语言模型都可以通过一个标准化接口使用 MCP 兼容工具，无论是云端模型还是本地实现（如 Ollama）。

更多关于 MCP 的信息，请参考以下链接：

• 资源
• 提示词
• 工具
• 采样

快速开始

# 安装
curl -LsSf https://astral.sh/uv/install.sh | sh
git clone https://github.com/bartolli/mcp-llm-bridge.git
cd mcp-llm-bridge
uv venv
source .venv/bin/activate
uv pip install -e .

# 创建测试数据库
python -m mcp_llm_bridge.create_test_db

配置

OpenAI（主要支持）

创建 .env 文件：

OPENAI_API_KEY=your_key
OPENAI_MODEL=gpt-4o # 或其他支持工具的 OpenAI 模型

注意：如果需要使用 .env 中的密钥，请重新激活环境：source .venv/bin/activate

然后在 src/mcp_llm_bridge/main.py 配置桥接器：

config = BridgeConfig(
    mcp_server_params=StdioServerParameters(
        command="uvx",
        args=["mcp-server-sqlite", "--db-path", "test.db"],
        env=None
    ),
    llm_config=LLMConfig(
        api_key=os.getenv("OPENAI_API_KEY"),
        model=os.getenv("OPENAI_MODEL", "gpt-4o"),
        base_url=None
    )
)

额外端点支持

桥接器还适用于任何实现 OpenAI API 规范的端点：

Ollama

llm_config=LLMConfig(
    api_key="不需要",
    model="mistral-nemo:12b-instruct-2407-q8_0",
    base_url="http://localhost:11434/v1"
)

注意：经过测试，我发现 mistral-nemo:12b-instruct-2407-q8_0 更擅长处理复杂查询。

LM Studio

llm_config=LLMConfig(
    api_key="不需要",
    model="local-model",
    base_url="http://localhost:1234/v1"
)

我尚未测试此配置，但理论上应该可以使用。

使用方法

python -m mcp_llm_bridge.main

# 示例问题：数据库中最昂贵的产品是什么？
# 输入 'quit' 或 Ctrl+C 退出

运行测试

安装带有测试依赖的包：

uv pip install -e ".[test]"

然后运行测试：

python -m pytest -v tests/

许可证

MIT

贡献指南

如需贡献，请参考项目仓库：https://github.com/bartolli/mcp-llm-bridge