MCP LLM 桥接器

一个连接模型上下文协议（MCP）服务器与 OpenAI 兼容的大语言模型（LLM）例如 Ollama 的桥梁
了解更多关于 MCP 由 Anthropic 开发的内容请参考以下链接：

• 资源
• 提示
• 工具
• 采样

快速开始

# 安装
curl -LsSf https://astral.sh/uv/install.sh | sh
git clone https://github.com/bartolli/mcp-llm-bridge.git
cd mcp-llm-bridge
uv venv
source .venv/bin/activate
uv pip install -e .


注意：重新激活环境以使用 `.env` 中的密钥：`source .venv/bin/activate`

然后在 [src/mcp_llm_bridge/main.py](src/mcp_llm_bridge/main.py) 配置桥梁

```python
 mcp_server_params=StdioServerParameters(
            command="uv",
            # 修改此行 = 必须是绝对路径！在该目录下添加 MCP 抓取服务器（从 https://github.com/modelcontextprotocol/servers/ 克隆）
            args=["--directory", "~/llms/mcp/mc-server-fetch/servers/src/fetch", "run", "mcp-server-fetch"],
            env=None
        ),
        # llm_config=LLMConfig(
        #     api_key=os.getenv("OPENAI_API_KEY"),
        #     model=os.getenv("OPENAI_MODEL", "gpt-4o"),
        #     base_url=None
        # ),
        llm_config=LLMConfig(
            api_key="ollama",  # 可以是任何字符串用于本地测试
            model="llama3.2",
            base_url="http://localhost:11434/v1"  # 指向你本地模型的端点
        ),
)

额外端点支持

该桥梁还与任何实现 OpenAI API 规范的端点兼容：

Ollama

llm_config=LLMConfig(
    api_key="不需要",
    model="mistral-nemo:12b-instruct-2407-q8_0",
    base_url="http://localhost:11434/v1"
)

许可证

MIT

贡献

欢迎提交 PR。