Claude-LMStudio-Bridge

一个简单的模型控制协议（MCP）服务器，允许Claude与本地运行的大型语言模型（LLM）通过LM Studio进行通信。

概述

此桥接工具使Claude能够将提示发送到本地运行的LM Studio中的模型，并接收其响应。这非常有用，具体用于：

• 比较Claude与其它模型的回复
• 访问专门针对特定任务的本地模型
• 在Claude API配额有限时执行查询
• 完全本地处理敏感查询

先决条件

• Python 3.8+
• 具备MCP能力的Anthropic Claude
• LM Studio本地运行
• LM Studio中加载的本地LLM模型

安装

1. 克隆此仓库：

   git clone https://github.com/infinitimeless/Claude-LMStudio-Bridge_V2.git
   cd Claude-LMStudio-Bridge_V2
   

2. 创建虚拟环境：

   python -m venv venv
   source venv/bin/activate  # Windows用户使用：venv\Scripts\activate
   

3. 安装所需包（选择一种方法）：

   使用requirements.txt：

   pip install -r requirements.txt
   

   或直接安装依赖项：

   pip install requests "mcp[cli]" openai anthropic-mcp
   

使用

1. 启动LM Studio并加载您最喜欢的模型。

2. 确保LM Studio的本地服务器正在运行（通常在默认端口1234上）。

3. 运行桥接服务器：

   python lmstudio_bridge.py
   

4. 在Claude界面中，启用MCP服务器并指向您本地运行的桥接服务。

5. 现在您可以使用以下MCP工具与Claude进行对话：

   • health_check：检查LM Studio API是否可访问
   • list_models：获取LM Studio中可用模型列表
   • get_current_model：查看当前加载的模型
   • chat_completion：将提示发送到当前模型

示例

一旦连接，您可以指示Claude使用本地模型：

Claude，请使用LM Studio桥接服务询问本地模型：“您对量子计算有何看法？”

Claude将使用chat_completion工具将查询发送给您的本地模型并显示响应。

配置

默认情况下，桥接服务连接到LM Studio的地址为http://localhost:1234/v1。如果您的LM Studio实例在不同的端口上运行，请修改lmstudio_bridge.py中的LMSTUDIO_API_BASE变量。

故障排除

如果遇到依赖项问题，请尝试直接安装它们：

pip install requests "mcp[cli]" openai anthropic-mcp

有关详细安装说明和故障排除，请参阅安装指南。

许可证

MIT

贡献

欢迎贡献！请随意提交Pull Request。