🚀 LMStudio-MCP 服务器

LMStudio-MCP 服务器是一个模型控制协议（MCP）服务器，它搭建了一座桥梁，让 Claude 能够通过 LM Studio 与本地运行的大型语言模型（LLM）进行通信，充分发挥本地模型的能力。

🚀 快速开始

LMStudio-MCP 创建了一个桥梁，连接 Claude（具备 MCP 功能）和你本地运行的 LM Studio 实例。这使得 Claude 能够检查 LM Studio API 的健康状态、列出所有可用模型、获取当前加载的模型以及使用你的本地模型生成完成词，从而将 Claude 的能力与自己的私有模型相结合，充分利用本地运行的模型。

✨ 主要特性

• 允许 Claude 通过 LM Studio 与本地大型语言模型通信。
• 提供多种功能，如健康检查、列出可用模型、获取当前模型和生成文本。

📦 安装指南

先决条件

• Python 3.7+
• 已安装并正在运行的 LM Studio
• 模型已加载到 LM Studio
• 具备 MCP 访问权限的 Claude
• 必要的 Python 包（见安装）

安装步骤

1. 克隆此仓库：

   git clone https://github.com/infinitimeless/LMStudio-MCP.git
   cd LMStudio-MCP
   

2. 安装所需的包：

   pip install requests "mcp[cli]" openai
   

📚 详细文档

MCP 配置

为了使 Claude 连接到此桥梁，你需要正确配置 MCP 设置。你可以：

直接从 GitHub 使用

{
  "lmstudio-mcp": {
    "command": "uvx",
    "args": [
      "https://github.com/infinitimeless/LMStudio-MCP"
    ]
  }
}

使用本地安装

{
  "lmstudio-mcp": {
    "command": "/bin/bash",
    "args": [
      "-c",
      "cd /path/to/LMStudio-MCP && source venv/bin/activate && python lmstudio_bridge.py"
    ]
  }
}

有关详细的 MCP 配置说明，请参阅 MCP_CONFIGURATION.md。

使用方法

1. 启动你的 LM Studio 应用程序并确保其在 1234 端口上运行（默认端口）。
2. 在 LM Studio 中加载一个模型。
3. 如果是本地运行（不使用 uvx），启动 LMStudio-MCP 服务器：

   python lmstudio_bridge.py
   

4. 在 Claude 中，当提示时选择 "lmstudio-mcp" 连接到 MCP 服务器。

可用功能

该桥梁提供以下功能：

• health_check(): 验证 LM Studio API 是否可访问。
• list_models(): 获取 LM Studio 中所有可用模型的列表。
• get_current_model(): 确定当前加载的模型。
• chat_completion(prompt, system_prompt, temperature, max_tokens): 使用你的本地模型生成文本。

已知限制

• 部分模型（例如 phi-3.5-mini-instruct）可能存在问题。
• 仅支持文件大小不超过 20MB 的模型。
• 对于较大的模型，加载时间可能会较长。

故障排除

如果遇到问题，请检查以下内容：

1. 确保 LM Studio 已正确安装并运行在默认端口（1234）。
2. 检查是否有任何防火墙或网络限制阻止访问该端口。
3. 验证模型是否已成功加载到 LM Studio。
4. 查看 LM Studio 的控制台输出以获取更多信息。

有关更多详细信息，请参阅 故障排除指南。

📄 许可证

文档未提及许可证相关信息，故跳过此章节。

贡献者

• 作者：[你的名字]
• 其他贡献者：...

感谢所有为这个项目做出贡献的人！