Otter Bridge

🚀 OtterBridge

OtterBridge 是一款轻量级、灵活的服务器，可将应用程序与各类大型语言模型提供者相连接。它遵循简洁性和组合性原则，为连接大型语言模型（LLM）提供了简洁接口，同时能适应不同的使用场景。目前支持 Ollama，后续还计划扩展支持 ChatGPT 和 Claude 等其他提供者。

📦 文件结构

├── .env.example           # 环境变量示例文件
├── .gitignore             # 用于排除git的文件
├── LICENSE                # 开源许可证（MIT、Apache等）
├── README.md              # 项目文档
├── server.py              # MCP服务器实现（以前称为 fastmcp_server.py）
├── requirements.txt       # Python依赖项
└── src/                   # 源代码目录
    ├── __init__.py        # 包初始化文件
    └── services/          # 服务目录
        ├── __init__.py    # 包含服务的初始化代码
        └── ollama.py      # Ollama服务实现

✨ 主要特性

• 提供者无关：设计用于与多个 LLM 提供者一起工作（目前支持 Ollama，不久将推出 ChatGPT 和 Claude）
• 简单、组合式设计：遵循构建 LLM 代理的最佳实践
• 轻量级服务器：使用 FastMCP 构建，以实现可靠且高效的服务器实施
• 模型管理：轻松访问有关可用模型的信息和功能

🤔 为什么是“OtterBridge”？

就像水獭在河岸之间建立连接一样，OtterBridge 在您的应用程序与各种 LLM 提供者之间创建无缝的桥梁。与水獭一样适应性强和资源丰富，OtterBridge 适应不同的 LLM 后端，同时提供一致的接口。

🚀 快速开始

先决条件

在安装 OtterBridge 之前，您需要：

1. 安装并运行 Ollama（https://ollama.ai/download）到默认端口
2. 安装 uv（https://github.com/astral-sh/uv）用于 Python 包管理

安装步骤

1. 克隆此仓库：

git clone https://github.com/yourusername/otterbridge.git
cd otterbridge

2. 使用 uv 安装依赖项：

uv add -r requirements.txt

3. 基于提供的 .env.example 创建一个 .env 文件：

cp .env.example .env

4. 在 .env 文件中配置您的环境变量。

集成到Claude桌面

对于使用 Claude 桌面的用户，您需要将 OtterBridge 添加到您的 Claude 桌面配置中：

1. 打开您的 Claude 桌面配置文件
2. 添加以下配置（调整路径以匹配您的本地安装）：

"otterbridge": {
    "command": "uv",
    "args": [
        "--directory",
        "C:\\Path\\To\\Your\\otterbridge",
        "run",
        "server.py"
    ]
}

启动服务器

OtterBridge 可以通过两种方式启动：

1. 手动启动用于测试目的：

uv run server:app -- host 0.0.0.0 port 8000

2. 作为生产环境启动：

uv run server:app -- host 0.0.0.0 port 8000 -- reload off

📚 详细文档

请参考 API 文档 了解如何使用 OtterBridge 提供的接口。

🤝 贡献指南

欢迎贡献！请随意提交 Pull Request。

开发指南

1. 叉仓库
2. 创建功能分支（git checkout -b feature/amazing-feature）
3. 提交更改（git commit -m 'Add some amazing feature'）
4. 推送到分支（git push origin feature/amazing-feature）
5. 打开 Pull Request

📄 许可证

此项目根据 MIT License 发布。

🙏 致谢

• MCP（模型上下文协议） 为服务器框架
• Ollama 为本地 LLM 主机提供支持
• Anthropic 的构建高效代理指南 提供了架构方面的启发