Ollama MCP Server

🚀 ollama-MCP 服务器

ollama-MCP 服务器是一个基于 Model Context Protocol（MCP）协议构建的本地运行模型服务器。它可以管理和执行 Ollama 支持的各类语言模型，为用户带来更丰富的模型交互体验。

🚀 快速开始

📦 安装指南

1. 克隆仓库：

git clone https://github.com/yourusername/ollama-MCP-server.git
cd ollama-MCP-server

2. 创建并激活虚拟环境：

python -m venv venv
source venv/bin/activate  # Windows用户使用：venv\Scripts\activate

3. 安装开发依赖：

uv sync --dev --all-extras

🔧 配置说明

环境变量配置

• OLLAMA_SERVER_API_KEY：访问 Ollama API 的密钥（如需要）
• OLLAMA_SERVER_MODEL_NAME：默认使用的模型名称，默认为"llama2"
• OLLAMA_SERVER_PORT：服务器监听端口，默认值 8000
• OLLAMA_SERVER_LOG_LEVEL：日志级别，可选值包括 DEBUG、INFO、WARNING、ERROR、CRITICAL，默认为 INFO

配置文件示例

# config.yaml
api_key: "your_api_key_here"
default_model: "llama2"
port: 8000
log_level: "INFO"

▶️ 运行服务器

uv run --directory . ollama-mcp-server

可选参数：

• --debug：以调试模式运行（日志级别为 DEBUG）
• --log=LEVEL：指定日志级别（DEBUG, INFO, WARNING, ERROR, CRITICAL）

✨ 主要特性

• 多模型支持：兼容所有 Ollama 官方及社区提供的模型。
• 上下文管理：通过 MCP 协议实现对话历史和知识库的高效管理。
• 可扩展接口：便于集成到各种应用和工具中。
• 本地运行：无需依赖云服务，完全私有化部署。

💻 使用示例

🔍 基础用法

创建上下文会话

response = await mcp.use_mcp_tool({
    "server_name": "ollama-MCP-server",
    "tool_name": "create-context",
    "arguments": {
        "context_id": "123",
        "messages": [
            {"role": "user", "content": "欢迎使用MCP协议！"}
        ]
    }
})

查询模型

response = await mcp.use_mcp_tool({
    "server_name": "ollama-MCP-server",
    "tool_name": "run-model",
    "arguments": {
        "model": "llama3",
        "prompt": "请用简单的语言解释量子计算。",
        "temperature": 0.7
    }
})

管理上下文

# 获取所有上下文
response = await mcp.use_mcp_tool({
    "server_name": "ollama-MCP-server",
    "tool_name": "list-contexts"
})

# 删除指定上下文
response = await mcp.use_mcp