LLM 响应 MCP 服务器

一个模型上下文协议（MCP）服务器，允许多个 AI 代理共享并阅读彼此对同一提示的响应。

概述

该项目实现了一个 MCP 服务器，主要包含两个工具调用：

1. submit-response：允许 LLM 提交其对某个提示的响应
2. get-responses：允许 LLM 获取其他 LLM 对特定提示的所有响应

这使得用户能够询问多个 AI 代理同一个问题，并通过这些工具让代理阅读和反思其他 LLM 对该问题的回答。

安装

# 安装依赖
bun install

开发

# 构建 TypeScript 代码
bun run build

# 在开发模式下启动服务器
bun run dev

使用 MCP 检查器测试

该项目包含对 MCP 检查器 的支持，这是一个用于测试和调试 MCP 服务器的工具。

# 使用检查器运行服务器
bun run inspect

inspect 脚本使用 npx 运行 MCP 检查器，在浏览器中启动一个网络界面来与您的 MCP 服务器交互。

您将能够：

• 探索可用的工具和资源
• 使用不同的参数测试工具调用
• 查看服务器的响应
• 调试您的 MCP 服务器实现

使用方法

服务器暴露了两个端点：

• /sse - 服务器发送事件（Server-Sent Events）端点，供 MCP 客户端连接
• /messages - HTTP 端点，供 MCP 客户端发送消息

MCP 工具

submit-response

提交 LLM 对某个提示的响应：

// 示例工具调用
const result = await client.callTool({
  name: 'submit-response',
  arguments: {
    llmId: 'claude-3-opus',  // LLM 的唯一标识符
    prompt: 'What is the meaning of life?',  // 提示内容
    response: 'The meaning of life is...'  // LLM 的响应
  }
});

get-responses

获取所有 LLM 响应，可选过滤特定提示：

// 示例工具调用
const result = await client.callTool({
  name: 'get-responses',
  arguments: {
    prompt: 'What is the meaning of life?' // 可选的提示内容
  }
});

许可证

MIT 协议

部署到 EC2

该项目提供了 Docker 配置，方便部署到 EC2 或任何其他服务器环境。

先决条件

• 在 EC2 实例上运行 Amazon Linux 2 或 Ubuntu
• 安全组配置为允许 62886 端口的入站流量
• 对实例具有 SSH 访问权限

部署步骤

1. 将仓库克隆到您的 EC2 实例：

   git clone <your-repository-url>
   cd <repository-directory>
   

2. 使部署脚本具有执行权限：

   chmod +x deploy.sh
   

3. 运行部署脚本：

   ./deploy.sh
   

该脚本将：

• 安装 Docker 和 Docker Compose（如果尚未安装）
• 构建 Docker 镜像
• 以分离模式启动容器
• 显示您的 MCP 服务器可访问的公共 URL

手动部署

如果您更愿意手动部署：

1. 构建 Docker 镜像：

   docker-compose build
   

2. 启动容器：

   docker-compose up -d
   

3. 验证容器状态：

   docker-compose ps
   

访问服务器

部署完成后，您的 MCP 服务器将可通过以下地址访问：

• http://<ec2-public-ip>:62886/sse - SSE 端点
• http://<ec2-public-ip>:62886/messages - 消息端点

请确保安全组配置正确，以允许来自所需网络的流量访问这些端口。