Nest Llm Aigent

🚀 nest-llm-aigent

本项目是一个 AI 代理（Agent），基于 MCP（模型上下文协议）协议设计了转发方案。它支持配置多个 MCP 服务器，能将其集成到公司现有业务中，并统一对外提供大模型的 HTTP 服务，解决了 MCP 协议在集成方面的难题。

🚀 快速开始

随着 MCP（模型上下文协议）协议的推出，在统一协议的同时，为大模型扩展程序（MCP 服务器）实现一次开发、随处运行提供了条件。然而，由于 MCP 天然侧重于 CS 架构，导致我们难以方便地将其集成到公司现有的业务中。基于此背景，设计了这个转发方案，可将该项目理解为一个 AI 代理（Agent），支持配置多个 MCP 服务器，并统一对外提供大模型的 HTTP 服务。

具体架构图如下：

✨ 主要特性

• 轻松集成：通过适配层快速对接现有的 Web 服务（如基于 NestJS 构建的服务）。
• 无缝扩展：以私有 NPM 包的形式实现 MCP 服务器的快速集成与统一管理，保持 MCP 服务器的高度可移植性。
• 便捷部署：通过私有 NPM 包实现 MCP 服务器的集中管理和版本控制，无缝集成到现有的发布流程中，方便部署。
• 大模型支持情况：几乎支持所有类型的大模型调用。

📚 详细文档

接口定义

为了满足不同场景下的功能需求，设计了以下标准化接口：

MCP 服务器部署方式

推荐将 MCP 服务器集成部署，以提高灵活性与统一管理能力。建议采用以下方案：

• 私有 NPM 包：将 MCP 服务器打包为 NPM 包，并通过企业私有 NPM 仓库进行分发管理。
• 安装与配置：通过 npm install 直接安装 MCP 服务器包，并通过配置文件（如 mcp.config.json）实现快速集成。

示例配置文件 mcp.config.json：

{
  "mcpServers": {
    "server1": {
      "name": "example-server",
      "args": ["server.js"],
      "path": "./servers/server1/"
    }
  },
  "mcpClient": {
    "name": "mcp-client",
    "version": "1.0.0"
  }
}

🔧 技术细节

• 目前 MCP 服务器仅实现了基于 SSE 协议的 stdio。
• 请求时的上下文协议及全局变量可以在接口层、MCP 客户端层和 MCP 服务器层共享。
• 当前支持 HTTP 接口，未来计划将这些接口封装为 socket，以更有利于聊天场景。
• 完成此项目后，有一个想法：是否可以基于 MCP 原始协议编写一个公共类，使得基于该类编写的 MCP 服务器不仅支持 MCP 客户端调用，还可以支持引入模块后的函数调用。这可能是另一个独立的项目。
• 整个项目的开发大约花费了一天时间，由于时间紧张，后续有时间会进一步完善。