Nest Llm Argent

🚀 Nest-LLM-AIagent

Nest-LLM-AIagent 是一个 AI 代理项目，旨在解决 MCP 协议难以集成到现有业务的问题。它可以配置多个 MCP 服务器，并对外统一提供大模型的 HTTP 服务，具备轻松集成、无缝扩展和便捷部署等特性。

🚀 快速开始

本项目通过适配层可快速对接现有的 Web 服务（例如基于 NestJS 构建的服务），以私有 NPM 包的形式实现 MCP 服务器的快速集成与统一管理，还能通过私有 NPM 包实现 MCP 服务器的集中管理和版本控制，无缝集成到现有的发布流程中，方便部署。

✨ 主要特性

• 轻松集成：通过适配层快速对接现有的 Web 服务（例如基于 NestJS 构建的服务）。
• 无缝扩展：以私有 NPM 包的形式，实现 MCP 服务器的快速集成与统一管理，保持 MCP 服务器的高度可移植性。
• 便捷部署：通过私有 NPM 包，实现 MCP 服务器的集中管理和版本控制，无缝集成到现有的发布流程中，方便部署。
• 大模型支持情况：几乎支持所有类型的大模型调用。

📚 详细文档

接口定义

为了满足不同场景下的功能需求，设计了以下标准化接口：

MCP 服务器部署方式

推荐将 MCP 服务器以集成部署的方式进行部署，以提高灵活性和统一管理能力。建议采用以下方案：

• 私有 NPM 包：将 MCP 服务器打包为 NPM 包，并通过企业私有 NPM 仓库进行分发管理。
• 安装与配置：通过 npm install 直接安装 MCP 服务器包，并通过配置文件（如 mcp.config.json）实现快速集成。

示例配置文件 mcp.config.json：

{
  "mcpServers": {
    "server1": {
      "name": "example-server",
      "args": ["server.js"],
      "path": "./servers/server1/"
    }
  },
  "mcpClient": {
    "name": "mcp-client",
    "version": "1.0.0"
  }
}

未来计划

• 目前 MCP 服务器仅实现了 SSE 协议的 stdio。
• 在请求时，上下文协议及全局变量可以在接口层、MCP 客户端层和 MCP 服务器层共享。
• 目前仅支持 HTTP 接口，未来计划将这些接口封装为 WebSocket，更有利于聊天场景的支持。
• 完成后，还有一个想法：是否可以基于 MCP 原生协议编写一个公共类，使得基于该类的扩展程序（MCP 服务器）能够实现一次开发、随处运行。