Charly Memory Cache

🚀 内存缓存服务器

本项目是一个模型上下文协议（MCP）服务器，它能够在语言模型交互过程中高效缓存数据，从而减少令牌消耗。该服务器适用于任何MCP客户端，以及所有使用令牌的语言模型。

🚀 快速开始

安装

1. 克隆仓库：

git clone git@github.com:ibproduct/ib-mcp-cache-server
cd ib-mcp-cache-server

2. 安装依赖项：

npm install

3. 构建项目：

npm run build

4. 将其添加到您的MCP客户端设置中：

{
  "mcpServers": {
    "memory-cache": {
      "command": "node",
      "args": ["/path/to/ib-mcp-cache-server/build/index.js"]
    }
  }
}

5. 使用MCP客户端时，服务器会自动启动

验证其正常运行

当服务器正常运行时，您将看到：

1. 终端中的消息：“内存缓存MCP服务器在stdio上运行”
2. 多次访问相同数据时性能提升
3. 您无需执行任何操作 - 缓存会自动进行

您可以通过以下方式验证服务器是否正在运行：

1. 打开您的MCP客户端
2. 在启动服务器的终端中查找任何错误消息
3. 执行那些可以从缓存获益的操作（例如多次读取相同的文件）

✨ 主要特性

• 高效缓存数据，减少语言模型交互中的令牌消耗。
• 适用于任何MCP客户端和使用令牌的语言模型。
• 自动缓存，无需手动干预。

📦 安装指南

克隆仓库

git clone git@github.com:ibproduct/ib-mcp-cache-server
cd ib-mcp-cache-server

安装依赖

npm install

构建项目

npm run build

配置客户端

{
  "mcpServers": {
    "memory-cache": {
      "command": "node",
      "args": ["/path/to/ib-mcp-cache-server/build/index.js"]
    }
  }
}

启动服务

使用MCP客户端时，服务器会自动启动。

📚 详细文档

配置

通过config.json或环境变量进行配置：

{
  "maxEntries": 1000,        // 最大存储项数为1000
  "maxMemory": 104857600,    // 最大内存使用量，以字节为单位（100MB）
  "defaultTTL": 3600,        // 默认生存时间，秒为单位（1小时）
  "checkInterval": 60000,    // 清理间隔，以毫秒为单位（1分钟）
  "statsInterval": 30000     // 统计更新间隔，以毫秒为单位（30秒）
}

配置选项说明

1. maxEntries（默认值：1000）

   • 可以存储在缓存中的项目最大数量。
   • 防止缓存无限增长。
   • 超出限制时，首先移除最久未使用的旧项。

2. maxMemory（默认值：100MB）

   • 最大内存使用量，以字节为单位。
   • 防止内存过度消耗。
   • 当达到限制时，移除最近最少使用的项目。

3. defaultTTL（默认值：3600）

   • 默认生存时间，秒为单位。
   • 控制缓存项的过期时间。

4. checkInterval（默认值：60000）

   • 清理检查间隔，毫秒为单位。
   • 定期清理过期缓存的时间间隔。

5. statsInterval（默认值：30000）

   • 统计信息更新间隔，毫秒为单位。
   • 更新缓存统计信息的频率。

测试缓存的实际效果

要观察缓存的实际运行情况，请尝试以下场景：

1. 文件读取测试

   • 读取并分析一个大文件。
   • 再次询问关于该文件相同的问题。
   • 第二次响应应更快，因为文件内容已缓存。

2. 数据分析测试

   • 执行某项数据分析。
   • 再次请求相同的分析结果。
   • 第二次分析将使用已缓存的结果。

3. 项目导航测试

   • 探索项目的结构。
   • 再次查询相同的文件/目录。
   • 目录列表和文件内容将从缓存中提供。

当您注意到以下情况时，表示缓存正在工作：

• 重复操作的响应速度加快。
• 对未更改内容的一致性回答。
• 不需要重新读取未更改的文件。