Memory Cache

🚀 内存缓存服务器

一个模型上下文协议（MCP）服务器，通过高效地在语言模型交互之间缓存数据来减少代币消耗。适用于任何MCP客户端和使用代币的任何语言模型。

🚀 快速开始

本内存缓存服务器可有效减少语言模型交互时的代币消耗，以下为你介绍安装、配置等使用步骤。

📦 安装指南

通过 Smithery 自动安装

要自动通过 Smithery 安装 Claude Desktop 的内存缓存服务器，可执行以下命令：

npx -y @smithery/cli install @tosin2013/mcp-memory-cache-server --client claude

手动安装

1. 克隆仓库：

git clone https://github.com/tosin2013/mcp-memory-cache-server.git
cd mcp-memory-cache-server

2. 安装依赖项：

npm install

3. 构建项目：

npm run build

🛠️ 配置说明

使用配置文件

创建一个 config.json 文件，内容如下：

{
  "max_entries": 1000,
  "max_memory": 104857600, // 100MB
  "default_ttl": 3600,     // 1小时
  "check_interval": 60000,  // 1分钟
  "stats_interval": 120000  // 2分钟
}

环境变量配置

你可以在 package.json 中的 MCP 客户端部分设置环境变量：

{
  "mcpServers": {
    "memory-cache": {
      "command": "node",
      "args": ["dist/index.js"],
      "env": {
        "MAX_ENTRIES": "5000",
        "MAX_MEMORY": "209715200", // 200MB
        "DEFAULT_TTL": "7200",     // 2小时
        "CHECK_INTERVAL": "360000"  // 1小时
      }
    }
  }
}

服务器配置的加载规则如下：

1. 查找默认的 config.json 文件。
2. 应用任何环境变量覆盖。
3. 如果未指定，则使用默认值。

✨ 主要特性

数据存储与检索

• 当首次遇到数据时，自动存储。
• 在有可用缓存时提供数据。

自动清除策略

• 根据设置移除旧或不常用的条目。
• 监控内存使用情况以避免超出限制。

💡 使用建议

性能优化技巧

设置合适的 TTL（过期时间）

• 对于频繁变化的数据，使用较短的 TTL。
• 对于静态内容，使用较长的 TTL。

调整内存限制

• 更高的内存限制意味着更多的缓存和更多的代币节省。
• 如果内存使用是一个问题，请降低内存限制。

监控缓存统计信息

• 高命中率表示良好的代币节省效果。
• 低命中率时，调整 TTL 或限制。

实践中的缓存测试

要观察缓存的效果，请尝试以下情景：

1. 文件读取测试

   • 读取并分析一个大文件。
   • 再次询问同一个关于文件的问题。
   • 第二次响应会更快，因为文件内容已缓存。

2. 数据分析测试

   • 执行一些数据的分析任务。
   • 再次请求相同的分析结果。
   • 第二次分析将使用缓存的结果，因此速度更快。

3. 项目导航测试

   • 探索项目的结构。
   • 再次查询同一个文件/目录。
   • 目录列表和文件内容将从缓存中提供。

当观察到以下情况时，说明缓存正在工作：

• 重复操作的响应速度加快。
• 对于未更改的内容，答案一致。
• 不需要重新读取未更改的文件。