网页内容获取 MCP 服务器

此MCP服务器提供多种格式的网页内容抓取功能，包括HTML、JSON、纯文本和Markdown。

组件

工具

• fetch_html

  • 抓取网站并返回HTML内容
  • 输入:
    • url (字符串，必填): 要抓取的网站URL
    • headers (对象，可选): 请求中包含的自定义头信息
  • 返回网页的原始HTML内容

• fetch_json

  • 从URL获取JSON文件
  • 输入:
    • url (字符串，必填): 要抓取的JSON URL
    • headers (对象，可选): 请求中包含的自定义头信息
  • 返回解析后的JSON内容

• fetch_txt

  • 抓取网站并返回纯文本内容（无HTML）
  • 输入:
    • url (字符串，必填): 要抓取的网站URL
    • headers (对象，可选): 请求中包含的自定义头信息
  • 返回去除HTML标签、脚本和样式后的网页文本内容

• fetch_markdown

  • 抓取网站并返回Markdown格式的内容
  • 输入:
    • url (字符串，必填): 要抓取的网站URL
    • headers (对象，可选): 请求中包含的自定义头信息
  • 返回网页内容转换为Markdown格式后的结果

资源

此服务器不提供任何持久性资源。它设计用于按需抓取和转换网络内容。

快速入门

1. 克隆仓库
2. 安装依赖：npm install
3. 构建服务器：npm run build

使用方法

要使用该服务器，可以直接运行：

npm start

这将启动网页内容获取MCP服务器，在标准输出上运行。

与桌面应用程序集成使用

要在桌面应用程序中集成此服务器，请在应用程序的服务器配置中添加以下内容：

{
  "mcpServers": {
    "fetch": {
      "command": "node",
      "args": [
        "{ABSOLUTE PATH TO FILE HERE}/dist/index.js"
      ]
    }
  }
}

功能

• 使用现代Fetch API抓取网页内容
• 支持自定义头信息请求
• 提供多种格式的内容：HTML、JSON、纯文本和Markdown
• 使用JSDOM进行HTML解析和文本提取
• 使用TurndownService将HTML转换为Markdown格式

开发

• 运行npm run dev以启动处于监听模式的TypeScript编译器
• 使用npm test运行测试套件

许可证

此项目在MIT License下开源。