Sitemcp
S

Sitemcp

sitemcp是一个能够抓取整个网站内容并将其作为MCP服务器使用的工具,支持自定义匹配页面、内容选择器等功能,适用于文档和博客类网站的快速检索。
5分
12.5K

什么是 Site MCP?

Site MCP 是一个工具,它可以抓取整个网站的内容,并将其转化为 MCP(Model Context Protocol)服务器。这意味着你可以通过这个服务器轻松获取网页中的文本内容,而无需手动处理每个页面。

如何使用 Site MCP?

只需输入目标网站的 URL,Site MCP 会自动抓取并生成 MCP 服务器。你可以直接在你的 MCP 客户端中配置它来使用。

适用场景

适用于需要快速获取大量网页内容的场景,例如构建知识库、数据分析或快速原型开发。

主要功能

抓取整个网站
Site MCP 能够抓取整个网站的内容,包括多个页面。
可配置的工具名策略
可以通过选项指定工具名称的策略,比如基于域名、子域名或路径名。
控制内容长度
设置最大内容长度,避免过长内容影响性能。
匹配特定页面
可以指定要抓取的页面路径模式,提高效率。
基于选择器的内容提取
支持通过 CSS 选择器提取网页上的具体内容。
优势
简单易用,只需输入网址即可开始抓取。
支持多种匹配策略,灵活性高。
内置缓存机制,提升重复抓取效率。
支持多种安装方式,适合不同开发环境。
局限性
对于非常大的网站可能需要较长时间抓取。
某些复杂的网页可能无法正确提取内容。
依赖于第三方库进行页面解析,可能存在兼容性问题。

如何使用

安装 Site MCP
你可以通过 npm 或其他包管理工具全局安装 Site MCP。
启动抓取任务
输入目标网站的 URL 开始抓取。
配置 MCP 客户端
在你的 MCP 客户端中配置 Site MCP 服务器。

使用案例

抓取文档网站
抓取一个技术文档网站并用于生成知识库。
抓取组件库
抓取一个 UI 组件库并用于快速原型开发。

常见问题

Site MCP 是否支持 HTTPS 网站?
抓取过程中出现错误怎么办?
是否可以限制抓取的页面数量?

相关资源

GitHub 项目主页
访问 GitHub 项目主页获取更多信息。
文档
阅读详细的使用说明。
演示视频
观看 Site MCP 的操作演示。

安装

复制以下命令到你的Client进行配置
{
  "mcpServers": {
    "daisy-ui": {
      "command": "npx",
      "args": [
        "-y",
        "sitemcp",
        "https://daisyui.com",
        "-m",
        "/components/**"
      ]
    }
  }
}
注意:您的密钥属于敏感信息,请勿与任何人分享。

替代品

A
Airweave
Airweave是一个开源的人工智能代理和RAG系统的上下文检索层,它连接并同步各种应用程序、工具和数据库的数据,通过统一的搜索接口为AI代理提供相关、实时、多源的上下文信息。
Python
7.0K
5分
V
Vestige
Vestige是一个基于认知科学的AI记忆引擎,通过实现预测误差门控、FSRS-6间隔重复、记忆梦境等29个神经科学模块,为AI提供长期记忆能力。包含3D可视化仪表板和21个MCP工具,完全本地运行,无需云端。
Rust
4.5K
4.5分
M
Moltbrain
MoltBrain是一个为OpenClaw、MoltBook和Claude Code设计的长期记忆层插件,能够自动学习和回忆项目上下文,提供智能搜索、观察记录、分析统计和持久化存储功能。
TypeScript
4.1K
4.5分
B
Bm.md
一个功能丰富的Markdown排版工具,支持多种样式主题和平台适配,提供实时编辑预览、图片导出和API集成能力
TypeScript
4.4K
5分
S
Security Detections MCP
Security Detections MCP 是一个基于Model Context Protocol的服务器,允许LLM查询统一的安全检测规则数据库,涵盖Sigma、Splunk ESCU、Elastic和KQL格式。最新3.0版本升级为自主检测工程平台,可自动从威胁情报中提取TTPs、分析覆盖差距、生成SIEM原生格式检测规则、运行测试并验证。项目包含71+工具、11个预构建工作流提示和知识图谱系统,支持多SIEM平台。
TypeScript
6.0K
4分
P
Paperbanana
PaperBanana是一个自动化生成学术图表和统计图的智能框架,支持从文本描述生成高质量的论文插图,采用多智能体管道和迭代优化,提供CLI、Python API和MCP服务器等多种使用方式。
Python
6.6K
5分
B
Better Icons
一个提供超过20万图标搜索和检索的MCP服务器和CLI工具,支持150多个图标库,帮助AI助手和开发者快速获取和使用图标。
TypeScript
6.7K
4.5分
A
Assistant Ui
assistant-ui是一个开源TypeScript/React库,用于快速构建生产级AI聊天界面,提供可组合的UI组件、流式响应、无障碍访问等功能,支持多种AI后端和模型。
TypeScript
6.2K
5分
F
Figma Context MCP
Framelink Figma MCP Server是一个为AI编程工具(如Cursor)提供Figma设计数据访问的服务器,通过简化Figma API响应,帮助AI更准确地实现设计到代码的一键转换。
TypeScript
74.4K
4.5分
D
Duckduckgo MCP Server
已认证
DuckDuckGo搜索MCP服务器,为Claude等LLM提供网页搜索和内容抓取服务
Python
85.7K
4.3分
F
Firecrawl MCP Server
Firecrawl MCP Server是一个集成Firecrawl网页抓取能力的模型上下文协议服务器,提供丰富的网页抓取、搜索和内容提取功能。
TypeScript
149.8K
5分
E
Edgeone Pages MCP Server
EdgeOne Pages MCP是一个通过MCP协议快速部署HTML内容到EdgeOne Pages并获取公开URL的服务
TypeScript
33.0K
4.8分
B
Baidu Map
已认证
百度地图MCP Server是国内首个兼容MCP协议的地图服务,提供地理编码、路线规划等10个标准化API接口,支持Python和Typescript快速接入,赋能智能体实现地图相关功能。
Python
50.1K
4.5分
M
Minimax MCP Server
MiniMax Model Context Protocol (MCP) 是一个官方服务器,支持与强大的文本转语音、视频/图像生成API交互,适用于多种客户端工具如Claude Desktop、Cursor等。
Python
64.6K
4.8分
C
Context7
Context7 MCP是一个为AI编程助手提供实时、版本特定文档和代码示例的服务,通过Model Context Protocol直接集成到提示中,解决LLM使用过时信息的问题。
TypeScript
106.8K
4.7分
E
Exa Web Search
已认证
Exa MCP Server是一个为AI助手(如Claude)提供网络搜索功能的服务器,通过Exa AI搜索API实现实时、安全的网络信息获取。
TypeScript
57.3K
5分
AIBase
智启未来,您的人工智能解决方案智库