🚀 使用Watsonx.ai构建RAG服务器并通过MCP协议集成到Claude Desktop中的完整指南

本项目旨在展示如何借助Watsonx.ai构建功能完备的检索增强生成（RAG）服务器，利用ChromaDB实现持久的向量存储。同时，还将展示如何通过模型上下文协议（MCP）把该服务器集成到Claude Desktop中，使其能依据PDF文档内容回答问题，为用户提供强大的问答功能。

🚀 快速开始

本项目主要分为三个步骤，分别是构建RAG服务器、配置Claude Desktop集成以及验证与使用。下面将为你详细介绍每个步骤的具体操作。

✨ 主要特性

• 构建RAG服务器：利用Watsonx.ai和ChromaDB创建RAG服务器，解析和理解PDF文件，并根据内容生成回答。
• 配置MCP协议集成：通过编辑Claude Desktop的配置文件，将自定义Python工具（RAG服务器）注册为可用工具。
• 验证与使用：确保配置正确后，用户能在Claude Desktop中调用该工具，根据PDF内容进行提问和回答。

📦 安装指南

第一步：构建RAG服务器

1. 安装必要的库

pip install watsonx chromadb langchain

2. 初始化Watsonx模型

在server.py文件中初始化模型：

from langchain.embeddings import Embeddings
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.vectorstores import ChromaDB
from langchain.document_loaders import PDFLoader
import os

# 初始化Watsonx embeddings
embeddings = Embeddings()

3. 加载和处理文档

# 加载PDF文件
loader = PDFLoader("manual.pdf")
documents = loader.load()

# 将文档分割成小块
text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
texts = text_splitter.split_documents(documents)

# 创建ChromaDB存储
vectorstore = ChromaDB.from_texts(
    texts,
    embeddings,
    persist_directory="chroma_store",
    collection_name="manual_vectors"
)

4. 定义查询函数

def chat_with_manual(query: str) -> str:
    docs_and_scores = vectorstore.similarity_search_with_score(query, k=3)
    context = "\n".join([doc.page_content for doc, _ in docs_and_scores])
    return f"根据手册内容：{context}"

第二步：配置Claude Desktop集成

1. 找到Claude Desktop的配置文件位置

通常位于用户主目录下的.config/claude/settings文件夹中。

2. 编辑配置文件

在claude_desktop_config.json文件中添加以下内容：

{
    "mcpServers": {
        " rag_manual_server": {
            "type": "python",
            "command": "python server.py chat_with_manual {query}",
            "description": "根据用户手册回答问题"
        }
    }
}

第三步：验证与使用

1. 启动Claude Desktop并加载配置

确保Claude Desktop已重新启动以应用新配置。

2. 测试工具调用

在聊天窗口中输入以下内容，测试新工具：

/tool rag_manual_server

然后提出问题，例如：

/manual 中提到的最大飞行时间是多少？

系统将根据PDF中的内容生成相应的回答。

💻 使用示例

基础用法

# 初始化Watsonx embeddings
from langchain.embeddings import Embeddings
embeddings = Embeddings()

# 加载PDF文件
from langchain.document_loaders import PDFLoader
loader = PDFLoader("manual.pdf")
documents = loader.load()

# 将文档分割成小块
from langchain.text_splitter import RecursiveCharacterTextSplitter
text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=200)
texts = text_splitter.split_documents(documents)

# 创建ChromaDB存储
from langchain.vectorstores import ChromaDB
vectorstore = ChromaDB.from_texts(
    texts,
    embeddings,
    persist_directory="chroma_store",
    collection_name="manual_vectors"
)

# 定义查询函数
def chat_with_manual(query: str) -> str:
    docs_and_scores = vectorstore.similarity_search_with_score(query, k=3)
    context = "\n".join([doc.page_content for doc, _ in docs_and_scores])
    return f"根据手册内容：{context}"

🔧 技术细节

本项目主要利用了Watsonx.ai进行模型初始化和嵌入生成，通过ChromaDB实现向量存储。在处理文档时，使用了langchain库中的PDFLoader加载PDF文件，RecursiveCharacterTextSplitter将文档分割成小块，ChromaDB存储处理后的文本向量。在查询时，通过similarity_search_with_score方法查找与查询最相似的文档，并根据文档内容生成回答。

🔧 注意事项

⚠️ 重要提示

• 环境配置方面，要确保所有依赖项正确安装，并且路径设置无误。
• 性能优化方面，如果处理大量文档，需考虑优化文本分割和向量存储的效率。
• 错误处理方面，在实际应用中要添加异常捕获和日志记录功能。

📚 总结

通过本项目，我们成功构建了一个基于Watsonx.ai和ChromaDB的RAG服务器，并将其集成到Claude Desktop中。这一实现展示了如何将先进的NLP技术与现有工具无缝结合，为用户提供强大的问答功能。