Bundles

🚀 绿色文档 - SUSE AI 演示实验室

SUSE AI 演示环境文档，详细介绍如何搭建本地实验室展示 SUSE AI 能力，助您快速了解和应用相关技术。

基本信息

• 作者：Alessandro Festa
• 修订版本号：v1.0

SUSE AI 演示环境是一份简明文档，旨在阐述如何在特定用例背景下搭建本地实验室，以展示 SUSE AI 的能力。若需了解更多信息，请访问 http://suse.com/products/ai。

本文档中的应用程序源自 Rancher 应用程序集合 https://apps.rancher.io/，更多相关信息可参考其文档 https://docs.apps.rancher.io/。

🚀 快速开始

集群设置

本绿色文档将使用 K3s 搭建集群。

创建命名空间

• 创建 cert-manager 命名空间：

kubectl create namespace cert-manager

• 创建 suseai 命名空间：

kubectl create namespace suseai

Rancher Fleet 配置

• 为每个命名空间创建秘密：

kubectl -n cert-manager create secret docker-registry quayio \
  --docker-username=quay.io \
  --docker-password="yourpassword" \
  --docker-server=docker.io

• 将以下内容保存为 Chart.yaml 文件并应用到 cert-manager 命名空间：

helm repo add jetstack https://charts.jetstack.io && helm repo update

GreenDoc 配置

创建名为 GreenDoc-deployment.yaml 的文件，并将其应用于 suseai 命名空间。

💻 使用示例

演示步骤

MCP 服务配置

1. 打开 MCP 管理界面：
   • 登录地址：http://mcp-service.suseai.svc.cluster.local:8000/kubernetes
2. 添加测试模型并配置工具。
3. 配置 Open - WebUI 使用 MCP 服务器：
   • 打开 Open - WebUI 的管理设置，进入工具配置界面。
   • 输入 MCP 服务地址：http://mcp-service.suseai.svc.cluster.local:8000/kubernetes
4. 测试功能调用：
   • 启用“本机函数调用”，选择已添加的工具。
   • 输入查询：“列出 suseai 命名空间中的 pods。”

Open - WebUI 工具配置

1. 进入模型管理界面，点击编辑按钮。
2. 配置参数：
   • 将“功能调用”设置为“本机”。
   • 选择已添加的工具。
3. 测试结果对比：
   • 有无工具支持下的查询结果展示。

相关界面图示：

• （图：MCP 服务器主界面）
• （图：Open - WebUI 工具配置界面）
• （图：模型管理与编辑界面）