GreenDoc - SUSEAI Demo Lab

GreenDoc - SUSEAI 演示实验室

作者： Alessandro Festa

修订版本： v1.0

SUSE AI 演示环境是一份简单的文档，旨在说明如何搭建本地实验室，以在特定用例场景中演示 SUSE AI 的能力。 如果你想进一步了解 SUSE AI，请参阅 http://suse.com/products/ai。

此仓库中的应用来自 SUSE Application Collection https://apps.rancher.io/。请查看 https://docs.apps.rancher.io/ 中的文档，进一步了解 AppCo。

此 GreenDoc 的结构如下：

• 集群设置
• Rancher Fleet 设置（用于自动化 GreenDoc）
• GreenDoc 配置
• GreenDoc 部署
• 演示

集群设置

本 GreenDoc 将使用 K3s。

创建环境中使用的命名空间

kubectl create namespace cert-manager

kubectl create namespace suseai

为命名空间创建密钥

kubectl create secret docker-registry application-collection \
--docker-server=dp.apps.rancher.io \
--docker-username=<your registered account on appco> \
--docker-password=<INSERT YOUR TOKEN FROM APPCO> \
-n cert-manager

kubectl create secret docker-registry application-collection \
--docker-server=dp.apps.rancher.io \
--docker-username=<your registered account on appco>\
--docker-password=<INSERT YOUR TOKEN FROM APPCO> \
-n suseai

kubectl create secret docker-registry application-collection \
--docker-server=dp.apps.rancher.io \
--docker-username=<your registered account on appco> \
--docker-password=<INSERT YOUR TOKEN FROM APPCO> \
-n fleet-local

使用 Rancher Application Collection 部署组件

部署 cert-manager Helm chart

helm upgrade --install cert-manager \
  oci://dp.apps.rancher.io/charts/cert-manager \
  --version 1.17.1 \
  -n cert-manager \
  --create-namespace \
  --set crds.enabled=true \
  --set "global.imagePullSecrets[0].name"="application-collection"

部署 Rancher Fleet

helm -n cattle-fleet-system install --create-namespace --wait \
    fleet-crd https://github.com/rancher/fleet/releases/download/v0.12.0/fleet-crd-0.12.0.tgz

helm -n cattle-fleet-system install --create-namespace --wait \
    fleet https://github.com/rancher/fleet/releases/download/v0.12.0/fleet-0.12.0.tgz

至此，我们可以开始使用 GreenDoc 配方了。

使用 Rancher Fleet 部署最小化 SUSEAI 堆栈

创建一个最小化的 GitHub 配置，并将其保存为 suseai.yaml。

apiVersion: fleet.cattle.io/v1alpha1
kind: GitRepo
metadata:
  name: suseai
  # This namespace is special and auto-wired to deploy to the local cluster
  namespace: fleet-local
spec:
  repo: https://github.com/alessandro-festa/bundles
  helmSecretName: basic-auth-secret
  ociRegistry:
    authSecretName: application-collection
  branch: main
  paths:
  - k8s-assistant

并添加一个用于基本身份验证的通用密钥。

kubectl create secret generic basic-auth-secret \--from-literal=username=<your registered account on appco> \
--from-literal=password=<INSERT YOUR TOKEN FROM APPCO> \
-n fleet-local

现在使用 kubectl 执行此配置。

kubectl apply -f rancher-config.yaml

你应该已经安装了 SUSE AI 堆栈和一个 mcpo 服务。 我们以 https://github.com/manusa/kubernetes-mcp-server 中的 Kubernetes MCP 服务为例。

来检查一下！

检查 MCPO 服务

打开浏览器并访问 http://localhost:8000，你应该会看到类似下图的页面。

点击 kubernetes，你应该会看到类似的页面。

现在授权并尝试一个简单的查询。 点击 Authorize 按钮，并输入 top-secret作为令牌。

现在尝试获取节点信息。使用 try out 选项并查看结果。

成功了！

配置 Open-WebUI

现在需要配置 OWUI，以便使用 MCP 服务。 OWUI 的最新版本推出了一项名为“Tools Servers”的新功能。

打开管理设置。

转到 Tools。

添加 MCP 服务连接。 `http://mcp-service.suseai.svc.cluster.local:8000/kubernetes``

如果一切顺利，你应该会看到成功消息。

现在配置模型以使用该工具。

首先转到 models，然后点击笔形图标，选择要使用的模型。接着按下图所示检查两个参数。

将 Function Calling 切换为 `native``。

最后选择 `tool``。

点击保存并试用……你应该会在聊天中看到一个工具（看到图片中的数字 1 了吗？）。

询问类似“列出 suseai 命名空间中的 Pod”的问题。

对比使用和不使用该工具时的差异！