私有化部署 · PRIVATE DEPLOYMENT

全栈私有化部署,
数据不出域

大模型推理、检索、数据库与对象存储全部运行在本单位服务器上,不依赖任何第三方云服务;支持完全离线安装与升级,适配信创环境,内置 GPU 算力管理。

01 — 部署形态

一套 K3s 集群,
承载应用、模型与存储

云原生微服务架构,支持单机部署与多节点集群,交付内容包含应用服务、模型推理与存储组件。

全栈私有化

前端、API 网关、业务微服务、MySQL 数据库与 MinIO 对象存储,基于 K3s 云原生集群一体交付,全部运行在您的内网。

自有大模型推理

内置 vLLM 推理引擎与统一模型路由,兼容主流开源大模型;交互问答优先调度,批量任务后台错峰执行。

完全离线交付

离线安装包内含全部镜像与依赖,配合专用装机工具完成装系统、建集群、启 GPU——不依赖外网,升级同样离线完成。

信创与国产化适配

兼容统信 UOS、麒麟等国产操作系统与浏览器环境(含较老内核版本),可接入既有信创基础设施,无需升级终端设备。

  • 数据不出域
  • 无外网依赖
  • K3s 云原生
  • vLLM 推理
  • 信创国产化
02 — 算力与运维

GPU 纳管、系统监测
与日志导出

平台内置算力管理、节点监测与故障排查功能,供本单位运维团队独立使用。

GPU 节点纳管、运行监测与诊断日志导出的运维设备示意

GPU 算力纳管

算力节点加入集群后自动识别 GPU,统一调度;管理台展示显卡型号、数量与分配情况。

系统监测

全节点 CPU、内存、磁盘与 GPU 用量实时展示,提供 7 天趋势与节点健康状态。

故障分析排查

按时间段导出各微服务运行日志,可在本地完成问题定位,无需厂商远程接入。

节点扩展

支持按需添加节点,扩展算力与存储,无需重新部署平台。

03 — 安全与权限

多级权限
与操作审计

在数据不出域的基础上,平台提供组织内部的访问控制与操作审计。

组织角色、知识库访问边界与操作审计记录的分层权限示意

多级组织与角色

按组织树逐级授权,区分管理员、操作员与查阅者角色;账号与部门调整后权限同步变更。

知识库级可见性

每个知识库按分支与人员配置可见范围,个人文档空间相互隔离;问答与检索仅在授权范围内执行。

全量操作与登录审计

关键操作全量记录,登录成功与失败逐条留存,并提供操作系统与浏览器分布分析。

架构层面的数据边界

推理、检索与存储均在内网完成,数据在任何环节都不离开本单位网络。

04 — 部署流程

从评估到上线的
四个阶段

  1. 01

    场景评估

    梳理文档规模、用户数量与重点场景,测算所需的 GPU 与存储配置。

  2. 02

    环境就绪

    服务器到位后交付离线安装包与装机工具,内网环境无需任何外网准备。

  3. 03

    安装部署

    装机工具完成建集群、启用 GPU、部署平台与模型服务。

  4. 04

    运行支持

    提供系统监测、版本升级与功能迭代支持。

部署评估 · 硬件测算

预约部署评估

提供文档规模与使用人数,我们将给出部署方案与硬件配置建议。