信创 AI 平台全栈一体化方案
把 CubeStudio 的信创能力按「硬件→系统→数据→平台→应用」五层串成一套全栈国产化方案。各层细节见对应分篇。
一、五层栈
应用层 MindSpore/MindFormers 训练 | MindIE/vLLM 推理 | 国产卡开发镜像 | 大模型安全网关
平台层 CubeStudio 统一算力池 · 调度 · 配额 · 计费 · 监控 · 全流程 MLOps
数据层 达梦 DM / 金仓 KingbaseES(元数据库国产化)
系统层 麒麟 Kylin / 统信 UOS + Kubernetes + RDMA
硬件层 鲲鹏/飞腾(ARM64) + 昇腾/海光/寒武纪/沐曦/昆仑芯/摩尔线程/壁仞(算力)
—— 全程内网离线 · 信创私有化 · 数据不出域
二、各层要点与分篇
| 层 | 要点 | 分篇 |
|---|---|---|
| 硬件·CPU | 鲲鹏/飞腾 ARM64,buildx 双架构镜像、ubuntu-ports 源 | ARM64部署与多架构镜像 |
| 硬件·算力 | GPU_RESOURCE 14 项映射,8 步接入统一算力池 |
国产算力接入全流程SOP、国产算力选型与信创适配速查 |
| 系统 | 麒麟/统信 UOS + K8s + RDMA | 国产GPU与ARM64适配总览 |
| 数据 | 达梦/金仓,改连接串即可(选型级联) | 元数据库配置、达梦数据库部署与迁移 |
| 平台 | 统一资源名 + gpu-type 调度 + 配额/计费/监控 | 国产算力监控与统一纳管 |
| 应用·训练 | 昇腾 MindSpore/MindFormers,Volcano 多机多卡 | 昇腾大模型训练与推理全链路 |
| 应用·推理 | 昇腾 MindIE、海光/寒武纪 vLLM,换镜像不换流程 | 国产卡大模型推理 |
| 应用·开发 | 各卡 Notebook 开发镜像 | 国产芯片开发环境镜像 |
| 应用·安全 | llm-safe-stream 网关 + llm-safety-eval 评估 | 推理服务-大模型安全网关 |
三、落地路线(分阶段)
- 国产 CPU + 国产 OS 上装 K8s 与 CubeStudio(先按 x86 跑通,ARM64 补镜像);
- 按 8 步接入首款国产卡,跑通整卡调度 + Notebook;
- 元数据库切达梦/金仓,验证功能;
- 开启分布式训练与大模型推理(MindIE/vLLM);
- 按需开 vNPU/vDCU 单卡共享,挂大模型安全网关;
- 镜像/驱动/模型进内网,转信创私有化、内网离线。
四、选型速查
| 诉求 | 建议 |
|---|---|
| 国产 CPU | 鲲鹏/飞腾(ARM64) |
| 国产算力卡 | 昇腾(大模型强)/海光(切分完整)/寒武纪/沐曦/昆仑芯 |
| 单卡共享 | 海光 vDCU、昇腾 vNPU |
| 国产库(改动最小) | 金仓 KingbaseES(PG 兼容) |
| 国产库(指定达梦) | 达梦 DM8 |
| 大模型训练/推理 | 昇腾 MindSpore/MindFormers;MindIE、海光/寒武纪 vLLM |
| 内容合规 | llm-safe-stream + llm-safety-eval |
版本边界:国产 NPU/DCU 算力调度、ARM64 支持为商业版能力,开源版面向 NVIDIA GPU。