商业版与开源版功能清单
本文用于对照 CubeStudio 商业版与开源版的功能差异,作为版本选型与采购评估的参考。功能描述以产品维度组织,技术实现细节请以各专题文档与源码为准。
说明:下文功能项中标注 【商业版】 的为商业版特有能力(对应原始文档中的下划线 /
<u>标记),未标注的为开源版与商业版均提供。由于原始文档 HTML 标记在部分单元格中存在未闭合情况,个别条目的"商业版 / 开源版"边界可能不够精确,正式采购前请以管理员提供的最新清单为准。
产品特性
- 国内开源 MLOps 第一名,上千家企业私有化部署,功能稳定和完善。
- 功能完善,支持 SSO 登录、notebook 在线开发、拖拉拽任务流 pipeline 编排、多机多卡分布式算法训练、超参搜索、推理服务 VGPU、多集群调度、私有化部署 / 边缘集群 / serverless 集群、标注平台自动化标注、大模型一键微调、私有知识库、AI 应用商店;支持模型一键开发 / 推理 / 微调;支持国产 CPU/GPU/NPU 芯片;支持 RDMA。
- 扩展性好,适合机器学习 / 深度学习 / 大模型各领域落地。特定算法适配不需要改造平台,企业落地适配性好。
- 支持源码交付,授权可以改造、加工成自己的产品,没有 license 部署个数和时长限制,可对外出售。
- 支持免费新增功能升级,保持平台先进性。
- 仅对商业版特有功能收费,性价比高,同时支持只采购部分功能控制成本。
- 采购前可帮助免费更换 logo 为客户做演示。
注意:商业版功能持续更新,建议联系管理员获取商业版最新信息。
功能清单
基础能力
项目组管理
- AI 平台需要通过项目划分
- 支持配置相应项目组用户的权限
- 任务 / 服务的挂载、资源组、集群、服务代理
- 项目组内角色应用
网络
- 支持非 80 端口
- 支持公网 / 域名
- 【商业版】支持反向代理和内网穿透方式访问
- 【商业版】支持 HTTPS
用户管理 / 角色管理 / 权限管理
- 管理平台用户的基本信息、组织架构,支持账号密码、RBAC 权限体系
- 【商业版】增加修改和删除、清理等操作的历史记录
- 【商业版】支持菜单权限控制
SSO 单点登录
- 账号密码注册自动登录
- 【商业版】支持对接公司账号体系 AUTH_OID / AUTH_LDAP / AUTH_REMOTE_USER 等登录注册方式
- 【商业版】支持消息推送
- 【商业版】增加登录验证、强密码、远程用户、登录频率限制、密码密文传输等
GPU 调度能力
- 提供多种规格的资源支持不同的使用场景,CPU/GPU 等,支持 T4/V100/A100 等多种卡型
- 【商业版】支持 GPU 禁用模型、共享模式、独占模式、vGPU 模式;支持 RDMA 协议;支持虚拟化占用显存设定;支持指定卡序号
支持多种算力
- 【商业版】前后端镜像支持 ARM 架构,平台底层外部组件支持 ARM 架构,任务模板支持 ARM 架构,超参搜索支持 ARM 架构,AIHub 应用 70% 支持 ARM 架构
- 【商业版】支持调度海光 DCU、华为 NPU 算力
多资源组 / 多集群
- 支持划分多资源组,支持 Docker 运行时
- 【商业版】支持多 K8s 集群,支持 IPVS 网络模式,支持 containerd 容器运行态
计量计费功能(整体为【商业版】特性)
- 支持平台资源限制的分配和查看;项目组资源限制、租户资源限制、任务资源限制、项目组下个人的资源限制,包括开发资源、训练资源、推理资源等。额度限制在 notebook、docker 构建、pipeline、超参搜索、内部服务、推理服务中生效。限制支持单任务、并行任务总和、历史任务总和等方法。
- 提供统一的开发、训练、推理服务资源监控,从租户、项目、任务角度分析模型资源分配及使用情况。
- 支持自定义计费模式,通过计量结果自定义获取计费值。
- 日结账单,产生用户每日账单费用和明细。
边缘集群
- 【商业版】支持边缘集群模式,支持边缘节点开发、训练、推理
serverless 集群模式
- 【商业版】支持腾讯云 serverless 集群模式(notebook / pipeline / 推理服务模块支持)
- 【商业版】支持阿里云 serverless 集群模式(notebook / pipeline / 推理服务模块支持)
数据库存储
- 支持外部 MySQL 作为元数据库
- 【商业版】支持外部 PostgreSQL 作为元数据库
补充(与代码一致):平台元数据库支持 MySQL 8+(主)、PostgreSQL 11+、DamengDB(达梦),由
MYSQL_SERVICE/POSTGRESQL_SERVICE/DM_SERVICE环境变量控制,见install/docker/。
机器资源管理
- 【商业版】Web 界面控制机器调度类型、所属资源组、是否启动 RDMA、是否启动 vGPU、可用任务场景等
存储盘管理
- 【商业版】支持 Web 界面添加存储盘,支持项目组绑定;notebook / pipeline / 推理服务可直接在 Pod 中挂载外部分布式存储
- 【商业版】支持 NFS、CFS、OSS、NAS、COS、GlusterFS、CephFS、S3/MinIO
国际化能力
- 【商业版】MLOps 支持配置多语言,目前支持中英文(由
LOCALE=en|zh控制)
数据管理
数据地图
- 元数据库表管理、指标、维表
数据计算
- SQLLab 交互查询,支持 MySQL
- 【商业版】支持 PostgreSQL、ClickHouse、Hive、Presto 等计算引擎
ETL 编排
- 数据 ETL 任务流编排、任务管理等,对接公司数据中台相应计算 / 调度引擎
数据集管理
- 允许用户随时上传样本集(图片、音频、文本等)
- 【商业版】支持 SDK 进行数据集对接
- 【商业版】支持数据集一键探索功能
数据标注(整体为【商业版】特性)
- 支持标注平台,图 / 文 / 音 / 多模态各类型标注能力
- 支持分布式存储打通 MLOps 平台
- 支持项目组权限控制
- 中文汉化
- 对接一站式机器学习平台,支持自动化标注(需购买 AIHub):支持目标识别、目标边界识别、多目标视频跟踪、目标遮罩识别、图片分类、图片描述、OCR、关键点检测
- 支持大模型自动化标注:文本分类、文本翻译、命名实体识别、阅读理解、问答、摘要提取
开发环境
镜像功能
- 镜像仓库 / 镜像管理 / 在线构建镜像。同时提供平台所有镜像,包括模板镜像 / 服务镜像 / notebook 镜像 / GPU 基础环境的构建方法和构建后镜像
- 【商业版】支持同一仓库多个秘钥配置
notebook
- 支持基于开源的 JupyterLab / VSCode,提供在线的交互式开发调试工具
- 提供多种可选环境 IDE 和开发示例,支持资源类型选择;支持大数据版本、机器学习版本、深度学习版本
- 【商业版】大数据版本支持用户信息、HDFS 客户端、Hive 客户端和 Spark 客户端
- 支持 SSH remote 与 notebook 对接远程开发,方便快速将本地代码提交到平台的训练环境
- 【商业版】SSH 隧道代理、单端口开放
- 【商业版】支持 MATLAB、RStudio 等在线 IDE
- 【商业版】支持 GPU、CPU、内存监控,支持 Git 交互
- 【商业版】支持自定义 notebook 镜像,便于封装公司自己的 notebook
- 【商业版】多环境 notebook,支持 R 语言 / Julia / Python 2.7 / 3.6 / 3.7 / 3.8 / 3.9 / 3.10 环境和 CubeStudio 专有环境
- 【商业版】支持 TensorBoard 任务可视化
- 【商业版】notebook 支持环境镜像保存
- 【商业版】Jupyter 支持密码保护
- 【商业版】notebook 支持整卡占用、虚拟卡占用、GPU 共享占用
- 支持 notebook 启动自动初始化环境
- 支持 notebook 自动清理、续期
模型训练
拖拉拽任务流编排调试
- 提供拖拽式交互开发环境,支持开发者以拖拽的方式完成业务逻辑的 PIPELINE
- 支持单任务调试
- 训练支持多种资源规格(CPU、GPU 等),支持卡型的选择、超时重试等
- 【商业版】任务支持独占和共享占用 GPU
- 【商业版】分布式任务模板支持单任务调试用户镜像而非模板镜像
- 【商业版】支持 RDMA 资源占用
- 【商业版】支持 GPU 不同厂商、不同卡型的占用
- 【商业版】分布式任务模板支持 GPU 型号透传、RDMA 资源透传、拉取秘钥透传
- pipeline 调试,支持定时调度、补录、并发限制、超时、实例依赖等
- 任务管理、workflow 实例管理、资源监控
- 【商业版】支持任务输入输出、任务流全局变量、文本 / 图片 / ECharts 结果可视化、workflow 暂停和恢复、任务流优先级
- 【商业版】支持单任务和 pipeline 运行中任务监听端口,提供运行中服务监听能力
- 【商业版】任务流支持任务推荐;定时调度支持最大保留实例数;pipeline 支持任务流优先级
主流功能算子
- 基础算子:自定义镜像;【商业版】逻辑节点、python
- 数据同步:数据集导入【商业版】(支持 HuggingFace / 魔搭数据集)、datax、【商业版】datax-import、模型导入【商业版】(支持 HuggingFace / 魔搭模型)、【商业版】labelstudio 标注数据导入
- 【商业版】特征处理:数据合并(union、join)、去重、数据变换(boxcox、二值化、类型转换、dct、按函数转换、ma 移动平均、多项式展开)、非数值型变量处理(hash、按统计量转换、one-hot)、异常值检测、统计量、去除值过于单一的变量、删除缺失率过高的值、填充缺失值、数据离散化(等宽 / 等频 / 聚类)、标准化 / 正则化 / 归一化、索引处理、排序、执行 SQL、hadamard 乘积、特征组合、降维(PCA / 卡方)、特征重要性(随机森林 / 逻辑回归 / xgboost,计算 IV、互信息、方差等)、特征向量相关性、数据拆分、采样(随机 / 分层 / 过采样 / 欠采样)
- 数据处理工具:【商业版】Hadoop 模板支持 HDFS、Hive、Spark 命令;volcanojob / ray 分布式数据处理
- 【商业版】文本处理:清理异常数据、过滤数据、替换隐私数据
- 【商业版】图像数据处理:去噪声、缩放、标准化、裁剪、均衡化、空间转换、变换(旋转 / 平移 / 缩放 / 翻转)
- 传统机器学习:ray-sklearn 分布式、xgb 单机训练推理
- 【商业版】传统机器学习算法:ar/arima 时间序列、random-forest、random-forest-regression、lr、lightgbm、knn、kmean、gbdt、decision-tree、pca、lda、catboost、xgb、超参搜索
- 分布式深度学习框架:tf / pytorch;【商业版】mxnet / horovod / paddlejob / mindspore 分布式训练
- 【商业版】分布式加速框架:mpi / colossalai / deepspeed / horovod / megatron
- 【商业版】模型处理:模型评估、模型格式转换
- 模型服务化:模型注册;【商业版】模型离线推理、模型注册到 AIHub;模型部署
- 媒体分布式处理:分布式媒体下载、视频提取图片
算子自定义
- 支持算子自定义,通过 Web 界面操作将自定义算法代码镜像注册为可被他人复用的 pipeline 算子
- 【商业版】自定义任务模板额外支持 int / float / list / bool / json 型,子类型支持 workdir 类型、image 类型,支持参数 tip 提醒
自动学习
- 面向非 AI 背景的用户提供自动学习服务,选择场景后上传训练数据即可自动开始训练和模型部署
- 【商业版】支持示例 automl 任务流导入导出
自定义镜像
- 面向高级 AI 开发者,提供自定义训练作业(执行环境 + 代码)功能
自动调参
- 基于单机 / 【商业版】分布式自动超参搜索
TensorBoard 作业
- 【商业版】实时 / 离线观察模型训练过程中的参数和指标变化情况
模型管理 / 推理服务
内部服务
- 支持快捷部署开发或运维工具,提供 mysql-web、postgresql-web、mongo-web、redis-web、neo4j、rstudio 等开源工具
- 【商业版】支持 ollama、xinference 大模型推理
模型管理
- 模型多版本管理,支持模型发布为推理服务
- 【商业版】支持模型指标可视化
推理服务
- 支持 【商业版】ml / tf / pytorch / tensorrt / onnx 常规模型的多版本 0 代码发布
- 支持 GPU 卡型选择;【商业版】支持 vGPU、独占、共享占用
- 支持 CPU/MEM/【商业版】GPU 等弹性伸缩;【商业版】支持服务优先级
- 支持远程模型路径、流量分流、流量复制、sidecar 配置、泛域名配置、配置文件挂载,启动目录 / 命令 / 环境变量 / 端口 / 指标 / 健康检查等;支持调试 / 测试 / 生产环境;支持域名 / IP 代理多种形式
- 支持服务负载指标监控
- 支持多版本服务滚动升级和回滚;【商业版】支持单 Pod 滚动发布、禁用 K8s service 负载均衡器、大模型分布式推理
- 提供 【商业版】ml / tf / pytorch / tensorrt / onnx 常规模型推理服务镜像,支持用户自定义模型推理镜像
- 【商业版】支持定时伸缩容、配置服务的 JWT 认证功能、推理服务在线测试
监控
整体资源
- 所有集群、所有计算机器的使用情况(所属集群、所属资源组、机器 IP、CPU/GPU 类型和卡型、当前 CPU/内存/GPU 使用率)
- 所有集群、所有计算 Pod 的使用情况(所属集群、资源组、命名空间、调度 IP、Pod 名称、启动用户、CPU/GPU/内存 申请使用率)
- 【商业版】整体资源页面支持管理员批量删除
监控体系
- 所有机器的 GPU 资源使用情况
- 所有机器的内存 / CPU / 网络 IO / 磁盘 IO 负载情况
- 所有 Pod 的内存 / CPU / GPU / 网络 IO 负载情况
- 所有推理服务的内存 / CPU / GPU / QPS / 吞吐
- 【商业版】支持 IB 流量监控、vGPU 负载情况、NPU 监控
- 【商业版】支持首页消息提醒,支持企业微信、钉钉、飞书群聊消息推送
监控底层基于 Prometheus + Grafana + Prometheus Operator 实现,详见 监控体系。
模型应用市场(AIHub)
以下均为 【商业版】 特性:
- 模型应用管理方案:提供 cube-studio SDK,提供模型开发规范和使用规范;提供 Web 端模型应用体验,支持同步 / 异步推理;提供多个 Python CUDA 版本的基础镜像
- 预训练模型:提供视觉、听觉、NLP、多模态等 400+ 预训练模型,提供模型加载和推理能力,可一键部署服务并提供 API
- 模型市场:AIHub 应用对接 CubeStudio 平台进行卡片式展示
- 模型一键开发:一键转 notebook 开发,提供符合当前模型所需环境的 Jupyter
- 模型一键微调:一键转 pipeline 微调链路(示例数据集下载、微调、模型注册、模型部署),支持微调后模型部署
- 模型一键部署 Web:提供手机端和 PC 端 Web 界面和 API,以及 demo 示例弹窗演示
- 模型自动化标注:支持部署对接 labelstudio 自动化标注
- 数据集 SDK:支持通过 Python SDK 搜索 / 上传 / 下载数据集,支持加解密 / 解压缩 / 基础信息查看
- notebook SDK:支持通过 API 对接 CubeStudio 创建 notebook 并跳转到指定目录
- pipeline 训练 SDK:提供 Python SDK 进行 pipeline 任务流管理、训练任务启动及任务流编排
- 推理服务 SDK:提供 Python SDK 对接 CubeStudio 进行推理服务发布、服务升级
大模型
以下均为 【商业版】 特性:
- 大模型分布式多机多卡:分布式多机多卡训练和加速框架 mpi / colossalai / deepspeed / horovod / megatron / mindformer / mxnet / paddlejob / mindspore 分布式训练
- 大模型推理(AIHub 形式):支持 openjourney / gpt3 / yuan / sd-v2 / sd-v1.5 / Stable Cascade / Stable Diffusion XL / chatglm / chatglm2 / chatglm3 / llama / qwen / baichuan2 / gemma / yi / aquilachat2 部署
- 大模型推理:支持 vLLM 大模型推理,支持推理加速 + 流式 OpenAI 接口;支持分布式多机多卡 vLLM 推理;支持 MindIE 昇腾大模型推理服务(支持 910b 和 310p 算力);deepseek、qwen2、chatglm4 等模型推理示例;支持 LLM 大模型服务对话测试;支持 open-webui sidecar;支持 NPU 适配的 vLLM 推理
- 大模型微调:支持 deepseek / chatglm4 / qwen2 / baichuan2 LoRA 微调、mindformers 微调,支持 llama-factory 大模型微调,支持 NPU 适配的 llama-factory
- 智能对话:多场景对话,支持提示词构建、推理接口配置、LLM 问答,支持问询中模型切换 / 清理 / 历史上下文
- 私有知识库:私有知识库配置与召回;支持召回列表模式;支持 AIGC 模式;支持微信公众号 / 服务号对接;支持企业微信群聊机器人对接;支持钉钉群聊机器人对接
本清单为产品维度的功能对照,用于版本选型与采购评估;具体功能的技术细节、配置项与默认值请以对应专题文档与源码为准。商业版功能持续更新,最终以管理员提供的最新清单为准。