寒武纪 MLU 适配(Cambricon)
本篇说明如何在 CubeStudio 平台上接入寒武纪 MLU(Cambricon,型号 MLU370)算力卡,覆盖主机驱动运行时、k8s device plugin、节点可用卡数查询、Pod 占用测试与整体资源查看。
来源:
install/kubernetes/gpu/mlu/readme.md,原文为图文操作记录。下文保留原始操作截图(外部 OSS 链接),并补充平台侧资源名配置事实。
平台资源名配置(已核实)
寒武纪在平台中对应的 GPU 资源 key 为 mlu370,映射到 k8s 资源名 cambricon.com/mlu370。
依据 myapp/config.py:1250 的 GPU_RESOURCE 配置:
"mlu370": "cambricon.com/mlu370", # 寒武纪370
在 Notebook / 推理服务 / 任务流的「GPU」字段中填写格式为 数量(型号key),例如申请 1 张寒武纪卡填 1(mlu370)。括号里的 key 会被平台解析后映射到对应的 k8s 资源名(解析逻辑见 myapp/utils/core.py:1622 的 get_gpu)。
寒武纪推理可用镜像参考
myapp/config.py:1333注释:ccr.ccs.tencentyun.com/cube-studio/vllm:v0.11.2-mlu。
一、主机驱动和运行时
主机正常安装寒武纪驱动与运行时。

二、安装 k8s 相关组件
在 k8s 中安装寒武纪相关组件,包含 device plugin 等。

三、查询机器可用卡数
通过 kubectl describe node 查看寒武纪节点上报的可用卡数:
kubectl describe node xx.xx.xx.xx
# xx.xx.xx.xx 是寒武纪节点 ip

四、Pod 占用寒武纪卡测试
在 Pod 内部查看占用的卡。

五、整体资源查看
在平台上查看寒武纪卡的整体资源占用情况。
