分布式加速

horovod

horovod 分布式训练模板。

入参：

• work_images：worker 的运行镜像，如 horovod/horovod:0.20.0-tf2.3.0-torch1.6.0-mxnet1.5.0-py3.7-cpu
• working_dir：命令的启动目录，如 /mnt/admin/pipeline/example/horovod/
• command：训练启动命令，如 python /examples/tensorflow2_mnist.py
• num_worker：分布式 worker 的数目，如 2