KubernetesGPU共享实践完整版.pdf

KKuubbeerrnneetteessGGPPUU共共享享实实践践 环环境境准准备备 11.. GGPPUU 节节点点准准备备 GPU共享依赖NVIDIA 动和nvidia-docker2，需要事先安装。NVIDIA 动安装参考nvidia-docker NVIDIA 动和nvidia-docker2安装 # 如果已安装nvidia-docker，需要先进⾏卸载 $ docker volume ls -q -f driver=nvidia-docker | xargs -r -I{} -n1 docker ps -q -a -f volume={} | xargs -r docker rm -f $ sudo yum remove nvidia-docker -y # 安装nvidia-docker repo distribution=$(. /etc/os-release ;echo $ ID$VERSION_ ID) curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.repo | \ $ sudo tee /etc/yum.repos.d/nvidia-docker.repo # 安装nvidia-docker，并重新加载docker配置 $ sudo yum install -y nvidia-docker $ sudo pkill -SIGHUP dockerd # 在cuda :9.0容器中测试nvidia-smi命令 $ docker run --runtime=nvidia --rm nvidia/cuda :9.0-base nvidia-smi 设置NVIDIA runtime为docker默认运⾏时环境 编辑docker daemon config⽂件，没有则创建⼀个。 ⽂件路径 ：/etc/docker/daemon.j son ⽂件内容 ： { default-runtime: nvidia, runtimes: { nvidia: { path: /usr/bin/nvidia-container-runtime, runtimeArgs: [] } } } 22.. 部部署署GGPPUU ss hhaa rree sscc hheedduullee rr 从git 仓库clone gpushare-scheduler-extender项 ⽬到本地 进⼊项 ⽬ config ⽬录下，将 scheduler-policy-config.json ⽂件复制到k8s master节点的 /etc/kubernetes/ ⽬录下。 在kubernetes上部署gpushare-schd-extender。复制 config ⽬录下的 gpushare-schd-extender.yaml ⽂件到kubernetes 集群mater节点，执 ⾏ kubectl apply -f gpushare-schd-extender.yaml 命令，完成gpushare-schd-extender部署。 33.. 修修 改改调调度度器器配配置置 修改调度器配置，其⽬的是将 scheduler-policy-config.json 加⼊到默认的调度器配置中( /etc/kubernetes/manifests/kube-scheduler.yaml )。 第⼀步 ：在调度程序参数中添加策略配置⽂件参数 - --policy-config-file=/etc/kubernetes/scheduler-policy-config.json 第⼆步 ：挂载卷到Pod 的Spec中 - mou