ฉันกำลังค้นหาวิธีใช้ GPU จากภายในคอนเทนเนอร์นักเทียบท่า

คอนเทนเนอร์จะรันโค้ดโดยพลการดังนั้นฉันไม่ต้องการใช้โหมดพิเศษ

เคล็ดลับใด ๆ

จากการวิจัยก่อนหน้านี้ฉันเข้าใจว่าrun -vและ / หรือ LXC cgroupเป็นวิธีที่จะไป แต่ฉันไม่แน่ใจว่าจะดึงมันออกมาได้อย่างไร

คำตอบของ Regan นั้นยอดเยี่ยม แต่มันค่อนข้างล้าสมัยเนื่องจากวิธีที่ถูกต้องในการทำเช่นนี้คือหลีกเลี่ยงบริบทการดำเนินการ lxc เนื่องจาก Docker ได้ลด LXCเป็นบริบทการดำเนินการเริ่มต้นเมื่อเทียบกับนักเทียบท่า 0.9

แทนที่จะเป็นการดีกว่าที่จะบอกนักเทียบท่าเกี่ยวกับอุปกรณ์ nvidia ผ่านทาง --device flag และใช้บริบทการประมวลผลดั้งเดิมแทน lxc

สิ่งแวดล้อม

คำแนะนำเหล่านี้ถูกทดสอบในสภาพแวดล้อมต่อไปนี้:

• Ubuntu 14.04
• CUDA 6.5
• อินสแตนซ์ของ AWS GPU

ติดตั้งไดรเวอร์ nvidia และ cuda บนโฮสต์ของคุณ

ดูCUDA 6.5 บน AWS GPU Instance ที่ใช้ Ubuntu 14.04เพื่อรับการตั้งค่าเครื่องโฮสต์ของคุณ

ติดตั้ง Docker

$ sudo apt-key adv --keyserver hkp://keyserver.ubuntu.com:80 --recv-keys 36A1D7869245C8950F966E92D8576A8BA88D21E9
$ sudo sh -c "echo deb https://get.docker.com/ubuntu docker main > /etc/apt/sources.list.d/docker.list"
$ sudo apt-get update && sudo apt-get install lxc-docker

ค้นหาอุปกรณ์ nvidia ของคุณ

ls -la /dev | grep nvidia

crw-rw-rw-  1 root root    195,   0 Oct 25 19:37 nvidia0 
crw-rw-rw-  1 root root    195, 255 Oct 25 19:37 nvidiactl
crw-rw-rw-  1 root root    251,   0 Oct 25 19:37 nvidia-uvm

เรียกใช้ Container Docker พร้อมไดรเวอร์ nvidia ที่ติดตั้งไว้ล่วงหน้า

ฉันสร้างรูปภาพนักเทียบท่าที่มีไดรเวอร์ cuda ติดตั้งไว้แล้ว dockerfileสามารถใช้ได้บน dockerhub ถ้าคุณต้องการที่จะรู้ว่าภาพนี้ถูกสร้างขึ้น

คุณจะต้องปรับแต่งคำสั่งนี้เพื่อให้ตรงกับอุปกรณ์ nvidia ของคุณ นี่คือสิ่งที่ทำงานสำหรับฉัน:

 $ sudo docker run -ti --device /dev/nvidia0:/dev/nvidia0 --device /dev/nvidiactl:/dev/nvidiactl --device /dev/nvidia-uvm:/dev/nvidia-uvm tleyden5iwx/ubuntu-cuda /bin/bash

ตรวจสอบว่าติดตั้ง CUDA อย่างถูกต้อง

ควรเรียกใช้จากภายในคอนเทนเนอร์นักเทียบท่าที่คุณเพิ่งเปิดตัว

ติดตั้งตัวอย่าง CUDA:

$ cd /opt/nvidia_installers
$ ./cuda-samples-linux-6.5.14-18745345.run -noprompt -cudaprefix=/usr/local/cuda-6.5/

สร้างอุปกรณ์ตัวอย่างแบบสอบถาม:

$ cd /usr/local/cuda/samples/1_Utilities/deviceQuery
$ make
$ ./deviceQuery   

หากทุกอย่างทำงานได้คุณจะเห็นผลลัพธ์ต่อไปนี้:

deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 6.5, CUDA Runtime Version = 6.5, NumDevs =    1, Device0 = GRID K520
Result = PASS

การเขียนคำตอบที่อัปเดตเนื่องจากคำตอบที่มีอยู่แล้วส่วนใหญ่ล้าสมัยแล้ว

รุ่นก่อนหน้านี้ที่Docker 19.03ใช้ต้องมีnvidia-docker2และ--runtime=nvidiaตั้งค่าสถานะ

เนื่องจากDocker 19.03คุณต้องติดตั้งnvidia-container-toolkitแพ็กเกจแล้วใช้--gpus allแฟล็ก

ดังนั้นนี่คือพื้นฐาน

การติดตั้งแพ็คเกจ

ติดตั้งnvidia-container-toolkitแพคเกจตามเอกสารอย่างเป็นทางการที่ Github

สำหรับ OS ที่ใช้ Redhat ให้ใช้ชุดคำสั่งต่อไปนี้:

$ distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
$ curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.repo | sudo tee /etc/yum.repos.d/nvidia-docker.repo

$ sudo yum install -y nvidia-container-toolkit
$ sudo systemctl restart docker

สำหรับระบบปฏิบัติการที่ใช้ Debian ให้รันชุดคำสั่งต่อไปนี้:

# Add the package repositories
$ distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
$ curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
$ curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list

$ sudo apt-get update && sudo apt-get install -y nvidia-container-toolkit
$ sudo systemctl restart docker

เล่นนักเทียบท่าพร้อมรองรับ GPU

docker run --name my_all_gpu_container --gpus all -t nvidia/cuda

โปรดทราบว่าการตั้งค่าสถานะ--gpus allใช้เพื่อกำหนด gpus ที่มีอยู่ทั้งหมดให้กับคอนเทนเนอร์ของนักเทียบท่า

วิธีกำหนด gpu เฉพาะให้กับคอนเทนเนอร์ docker (ในกรณีที่มี GPU หลายตัวในเครื่องของคุณ)

docker run --name my_first_gpu_container --gpus device=0 nvidia/cuda

หรือ

docker run --name my_first_gpu_container --gpus '"device=0"' nvidia/cuda

ในที่สุดฉันก็สามารถจัดการได้โดยไม่ต้องใช้โหมด - โหมดพิเศษ

ฉันทำงานบนเซิร์ฟเวอร์อูบุนตู 14.04 และฉันใช้ cuda ล่าสุด (6.0.37 สำหรับ linux 13.04 64 บิต)

การจัดเตรียม

ติดตั้งไดรเวอร์ nvidia และ cuda บนโฮสต์ของคุณ (อาจเป็นเรื่องยุ่งยากเล็กน้อยดังนั้นฉันจะแนะนำให้คุณทำตามคำแนะนำนี้/ubuntu/451672/installing-and-testing-cuda-in-ubuntu-14-04 )

ความสนใจ:มันสำคัญมากที่คุณต้องเก็บไฟล์ที่คุณใช้สำหรับการติดตั้งโฮสต์ cuda

รับ Docker Daemon ให้ทำงานโดยใช้ lxc

เราจำเป็นต้องเรียกใช้ docker daemon โดยใช้ไดรเวอร์ lxc เพื่อให้สามารถแก้ไขการกำหนดค่าและให้สิทธิ์การเข้าถึงคอนเทนเนอร์กับอุปกรณ์

การใช้งานครั้งเดียว:

sudo service docker stop
sudo docker -d -e lxc

การกำหนดค่าถาวร แก้ไขไฟล์กำหนดค่านักเทียบท่าของคุณที่อยู่ใน / etc / default / docker เปลี่ยนบรรทัด DOCKER_OPTS โดยเพิ่ม '-e lxc' นี่คือบรรทัดของฉันหลังจากการแก้ไข

DOCKER_OPTS="--dns 8.8.8.8 --dns 8.8.4.4 -e lxc"

จากนั้นรีสตาร์ท daemon โดยใช้

sudo service docker restart

วิธีตรวจสอบว่า daemon ใช้ไดรเวอร์ lxc อย่างมีประสิทธิภาพหรือไม่

docker info

บรรทัด Execution Driver ควรมีลักษณะดังนี้:

Execution Driver: lxc-1.0.5

สร้างภาพของคุณด้วยไดรเวอร์ NVIDIA และ CUDA

นี่คือ Dockerfile พื้นฐานเพื่อสร้างภาพที่รองรับ CUDA

FROM ubuntu:14.04
MAINTAINER Regan <http://stackoverflow.com/questions/25185405/using-gpu-from-a-docker-container>

RUN apt-get update && apt-get install -y build-essential
RUN apt-get --purge remove -y nvidia*

ADD ./Downloads/nvidia_installers /tmp/nvidia                             > Get the install files you used to install CUDA and the NVIDIA drivers on your host
RUN /tmp/nvidia/NVIDIA-Linux-x86_64-331.62.run -s -N --no-kernel-module   > Install the driver.
RUN rm -rf /tmp/selfgz7                                                   > For some reason the driver installer left temp files when used during a docker build (i don't have any explanation why) and the CUDA installer will fail if there still there so we delete them.
RUN /tmp/nvidia/cuda-linux64-rel-6.0.37-18176142.run -noprompt            > CUDA driver installer.
RUN /tmp/nvidia/cuda-samples-linux-6.0.37-18176142.run -noprompt -cudaprefix=/usr/local/cuda-6.0   > CUDA samples comment if you don't want them.
RUN export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64         > Add CUDA library into your PATH
RUN touch /etc/ld.so.conf.d/cuda.conf                                     > Update the ld.so.conf.d directory
RUN rm -rf /temp/*  > Delete installer files.

เรียกใช้ภาพของคุณ

ก่อนอื่นคุณต้องระบุหมายเลขหลักที่เกี่ยวข้องกับอุปกรณ์ของคุณ วิธีที่ง่ายที่สุดคือทำตามคำสั่งต่อไปนี้:

ls -la /dev | grep nvidia

หากผลลัพธ์ว่างเปล่าให้ใช้การเรียกใช้หนึ่งในตัวอย่างบนโฮสต์ควรทำการหลอกลวง ผลลัพธ์ควรมีลักษณะเช่นนั้น คุณจะเห็นว่ามีชุดของตัวเลข 2 ตัวระหว่างกลุ่มและวันที่ หมายเลข 2 เหล่านี้เรียกว่าหมายเลขหลักและรอง (เขียนตามลำดับ) และออกแบบอุปกรณ์ เราจะใช้หมายเลขหลักเพื่อความสะดวก

ทำไมเราถึงเปิดใช้งานไดรเวอร์ lxc หากต้องการใช้ตัวเลือก lxc conf ที่อนุญาตให้เราอนุญาตให้คอนเทนเนอร์ของเราเข้าถึงอุปกรณ์เหล่านั้น ตัวเลือกคือ: (ฉันขอแนะนำให้ใช้ * สำหรับจำนวนรองทำให้ลดความยาวของคำสั่งเรียกใช้)

--lxc-conf = 'lxc.cgroup.devices.allow = c [หมายเลขหลัก]: [หมายเลขรองหรือ *] rwm'

ดังนั้นถ้าฉันต้องการที่จะเปิดตัวภาชนะ (สมมติว่าชื่อภาพของคุณคือ cuda)

docker run -ti --lxc-conf='lxc.cgroup.devices.allow = c 195:* rwm' --lxc-conf='lxc.cgroup.devices.allow = c 243:* rwm' cuda

เราเพิ่งเปิดตัวพื้นที่เก็บข้อมูล GitHubซึ่งจะช่วยลดความยุ่งยากในการใช้ NVIDIA GPUs ภายในคอนเทนเนอร์ Docker

การปรับปรุงล่าสุดโดย NVIDIA ได้สร้างวิธีที่มีประสิทธิภาพมากขึ้นในการทำเช่นนี้

โดยพื้นฐานแล้วพวกเขาได้ค้นพบวิธีที่จะหลีกเลี่ยงความต้องการในการติดตั้งไดรเวอร์ CUDA / GPU ภายในคอนเทนเนอร์และให้ตรงกับโมดูลโฮสต์เคอร์เนล

แต่ไดรเวอร์อยู่ในโฮสต์และคอนเทนเนอร์ไม่ต้องการ ตอนนี้ต้องใช้นักเทียบท่าที่แก้ไขแล้ว

มันเยี่ยมมากเพราะตอนนี้ตู้คอนเทนเนอร์พกพาสะดวกกว่าเยอะ

การทดสอบอย่างรวดเร็วบน Ubuntu:

# Install nvidia-docker and nvidia-docker-plugin
wget -P /tmp https://github.com/NVIDIA/nvidia-docker/releases/download/v1.0.1/nvidia-docker_1.0.1-1_amd64.deb
sudo dpkg -i /tmp/nvidia-docker*.deb && rm /tmp/nvidia-docker*.deb

# Test nvidia-smi
nvidia-docker run --rm nvidia/cuda nvidia-smi

ดูรายละเอียดเพิ่มเติมได้ที่: Docker Container ที่เปิดใช้งาน GPU และ: https://github.com/NVIDIA/nvidia-docker

อัปเดตสำหรับ cuda-8.0 บน Ubuntu 16.04

• ติดตั้งนักเทียบท่าhttps://www.digitalocean.com/community/tutorials/how-to-install-and-use-docker-on-ubuntu-16-04

• สร้างอิมเมจต่อไปนี้ซึ่งรวมถึงไดรเวอร์ nvidia และชุดเครื่องมือ cuda

Dockerfile

FROM ubuntu:16.04
MAINTAINER Jonathan Kosgei <jonathan@saharacluster.com>

# A docker container with the Nvidia kernel module and CUDA drivers installed

ENV CUDA_RUN https://developer.nvidia.com/compute/cuda/8.0/prod/local_installers/cuda_8.0.44_linux-run

RUN apt-get update && apt-get install -q -y \
  wget \
  module-init-tools \
  build-essential 

RUN cd /opt && \
  wget $CUDA_RUN && \
  chmod +x cuda_8.0.44_linux-run && \
  mkdir nvidia_installers && \
  ./cuda_8.0.44_linux-run -extract=`pwd`/nvidia_installers && \
  cd nvidia_installers && \
  ./NVIDIA-Linux-x86_64-367.48.run -s -N --no-kernel-module

RUN cd /opt/nvidia_installers && \
  ./cuda-linux64-rel-8.0.44-21122537.run -noprompt

# Ensure the CUDA libs and binaries are in the correct environment variables
ENV LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-8.0/lib64
ENV PATH=$PATH:/usr/local/cuda-8.0/bin

RUN cd /opt/nvidia_installers &&\
    ./cuda-samples-linux-8.0.44-21122537.run -noprompt -cudaprefix=/usr/local/cuda-8.0 &&\
    cd /usr/local/cuda/samples/1_Utilities/deviceQuery &&\ 
    make

WORKDIR /usr/local/cuda/samples/1_Utilities/deviceQuery

3. เรียกใช้ภาชนะของคุณ

sudo docker run -ti --device /dev/nvidia0:/dev/nvidia0 --device /dev/nvidiactl:/dev/nvidiactl --device /dev/nvidia-uvm:/dev/nvidia-uvm <built-image> ./deviceQuery

คุณควรเห็นผลลัพธ์คล้ายกับ:

deviceQuery, CUDA Driver = CUDART, CUDA Driver Version = 8.0, CUDA Runtime Version = 8.0, NumDevs = 1, Device0 = GRID K520 Result = PASS

ในการใช้ GPU จากตัวเทียบท่าคอนเทนเนอร์แทนที่จะใช้ Native Docker ให้ใช้ Nvidia-docker ในการติดตั้ง Nvidia docker ให้ใช้คำสั่งต่อไปนี้

curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey |  sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/ubuntu16.04/amd64/nvidia-
docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update
sudo apt-get install -y nvidia-docker
sudo pkill -SIGHUP dockerd # Restart Docker Engine
sudo nvidia-docker run --rm nvidia/cuda nvidia-smi # finally run nvidia-smi in the same container

ใช้ x11dockerโดย mviereck:

https://github.com/mviereck/x11docker#hardware-accelerationกล่าว

การเร่งด้วยฮาร์ดแวร์

การเร่งด้วยฮาร์ดแวร์สำหรับ OpenGL สามารถทำได้ด้วยตัวเลือก -g, --gpu

สิ่งนี้จะได้ผลนอกกรอบในกรณีส่วนใหญ่ที่มีไดรเวอร์โอเพ่นซอร์สในโฮสต์ มิฉะนั้นให้ดูที่วิกิ: การพึ่งพาคุณสมบัติ แหล่งไดรเวอร์ NVIDIA ที่ปิดต้องมีการตั้งค่าและสนับสนุนตัวเลือกเซิร์ฟเวอร์ x11docker X ที่น้อยกว่า

สคริปต์นี้สะดวกมากเพราะสามารถจัดการการกำหนดค่าและการตั้งค่าทั้งหมดได้ การเรียกใช้อิมเมจเทียบท่าบน X ด้วย gpu นั้นง่ายเหมือน

x11docker --gpu imagename