docker on windows (gpu) 2024/09/26 Updated by

4年セミナー(2024年度) で利用可能な docker コンテナ

Docker on Windows (GPU)

Ubuntu Container with GPU

[Up]

Docker Host のマシン情報

マシン1

    IP Address: 133.99.22.13  (学内 LAN or VPN からのみアクセス可能)
    OS: Windows 10 Pro
    CPU: Intel Core i7-6700HQ @ 2.60.GHz
    Memory: 16GB
    GPU: NVIDIA GeForce 980M (8GB)
    cuda:  11.2.2
    cuDNN:  8.1.1
    docker用の受信ポート開放: TCP:7070-7075, TCP:8080-8085

マシン2

IP Address: 133.99.22.10 (学内 LAN or VPN からのみアクセス可能) OS: Windows 11 Home CPU: Core i7-11800H @ 2.30GHz Memory: 32GB GPU: NVIDIA GeForce RTX 3070 Laptop GPU (8GB) cuda: 11.2.2 cuDNN: 8.1.1 docker用の受信ポート開放: TCP:7070-7075, TCP:8080-8085

Docker ホストでは、nVidia が配布する Ubuntu Image (GPU + TensorFlow) が利用可能である。
Docker ホストでは、TCPポートの 7070-7075, 8080-8085 が解放してある。
Docker ホスト上で、上記の Image から複数の Docker コンテナが起動中である。

$ docker run --name コンテナ名 --shm-size=1g --ulimit memlock=-1 --ulimit stack=67108864 --gpus all \
    -p ポート1:22 -p ポート2:8888 \
    -v /home/docker/コンテナ名:/root/doc -it nvcr.io/nvidia/tensorflow:21.08-tf2-py3

$ docker run --name コンテナ名 --shm-size=1g --ulimit memlock=-1 --ulimit stack=67108864 --gpus all \
    -p ポート1:22 -p ポート2:8888 \
    -v /home/docker/コンテナ名:/root/doc -it nvcr.io/nvidia/tensorflow:22.09-tf2-py3

$ docker run --name コンテナ名 --shm-size=1g --ulimit memlock=-1 --ulimit stack=67108864 --gpus all \
    -p ポート1:22 -p ポート2:8888 \
    -v /home/docker/コンテナ名:/root/doc -it nvcr.io/nvidia/tensorflow:23.08-tf2-py3

割当	コンテナ名	ポート1 (22へ転送)	ポート2 (8888へ転送)
nitta	4semi0	7070	8080
g20932nr	4semi1	7071	8081
g21904ae	4semi2	7072	8082
g21914kk	4semi3	7073	8083
g21946ti	4semi4	7074	8084
-	4semi5	7075	8085
g21914kk	ai_security	7076	8086
g21946ti	4semi7	7077	8087
g21946ti	4semi8	7078	8088

[注意] 各コンテナ中では /root/doc/ の下のファイルだけが永続的に残るので注意してください。それ以外のファイルは、コンテナを消去したときにはすべて無くなります。変なタイミングで Docker ホストが再起動したりしてコンテナが壊れたときは、コンテナを消去して作り直す可能性があります。

各Dockerコンテナ内では以下の方法で、外部から root ユーザとして ssh アクセスできるように設定されている。

  # apt-get update
  # apt-get upgrade -y
  # apt-get install -y openssh-server
  # echo 'root:パスワード' | chpasswd
  # sed -i "s/#PermitRootLogin prohibit-password/PermitRootLogin yes/" /etc/ssh/sshd_config
  # service ssh start

各Docker コンテナにアクセスするためのパスワードは、授業時に伝えます。

上記のようにして起動した sshd プロセスは container が停止したときに終了してしまう。コンテナを再起動したときにはssh サーバを再起動する必要がある(root 権限で "service ssh start" )。

Docker コンテナの利用について

自分が利用可能な Docker コンテナの IP Address とポート番号 (ssh接続用 707x, http接続用: 808x, x は0-5の整数) を確認します。
手元のパソコン (PC or Mac) を学内LANに接続するか、VPNに接続します。
PCの場合は「cygwin」または「Tera Term」、 Mac の場合「ターミナル」からdockerコンテナにの707x ポートに sshでアクセスします。

    [PCのcygwin or Mac の場合]
    $ ssh [email protected] -p 707x      ← xは0-5の数字

    [例]
    $ ssh [email protected] -p 7070

パッケージ関係を update および upgrade しておきます。

  $ apt-get update
  $ apt-get upgrade -y

venv を用いて新しいpython 仮想環境を /root/doc/venv の下に作成します。ここでは、仮想環境の名前は imgentf2 としています。一番最初はエラーが起きるので、指示にしたがって venv をインストールします。

[注意] conda コマンドを root 権限で動作させると Warning が表示されるので、Anaconda は使用しないことにします。こういう場合は venv を使う方がよいようです。

  # cd
  # apt update
  # python3 -m venv ./doc/venv/imgentf2
  エラーが起きるので、指示にしたがって venv をインストールする。
  # apt install python3.8-venv

再び venv を用いて新しいpython 仮想環境を作成します。

  # python3 -m venv ./doc/venv/imgentf2

新しいpython仮想環境に切り替えて、パッケージをインストールします。

  # source ./doc/venv/imgentf2/bin/activate
  (imgentf2) #    ← 新しい仮想環境でシェルが動いているので、"pip install パッケージ名" でインストールしていきます。

"pip install -r ファイル名" コマンドで、まとめてパッケージをインストールすることもできます

たとえば Hands on Image Generation with TensorFlow 2 のgithub に置かれている https://github.com/PacktPublishing/Hands-On-Image-Generation-with-TensorFlow-2.0/blob/master/README.md では、venv を使ってpython仮想環境 imgentf2 を作成していますが、requirements.txt というファイルから一気にパッケージをバージョン指定してインストールしています。今回は、GPUが動作するTensorFlowのバージョンに変更してインストールしてみます。

[注意] cuda 11.2 & cuDNN 8.1 に対応していないバージョンの TensorFlow では GPU を利用できません。対応している TensorFlow はこちらにあるように2.5.0, 2.6.0, 2.7.0, 2.8.0, 2.9.0, 2.10.0 (Oct/09/2022 時点)なので、それらを使うように設定してください。

  # source ./doc/venv/imgentf2/bin/activate
  (imgentf2) # pip3 install --upgrade pip
  (imgentf2) # pip3 install -r req.txt    ← TensorFlow のバージョンを変更したもの。相当時間(30分?)がかかる。
  (imgentf2) # python -m ipykernel install --user --name=imgentf2
  (imgentf2) # jupyter nbextension enable --py widgetsnbextension   ← これはエラーになる。

req.txt

tensorflow==2.8.3
tensorflow_addons
tensorflow-datasets
opencv-python
dlib
face_recognition
tqdm
matplotlib
ipykernel
ipywidgets
packaging

必要ならば "scp -P ポート番号" コマンドで、手元のパソコンとコンテナ上のシェルとの間でファイル転送を行います。"-P" は(sshの場合とは異なり)大文字であることに注意してください。

  [手元のPC上の cygwin または Mac の「ターミナル」上で]

    手元のパソコンからコンテナにファイル(例 src.zip)をコピーするには
      $ scp -P 707x  src.zip   [email protected]:doc

    コンテナから手元のパソコンにファイル(例 doc/src.zip)をコピーするには
      $ scp -P 707x [email protected]:doc/src.zip .

python仮想環境の中で jupyter notebook を起動します。

  (imgentf2) # jupyter notebook

手元のパソコンでブラウザを立ち上げ "http://133.99.22.13:808x/?token=トークンの数字" にアクセスする(x は0-5の数字)。token は jupyter に表示されている。
jupyter 側で「カーネルで NUMA がサポートされていない」というWarningが出るが、これは無害のようです。
jupyter notebook 中で "import cv2" とすると "libGL.so.1: cannot open Error" がでる場合は、それよりも前のセルで apt をupdate してから、libgl1-mesa-dev をインストールする。

[jupyter notebook のCell内での記述] ← imgentf2 環境でインストールしておいたほうが面倒がないが
# "import cv2" causes "libGL.so.1: cannot open Error"
! apt-get update
! apt-get upgrade -y
! apt-get install -y libgl1-mesa-dev

jupyter 内の計算で正しく GPU が使われるはずである。docker ホストにインストールされている cuda 11.2 & cuDNN-8.1 に対応したバージョンの TensorFlow を使うことが重要である。
jupyter notebook 上では、指定したカーネルが使われていることを確認すること。もしも、想定していないカーネルが使われている場合は、切り替えること。

    [例]
        "Kernel" → "Change kernel" → imgentf2

[注意]

[Jupyter Notebookで使われている python のパスを調べる方法]
import sys
sys.executable

標準のpythonの場合	仮想環境のpythonの場合

[2022/10/11 注記] なぜか「新たに作成した venv 仮想環境で、matploglib パッケージをインストールしても、import できないというエラーがでる」ようになった。昨日までは動いていたはずなのだが。パッケージ配布サイトの問題か？しばらく様子を見ることにする。 ← 「ipynb が標準のpython環境で実行されていた」のが原因であった。

dockerの管理作業をリモートから行う

Windows を Docker Host にした場合、リモートで作業を行うには3通りの方法が考えられる。

[推奨] Windows に cygwin をインストールし、sshd を動作させる。

Windows マシンのIP address に直接 ssh でアクセスできる。「コマンド・プロンプト」上で docker コマンドが使えるように設定されていれば、リモートアクセスした cygwin からもdocker コマンドが使える。

[非推奨] Windows の WSL2 上に Ubuntu をインストールし、ssh サーバを動作させる。

WSL2 上の Ubuntu は、Docker ネットワークの仮想的な IPアドレスを持っているので、 Docker Host の Windows でポートフォワーディングを行う必要がある。転送先 IP アドレスは毎回変わるので、設定が面倒。ネットワーク上に多くの説明があるが...

[Windows Proのみ] リモート・デスクトップを使って、Windows そのものをネットワーク越しに GUI で操作する。

Windows Pro 限定で、Windows Homeでは不可。

Docker コンテナをスタートする

Windows が reboot すると、docker 上のコンテナが停止する。手動での起動方法は以下の通り。

  $ docker start  コンテナ名

[例]
  $ docker start  4semi0

Docker コンテナ内で　ssh サーバを起動する

コンテナが一旦停止 (stop) して再スタートすると、sshサーバは起動されない。手動での起動方法は以下の通り。

    $ docker exec -it  コンテナ名  service ssh start

[例]
    $ docker exec -it  4semi0  service ssh start

ai security 用 docker ゲスト

Docker Guest (aisec6) を作成する方法はこちら
。

Docker Guest (aisec6) を起動する

#!/bin/bash
docker run --name aisec6 --shm-size=1g --ulimit memlock=-1 --ulimit stack=67108864 --gpus all -p 7076:22 -p 8086:8888 -v /home/docker/ai_security:/root/doc -it ai_security


# document root --> /tf/