Movatterモバイル変換

いっきに解説 DeeplerningTensorFlow-GPU による画像分類と生成

自己紹介 https://github.com/bluemooninchttps://facebook.com/bluemooninchttps://twitter.com/bluemooninc有限会社ブルームーン代表取締役酒井能克業務内容：インターネット関連技術支援、IoT機器の開発販売

アジェンダ1:環境を構築する ( Tensorflow-GPU + Keras )1-1: クラウドに高速な機会学習環境を構築する1-2: パソコンに高速な機会学習環境を構築する2:機械学習の基礎を学ぶ2-1: Kerasリポジトリをクローンしてサンプルコードを取得2-2: クラウドとパソコンでそれぞれ実行、GPU / CPU の速度差を知る2-3: MNIST 解説2-4: CNN 解説2-4-1: 畳み込み層2-4-2: プーリング層2-4-3: 全結合層

アジェンダ２3: Keras サンプルコード紹介 Keras examples directory4: TensorBoardの利用5: Keras による転移学習(fine tuning)の実践6: Xception のコード・リーディング7: Xception を応用し自前のモデル作成8: Variational Autoencoder による様々な画像生成

学べること構築・・・AWSでクラウドの機械学習環境を構築・GPU付パソコンで機械学習環境を構築インストールと確認・・・NVIDIACUDA,cuDNN,Python,Pyenv,Keras,TensorFlow,TensorBoard,OpenCV,dlib画像分類器・・・MNIST,Cifar10,VGG,Xception,リアルタイム画像分類画像生成・・・variational autoencoder, GAN

AWS EC2+GPUTeAnsorFlow+GPU on Cloud

P2GPUインスタンス$0.9 x 24 x 30 = $648$648 x ¥108 = ¥69,984

Gamming PCCore™ i7 + GeForce® GTX 1050Ti 4GB

Python: Keras/TensorFlow を GPU で高速化

This should unblock your Wi-Fisudo tee /etc/modprobe.d/blacklist-ideapad.conf <<< "blacklist ideapad_laptop"sudo rebootsudo vi /etc/sysctl.confファイル一番下の行に、net.ipv6.conf.all.disable_ipv6 = 1net.ipv6.conf.default.disable_ipv6 = 1sudo sysctl -p

Pyenvのインストールgithubから取得し /usr/local に配置します。$ cd /usr/local/$ sudo git clone git://github.com/yyuu/pyenv.git ./pyenv$ sudo mkdir -p ./pyenv/versions ./pyenv/shimsvim .bashrc## pyenv のパスを追加export PATH="/usr/local/pyenv/bin:$PATH"export PYENV_ROOT=/usr/local/pyenveval "$(pyenv init -)"

sudo 時に環境を引き継ぐ visudoDefaults env_resetDefaults mail_badpass#Defaultssecure_path="/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/b$Defaults env_keep += "PATH"Defaults env_keep += "PYENV_ROOT"

NVIDIAのカードをOSが認識しているか確認~$ lspci | grep -i nvidia01:00.0 3D controller: NVIDIA Corporation Device 1c8c (rev a1)

CUDA Toolkit > Parallel Computing Platform

cuDNNGPU Acceleratedlibrary forDeep Learning

インストール# Install Runtime librarysudo dpkg -i libcudnn6_6.0.*+cuda8.0_amd64.deb# Install developer librarysudo dpkg -i libcudnn6-dev_6.0*+cuda8.0_amd64.deb# Install code samples and user guidesudo dpkg -i libcudnn6-doc_6.0*+cuda8.0_amd64.deb

The CUDA Profiling Tools Interface$ sudo apt-get -y install libcupti-dev## 再起動する$ sudo reboot

vim ~/.bashrcexport CUDA_ROOT=/usr/local/cuda-8.0export PATH=/usr/local/cuda-8.0/bin:$PATHexport LD_LIBRARY_PATH=/usr/local/cuda-8.0/targets/x86_64-linux/lib/:$LD_LIBRARY_PATHexport CPATH=/usr/local/cuda-8.0/include:$CPATH## パスの有効化source ~/.bashrc

Keras と TensorflowKerasは，Pythonで書かれた，TensorFlowまたはCNTK，Theano上で実行可能な高水準のニューラルネットワークライブラリ（フレームワーク）。中心的な開発者、メンテナはGoogleのエンジニアのFrançois Cholletである。2017年、GoogleのTensorFlowチームは、TensorFlowのコアライブラリにおいてKerasをサポートすることを決定した。(Wikiより）※バックエンドとしてTensorFlowを利用する場合はPython2.7限定だったらしい（3.6.2で動作確認できましたけど、OpenCVコンパイルの都合上2系の方が無難）

Keras と GPU 版 TensorFlow をインストール(tensorflow-with-gpu) $ pip install keras tensorflow-gpu(tensorflow-with-gpu) $ pip list --format=columns | grep -i -e keras -e tensorflowKeras 2.0.8tensorflow-gpu 1.3.0tensorflow-tensorboard 0.1.5sudo apt install nvidia-cuda-devsudo apt updatesudo apt upgrade

git clone keras> cd> mkdir src> cd src> git clone https://github.com/fchollet/keras.git> cd keras/examples

mnist サンプルを実行## 時間計測を行い mnist cnn を実行する> time python mnist_cnn.pyTest loss: 0.0300338261104Test accuracy: 0.9902real 2m5.097suser 0m54.152ssys 1m15.292s

GPU稼働情報を表示> nvidia-smiSat Sep 2 18:33:33 2017+-----------------------------------------------------------------------------+| NVIDIA-SMI 384.69 Driver Version: 384.69 ||-------------------------------+----------------------+----------------------+| GPU Name Persistence-M| Bus-Id Disp.A | Volatile Uncorr. ECC || Fan Temp Perf Pwr:Usage/Cap| Memory-Usage | GPU-Util Compute M. ||===============================+======================+======================|| 0 GeForce GTX 105... Off | 00000000:01:00.0 Off | N/A || N/A 43C P0 N/A / N/A | 398MiB / 4041MiB | 0% Default |+-------------------------------+----------------------+----------------------++-----------------------------------------------------------------------------+| Processes: GPU Memory || GPU PID Type Process name Usage ||=============================================================================|| 0 1129 G /usr/lib/xorg/Xorg 224MiB || 0 1848 G compiz 135MiB || 0 2712 G ...el-token=A824897B35D121CF49ACBD4502480B90 36MiB || 0 3840 G /usr/lib/firefox/firefox 1MiB |+-----------------------------------------------------------------------------+

今度はCPUで計測$ pip uninstall -y tensorflow-gpu$ pip install tensorflow$ time python mnist_cnn.pyTest loss: 0.0295431383794Test accuracy: 0.9893real 18m30.578suser 122m28.916ssys 10m3.364s

MNIST データセットNational Institute of Standards and Technology（米国国立標準技術研究所）の混合データセット (MNIST データセット) は、画像認識(IR)アルゴリズムを比較する際のベンチマーク。データセットには計 70,000 枚の画像が含まれていて60,000 枚は学習用画像 (IR モデルの作成に使用) で 10,000 枚は判別用画像 (モデルの精度の評価に使用)。各 MNIST 画像は、1 つの手書き数字をデジタル化したもの。サイズはそれぞれ 28 x 28 ピクセルです。各ピクセル値は 0 (白) ～ 255(黒) の値で、中間のピクセル値は灰色の網かけを表す。各画像の数値を識別するのは、人間には簡単ですが、コンピューターにとっては至難の業です。

MNISTのデータ28 x 28 ピクセルが 784 の配列になったデータ

CNN (Convolutional Neural Network) とは畳み込み層プーリング層全結合層

畳み込み層（convolution）特徴抽出（フィルタリング）処理によって画像上の各位置ごとに濃淡のパターンを検出する。

畳み込み結果 = Convolved Featurehttp://deeplearning.stanford.edu

プーリング層 Pooled Feature判別したい物体が平行移動しても不変な出力を行う。位置がずれても同じ結果になるように調整する役目を持つ。http://deeplearning.stanford.edu

結合層畳み込みとプーリング処理を行った後の、それぞれの部位を全パターン組み合わせて機械学習済みモデルとしてデータを出力します。このデータパターンとテストデータを比較して出力したものが判定になります。A friendly introduction to ConvolutionalNeural Networks and Image Recognition

Keras サンプルコード紹介(1)[addition_rnn.py] 2つの(文字列としての)数値の加算実行によるSequence-to-Sequence 実装の学習[antirectifier.py] Kerasにおけるカスタムレイヤの記述方法のデモ[babi_memnn.py] 文章読解のための、bABlデータセット上のメモリネットワークのトレーニング[babi_rnn.py] 文章読解のための、bAbIデータセット上の 2 分岐 recurrent networkのトレーニング[cifar10_cnn.py] CIFAR10の小さな画像データセットを使った、シンプルなディープCNNのトレーニング

Keras サンプルコード紹介(2)[conv_filter_visualization.py] 入力スペースの勾配降下法によるVGG16フィルタの可視化[conv_lstm.py] 畳み込みLSTMネットワークを使ったデモ[deep_dream.py] Kerasの深い夢（実行例)[image_ocr.py] 畳み込みスタックとそれに続く反復スタックとCTCログ損失機能をトレーニングすることによる光学式文字認識（OCR）の実行[imdb_bidirectional_lstm.py] IMDBセンチメント分類タスク上において双方向LSTMをトレーニング[imdb_cnn.py] Convolution1Dをテキスト分類に使用するデモ[imdb_cnn_lstm.py] IMDBセンチメント分類タスクにおいてrecurrent stacknetworkが後続する畳み込みスタックのトレーニング

Keras サンプルコード紹介(3)[imdb_fasttext.py] IMDBセンチメント分類タスクにおけるFastTextモデルのトレーニング[imdb_lstm.py] IMDBセンチメント分類タスクにおけるLSTMをトレーニング[lstm_benchmark.py] IMDBセンチメント分類タスクにおいて異なるLSTM実装を比較[lstm_text_generation.py] ニーチェの著作からテキストを生成[mnist_acgan.py] MNISTデータセットにおけるAC-GAN（Auxiliary ClassifierGAN）の実装[mnist_cnn.py] MNISTデータセットを使った簡単なconvnetの作成[mnist_hierarchical_rnn.py] MNIST数字分類において階層型RNN（HRNN）をトレーニング

Keras サンプルコード紹介(4)[mnist_irnn.py] Le氏ほかによる論文「整流化された線形単位の再帰的ネットワークを初期化する方法」における pixcel-by-pixcel のシーケンシャルなMNIST実験の再現[mnist_mlp.py] MNISTデータセットにおける単純なディープな多層パーセプトロンのトレーニング[mnist_net2net.py] 「Net2Net：知識移転による加速学習」におけるMNISTによるNet2Net実験の再現[mnist_siamese_graph.py] MNISTデータセットからの数字のペアを入力としたSiamese(シャム人の) 多層パーセプトロンをトレーニング[mnist_sklearn_wrapper.py] sklearnラッパ使用方法のデモ[mnist_swwae.py] MNISTデータセットの残りのブロックに基づいたスタックされたWhat-Where AutoEncoderのトレーニング

Keras サンプルコード紹介(5)[mnist_transfer_cnn.py] 翻訳学習玩具の例[neural_doodle.py] ニューラルいたずら書き[neural_style_transfer.py] ニューラルスタイル変換[pretrained_word_embeddings.py] 凍結したKeras 埋め込みレイヤに事前トレーニング済みの単語埋め込み(GloVe埋め込み)をロードし、20 ニュースグループデータセット上のテキスト分類モデルの訓練への使用[reuters_mlp.py] ロイターニュースワイヤトピック分類タスクにおける簡単なMLPのトレーニングと評価[stateful_lstm.py] stateful RNNsを使った長いシーケンスを効率的にモデル化する方法のデモ

Keras サンプルコード紹介(6)[variational_autoencoder.py] variational autoencoder 構築方法のデモ[variational_autoencoder_deconv.py] Kerasにおけるデコンボリューションレイヤを使ったvariational autoencoderの構築方法のデモ

TensorBoardの利用TensorBoardの表示は、モデル学習時のlogファイルを使用します。事前にlogフォルダを作成し、サンプルファイル実行後TensorBoardを開きます。> mkdir ~/tflogソースコードにログ出力のためのコードを追加（参考）qiita と実行tensorboard の実行> tensorboard --logdir=~/tflog/ブラウザで閲覧 http://localhost:6006

Keras による転移学習(fine tuning)の実践Kerasの応用は事前学習した重みを利用可能な深層学習のモデルです．これらのモデルは予測，特徴量抽出そしてfine-tuningのために利用できます．モデルをインスタンス化すると重みは自動的にダウンロードされます．重みは~/.keras/models/に格納されます．¥利用可能なモデル (ImageNetで学習した重みをもつ画像分類のモデル)[Xception] Inception と depthwise separable convolution の間の中間的なモデル[VGG16,19] VGGというチームが考案した16層~19層のニューラルネット[ResNet50] 2015年のILSVRCコンペ優勝モデル。層の入力を参照した残差関数を学習。最大1000層以上の深いニューラルネットワークを構築することが可能。[InceptionV3] 2014年のILSVRCコンペ優勝モデルGoogLeNetの改良版。

Kaggle とは企業や研究者がデータを投稿し、世界中の統計家やデータ分析家がその最適モデルをコンペ（懸賞）で競い合う場所。現在は、Google傘下で運営されている。

Cifar10一般物体認識のベンチマークとして用いられるデータセット。作者はモデル作成でもILSVRC2012で優勝した Alex Krinzhvsky さん。特徴は以下画像枚数： 60,000枚画像サイズ： 32ピクセルx32ピクセル画像種別： RGB3チャンネルクラスラベル：１０種類（airplane, automobile, bird, cat, deer, dog, frog, horse,ship, truck）ラベル内訳：訓練画像50000枚、テスト画像10000枚画像形式： PythonのcPickle形式で提供されている

VGG16による Dog vs Cats 分類VGG16VGGというチームに所属するKaren Simonyan氏とAndrewZisserman氏の 2人が、ILSVRC2014に参加し、第2 位を獲得した学習済みモデルがVGG-16と呼ばれています。

Xception のコード・リーディングhttps://github.com/bluemooninc/ikinari-ai/blob/master/app/xception.pyモデルKerasの作者であり、GoogleのエンジニアであるFrançois Chollet氏が発明したXceptionというモデルを使用しました。論文によると、XceptionはImageNetという有名な画像分類のデータセットに対し、これまた有名なモデルであるVGG、Inception V3、ResNetよりも高い認識精度を達成しているとのことです。【参考】ImageNetのTop5エラー率の推移出典：https://www.slideshare.net/mlprague/xuedong-huang-deep-learning-and-intelligent-applicationsp.7

主要なメソッドhttp://qiita.com/tadOne/items/b484ce9f973a9f80036eConv2D 2次元入力をフィルターする畳み込み層BatchNormalization バッチ標準化Activation('relu' 活性化関数(ランプ関数SeparableConv2D 分割された2次元入力をフィルターする畳み込み層MaxPooling2D フィルタ出力層の小領域をまとめる処理layers.add レイヤーへの追加

Xception を応用し自前のモデル作成参考URLより自分が分類したい画像を集めて独自に学習し、判別する。https://github.com/bluemooninc/keras-ppapPen, Apple, Pinapple を判定するサンプル。

Kaggelデータ・セットを利用したリアルタイム顔認識リアルタイム表情認識・・・WebCamのストリーミングをOpenCVでキャプチャーしつつ顔認識の画像をTensorFlowに流して表情を読み取るサンプルです。リアルタイム表情認識２・・・dlibを使用したサンプル。OpenCVと比べると処理が思いが精度が良い。

OpenCV For Ubuntu 16.04sudo apt-get install -y build-essential checkinstall cmake pkg-config yasm gfortran gitsudo apt-get install -y libjpeg8-dev libjasper-dev libpng12-devsudo apt-get install -y libtiff5-devsudo apt-get install -y libavcodec-dev libavformat-dev libswscale-dev libdc1394-22-devsudo apt-get install -y libxine2-dev libv4l-devsudo apt-get install -y libgstreamer0.10-dev libgstreamer-plugins-base0.10-devsudo apt-get install -y libqt4-dev libgtk2.0-dev libtbb-devsudo apt-get install -y libatlas-base-devsudo apt-get install -y libfaac-dev libmp3lame-dev libtheora-devsudo apt-get install -y libvorbis-dev libxvidcore-devsudo apt-get install -y libopencore-amrnb-dev libopencore-amrwb-devsudo apt-get install -y x264 v4l-utils

OpenCVhttps://www.learnopencv.com/install-opencv3-on-ubuntu/cmake -D CMAKE_BUILD_TYPE=RELEASE ¥-D CMAKE_INSTALL_PREFIX=/usr/local ¥-D INSTALL_C_EXAMPLES=ON ¥-D INSTALL_PYTHON_EXAMPLES=ON ¥-D WITH_TBB=ON ¥-D WITH_V4L=ON ¥-D WITH_QT=ON ¥-D WITH_OPENGL=ON ¥-D OPENCV_EXTRA_MODULES_PATH=../../opencv_contrib/modules ¥-D BUILD_EXAMPLES=ON ..nproc # CPUコア数の表示make -j8 ## コア数指定sudo make installsudo sh -c 'echo "/usr/local/lib" >> /etc/ld.so.conf.d/opencv.conf'sudo ldconfig

dlib のインストール## dlib は C++ 用の画像専用機械学習ライブラリ## サンプルでは OpenCVと同等の機能を使用してますsudo apt-get install -y cmake gfortran graphicsmagick libgraphicsmagick1-devlibatlas-dev libavcodec-dev libavformat-dev libboost-all-dev libgtk2.0-dev libjpeg-dev liblapack-dev libswscale-dev python-dev python-protobuf software-properties-commonsudo pip install dlib

Variational Autoencoder による画像生成pip install matplotlibpip install opencv-pythonsudo apt-get install python3-tktime python variational_autoencoder.pytime python variational_autoencoder_deconv.pyreal 6m26.656suser 2m30.900ssys 1m25.964s

variational_autoencoder.py なんかでた！！！

variational_autoencoder_deconv.pyデータが持つ抽象的な表現を可視化したもの

Variational Autoencoder入力と出力が同じになるようにニューラルネットワークを学習させるものです。入力をラベルとして扱っていて、教師あり学習と教師なし学習の中間に位置するような存在です。普通のニューラルネットワークと同様に勾配降下法（gradient descent）などを使って学習させることができます。

PIX2PIXhttps://github.com/affinelayer/pix2pix-tensorflowAWSのGPUを使っても１０時間程かかります。

CycleGANhttps://github.com/junyanz/pytorch-CycleGAN-and-pix2pix

Movatterモバイル変換

Change Language

いきなりAi　tensor flow gpuによる画像分類と生成

Embed presentation

Recommended

More Related Content

What's hot

Similar to いきなりAi　tensor flow gpuによる画像分類と生成

More from Yoshi Sakai

いきなりAi　tensor flow gpuによる画像分類と生成

Editor's Notes

Movatterモバイル変換

いきなりAi tensor flow gpuによる画像分類と生成

Recommended

More Related Content

What's hot

Similar to いきなりAi tensor flow gpuによる画像分類と生成

More from Yoshi Sakai

いきなりAi tensor flow gpuによる画像分類と生成

Editor's Notes

いきなりAi　tensor flow gpuによる画像分類と生成

Similar to いきなりAi　tensor flow gpuによる画像分類と生成

いきなりAi　tensor flow gpuによる画像分類と生成