Download as PDF, PPTX
![22TensorFlowTensorコア: TensorFlow 1.4で対応データ型をFP16にすると、Tensorコアを使用ウェイトFP32更新: 可能ロススケーリング: 可能tf.cast(tf.get_variable(..., dtype=tf.float32), tf.float16)scale = 128grads = [grad / scale for grad in tf.gradients(loss * scale, params)]](/image.pl?url=https%3a%2f%2fimage.slidesharecdn.com%2frnug6-part4-180423010908%2f75%2fGPU-22-2048.jpg&f=jpg&w=240)
Uploaded byReNom User Group
PDF, PPTX1,377 views
GPUディープラーニング最新情報
ReNom User Group #6 Part4
Related topics:
![[20170922 Sapporo Tech Bar] 地図用データを高速処理！オープンソースGPUデータベースMapDってどんなもの？？ by 株式会社...](/image.pl?url=https%3a%2f%2fcdn.slidesharecdn.com%2fss_thumbnails%2f20170922mapd-170926064811-thumbnail.jpg%3fwidth%3d640%26amp%3bheight%3d640%26amp%3bfit%3dbounds&f=jpg&w=240)
![[Track2-2] 最新のNVIDIA AmpereアーキテクチャによるNVIDIA A100 TensorコアGPUの特長とその性能を引き出す方法](/image.pl?url=https%3a%2f%2fcdn.slidesharecdn.com%2fss_thumbnails%2f2020801nvidia-200807073343-thumbnail.jpg%3fwidth%3d640%26amp%3bheight%3d640%26amp%3bfit%3dbounds&f=jpg&w=240)
More Related Content
What's hot
Similar to GPUディープラーニング最新情報
![[db analytics showcase Sapporo 2017] B14: GPU コンピューティング最前線 by エヌビディア 佐々木邦暢](/image.pl?url=https%3a%2f%2fcdn.slidesharecdn.com%2fss_thumbnails%2f20170630dbassprnvidia-170707074715-thumbnail.jpg%3fwidth%3d640%26amp%3bheight%3d640%26amp%3bfit%3dbounds&f=jpg&w=240)
More from ReNom User Group
GPUディープラーニング最新情報
- 1.
- 2.2エヌビディアAI コンピューティングカンパニー1993 年創業創業者兼CEO ジェンスン フアン従業員 11,000 人2018 会計年度売上高 97 億ドル時価総額 1490 億ドル（約 15.8 兆円）
- 3.3GPU コンピューティングの登場370 PF20182013トップ50 システムにおける総 GPU フロップス5 年で 15 倍1980 1990 2000 2010 202040 年の CPU 性能のトレンドデータOriginal data up to the year 2010 collected and plotted by M. Horowitz, F. Labonte, O. Shacham,K. Olukotun, L. Hammond, and C. Batten New plot and data collected for 2010-2015 by K. Rupp103105107年率 1.5 倍年率 1.1 倍シングル スレッド性能GPU コンピューティング8,50020182013800万回20182013820,00020182013GTC 登録者5 年で 4 倍CUDA ダウンロード数5 年で 5 倍GPU コンピューティング開発者5 年で 10 倍
- 4.
- 5.5GPU コンピューティング 11年の歩み2010Fermi:世界初のHPC 用 GPU世界初の HIV カプシドの原子モデルシミュレーションGPU AI システムが碁の世界チャンピオンを破る2014スタンフォード大学がGPU を利用したAI マシンを構築世界初のヒトゲノムの3次元マッピングGoogle がImageNet で人間を超える2012H1N1 の異変の仕組みを解明オークリッジ国立研究所の世界最速 GPU スーパーコンピュータ2008世界初の GPUTop500 システム2006CUDA 発表GPU を利用したAlexNet が圧勝Green500 の上位 13 システムがNVIDIA GPUを利用2017
- 6.
- 7.7家族が安心して見られる動画を配信JD.com では、1000 チャンネルのライブストリーミングフルHD ビデオを解析してフィルタリングするために、 Tesla P40 GPU と DeepStream SDK及び TensorRT を利用。1サーバーあたり 20 本のビデオを同時に処理。`
- 8.8“GPU を使用することでCPU に比べ物体認識が48倍速くなった”-Saverio Murgia, HorusCEO and co-founder
- 9.
- 10.
- 11.11エンタープライズのためのSAP AISAP から提供される最初の商業的AIオファリングBrand Impact、Service Ticketing、Invoice-to-Record アプリケーションDGX-1 と AWS で NVIDIA GPU を利用
- 12.12エンタープライズのためのSAP AISAP から提供される最初の商業的AIオファリングBrand Impact、Service Ticketing、Invoice-to-Record アプリケーションDGX-1 と AWS で NVIDIA GPU を利用
- 13.
- 14.14NVIDIA GPU 製品のおおまかな一覧Kepler(2012)Maxwell(2014)Pascal(2016)Volta(2017)GeForceゲーミングQuadroプロフェッショナルグラフィックスM40M6000K6000GTX980GTX780HPC用GRID 用K80DL 用M60GP100P5000K2K1GTX 1080 TITAN XV100データセンタ& クラウドTeslaP40P100P6TITAN VFermi(2010)M20706000GTX580P4
- 15.15NVIDIA Tesla V100AIと HPC のための大きな飛躍Tensor コアを搭載した Volta アーキテクチャ210 億トランジスタ | TSMC 12nm FFN | 815mm25120 CUDA コア7.5 FP64 TFLOPS | 15 FP32 TFLOPS125 Tensor TFLOPS総レジスタファイル 20MB | 16MB キャッシュ900 GB/s の 32 GB HBM2300 GB/s NVLink
- 16.16P100 V100 性能UPトレーニング性能10 TOPS 125 TOPS 12xインファレンス性能 21 TFLOPS 125 TOPS 6xFP64/FP32 5/10 TFLOPS 7.8/15.6 TFLOPS 1.5xHBM2 バンド幅 720 GB/s 900 GB/s 1.2xNVLink バンド幅 160 GB/s 300 GB/s 1.9xL2 キャッシュ 4 MB 6 MB 1.5xL1 キャッシュ 1.3 MB 10 MB 7.7xGPU ピーク性能比較: P100 vs v100
- 17.17Tensor コア混合精度行列計算ユニットD =AB + CD =FP16 or FP32 FP16 FP16 FP16 or FP32A0,0 A0,1 A0,2 A0,3A1,0 A1,1 A1,2 A1,3A2,0 A2,1 A2,2 A2,3A3,0 A3,1 A3,2 A3,3B0,0 B0,1 B0,2 B0,3B1,0 B1,1 B1,2 B1,3B2,0 B2,1 B2,2 B2,3B3,0 B3,1 B3,2 B3,3C0,0 C0,1 C0,2 C0,3C1,0 C1,1 C1,2 C1,3C2,0 C2,1 C2,2 C2,3C3,0 C3,1 C3,2 C3,34x4の行列の積和演算を1サイクルで計算する性能 (128演算/サイクル)行列のFMA (Fused Multiply-Add)
- 18.18CUDNN: TENSORコアの実効性能Pascal FP32vs. V100 TensorコアConvolution層の性能比較
- 19.19TENSORコアの使い方Volta向けに最適化されたフレームワーク・ライブラリ__device__ void tensor_op_16_16_16(float*d, half *a, half *b, float *c){wmma::fragment<matrix_a, …> Amat;wmma::fragment<matrix_b, …> Bmat;wmma::fragment<matrix_c, …> Cmat;wmma::load_matrix_sync(Amat, a, 16);wmma::load_matrix_sync(Bmat, b, 16);wmma::fill_fragment(Cmat, 0.0f);wmma::mma_sync(Cmat, Amat, Bmat, Cmat);wmma::store_matrix_sync(d, Cmat, 16,wmma::row_major);}CUDA C++Warpレベル行列演算テンプレートNVIDIA cuBLAS, cuDNN, TensorRT
- 20.
- 21.21NVIDIA CAFFE 0.16FP16、Tensorコアに完全対応ForwardとBackward:それぞれ、データ型、計算型を指定可能 (FP32 or FP16)ウェイト更新: FP32更新対応ロス・スケーリング対応https://github.com/NVIDIA/caffe/tree/caffe-0.16
- 22.22TensorFlowTensorコア: TensorFlow 1.4で対応データ型をFP16にすると、Tensorコアを使用ウェイトFP32更新:可能ロススケーリング: 可能tf.cast(tf.get_variable(..., dtype=tf.float32), tf.float16)scale = 128grads = [grad / scale for grad in tf.gradients(loss * scale, params)]
- 23.23PyTorchTensorコア: 対応FP16ストレージにすると、Tensorコアを使用ウェイトFP32更新: 可能ロススケーリング:可能Input = input.cuda().half()model = model.cuda().half()
- 24.24ChainerTensorコア: Chainer V4で対応予定データ型をFP16にすると、Tensorコア使用FP32パラメータ更新:対応ロススケーリング: 対応(予定)x = F.cast(x, np.float16)optimizer = chinaer.optimizers.SGD()optimizer.use_fp32_update()loss = lossfunc(y, t)loss.backward(loss_scale=1024)
- 25.25Tesla V100 搭載NVIDIA DGX-1AI 研究の必需品960 Tensor TFLOPS | Tesla V100 8基 | NVLink ハイブリッドキューブTITAN X で 8 日かかる計算が 8 時間にCPU サーバー 400台分の性能がワンボックスに
- 26.26NVIDIA DGX StationパーソナルDGX480 Tensor TFLOPS | Tesla V100 4基NVLink 全結合 | 3つの DisplayPort1500W | 水冷
- 27.27発表 NVIDIA DGX-2価格39万 9000 ドル | 第三四半期出荷開始予定
- 28.28発表 NVIDIA DGX-2史上最大のGPU2 ペタフロップス | 512GB HBM2 メモリ | 消費電力 10 キロワット | 重量 160 キログラム
- 29.29コンテナ、データセット、事前学習済モデルのレポジトリNVIDIAGPU クラウドCSPNVIDIA GPUCloudNVDocker のコンテナとして提供 | フルスタックで最適化常に最新 | エヌビディアによって完全にテストおよびメンテナンス | すでに利用可能ディープラーニングに最適化された GPU で加速されたクラウドプラットフォーム
- 30.30NGC の GPU最適化ディープラーニング コンテナNVCaffeCaffe2ChainerMicrosoft Cognitive Toolkit(CNTK)DIGITSMXNetPyTorchディープラーニングソフトウェアの包括的なカタログTensorFlowTheanoTorchCUDA (base level container fordevelopers)NEW! – NVIDIA TensorRTinference accelerator with ONNXsupport
- 31.31コンテナをPULLイメージをデプロイサインアップNGCでディープラーニングを始めるにはまずは NGC のアカウントを作成してください。www.nvidia.com/ngcsignupお好みのフレームワークコンテナをPULLしてください。これで準備完了です！例えば AWS の NVIDIA VoltaDeep Learning AMI for NGCでP3 インスタンスを作成！
- 32.
- 33.
- 34.34AI UXCo-PilotEye/HeadGestureDriver MonitorSpeechパーキングプランニング自己位置推定認識エゴモーションNVIDIADRIVEカメラ ディープラーニング(認識)AI UXコ パイロット目 / 頭ジェスチャードライバモニター音声Camera +RADAR +LIDAR +HD Maps +Redundancy +Higher ResolutionLIDAR点群処理カメラ ディープラーニング(フリースペース)カメラ コンピュータービジョン(SLAM)HD マップ(自己位置推定)パス プランニング自動トランクオープン 自転車警告わき見運転 居眠り運転視線
- 35.35NVIDIA DRIVE AVDRIVEXAVIERLidarLocalizationSurround PerceptionRADAR LIDAREgomotionLIDAR Localization Path PerceptionPath PlanningCamera LocalizationLanes Signs LightsDRIVE AV
- 36.
- 37.37NVIDIA DRIVE IX自動トランクオープン視線 わき見運転居眠り運転 自転車警告
- 38.38DRIVE XAVIER世界初の自律動作マシン用プロセッサスーパーコンピューティング性能究極のエネルギー効率豊富なハイスピードセンサー IO30TOPS のコンピュータ ビジョン、ディープラーニング、並列計算性能
- 39.39NVIDIA DRIVE PEGASUSロボタクシー向けAI コンピューター320 TOPS の AI 推論性能1 TB/s 以上のメモリ帯域幅400Wトランクの中のデータセンター
- 40.40シミュレーション 数十億キロへの道世界では毎年数兆キロ運転されている米国では 16億キロ当たり 770 回の事故が起きる20 台のテスト車でも年間160万キロ
- 41.41NVIDIA DRIVE SIMおよびCONSTELLATION自動運転検証システムバーチャル リアリティ自動運転シミュレーターDRIVE コンピューターと同じアーキテクチャ稀な条件や難しい条件のシミュレーション、シナリオの再作成、リグレッションテストの実行、数十億仮想キロの運転10,000 個のクラスターで年間 48 億キロを運転
- 42.42370 のパートナーがNVIDIA DRIVEで開発中自動車トラックモビリティサービスサプライヤーマッピングLIDARカメラ /レーダースタートアップ
- 43.43GPU コンピューティング革命は続く新 DGX-2世界初の2PF コンピューター1 台で 300 サーバー分の能力新 TESLA V100 32GB新 TENSORRT 4ISAACCLARAシングル アーキテクチャXAVIER – PEGASUS - ORINKubernetesのNVIDIAGPU 対応AI 自動運転 新しいプラットフォームグラフィックスQUADRO GV100NVIDIA RTXDRIVE SIM およびCONSTELLATION
- 44.44NVIDIA DEEP LEARNINGSEMINAR 2018時間 内容10:00 – 11:20 「これから始める人のためのディープラーニング基礎講座」エヌビディア ディープラーニング ソリューションアーキテクト 山崎 和博11:20 – 12:00「GTC 2018 の基調講演から」エヌビディア 日本代表兼米国本社副社長 大崎真孝ランチブレイク (お弁当を提供します)協賛社展示・ランチセッション (ピュア・ストレージ)13:00 – 14:30 「GTC 2018 で発表されたディープラーニング最新情報」エヌビディア ディープラーニング ソリューションアーキテクト 山崎 和博14:30 – 15:00「GTC 2018 で発表された GPU 技術最新情報」エヌビディア シニアデベロッパーテクノロジーエンジニア 成瀬 彰コーヒーブレイク 及び 協賛社展示15:30 – 17:00「GTC 2018 で発表された自動運転最新情報」エヌビディア 技術顧問 馬路 徹シニアソリューションアーキテクト 室河 徹17:00 – 17:15「GTC 2018 で注目のディープラーニングスタートアップのご紹介」エヌビディア エンタープライズ事業部 山田 泰永17:15 – 17:30「ディープラーニングを実践的に学ぶ: Deep Learning Institute のご紹介」エヌビディア エンタープライズマーケティング本部 シニアマネージャー 佐々木 邦暢協賛社展示（午後6時まで）2018年4月24日 (火)http://eventregist.com/e/NVDLS2018ベルサール高田馬場GTC 2018 で発表された数々の最新情報を日本語でお伝えします皆様のご参加をお待ちしております
- 45.