jetson nano と jetbot · 2019-04-06 · deepstream 3.0 + jetson xavier cuda 10 tensorrt 5.0 ubuntu...

17
エヌビディア合同会社 佐々木邦暢 (@_ksasaki) Jetson N ano JetBot

Upload: others

Post on 01-Jun-2020

6 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

エヌビディア合同会社 佐々木邦暢 (@_ksasaki)

Jetson Nano と JetBot

Page 2: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

2

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

NVIDIA AI プラットフォームデータセンターから組み込みまで

Jetson

Jetpack

シミュレーションモデルのトレーニング

DGX/Tesla

デプロイメント

データセンター ロボット | AIOT

Page 3: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

4

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

AI 画像処理 HPC マルチメディア

ジェスチャ認識物体検出経路計画深度推定

NVIDIA JETSONソフトウェア定義の自律動作マシン

パワフルな AI、画像処理、HPC | 充実したソフトウェア開発プラットフォーム | 20 万の開発者

ポーズ推定 音声認識

センサー

JETSON ハードウェア

JETPACK SDK

GPU 対応モジュール

エコシステム

BSP • Linux • Security Architecture

AI/システムソフトウェア 設計サービス

Page 4: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

5

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

JETSON の活用事例

工業 航空・防衛 ヘルスケア 建設 農業 スマートシティ

検査 サービス小売 物流 在庫管理 配送

Page 5: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

6

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

JETSON NANO小型、低消費電力の AI コンピューター

128 CUDA コア | 4 コア CPU

4 GB メモリ

472 GFLOPs

70x45mm

5W | 10W

$129

Page 6: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

7

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

JETSON NANO 開発者キット$99 AI Computer

128 CUDA コア | 4 コア CPU

472 GFLOPs

5W | 10W

購入はこちらからhttps://www.nvidia.com/ja-jp/autonomous-machines/embedded-systems/jetson-nano/

Page 7: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

8

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

GPUMaxwell アーキテクチャ 128 CUDA コア

472 GFLOPs (FP16)

CPU 4 コア ARM A57 @ 1.43 GHz

メモリ 4 GB 64 bit LPDDR4 25.6 GB/s

ストレージ 16 GB eMMC

Video エンコード4K @ 30 | 4x 1080p @ 30 | 8x 720p @ 30

(H.264/H.265)

Video でコード4K @ 60 | 2x 4K @ 30 | 8x 1080p @ 30 | 16x 720p @

30 | (H.264/H.265)

カメラ12 (3x4 or 4x2) MIPI CSI-2 DPHY 1.1 lanes

(1.5 Gbps)

ディスプレイHDMI 2.0 or DP1.2 | eDP 1.4 | DSI (1 x2)

2 simultaneous

UPHY1 x1/2/4 PCIE

1 USB 3.0

その他 I/O 1xSDIO / 2xSPI / 3xI2C / UART / I2S / GPIOs

JETSON NANO 仕様

Page 8: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

9

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

JETSON NANO でディープラーニングモデルを実行

0

10

20

30

40

50

Resnet50 Inception v4 VGG-19 SSDMobilenet-v2

(300x300)

SSDMobilenet-v2

(960x544)

SSDMobilenet-v2(1920x1080)

Tiny Yolo Unet Superresolution

OpenPose

画像枚数

/秒

推論性能

Coral dev board (Edge TPU) Raspberry Pi 3 + Intel Neural Compute Stick 2 Jetson Nano Not supported/DNRNot supported/Does not runTensorFlow TensorFlow TensorFlowTensorFlow PyTorch MxNet Darknet Caffe PyTorch Caffe

Page 9: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

10

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

Page 10: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

11

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

JETSON TX1 → JETSON TX2 4 GB7 - 15W

1 – 1.3 TFLOPS (FP16)50mm x 87mm

$299

JETSON TX2 8GB | Industrial7 – 15W

1.3 TFLOPS (FP16)50mm x 87mm

$399 - $749

JETSON AGX XAVIER10 – 30W

10 TFLOPS (FP16) | 32 TOPS (INT8)100mm x 87mm

$1099

JETSON NANO5 - 10W

0.5 TFLOPS (FP16)45mm x 70mm

$129

JETSON ファミリー小型機器から完全自律動作マシンまで

すべてのデバイスで同じソフトウェア

小型機器 完全自律動作マシン

Listed prices are for 1000u+ | Full specs at developer.nvidia.com/jetson

Page 11: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

12

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

Soft

wa

re

JETSON NANO JETSON TX1 JETSON TX2 JETSON AGX XAVIER

GPU128 Core Maxwell

0.5 TFLOPs (FP16)

256 Core Maxwell

1 TFLOPS (FP16)

256 Core Pascal

1.3 TFLOPS (FP16)

512 Core Volta + NVDLA

10 TFLOPS (FP16)

32 TFLOPS (INT8)

CPU4 core ARM A57

(1.5 GHz)

4 core ARM A57

(1.5 / 1.7 GHz)

6 core Denver and A57 @

2GHz (2x) 2MB L2

8 core Carmel ARM CPU @

2.26GHz

(4x) 2MB L2 + 4MB L3

Memory4 GB 64 bit LPDDR4

25.6 GB/s

4 GB 64 bit LPDDR4

25.6 GB/s

4 GB 128

bit LPDDR4

51 GB/s

8 GB 128

bit LPDDR4

58 GB/s

16GB 256-bit LPDDR4x @

2133MHz

137 GB/s

Storage 16 GB eMMC 16 GB eMMC16 GB

eMMC

32 GB

eMMC32 GB eMMC

Video Encode 4K @ 30 (H.264/H.265) 4K @ 30 (H.264/H.265) 2x 4K @ 30 (HEVC) 8x 4K @ 60 (HEVC)

Video Decode 4K @ 60 (H.264/H.265) 4K @ 60 (H.264/H.265) 2x 4K @ 30 12 bit support 12x 4K @ 30 12-bit support

Camera12 (3x4 or 4x2) MIPI CSI-2

DPHY 1.1 lanes (1.5 Gbps)

12 (3x4 or 6x2) MIPI CSI-2

DPHY 1.1 lanes (1.5 Gbps)

12 lanes MIPI CSI-2

D-PHY 1.2 (30 Gbps)

16 lanes MIPI CSI-2 | 8

lanes SLVS-EC

D-PHY (40 Gbps)

C-PHY (109 Gbps)

Mechanical69.6mm x 45mm

260 pin edge connector

87mm x 50mm

400 pin connector

87mm x 50mm

400 pin connector

100mm x 87mm

699 pin connector

Software Jetpack SDK – Unified software release across all Jetson products

Page 12: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

13

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

CUDA • Linux4Tegra • ROS

JETSON ソフトウェアN

sight開発者ツール

Jetson ハードウェア

Deepstream

モジュール

深度推定 経路計画物体検出ジェスチャ認識

エコシステムモジュール群

ポーズ推定 …

TensorRT

cuDNN

VisionWorks

OpenCV

libargus

Video API

グラフィックス画像処理 HPCディープラーニング

Drivers

Ecosystem

Jetp

ack S

DK cuBLAS

cuFFT

Jetson software: developer.nvidia.com/jetson

Vulkan

OpenGL

センサーマルチメディア

Page 13: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

14

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

継続的なソフトウェアへの投資

MAR2016

SEPT2016

MAR2017

MAR2018

DEC2018

Jetpack 2.1/2.2Jetson TX1CUDA 7.0cuDNN 4.0

Ubuntu 14.04Kernel 3.10

Jetpack 2.3.xCUDA 8.0cuDNN 5.1

TensorRT 1.0

Jetpack 3.0/3.1+ Jetson TX2

2x inference perfcuDNN 6.0

TensorRT 2.1Ubuntu 16.04

Kernel 4.4

Jetpack 3.2/3.3

Deepstream 1.5TensorFlowCUDA 9.0cuDNN 7.0

TensorRT 4.0

Jetpack 4.0/4.1

Deepstream 3.0+ Jetson Xavier

CUDA 10TensorRT 5.0 Ubuntu 18.04

Kernel 4.9

MAR2019

Jetpack 4.2

Deepstream 3.0+Jetson Nano

Page 14: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

15

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

SOFTWARE SERVICES

CAMERA AND SENSORS HARDWARE AND DESIGN SERVICES

ISV TOOLS/SYSTEMS SW CSP-IOT

JETSON エコシステム

ハードウェアとセンサー

ソフトウェア

流通・販売

Page 15: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

16

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

Page 16: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us
Page 17: Jetson Nano と JetBot · 2019-04-06 · Deepstream 3.0 + Jetson Xavier CUDA 10 TensorRT 5.0 Ubuntu 18.04 Kernel 4.9 MAR 2019 Jetpack 4.2 Deepstream 3.0 +Jetson Nano. 15 Follow us

21

Follow us on Twitter! @NVIDIAAIJP ハッシュタグ: #ALGYAN #JetsonJP 今日の資料: bit.ly/nv190406

GTC 2019 瓦版http://bit.ly/gtc19news