تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

102
ف بر بستر کیژرادگیرویکرد ییل با ر تحل نداده( 2 ) شریف، تهرانشگاه صنعتی دانحمد م خالوئیف بر بستریژرادگیرویکرد ییل با ر ارائه علمی تحل جلسه دومنداده ک2 تلگرام: @dataset ـمـیـل ای: [email protected] حمد خالوئی م7 دی1395

Upload: khalooei

Post on 07-Jan-2017

644 views

Category:

Data & Analytics


12 download

TRANSCRIPT

Page 1: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(2)ن دادهتحلیل با رویکرد یادگیری ژرف بر بستر کالدانشگاه صنعتی شریف، تهران

2کالن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بسترخالوئیمحمد

dataset@: تلگرام [email protected]: ایـمـیـل

محمد خالوئی1395دی 7

Page 2: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

دیدکلی از ارائه

یادآوری جلسه گذشته•

مقدمات آماده سازی ذهنی در خصوص شبکه های عصبی ژرف•

بیان بخش های مختلف و پرکاربرد مورد استفاده در طراحی شبکه های عصبی ژرف•

چالش های پیشرو برای استفاده از شبکه های عصبی ژرف•

3هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 3: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

خالوئیمحمد

کرد جلسه دوم ارائه علمی تحلیل با روییادگیری ژرف بر بستر کالن داده

4

...یادآوری

http://www.tekshow.com/posts/820

Page 4: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

خالوئیمحمد

کرد جلسه دوم ارائه علمی تحلیل با روییادگیری ژرف بر بستر کالن داده

5

...یادآوری

1992 :100GBدر روز

1997 :100GBدر ساعت

2002 :100GBدر ثانیه

2018 :50000GBدر ثانیه

http://www.gereports.com/post/110073426843/big-data-infographic/

Page 5: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

خالوئیمحمد

کرد جلسه دوم ارائه علمی تحلیل با روییادگیری ژرف بر بستر کالن داده

6

...یادآوری

منابع داده ای

فعالیت ها•گفتگوها•کلمات•صوت•شبکه اجتماعی•الگ•تصاویر•ویدیو•سنسور•

...و•

حجم

صحت

تنوع

سرعت

تحلیل کالن داده

متن کاویتحلیل معناییتحلیل ویدیوتشخیص چهرهتحلیل صوتتحلیل حرکات و رفتارو...

Page 6: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

خالوئیمحمد

کرد جلسه دوم ارائه علمی تحلیل با روییادگیری ژرف بر بستر کالن داده

7

...یادآوریhttps://opensignal.com

ا پوشش دهی اپراتورهدر محدوده فضای

اطراف دانشگاه

Twitterنمونه ای از تحلیل داده های مخابرات•حمل و نقل•کنترل ترافیک•وضعیت آب و هوا•کشف تقلب •بانک و موسسات مالی•

اعتبارسنجی مشتریان•اجتماعیشبکه ••….

Page 7: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

خالوئیمحمد

کرد جلسه دوم ارائه علمی تحلیل با روییادگیری ژرف بر بستر کالن داده

8

...یادآوری

https://flink.apache.org/http://hadoop.apache.org/ http://spark.apache.org/

Page 8: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

خالوئیمحمد

کرد جلسه دوم ارائه علمی تحلیل با روییادگیری ژرف بر بستر کالن داده

9

...یادآوری

• Tableau

• Qlik

• kibana

• ChartJs

• Raw

• Dygraphs

• …

Page 9: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

خالوئیمحمد

کرد جلسه دوم ارائه علمی تحلیل با روییادگیری ژرف بر بستر کالن داده

10

ژرفیادگیری اولبخش

Page 10: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...آماده سازی ذهنی

11هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

http://weknowyourdreams.com/image.php?pic=/images/eagle/eagle-08.jpg

https://commons.wikimedia.org/wiki/File:Raptor-ElmendorfAFB-2009.JPG

Page 11: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...آماده سازی ذهنی

12هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 12: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

نرون عصبی

13هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 13: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

شبکه ای از نرون های عصبی

14هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 14: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

شبکه ای از نرون های عصبی

15هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 15: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

شبکه ای از نرون های عصبی

16هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 16: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

عصبیاولین ترسیم هایی از نرون های

17الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Public domain

Dendrites (دندریت)

Soma (هسته)

Axon ( آکسون)

Page 17: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

مدل ساده شده نرون عصبی

18هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 18: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

هسته مقادیر فعالیت های دندریت ها را به آکسون منتقل میکند•

نرون عصبیمدل ساده شده

19هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

+

Page 19: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

هسته مقادیر فعالیت های دندریت ها را به آکسون منتقل میکند•

هرچه دندریت های بیشتری مقدار فعالیت داشته باشند•.مقدار فعالیت آکسون هم بیشتر خواهد بود

مدل ساده شده نرون عصبی

20هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

+

Page 20: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Synapse)سیناپس

21هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

برای اتصال آکسون های یک نرون •دیگرنرون به دندریت های

Page 21: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

انواع مختلف اتصال آکسون های یک نرون به دندریت های نرون دیگر• قوی(Stronger) ضعیف(Weaker) متوسط(between of them)

مدل ساده شده شبکه عصبی

22هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 22: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(0.6مقدار معادل)مثال اتصال متوسط •

مدل ساده شده شبکه عصبی

23هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 23: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(1معادل مقدار )مثال اتصال قوی•

مدل ساده شده شبکه عصبی

24هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 24: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(0.2مقدار معادل)مثال اتصال ضعیف•

مدل ساده شده شبکه عصبی

25هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 25: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(معادل صفر)عدم وجود اتصال •

مدل ساده شده شبکه عصبی

26هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 26: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

آکسون نرون های دیگر هرتعداد •می تواند متصل شوددندریت های یک نرون به

هرکدام دارای میزان قوت اختصاصی دارد •

مدل ساده شده شبکه عصبی

27هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

Page 27: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

مدل ساده شده شبکه عصبی

28الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Page 28: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

مدل شبیه سازی شده شبکه عصبی

29الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

.8 .9.2.3.5

Page 29: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

عصبیشبیه سازی شده شبکه مدل

30الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Page 30: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

عصبیشبیه سازی شده شبکه مدل

31الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Page 31: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

عصبیشبیه سازی شده شبکه مدل

32الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

ACE

A B C D E

Page 32: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

عصبیشبیه سازی شده شبکه مدل

33الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Page 33: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

خالوئیمحمد

کرد جلسه دوم ارائه علمی تحلیل با روییادگیری ژرف بر بستر کالن داده

34

یادگیری ژرفدومبخش

Page 34: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

آماده سازی ذهنی( آرایه ای از پیکسل ها)در واقع سیستم قرار است از روی عکس ورودی •

!استOیا Xتشخیص دهد که عکس مربوطه •

35هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

X یا OCNN

ماتریس دو بعدی از پیکسل ها

Page 35: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

CNNبا Oیا Xمثال تشخیص

36هجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کالن دادخالوئیمحمد

CNN X

CNN O

Page 36: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

با قابلیت تعمیم–CNNبا Oیا Xمثال تشخیص

37الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

CNN X

CNN O

جابجاییtranslation

تغییراندازهscaling

(وزن)ضخامت

weight

چرخشrotation

Page 37: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

!اما واقعا راه تشخیص چیست؟

38الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

?

Page 38: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

!درواقع کامپیوتر چه میبیند؟

39الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 -1 -1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 1 -1 -1 -1

-1 -1 1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 1 -1 -1

-1 -1 -1 1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 -1 -1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

?-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 X -1 -1 -1 -1 X X -1

-1 X X -1 -1 X X -1 -1

-1 -1 X 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 X -1 -1

-1 -1 X X -1 -1 X X -1

-1 X X -1 -1 -1 -1 X -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

Page 39: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

!درواقع کامپیوتر چه میبیند؟

40الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 X -1 -1 -1 -1 X X -1

-1 X X -1 -1 X X -1 -1

-1 -1 X 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 X -1 -1

-1 -1 X X -1 -1 X X -1

-1 X X -1 -1 -1 -1 X -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

Page 40: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

!!درواقع کامپیوتر ها ریزبین هستند

41الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 -1 -1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 1 -1 -1 -1

-1 -1 1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 1 -1 -1

-1 -1 -1 1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 -1 -1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

x

Page 41: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

!اما واقعا راه تشخیص چیست؟

42الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

(2,2,2,2)

Page 42: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

!اما واقعا راه تشخیص چیست؟

43الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

(2,2,2,3)

Page 43: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

!چه ایده ای دارد؟ConvNetپس

44الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

=

=

=

Page 44: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...ویژگی های مناسب بدست آمده

45الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

Page 45: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

ConvNetایده

46الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

Page 46: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

ConvNetایده

47الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

Page 47: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

ConvNetایده

48الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

Page 48: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

ConvNetایده

49الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

Page 49: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

ConvNetایده

50الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

Page 50: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

را آماده کنیم( patch)و تکه های تصویرماتریس ویژگی 1.

در هر پیکسل از تکه عکسماتریس ویژگیضرب نقطه ای هر پیکسل 2.

جمع همه مقادیر ماتریس بدست آمده3.

ماتریس ویژگیجواب تقسیم بر تعداد پیکسل 4.

51الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

Page 51: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

52الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1

Page 52: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

53الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1 1

Page 53: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

54الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1 1 1

Page 54: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

55الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1 1 1

1

Page 55: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

56الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1 1 1

1 1

Page 56: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

57الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1 1 1

1 1 1

Page 57: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

58الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1 1 1

1 1 1

1

Page 58: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

59الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1 1 1

1 1 1

1 1

Page 59: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

60الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1

1 1 1

1 1 1

1 1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1 -1 -1

-1 1 -1

-1 -1 1

Page 60: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

61الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

11 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

Page 61: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

62الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1 1 -1

1 1 1

-1 1 1

Page 62: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...یک سری رابطه ریاضی پشت قضیه هست: فیلترینگ

63الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1

55

1 1 -1

1 1 1

-1 1 1

Page 63: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

درواقع همه حاالت ممکن تطبیق داشتن را بررسی می کند: کانولوشن

64الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

Page 64: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

درواقع همه حاالت ممکن تطبیق داشتن را بررسی می کند: کانولوشن

65الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

=

Page 65: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

خالوئیمحمد

کرد جلسه دوم ارائه علمی تحلیل با روییادگیری ژرف بر بستر کالن داده

66

نالیه کانولوش

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

=

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

=

=

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

Page 66: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

درواقع هر عکس به مجموعه ای از عکس های فیلتر شده تبدیل می کند: الیه کانولوشن

67الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1 -1 -1

-1 1 -1

-1 -1 1

-1 -1 1

-1 1 -1

1 -1 -1

1 -1 1

-1 1 -1

1 -1 1

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

Page 67: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

درواقع هر عکس به مجموعه ای از عکس های فیلتر شده تبدیل می کند: الیه کانولوشن

68الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

Page 68: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Poolingپولینگ؛ )ادغام

69الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

http://ufldl.stanford.edu/tutorial/supervised/Pooling/

انتخاب اندازه پنجره 1.

گام حرکتانتخاب2.

حرکت دادن پنجره روی تصاویر فیلتر شده3.

هر پنجره را انتخاب می کنیمبیشترین مقدار در گام آخر؛ 4.

Page 69: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Poolingپولینگ؛ )ادغام

70الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1.00

0.77 -0.11 0.11 0.33 0.55 -0.11 0.33

-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11

0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55

0.33 0.33 -0.33 0.55 -0.33 0.33 0.33

0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11

-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11

0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

بیشترین مقدارMaximum

Page 70: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Poolingپولینگ؛ )ادغام

71الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

بیشترین مقدارMaximum

1.00 0.33

0.77 -0.11 0.11 0.33 0.55 -0.11 0.33

-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11

0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55

0.33 0.33 -0.33 0.55 -0.33 0.33 0.33

0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11

-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11

0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

Page 71: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Poolingپولینگ؛ )ادغام

72الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

بیشترین مقدارMaximum

1.00 0.33 0.55

0.77 -0.11 0.11 0.33 0.55 -0.11 0.33

-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11

0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55

0.33 0.33 -0.33 0.55 -0.33 0.33 0.33

0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11

-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11

0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

Page 72: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Poolingپولینگ؛ )ادغام

73الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

بیشترین مقدارMaximum

1.00 0.33 0.55 0.33

0.33

0.77 -0.11 0.11 0.33 0.55 -0.11 0.33

-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11

0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55

0.33 0.33 -0.33 0.55 -0.33 0.33 0.33

0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11

-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11

0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

Page 73: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Poolingپولینگ؛ )ادغام

74الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Page 74: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

خالوئیمحمد

کرد جلسه دوم ارائه علمی تحلیل با روییادگیری ژرف بر بستر کالن داده

75

الیه ادغامپولینگ؛ )

Pooling)

Page 75: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Poolingپولینگ؛ )الیه ادغام

76الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Page 76: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

Rectified Linear Units (ReLUs): (Normalizationنرمال سازی؛)هنجارسازی

77الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

https://en.wikipedia.org/wiki/File:Rectifier_and_softplus_functions.svg#/media/File:Rectifier_and_softplus_functions.svg

https://papers.nips.cc/paper/4824-imagenet-classification-with-deep-convolutional-neural-networks.pdf

tanhبا Relueمقایسه تابع

( سادهخط )ReLUبا برای نمایش بهبود شش برابری همگرایی (خط چین)Tanhبا در برابر همگرایی

Page 77: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

Rectified Linear Units (ReLUs): (Normalizationنرمال سازی؛)هنجارسازی

78الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

0.77 -0.11 0.11 0.33 0.55 -0.11 0.33

-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11

0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55

0.33 0.33 -0.33 0.55 -0.33 0.33 0.33

0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11

-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11

0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

0.77

Page 78: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

Rectified Linear Units (ReLUs): (Normalizationنرمال سازی؛)هنجارسازی

79الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

0.77 00.77 -0.11 0.11 0.33 0.55 -0.11 0.33

-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11

0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55

0.33 0.33 -0.33 0.55 -0.33 0.33 0.33

0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11

-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11

0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

Page 79: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

Rectified Linear Units (ReLUs): (Normalizationنرمال سازی؛)هنجارسازی

80الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

0.77 0 0.11 0.33 0.55 0 0.330.77 -0.11 0.11 0.33 0.55 -0.11 0.33

-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11

0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55

0.33 0.33 -0.33 0.55 -0.33 0.33 0.33

0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11

-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11

0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

Page 80: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

Rectified Linear Units (ReLUs): (Normalizationنرمال سازی؛)هنجارسازی

81الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

0.77 0 0.11 0.33 0.55 0 0.33

0 1.00 0 0.33 0 0.11 0

0.11 0 1.00 0 0.11 0 0.55

0.33 0.33 0 0.55 0 0.33 0.33

0.55 0 0.11 0 1.00 0 0.11

0 0.11 0 0.33 0 1.00 0

0.33 0 0.55 0.33 0.11 0 0.77

0.77 -0.11 0.11 0.33 0.55 -0.11 0.33

-0.11 1.00 -0.11 0.33 -0.11 0.11 -0.11

0.11 -0.11 1.00 -0.33 0.11 -0.11 0.55

0.33 0.33 -0.33 0.55 -0.33 0.33 0.33

0.55 -0.11 0.11 -0.33 1.00 -0.11 0.11

-0.11 0.11 -0.11 0.33 -0.11 1.00 -0.11

0.33 -0.11 0.55 0.33 0.11 -0.11 0.77

Page 81: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

خالوئیمحمد

کرد جلسه دوم ارائه علمی تحلیل با روییادگیری ژرف بر بستر کالن داده

82

Reluالیه

Page 82: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

طراحی مثال چندین الیه از موارد فراگیری شده

83الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

Page 83: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Deep stacking)شده؛ طراحی مثال چندین الیه از موارد فراگیری

84الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

1.00 0.55

0.55 1.00

0.55 1.00

1.00 0.55

1.00 0.55

0.55 0.55

Page 84: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Fully connected layer)الیه تمام متصل

85الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

1.00 0.55

0.55 1.00

0.55 1.00

1.00 0.55

1.00 0.55

0.55 0.55

1.00

0.55

0.55

1.00

1.00

0.55

0.55

0.55

0.55

1.00

1.00

0.55

Page 85: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Fully connected layer)الیه تمام متصل (...voting)بحث رأی گیری•

86الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

X

O

1.00

0.55

0.55

1.00

1.00

0.55

0.55

0.55

0.55

1.00

1.00

0.55

Page 86: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Fully connected layer)الیه تمام متصل

87الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

X

O

Page 87: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Fully connected layer)الیه تمام متصل

88الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

X

O

0.9

0.65

0.45

0.87

0.96

0.73

0.23

0.63

0.44

0.89

0.94

0.53

Page 88: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Fully connected layer)الیه تمام متصل

89الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

X

O

0.9

0.65

0.45

0.87

0.96

0.73

0.23

0.63

0.44

0.89

0.94

0.53

Page 89: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Fully connected layer)الیه تمام متصل

90الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

X

O

0.9

0.65

0.45

0.87

0.96

0.73

0.23

0.63

0.44

0.89

0.94

0.53

Page 90: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Fully connected layer)الیه تمام متصل

91الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

X

O

0.9

0.65

0.45

0.87

0.96

0.73

0.23

0.63

0.44

0.89

0.94

0.53

Page 91: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Fully connected layer)الیه تمام متصل

92الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

X

O

0.9

0.65

0.45

0.87

0.96

0.73

0.23

0.63

0.44

0.89

0.94

0.53

Page 92: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Fully connected layer)الیه تمام متصل

93الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

X

O

Page 93: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Back Propagation)انتشار رو به عقب

94الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Error = right answer – actual answer

-1 -1 -1 -1 -1 -1 -1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 -1 -1 1 -1 -1 -1 -1

-1 -1 -1 1 -1 1 -1 -1 -1

-1 -1 1 -1 -1 -1 1 -1 -1

-1 1 -1 -1 -1 -1 -1 1 -1

-1 -1 -1 -1 -1 -1 -1 -1 -1

X

O

Page 94: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Gradient descent)کاهش گرادیان

95الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

error

Page 95: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Gradient descent)کاهش گرادیان

96الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

error

Page 96: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...برخی از چالش های پیشرو

پارامترها ی مسئله•

نوع چینش و معماری شبکه•

97الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Page 97: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(Hyperparameters)پارامتر های سطح باال • Convolution

Number of features

Size of features

• Pooling Window size

Window stride

• Fully Connected Number of neurons

98الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Page 98: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

چالش معماری شبکه

!چند الیه داشته باشیم؟•

!الیه ها به چه ترتیبی چینش شوند؟•

•...

99الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Page 99: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

!آیا فقط بدرد پردازش تصاویر میخورد؟...درواقع هر نوع داده ای که دو یا سه بعدی باشد•

متن صوت تصویر100الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Page 100: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

...محدودیت ها

را ( Spatial)مکانی فقط و فقط الگو های ConvNetنکته مهمی که وجود دارد، •.استخراج می کند

کمتر مفید ConvNetنباشد، ( ماتریس شکل)اگر داده شما تقریبا به شکل یک تصویر •...است

101الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

Page 101: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

منابع ارائه:::منابع مختلفی بوده است، اکثر منابع در اسالید ها درج شده اما به طور خالصه •

ارائه های آقایBrandon Rohrer

مطالب اختصاصیUFDLدر سایت استفنورد

102الن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بستر کخالوئیمحمد

@_brohrer_ on Twitter#HowItWorks #[email protected]

http://ufldl.stanford.edu

Page 102: تحلیل با رویکرد یادگیری ژرف بر بستر کلانداده

(2)ن دادهتحلیل با رویکرد یادگیری ژرف بر بستر کالتهرانشریف، صنعتی دانشگاه

103کالن دادهجلسه دوم ارائه علمی تحلیل با رویکرد یادگیری ژرف بر بسترخالوئیمحمد

dataset@: تلگرام [email protected]: ایـمـیـل

محمد خالوئی1395دی

باتشکر از توجهتان

«سوره انشراح( 6)إن مع العسر يسرا ( 5)فإن مع العسر يسرا »| اگر سنگی پیشرو نباشد هیچگاه صدای دلنشین آب را نخواهی شنید