پوریا شیخ حسنی: دانشجو دکتر رضایی نیا: استاد

1394پائیز

وعیشبکه های عصبی مصن

:مباحثآشنایی با شبکه عصبی زیستی و مصنوعی

نحوه کار شبکه عصبی مصنوعی

انواع شبکه های عصبی

پرسپترون

آموزش شبکه عصبی

توابع بولی و پرسپترون

آموزش پرسپترون

مثال

زیستیشبکه عصبی برای مجموعه ای بسیار عظیم از پردازشگر های موازی به نام نرون هسنتد که به صورت هماهنگ

.حل مسئله عمل میکنند

چهار عضو اصلی دارنددندریت

سوماآکسون

سیناپس

مثال سلول عصبی حس المسه

مصنوعیشبکه عصبی

وژیک مغز انسان الگویی برای پردازش اطالعات می باشد که با تقلید از شبکه های عصبی بیولساخته شده اند

طراحی نود ها

حالت نودها

یال ها

طی هستندشبکه های عصبی به طور کلی سیستم های ریاضی یادگیر غیر خ.

ح و برخالف زبان های برنامه نویسی معمول نیازمند دستورات کامال صریدادی مثال را مشخص نیست بلکه مانند انسان قابلیت یادگیری به وسیله تع

.دارد

ن ورودی ها و شبکه عصبی را میتوان در حل مسائلی که روابط دقیق ریاضی بی.خروجی های آن برقرار نیست بکار برد

آموزش دیدن شبکه های عصبی در واقع چیزی به جز تنظیم وزن هایشبکه ارتباطی این نرون ها به ازای دریافت مثالهای مختلف نیست تا خروجی

.به سمت خروجی مطلوب همگرا شود

مثال تشخیص چهره افراد

بخش است 2بدنه ی هر سلول شامل :

بخش اول تابع ترکیب

بخش دوم تابع تحریک

انواع تابع تحریک:

خطی

آستانه ای

سیگموئید

تانژانت هایپربولیک

است 1خروجی تابع آستانه ایوقتی ورودی مثبت و برعکس

خروجی تابعتانژانت هایپر

بولیکخروجی تابع سگموئید برابر

: یشوند بوسیله خصوصیات زیر شبکه های عصبی دسته بندی م

اتصالنوع •-ایستا Static (Feed Forward)

-پویا ا Dynamic (Feedback)

•

انواع شبکه های عصبی

یانواع شبکه های عصب

توپولوژی•

تک الیه- Single layer-چند الیه Multilayer-بازگشتی Recurrent

انواع شبکه های عصبییادگیریروش•

-با ناظر Supervised-بدون ناظر Unsupervisd

-رقابتی Reinforcement

Pi ورودیtiخروجی مطلوبai خروجی بدستو.این دو خطا محاسبه می شود مقایسه آمده وبا

. جهت تنظیم پارامتر استفاده می شود .ترندبرای بار دوم این دو به هم نزدیک

ستم اصالح پارامتر های شبکه عصبی تنها توسط پاسخ سیست یاد و تنظیم میشود و هیچ نمونه ای از تابعی که قرار ا

.بگیرد داده نمیشود

ت گام به در رقابتی کیفیت عملکرد سامانه به صورموزشی گام نسبت به زمان بهبود می یابد الگوی آ

وجود ندارد این کار از طریق یک پروسه سعی وبکه خطا به شبکه عددی که نشانگر عملکرد ش

. است ارائه میشود

یک .میشودساختهپرسپتروننامبهمحاسباتیواحدیکبرمبنایعصبیشبکهازنوعیاینازخطیترکیبیکوگرفتهراحقیقیمقادیرباورودیهایازبرداریپرسپترون

پرسپترونخروجیبودبیشترآستانهمقداریکازحاصلاگر .میکندمحاسبهراورودیها.بودخواهد 1-معادلاینصورتغیردرو 1بابرابر

ونپرسپتر

بایاس

هر یک از واحد های ساختاری دارای یک مقدار ثابت است وه است و دارای وزن است و در تابع ترکیب ب1همیشه دارای مقدار

ه فهم حساب می آید مانند یک وزنه متعادل کننده عمل میکند و ببهتر الگو توسط شبکه کمک میکند

وبولیتوابع

پرسپترون𝑤1𝑥1 + 𝑤2𝑥2 + 𝑐 = 0

𝑤1𝑥1 + 𝑤2𝑥2 + 𝑐 > 0

𝑤1𝑥1 + 𝑤2𝑥2 + 𝑐 < 0

𝑥1 + 𝑥2 = 1/5

𝑥1 + 𝑥2 = 0/5

قابلیت های شبکه عصبی

ه شرایط جدید را تجربه توانایی تنظیم پارامتر های شبکه هنگامی که محیط شبکه تغییر میکند و شبک:یادگیریمیکند این اطالعات در سیناپس ها ذخیره میشود

ورودی پس از اینکه مثال های اولیه به شبکه آموزش داده شد شبکه میتواند در مقابل یک: دهی تعمیم

آموزش داده نشده قرار گیرد و خروجی مناسب ارائه دهد

فتار های محلی در شبکه عصبی هر سلول به طور مستقل عمل میکند و رفتار کلی شبکه برآیند ربودن مقاوممل این ویژگی تح.سلول های متعدد است این ویژگی باعث میشود تا خطاهای محلی از چشم خروجی دور بماند

.پذیری خطا را باال میبرد

پرسپترونیادگیریالگوریتم

مقادیری. میدهیمنسبتوزنهابهتصادفی1

پرسپترون. مقادیرشودارزیابیغلطمثالاگر .میکنیماعمالآموزشیمثالهایتکتکبهرا2.میکنیمتصحیحراپرسپترونوزنهای

آیا. :میشوندارزیابیدرستآموزشیمثالهایتمامی3

بلهالگوریتمپایان

خیربرمیگردیم 2مرحلهبه

پرسپترونآموزش

:شبكه انتشار رو به عقب

چند الیه تشکیل شده است و عالوه بر الیه های ورودی و خروجیاز شبکه اینمیکند و شامل الیه ای موسوم به الیه پنهان است این شبکه به صورت نظارتی کار

ه ها جدا از خصوصیات برجسته ای که ان را از سایر شبکو یکی خودسازمانده نیست است که بدان معنیاین نرون های ورودی پیوسته است و که مقادیر میکند این است

ی از این شبکه یک. میتوان مقادیر غیر باینری رابه عنوان ورودی به شبکه دادظارتی را حل پرکاربردترین شبکه هاست چرا که میتواند مسایل به شدت غیر خطی و ن

.کند

:نشبكه عصبی خود سازمانده مدل کوهن

کرد که تنها کوهنن شبکه ای طراحی.معموال دانش پژوهان این شبکه را یکی از سخت ترین شبکه های تک الیه میداننده پارامتر معلوم آن نرون های ورودی است در حالی که وزنها و نرون های خروجی به عنوان پارامترهای مجهولی هستند ک

است که روش کار کوهنن به این صورت. مهمترین خصوصیت این شبکه خودسازمان ده بودن آن است.باید پیدا شوندنرون .برای تعداد نرون های خروجی عددی را انتخاب میکند و از یک منطق ساده فاصله هندسی الگو را بدست می آورد

اساس کار .های ورودی و خروجی با مقادیر باینری مقدار دهی میشوند

ودی شبکه بر مبنای کم کردن فاصله خود از الگوهای وره مقدار وزن ها با تکرار بدست می آید و شبکه ب. است

مدل کوهنن یک مدل . صورت غیر خطی عمل میکنده در این مدل تعدادی سلول عصبی ک. بدون ناظر است

می معموالً در یک توپولوژی مسطح کنار یکدیگر چیدهه خود شوند ، با رفتار متقابل روی یکدیگر وظیفه شبک

ابع این وظیفه تخمین یک ت. سازمانده را ایفا می کنند . توضیع است

:شبكه عصبی همينگ

را -1یا 1دار الگو های برداری که عنصرشان فقط دو مق) این شبکه اساساً جهت حل مسئله شناسایی الگو های باینریری این شبکه هم در چار چوب شبکه های عصبی قرار می گیرد ، چون از یک س. طراحی شده است . ( می کند قبول

.نرون ها به مثابه گره ها و یک سری وزنه ها ی ارتبا طی بین گره ها تشکیل یافته است

کیل می شبکه همینگ از هر دو ساختار پیشخور وپسخور تش. هر گره یک سطح فعال دارد که خروجی نرون را می سازدوی ورودی دارد و هدف اصلی در شبکه همینگ این است که تشخیص کدام الگوی مرجع بیشترین نزدیکی را به الگ.شود

. سپس آن را در خروجی شبکه ظاهر می کند

:لد شبكه عصبی هاپفي ای یک الیه این نوع شبکه ها داراصوال .استشبکه هاپفیلد دارای معماری خاصی است که آن را از سایرشبکه ها جدا کرده

.هستنداز نرون های ورودی به نرونهای ورودی است و به نوعی میتوان گفت نرون های ورودی همان نرونهای خروجی

فرمول خاصی این بر خالف سایر شبکه ها این شبکه در الگوریتم تربیت وزن های خود را با تکرار معین نمی کند بلکه باه ها در هر زمان در این شبک.یک شکل معین می رسدتکرار،تغییر به کار را انجام میدهد و در الگوریتم شناسایی،ورودی با

ه همین فقط یک نرون فعال و سایر نرون ها غیر فعال است به عبارتی چون یک نرون از سایر نرون ها ورودی میگیرد بیا تصویر و از این نوع شبکه ها معموال در برطرف کردن نویز از.دلیل آن نرون در حال تغییر و دیگر نرون ها ثابت هستند

.الگوی دیگر استفاده می شودهر

تشخیص ارقام: مثال

و الیه فرض کنید بخواهیم با استفاده از یک شبکه د.ارقام دستنویس را تشخیص دهیم

قریب نرونهای الیه اول شدت روشنائی پیکسلها را تمیزنندو

نرونهای الیه آخر شکل ارقام را تعیین میکنند.

8 90 1 2 3 4 5 6 7

:روشی که وزنها یاد گرفته میشوند

ر موثر نیز وزن پیکسلهای غی. تصویر به شبکه ارائه شده و وزنهای پیکسلهای فعال بتدریج اضافه میشوند.بتدریج کاهش میابد

تصویر ورودی

1 2 3 4 5 6 7 8 9

0

:شکل گیری وزنها

1 2 3 4 5 6 7 8 9

0

تصویر ورودی

1 2 3 4 5 6 7 8 9

0

تصویر ورودی

1 2 3 4 5 6 7 8 9

0

تصویر ورودی

1 2 3 4 5 6 7 8 9

0

تصویر ورودی

1 2 3 4 5 6 7 8 9

0

تصویر ورودی

ها وزن یادگیری

1 2 3 4 5 6 7 8 9

0

تصویر ورودی

شبکه چه چیزی را یاد میگیرد؟

ه قالبی را که است که شبکقالب در این مثال یک شبکه با دو الیه معادل با استفاده از یک سری!بهترین تطبیق با ورودی را داشته باشد بر میگزیند

اده که با همه اما برای مسئله ارقام دستنویس شکلهای ورودی بسیار متنوع هستند لذا یک قالب سر حالت در نتیجه چنین شبکه ای هم نمیتواند راه حل مسئله د. ورودیها سازگار باشد وجود ندارد

!کلی باشد

از ویژگی برای اینکه بتوان مسئله را در حالت کلی حل نمود بایدشکل های ورودی به مجموعه ای.ها تبدیل شده و شبکه را بر اساس ویژگی ها آموزش داد

دستنویس ارقام تنوع از مثالی

تا بدانجا رسيد دانش من، که بدانم همي که نادانم

با تشكر از توجه شما