lecture1 neural networks

25
عصبي وهاي شبكهيستم س هاي فازي اول فصل: مقدمهستاد ا: دصالحي دکتر سي

Upload: gunnersregister

Post on 14-Apr-2016

225 views

Category:

Documents


2 download

DESCRIPTION

Lecture1 Neural Networks

TRANSCRIPT

Page 1: Lecture1 Neural Networks

‌هاي‌سيستمشبكه‌هاي‌عصبي‌و‌فازي

:فصل‌اولمقدمه

دکتر‌سيدصالحي:‌استاد

Page 2: Lecture1 Neural Networks

سرفصل‌مطالب

عصبياي بر شبكه هاي مقدمهنورون زيستي

نورونمدليادگيري در شبكه هاي عصبي

قانون هاي يادگيري در شبكه هاي عصبي الگوها نكاتي از بازشناسي تعليم شبكه پرسپترون تک اليه

اليهشبكه هاي جلوسوي چندالگوريتم پس انتشارخطا

۹۵-۹۴بهار 2

Page 3: Lecture1 Neural Networks

سرفصل‌مطالب‌درس

عصبيشبكه هايتوسطاساسيمولفه هايتحليلآماريروشبهاساسيمولفه هايتحليلخطيخودانجمنيحافظهاليهچندعصبيشبكه هايتوسطاساسيمولفه هايتحليل

غيرخطياساسيمولفه هايتحليل

مقدمه اي بر شبكه هاي عصبي عميق شبكه هاي عصبي با توابع پايه شعاعي

۹۵-۹۴بهار 3

Page 4: Lecture1 Neural Networks

سرفصل‌مطالب‌درس

خودسازماندهعصبي شبكه هاييادگيري رقابتي خودسازمانده نگاشتچندي كردن برداري كوهوننشبكه

شبكه هاي بازگشتيشبكه هاپفيلد سازيشبكه هاپفيلد در بهينهكاربرد ايبازگشتي اليهشبكه هاي

۹۵-۹۴بهار ۴

Page 5: Lecture1 Neural Networks

مطالب‌درسسرفصل‌

سيستم هاي فازي فازي و عمليات بر روي آنهامجموعه هايروابط فازي و اصل توسعهآنگاه فازي-متغيرهاي زباني و قواعد اگرمنطق فازي و استدالل تقريبياستنتاج فازي

۹۵-۹۴بهار ۵

Page 6: Lecture1 Neural Networks

درسبرخي‌منابع‌مفيد‌براي‌ «Neural Networks and Learning Machines», Simon Haykin,

3rd Edition, Prentice Hall, 2009

«Neural Networks, a Comprehensive Foundation», Simon

Haykin, 3rd Edition

«Neural Networks Design», Martin T. Hagan, 2rd Edition

«Introduction to Artificial Neural Systems», J.M. Zurada,

1992

«Fundamentals of Neural Networks: architectures, algorithms,

and applications», L. Fausett, 1994

«A Course in Fuzzy Systems and Control », L. Wang, Prentice

Hall, 1997

۹۵-۹۴بهار 6

Page 7: Lecture1 Neural Networks

ارزيابينحوه‌ نمره ۵: ميان ترمامتحاننمره8: امتحان پايان ترمنمره6: كوئيزها، تكاليف و پروژه هايک نمره تشويقي به تناسب)نمره 2: سمينار از مباحث جديد

(كيفيت مطلب

دستياران آموزشي:خانم رستگار آقاي شاهين آقاي عباسي

۹۵-۹۴بهار 7

Page 8: Lecture1 Neural Networks

نارمجالت‌مفيد‌براي‌انتخاب‌موضوع‌سمي

IEEE Trans. On Neural Networks and Learning Systems

Neural Networks, Elsevier

Neural Computation, MIT Press

Neurocomputing, Elsevier

۹۵-۹۴بهار 8

Page 9: Lecture1 Neural Networks

What Is a Artificial Neural Network?

A neural network is a massively parallel

distributed processor made up of simple

processing units, which has a natural propensity

for storing experimental knowledge and making

it available for use. Neural networks resemble

the brain:

Knowledge is acquired from the environment through a

learning process.

Interneuron connection strengths, known as synaptic

weights, are used to store the acquired knowledge.

۹۵-۹۴بهار ۹

Page 10: Lecture1 Neural Networks

Benefits of Artificial Neural Networks (I)

Nonlinearity: nonlinear components

Input-output mapping: supervised learning, nonparametric

statistical inference (model-free estimation, no prior

assumptions),

Adaptivity: a neural network may be designed to change its

synaptic weights in real time. Can deal with nonstationary environments.

Contextual information: Every neuron in the network

potentially influences every other neuron, so contextual

information is dealt with naturally.

۹۵-۹۴بهار 10

Page 11: Lecture1 Neural Networks

Benefits of Artificial Neural Networks (II)

Fault tolerance: capable of robust computation.

Uniformity of analysis and design: common components

(neurons), sharability of theories and learning algorithms, and

seamless integration based on modularity.

Neurobiological analogy: Neural nets motivated by

neurobiology, and neurobiology also turning to neural

networks for insights and tools.

۹۵-۹۴بهار 11

Page 12: Lecture1 Neural Networks

مقايسه‌رايانه‌و‌مغز‌انسان

درمي كند،عملبهتردقيقوسريعمحاسباتدررايانهگرچهبهحيواناتوانسانمغز(...وگفتارتصوير،)تشخيصودرك

.مي كندعملسريع تروبهترمراتب

: واكنش الكترونيكي

سرعت باال: واكنش الكتروشيميايي

سرعت پايين

۹۵-۹۴بهار 12

Page 13: Lecture1 Neural Networks

:توانايي باالي مغز دردهاطالعات مفقود شو يا عدم قطعيتپردازش اطالعات با

؟مي كندمغز چگونه پردازش ؟آن ساختمانند ماشين هاييآيا مي شود

رايانه زييا چند سيستم پردازش مركيک

مغز نورون 1011حدود 10۴هر نورون حدود

.ردداديگر نورون هاياتصال با

باالسرعت پردازش موازي

۹۵-۹۴بهار 13

Page 14: Lecture1 Neural Networks

ساختار‌کلي‌شبكه‌هاي‌عصبي‌مصنوعي

بهوزنداراتصاالتطريقازكهنورونتعدادي.مي شوندمتصلهم

ورودينورون هاي

خروجينورون هاي

پنهاننورون هاي

گره يا نورونnode

وزنweight

۹۵-۹۴بهار 1۴

Page 15: Lecture1 Neural Networks

تعليم‌شبكه‌هاي‌عصبي

مي شوندبرنامه ريزيرايانه ها.مي بينندتعليمعصبيشبكه هاي.شبكهتعليم:

گونهتداعيانجمنيارتباطاتوالگوهايادگيري(Association)

استشبكهوزن هايتغييرعملدريادگيرياين.

۹۵-۹۴بهار 1۵

Page 16: Lecture1 Neural Networks

چگونه حل مي شودالزم نيست از قبل بدانيم مسأله.هنگام تعليم:

مي كنددانش اخذ ( خروجي–وروديداده هاي )شبكه از محيطش.

براي تعليم شبكه:ساختار مناسبمقادير اوليه وزن هاشيوة مناسب تعليم

تعليم‌شبكه‌هاي‌عصبي

۹۵-۹۴بهار 16

Page 17: Lecture1 Neural Networks

شبكة استاتيک:مي دهدايلحظهپاسخوروديبه.

ديناميکشبكة:داردنياززمانبهدادنپاسخبراي.

انواع‌شبكه‌هاي‌عصبي‌مصنوعي

۹۵-۹۴بهار 17

Page 18: Lecture1 Neural Networks

نورون‌هاي‌ساختار‌کلي‌زيستي

۹۵-۹۴بهار 18

Page 19: Lecture1 Neural Networks

سانعصبي‌بدن‌انسيستم‌اطالعات‌در‌جريان‌

Central to the system is the brain: continually receives

information, perceives it, and makes appropriate decisions.

The receptors convert stimuli from the human body or the

external environment into electrical impulses

The effectors convert electrical impulses generated by the

neural net into discernible responses as system outputs.

۹۵-۹۴بهار 1۹

Page 20: Lecture1 Neural Networks

Structural Organization of the Brain

Small to large-scale organizations

Molecules, Synapses, Neural microcircuits

Dendritic trees, Neurons

Local circuits

Interregional circuits: pathways, columns,

topographic maps

Central nervous system

۹۵-۹۴بهار 20

Page 21: Lecture1 Neural Networks

۹۵-۹۴بهار 21

Page 22: Lecture1 Neural Networks

Topographic Maps in the Cortex

Nearby location in the stimulus space are mapped to nearby

neurons in the cortex.

Thus, it is like a map of the sensory space, thus the term

topographic organization.

۹۵-۹۴بهار 22

Page 23: Lecture1 Neural Networks

نورون‌‌زيستي

۹۵-۹۴بهار 23

Page 24: Lecture1 Neural Networks

عملكرد‌نورون‌هاي‌زيستي

ايندربرسد،مشخصيميزانبهدندريت هاغشاءرويواردهورودي هايحجماگر.مي رسدمعينيسطحبهغشاءرويكلپتانسيلهنگام

مي فرستدآكسون اشدرونبهوتوليدپالسيپاسخنورون.

تحريکجهتدرورودي هابرخي•(excitatory)جهتدربرخيو

كردنآتشاز(inhibitory)ممانعت.هستندسلول

يلپتانسازتحريکپتانسيلهرگاه•بيشترآستانه ايحدميزانبهمهار.مي ك ندآتشسلولشود،

۹۵-۹۴بهار 2۴

Page 25: Lecture1 Neural Networks

زيستيمدل‌نورون‌هاي‌

۹۵-۹۴بهار 2۵