T.C. FIRAT NVERSTES FEN BLMLER ENSTTS RNT TANIMA SSTEMLER (Ders Notlar) Yrd.Do.Dr. brahim TRKOLU ELAZI - 2003 Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 20032 NDEKLER 1.GR 2.RNT TANIMA 3.RNT TANIMA SSTEMLERNN BLEENLER 4.RNT TANIMA UYGULAMALARI 5.RNT TANIMA SSTEM GELTRME 6.KAYNAKLAR Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200331. GR nsanlarngnlkyaamnda, belirli bir sesi veya grnty tanmak iin kullandklar kurallartanmlamakmmkndeildir.nsanlarnpratiktekarlatklarburnttanma olaylarn,makinatabanlrnttanmauygulamalarndabelirlikriterlereoturtmak mmkndr.Bununiin,rntlerinbirbirindenbamszvebelirlikarakteristik niteliklerinineldeedilmesizellikkarmsreciilegerekletirilir.Buzelliklerbir snflandrcya verilerek her bir rnt belirli snflara ayrtrlp tanmlama yaplr. 1.1. Robot GrmesiGrmeduyusu,insannsahipolduuennemlialglamasistemidir.yleki,insan gznnokksabirsreiinalpkapanmasesnasnda,grmeorgannnevreyleilgili olarakinsanakazandracabilgioldukafazladr.Grmeilemi,kiinindikkatinieken grntlerindnda,evrehakkndabiroknemligrntydeyanstr.Buise,yapay grme sistemlerinde, alglama cihazlarnn ne kadar karmak olacan gsterir. Robotgrmesi,boyutludnyadaneldeedilengrntlerinverdiibilgileri yorumlamakvekarakterizeetmekeklindetanmlanabilir.Robotgrmesi,aratrmalarnn amac, fiziksel bir ortamda alan robotlar iin nceden tahmin edilemeyen olaylar karsnda grselduyuteknolojisinigelitirmektir.Grmeilemi,robotunicraettiipekokiiin, evre hakknda bilgi ald en nemli kaynaktr. evresindeki nesne rntlerini tanmas, bu nesnelerarasndabelirginilikilerirenmesivedurumauyguncevapvermesi,ourobot almalarnn temelinde yatmaktadr. Robotgrmesistemleritasarmndaennemlifaktrlermaliyet,gerekzamanda alma,esneklikvegvenilirliktir.Endstridekullanlanrobotgrmesistemleriuygunbir maliyette ve karlatrlabilir iler iin insan gcnden daha ucuz olmaldrlar. Gerek zaman almalarnn insan alanlar ile yarmas gerekir, bu ise bir dakika veya daha az zamanda bir grnty ileyebilen bir grnt ileme sistemi gerektirir. Sonyllardaelektronikteknolojisindekibadndrcgelimeyeparalelolarakrobot grmesialanndadanemligelimelerkaydedilmitir.zelliklekontrollalmaalanlar iinde, belirli bir amaca ynelik uygulamalarda robot grmesi baar ile uygulanabilmektedir. ekil1.1.debirrobotkolunungrselalglamasistemiyardmylabirretimhattzerinden paralaralgsterilmektedir.Busistem,gnmzdekirobotgrmesiuygulamalarnatipik birrnektir.Henzgenelamalgrmesistemleriningereklemesiuzakbirhedefolarak kalmaklabirlikte,bylesnrluygulamalardancesaretvericisonularalnmaktadr.zel Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 20034amal robot grmelerinin, genel amal robot grme sistemlerine dntrlmesindeki temel glk,ilenecekverilerinbykboyutlaravarmasndanvebuverilerdengrntyeait semboliktanmlarneldeedilmesiiinbirhaylizamanaihtiyaduyulmasndan kaynaklanmaktadr. ekil1.1. Robot grmesi ile retim hattnda alan robot kolu. ekil1.1.de,retimhattzerindekicisimler,tavandakibirkamerannnnden gemektedir. Bu uygulamada sembolik tanmn; nesne rntlerinin tanmas, konumlarna ve dorultularna ait snrl sayda bilgi vermesi, yeterli olacaktr. Nesnelerin dier zelliklerine, renkvb.aitgrselbilgilerebuuygulamadayeryokturvesemboliktanmnbunlariermesi gerekmemektedir. Robot grmesi aadaki aratrma alanlarna yakndan baldr; Grnt ileme rnt tanma Sahne analizi Grnt ileme, alglanan grntden yeni bir grnt elde edilmesi ile ilgilidir. rnt tanma,grntlerdencisimlerintannmasamacylabilgilerkarlmasnaynelikbir almaalandr.Sahneanaliziise,grntdenalnanbilgilerinyaplacakiiingerekli biime dntrlmesi ile ilgilidir. 1.2. Bilgisayar Grmesi Bilgisayargrmesistemlerikarmaklkgstersede,hepsiiingeerliolanbirka teknikvardr.Kameradangelenbirgrntnnkullanlbirekildeilemetabi tutulmasndan nce, bu grntnn bilgisayar tarafndan anlalabilecek ekle dntrlmesi Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 20035gerekmektedir.Budnmileminegrntnnsaysallatrlmasdenir.Builemde; grntnnherbirpikseldeeribirsayolarakhafzada depolanacak olan karelere blnr. Herpikselnoktasndagrntnnparlaklnvekoyuluunutemsiledenbirtamsay bulunur.Btnpikseldeerleriiinbuilemgerekletirildiinde,grnttamsaylardan olumubirmatriseklinednr.Resimbilgisibubiimegetirildiizaman,yazlm tarafndan ilenmeye hazrdr. Bilgisayar grmesi baz ltlere gre salanr. Fakat bu ltler nelere baldr, nelerle snrldrtamolarakaklanamaz.Busnrlardahaiyiinceleyebilmekiin,aratrmaclar bilgisayar grmesini aadaki blmlere ayrmlardr . Resim ileme Grnt ileme rnt tanma Durum analizi Optik ileme Video ileme Grnt yorumlama Gerekrobotgrmesindevegereksedebilgisayargrmesindeolsunrnttanma nemli bir yer tutmaktadr. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 20036 2. RNT TANIMA rnt, ilgilenilen varlklar ile ilgili gzlenebilir veya llebilir bilgilere verilen addr. Gerekdnyadakiburntler,genellikleilgilenilenverilerinniceltanmlamaekilleridir. rnttanma,insanlarneitlises,grntvebenzeritmrntlerinbiimselekillerindenkardklardilselekillendirmedir.Aslnda,rnttanmabilimin, mhendisliinvegnlkhayatngenibiralanndakietkinliklerikapsamaktadr.rnt tanmauygulamalarninsanlarnyaantsndadagrebiliriz:havadeiiminalglanmas, binlerce iek, bitki, hayvan trn tanmlama, kitap okuma, yz ve ses tanmagibi bulank snrlarasahipbiroketkinlikternttanmakullanlr.nsanrnttanmas,gemi tecrbeleredayalrenmeesasldr.Bylece,insanlarpratiktekarlatrnttanma olaylarntecrbelerindadeerlendirebilmeyeteneinesahiptirler.Belirlibirsesi tanmakiinkullanlankurallartanmlamakmmkndeildir.nsanlarbuilemlerinbir ounu olduka iyi yapmalarna ramen, bu ilemleri daha ucuz, iyi, hzl ve otomatik olarak makinalarnyapmasnarzularlar.rnttanma,byleakllverenebilenmakinalar gerekletirmek iin, ok boyutlu bir mhendislik disiplinidir.rnttanmaolaynuekildeirdeleyebiliriz:Aralarndaortakzellikbulunanve aralarndabirilikikurulabilenkarmak iaret rneklerini veya nesneleri baz tespit edilmi zellikler veya karakterler vastas ile tanmlama veya snflandrmadr. Bu balamda, rnt tanmann en nemli amalar; bilinmeyen rnt snflarna belirli bir ekil vermek ve bilinen bir snfa ait olan rnty tehis etmektir.rnttanmatekniklerininuygulamalarbirokmhendislik,tp,askerivebilim alanna aktr. Bunlardan bazlar; ses tanma, EEG snflama,DTMF haberleme iaretlerini tanmaveradarhedefsnflama,biyomedikalkontrol,verimadenciliiverilebilir.rnt tanma olarak bilinen bu uygulamalar, makina renmesi, rnt snflandrma, ayrm analizi veniteliktahminigibiisimlerledeanlmaktadr.rnttanmakavram,ekil2.1.de gsterildii gibi nemli birimden olumaktadr:1.aret/Grntleme:nilemaamasdr.aretveyagrntnnfiltreedildii, eitlidnmvegsterimteknikleriileilendii,bileenlerineayrldveya modellendii ksmdr. 2. zellikkarma:aretvegrntnnveriboyutununindirgendiivetanmlayc anahtar zelliklerinin tespit edildiive ayn zamanda normalizasyona tabii tutulduu aamadr. Sistemin baarmnda en etkili rol oynar. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200373. Snflandrma: karlan zellik kmesinin indirgendii ve formle edildii tanmlayc karar aamasdr. RNT TANIMAaret / Grntlemezellik karma Snflandrma ekil 2.1.rnt tanma kavram. 2.1. rnt Tanma Probleminin Formlasyonu rnttanmaproblemininekilselamac,gerekgiriuzayndakiMadet{ }M1 iix=, MX x gzlemleriveyalmleri,birkasnftan{ }(K) (2) (1)w ..., , w , w Y y birine ayrmak suretiyle tanmlayabilmektir. Snfsal k, karar uzayndaki her bir (k)wsnf temsil etmektedir.Doperatrekil2.2.debirharitaolarakgsterilen,herbirayrmabirsnf etiketiatayarakgiriuzaynnayrblmlereayrlmasnsalayanbirsnflandrcyveya giriuzaynbirbiriilekesimeyenblmlereayrarakherbirsnfabiretiketataycy gstermektedir( ) y x : D . aret uzaylarn snflamada, iaret rntsnn boyutunun ok fazla olmas ve grlt gibibirkaengelleyiciunsurvardr.Buproblemlerdenkurtulmakiiniarettenzellik karmyaplr.Byleceeldeedilenzellikuzay,giriiaretuzayvekkararuzay arasnda NF olarakbetimlenir( ) M N .BirzellikkarcF X : f olarak tanmlanr ve snflandrc iseY F : g eklinde verilir. Bylelikle snflandrma srecif g d o = olarak gsterilebilir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 20038x2x1zellik uzayw(1)w(2)w(3)Dkarar uzay ekil 2.2.Karar yzeyinin zellik uzaynn haritas olarak gsterimi. rnttanmasisteminerenme yeteneinin kazandrlabilmesi iin genellikle P adet giriiaretiveksnfetiketiieren(x,y)eitimiftindenoluaneitimkmesi kullanlr. ( ) ( ) ( ) { }(P) (P) (2) (2) (1) (1)y , x ,..., y , x , y , x = (2.1) Burada(i) ifadesi eitim kmesi iindekii. rnt snf iftini gstermektedir. 2.2. rnt Tanma Sistemleri rnttanmasistemlerigzlenenveyallenverileritanmlanmasndabirok uygulamann merkezinde yer alr. ekil 2.3 de yaygn olarak kullanlan genel anlamda rnt tanmasistemiverilmitir.Alglayclar,herhangibirandammknolanbirokdoal durumlardanbiriolabilenbazfizikselilemlerilerler.Aadakiblokdiyagramnen nemli grevlerinden biride, elde edilen lmlerin hepsinden oluan giri uzayndan daha az boyuttazellikkartmaktr.Sonunda,snflandrcnnrolrntyzelliklerinegre kategorize ederek uygun snflara kaydetmektir. Alglayclarzellikkarc / SeiciSnflandrc Giri Uzay :Doal Durumlark Uzay :Karar Snflar ekil 2.3.rnt tanma sistemi. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 20039 Mevcut rnt tanma sistemleri grupta toplanmaktadr : 1.statistikselrnttanma:statistikselrnttanmaynteminde,snflama algoritmalaristatistikselanalizzerinekurulmutur.Aynsnfaaitrntler,istatistiksel olaraktanmlananbenzerkarakteristikleresahiptirler.Buyntemde,zellikolarak nitelendirilen karakteristik lmler giri rnt rneklerinden karlr. Her rnt bir zellik vektriletanmlanr.Geneldesnflandrcyoluturankararvesnflandrmayntemleri zerinde nemle durulur. Snflandrc tasarm, lmler ve olaslklar gibi ilenebilir rnt bilgilerinibirletirmeyiesasalr.Bylecesnflama,giriveriuzaynnolaslkyounluk fonksiyonlarnntahminizerinekurulubiristatistikselyapdr.statistikselrnttanma Bayes Karar Teorisi zerine kurulmu olup, uzun bir gemie sahiptirler. 2.Yapsalrnttanma:Yapsal(geometriksel,kuraldizilim)rnttanmayaklamn da,verilenbirrnt,ekilselyapdantemelkarakteristiktanmlanmayaindirgenir.ou zaman,rntlerdenkarlanbilgiyalnzcazelliklerkmesininsaysaldeerlerinden deildir.zelliklerinbirbirinebalanmasveyaaralarndakikarlkliliki,tanmlamayve snflandrmaykolaylatrannemliyapsalbilgiyesahiptir.Birbakadeyilerntnn ilenmemihalindeneldeedilentanmlaycbiimselsentaksveyabunlarnsentezinden karlangrameriletanmlamagerekleir. rnein, rntnn ke says, kenar alarvb. Genelolarakyapsalyntemdedahabasitaltrntlerkarkrntlerinhiyerarik tanmlamalarn formle eder. Yapsal yntemde her rnt, bileenlerinin bir kompozisyonu olarak ele alnr. ekil 2.4de bir yapsal rnt tanma sistemi grlmektedir. zellik ve ilikikarmanilemiliki semerntrnt rnekleriyapsal karmyapsal analiz ekil 2.4 Yapsal rnt tanma sistemi. Yapsal rnt tanma ynteminde eitli birimler arasndaki iliki ok byk nem tar vegerektanmadakullanlanbazekilselnotasyonlartarafndanbelirtilir.rnein, Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200310ekrandakibirmasaytanma,kelerindeneituzunluktabacaklartarafndandesteklenen yataybirdikdrtgenyzeygibiyapsaltanmlamaytemelalarakgerekletirilebilir.Bu yntemde,evreuzunluu,alan,arlkmerkezi,eylemsizlikmomentiveFourier tanmlayclargibigenelzelliklerikullanr.Otoregresifmodel,poligonsalyaklamve zincir kodlar yapsal rnt tanma yntemine rnek olarak verilebilir. 3. Akll rnt tanma : rnt tanma sistemi, daha nceden rendiklerini tutabilecek bir hafzayasahip,karm,genellemevebelirlibirhatatoleransilekararverebilme yeteneklerini iermekte ise bu sistem akll rnt tanma sistemi olarak deerlendirilir. ekil 2.5.debyleakllverenebilenmakinalargerekletirmeyeynelikrnttanma yaklam verilmitir. Akllrnttanmayaklamlar,renmetabanlolup,kararaamasndagemi tecrbelerindensonuretmektedirler.Gnmzde,renmelirnttanmaalgoritmalar yapay sinir a merkezli olarak gelimektedir ve bu dorultuda almalar younluktadr. YSA yaklamlaristatistikyaklamakarbelirleyiciolarakifadeedilebilir.nkrenme algoritmalarrntsnflarnnistatistikselzelliklerihakkndahibirey kullanmamaktadr. Bununla birlikte, istatistiksel ve YSA rnt tanma yaklamlar ekil ve amaolarakokbenzerolup,hattaYSA'nngelenekselistatistikselrnttanmannbir uzants olarak ifade edilen grlerde bulunmaktadr. rntler Tanmlamazellik karma SnflandrmaEitim ve renme ekil 2.5. Akll rnt tanma yaklam. statistiksel,yapsalveyapaysiniralarilernttanmayaklamlararasndakesin bir ayrm yoktur. Bunlar arasndaki snrlar bulanklk arz eder. Bu yaklamlar, genel ve ortak zellikleriveamalarpaylarlar.Verilenbelirlibirrnttanmaproblemininzmnde istatistikselyaklamagrerntnnyapsanlamszolabilir.Yapancakuygunzellik seimiyleyanstlabilir.statistikselrnttanmada;yapsalbilgininifadeedilmesinde Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200311grlenzorluk,yapsalrnttanmadakendiniyapsalkurallarnrenilmesindegsterir. Bunakarnyapaysinirayaklam,istatistikselveyapsalyaklamlardantretilmitir. Akbirekildernthakkndakiyapsalbilgideerliolduundayapsalrnttanma yaklamnsemekdahadorudur.Yapsalbilgideersizvemaksadauygundeilse istatistikselyntemisemekdahadorudur.Yapaysiniralar,istatistikselveyapsal yaklamaalternatiftekniklersalayanvernttanmayarenmeboyutukatarakakll tanma nitelii kazandran bir teknik olarak dnlebilir. 2.3. Bir Matematiksel Optimizasyon Problemi Olarak renme statistikselrnttanmadarenme,genellikleveridenbilinmeyenbirolaslk younluunutahminetmektenmeydanagelir.Parametretahminetmede,modelvarsaymak veyabilinmeyenyounluunparametrikbireklidir.renmesrecieitmeverisinieniyi uygunlatran modelin parametrelerini optimize etmeyi ierir. Maksimum olabilirlik ve Bayes tahmin edici parametrik karar vericilere rnektir. Parametrik olmayan tekniklerle,tahmin ile veyaverinindalmeklihakkndatahminyapmaksznsnflandrmayadevamedilir. Parzenpencereleriveenyaknkomukuralardkrenmeye gerek duymayan parametrik olmayanmetotlardr.Dorusalfarkfonksiyonlarrenmeninmeydanageldiiparametrik olmayan bir teknii dikkate alabilir. Kmeleme eiticisiz renme gerektiren rnt tanmada bir problemdir. Kmelemenin gayesikategorileringeneldebilinmeyensaysiindesksktanmlanmayanveriyi,verinin kendisinebakarakguruplamaktr.Minimumkartlk,c-meanvesingle-linkgeleneksel kmeleme algoritmalarna rnektir. renmeli rnt tanma sistemlerinin balca iki amacvardr: Bir snflandrlacak verinin baz yap ve organizasyonunu birletirmek. Yeni veri iin nceden bilinen sonulardan eitilmi snflandrcy kullanmak. Burada, renme olay snflandrcy (tahmin ediciyi) ilgilendirir. Akll rnt tanma sistemlerinde,snflandrcnnparametreleribirkararkuralnagreardkilemlerle uyarlanarakrenmeilemigerekletirilir.Snflandrc"eniyininls"ile deerlendirilir.Snflandrcnn"eniyininls"neuyarlanmailemine,kabuledilebilir snrlariindedevamedilebilir.Dahagenianlamda,snflandrcnnrenmesibirk kmesiilebirgirikmesindenmeydanagelir.Verikmeleriikiparayaayrlr;eitim Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200312verisi ve test etme verisi. ncelikle renme ilemi gerekletirilir sonra snflandrcnn bir yetenek gstergesi olarakyeni bilgi ele alnarak test etme srecine geilir.Problemin matematiksel formlasyonu iin, baz deikenleri tanmlamak gereklidir: n modelinn deikenli parametreleri veya karakteristikleri M , , J |.|

\| "en iyinin ls", ama fonksiyonu veya fonksiyon lt, Mfonksiyonlarn uzay N x sxN x mxn: M N x m eitme verisindeki bamsz deiken,{ } N .... 1 i ,mi= = N x s eitme verisindeki baml deiken, )`= = N .... 1 i ,si Neitme verisindeki rneklerin says ( ) g m tane yan art( ) ( ))`= = m ... 1 i ,nig g N x m test verisindeki bamsz deiken{ } N ... 1 i ,mi= = N x s test verisindeki baml deiken )`= = N ... 1 i ,si |.|

\| mv , f snflandrc elemesi s mxn: (.) f ((

f , E test verisinin snflandrlmasndaki hata sxs: [.] E Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200313Birgiri/kelemesiylesnflandrcnnyorumundatutarllkolacakekilde, bamsz deikenler giri ve baml kopyas ise k olarak genelde adlandrlr. Burada tek gereksinim,( )mv , f ilesnflandrlan,yabirebirveyabiroundanbirineelemektir. Bu nedenle,( )mv , f den yaklatrma fonksiyonu olarak da sz edilir.renmesreci,Jamafonksiyonunauyan girilerinden klarnelde edebilen,( )mv , f en iyi yaklam fonksiyonunu elde etmek iin, her hangi bir( ) gyan artn salayanbirparametre kmesi bulma almalarn ihtiva eder. Yani: ( ) 0 g koulu ile( ) , , Jfonksiyonunu minimize eden 'yi bul. Buserbestparametrelerinistenilenekildeardkolarakayarlaypbelirlemekiinbir matematikseloptimizasyonalgoritmassemekzorunludur.Ayrcaistenilen ( ) | | ,, J , T < biimibirveyadahaokbitirmeartdr.Burada,Tbirbiriniizleyen ardkdeerlendirmelerintipikselolarakbirnormlsdrve isetavsiyeedilen toleranstr. Eitmeveyarenmebittiktensonra,snflandrcbirverikmesi( ) , zerinden test edilir.Seilenhatals E[.] gre, yeniverisi iin nceden hesaplanan sonucun f(.) ile snflandrlmas iyi bir baarm gstergesidir. E[.] anlaml bir uzaklk ls olabilir veya snflandrma senaryosunda karar kural ve hata orann yaklatrmak iin bir sayma ilemi de olabilir. Srelerin tanmlanmas ekil 2.6. ve 2.7. 'da zetlenmitir. Eitim girii J TDzenlenen kural < TrenmeyidurdurstenenkEvetHayr) , ( f - ekil 2.6.renme sreci. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200314Test girii) , ( f hesaplanankistenenk) f , ( ESnflandrc hatasSnflandrc ekil 2.7.Test etme sreci. 2.3.1. Eiticili ve Eiticisiz renme Yukarda varsaylan formlasyonda veri kmeleri o ekilde tanmlanr kiher bir iin uygunluuolur.Bukoullaraltndakirenmeeiticilirenmeolarakadlandrlr. Eiticisizrenmeolarakbilinendurumdaise giridenbamszolaraktanmlanrve renme sreci daha zordur. Eiticili renmede, dardan bir eiticinin mdahalesi sz konusudur.Eitici, sisteme ilgiligirdiiinretmesigerekensonucuverir.Yanisnflandrcsistemegirdi/kt ikilisindenoluanrneklersunulur.Buikili,sisteminrenmesigerekenzellikleritemsil eder. Eiticisiz renmede ise, hi bir eiticiye ihtiya yoktur. Bu nedenle ou zaman buna, kendi kendine organize olma da denilmektedir. Tahmin edici, kendine gsterilen rnekleri alr ve belli bir kritere gre snflandrr. Bu kriter nceden bilinmeyebilir. Sistem, kendi renme kriterlerini kendisi oluturmaktadr. EiticiliveEiticisizrenmetrleribazenbirbirinidestekleyiciolarakkullanlrlar. Eiticisiztrilezellikuzaykmelenir.Bukmelereiticilitriinbilinenyapolarak eitimkmesindekullanlabilir.Bylecezellikuzaynnboyutuazaltlr.Fakatbuilemler zaman aldndan gerek zaman uygulamalar iin zor ve pahaldr. 2.3.2. Veri uygunluu ve genelleme renmenin tanmlanan ikimaksad;veriuygunlatrmavegenellemedir.Eer tahminedicieitimverisinitamolarakaklamakzorundaysa,tahminedicininaklamas snrl enterpolasyon (i deerlendirme) yetenei sebebiyle, test verisinde kt bir performans icraedecektir.Bueitmeveyauygunlatrmazerindegenelkavramdr.Eitme,veri uygunlatrmazerindedahaazskisteklerdebulunmaklabirlikte,testverisini genelletirmede, nemli bir esneklikle tahmin edici karar verecektir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003153.RNT TANIMA SSTEMLERNN BLEENLER Tipikbirrnttanmasistemi,ekil3.1.degrlmektedir.Sistem,eitimvetanma olmak zere iki evreden oluur. Sistemin en nemli elemanlar; zellik karma (nitemleme), veri taban oluturma ve snflandrma (eleme) bileenleridir. Eitim ve tanma evrelerindeki alglayclarvezellikkarmaelemanlardeiikolabilir.Altblmlerdeherelemann ilevi, daha ayrntl olarak tartlacaktr. ekil 3.1. rnt tanma sistemi. 3.1.n ilem Alglayclarvastasyla,bilgisayarasaysalolarakalnmolanrnt,dahabasitbir eklegetirmekiinbirdizinilemsrecindengeirilirrneinalnanrntbirnesne grntsise;srasyla,grnteikleme,kenarkarmagibiaamalardangeirilir.Sonraki blmlerde bu aamalar detayl olarak verilmektedir. 3.1.1. Eikleme Saysalbirgrntnneiklemeileminetutulmasndakiama,nesnerntsnn zelliklerinibelirlemedekolaylksalamaktr.Eiklemeilemiyle,grntikirenkleifade edilebilirbiimegetirilir.Grntyeiklemeileminetabitutmadanncebireikdeeri saptanr.Eikdeerindendahayksekgriseviyedeerinesahipolanpiksellere1deeri, daha kk deerlere sahip olan piksellere ise 0 deer atamas yaplarak grnt daha basit birbiime(siyah-beyaz)getirilmiolur.ekil3.2.debirgrntnn,eiklemeileminden nceki ve sonraki durumu gsterilmektedir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200316 ekil 3.2. Eikleme ilemi. 3.1.2. Kenar karma Kenar karmadaki ama, grntnn ierdii bilgiyi deerlendirip, gereksiz ve tanma ilemlerinde zaman kaybettiren bilgiyi eleyerek yeterli dzeye indirgemektir. Kenar karma, grntilemeninentemelkonularndanbiridir.Grntanalizindevesnflandrlmasnda ok deerli bilgiler tadndan, ilgi eken bir aratrma alan olmutur. Kenar karma, robotik nesne rnts tanmada ok nemli rol oynar. Bunu u ekilde aklayabiliriz.nsangrmesistemi,nesneleritanmasreciiindenesnenindizgilerini izleyerekbirgzgezdirilir.Buyaklamyapaygrmesistemlerineuyarladmzda,ayet nesnenin snrlar baarl bir ekilde izlenirse nesne tanmada ok daha iyi sonular alnabilir. Bylecetanmaolayndakenarkarmanemlibirroloynar.ougrntlersomut nesneleriiermezvebugrntlerianlamakonlarnyapsalzelliklerinebaldr.Yapsal zelliklerin karm ise kenar karma ile ilgilidir. Birkenarkarmayntemininbaarsndeerlendirmedekenarnoktasnntanmok nemliyertutar.Grntdekibirnesneninkenar, nesnenin yzey younluundaki deiimi ileilgilidir.Kenar,farklaydnlkdeerlerindekiikihomojenalanarasndakisnrolarak tanmlanabilir. Bu tanm, kenarn grntdeki aydnlk seviyesinin yerel deiimi eklinde de dnlmesinisalar.Kenarkarclarnnetkinlii,homojenalannoktalarndangerek kenar noktalarn ayrt etme yeteneine baldr.Robotlardanesnerntstannmasamacylagelitirilenkenarkarma algoritmalarnn,ikiboyutlugrmeileminihzlbirekildegerekletirmeyealrken, yksek bir baar yzdesine ulamalar beklenir. rnt tanmada salanabilecek olan en st dzeybaar;boyuttan,parlaklktan,yerveduruasndakideiimlerdenetkilenmemedir. Bubaaryaulamakiin,grnt ilenirken bilgi kayb olmamaldr. Fakat tm grntnn ilenmesiokfazlazamanalmaktadr.Busebeple,tannmasistenennesnelerinkenarlar karlarak, nesne tanma ileminin hzl ve yksek performansl olmas salanr. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200317rnttannmasileminde,ennemlibilgininnesneninkenarlarolduunu belirtmitik.Nesneninkenarlarnkarmaalgoritmalarndaarzulanansonuhibirbilgi kaybnaolanaktanmadan,hafzadaenazyertutan,tekpikselgeniliindekienincekenar izininbulunmasdr.Bylecenesnetanmailemidahahzlyaplabilirveaynzamanda nesnetanmakiinoluturulacakveritabanlardahakolayeldeedilebilir.Nesnernts analizinde kullanlan kenar karma algoritmalarnn bazlar; Prewitt, Sobel, v.s.Aadanesnerntsnnkomuluklarnesasalanbirkenarkarmaalgoritmas rneklerle aklanmtr: Bualgoritmada;nesnerntsnnhernoktasndierkomunoktalarilebirlikte yorumlayarak,bunoktannnesneninkenarnaaitolupolmadntespitedilmektedir.Bu yntem,bilgisayarlgrafikteherhangibirnoktannpoligoniindeolupolmadnbulmak iindekullanlmaktadr.ekil3.3.adanesneninherhangibirnoktas (n5) ve komular(n1, n2, n3, n4, n6, n7, n8, n9) gsterilmitir. ekil 3.3. a) n5 nesne noktasnn komular, b) Gelitirilen kenar karma ablonu. Saysalgrntde, ayetnokta nesneye ait ise deeri 1, deil ise 0 olarak alnmak zere ekil 3.3.b deki ablon, her bir nesne noktas ve komularna uygulanarak, o noktann nesneninkenarnaaitolupolmadbelirlenir.Bukenarkarmaablonunuklasikvar/yok mant ile aadaki gibi ifade edebiliriz. n n n n =2 4 6 8* * * Yukardakiifadeninsonucu0karsa,n5noktasnnnesneninkenarnaaitolduu anlalrvedolaysilen5noktasnndeeri1olarakkalr.ayetifadeninsonucu1 karsa n5 noktas nesne kenarna ait olmayp, bu noktann deeri 0 yaplr. Aada, kenar karma algoritmasnn daha iyi irdelenmesi iin iki rnek verilmitir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200318rnek-1:Nesnerntsnnincelenenkenarnoktasnnkenaraaitolmasdurumunuele alalm. yle ki; 110Burada, n2 = 1,n4 = 1,n6 = 0,n8 = 0 olup 110 = 1 * 1 * 0 * 0 = 0 100 Sonu0olduuiinn5noktasnnkenaraaitolduuvedeerinindeitirilmeyecei anlalr. rnek-2:Nesnerntsnnincelenenkenarnoktasnnkenaraaitolmamadurumunu inceleyelim. Bu durumda; 110Burada,n2 = 1,n4 = 1,n6 =1,n8 = 1 olup 111 = 1 * 1 * 1 * 1 = 1 110 Sonu1olduuiinn5noktasnnkenaraaitolmad,deerinin0olarak deitirilecei anlalr. Bu algoritmann uyguland baz nesne rntleri aada verilmitir: ekil 3.4. Kenar karma ilemi

Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003193.2. zellik karma zellikkarmarnttanmannennemliksmolup,biranlamdarnttanma sistemininbaarmndaanahtarroloynar.rntsnflararasndaayrmgerekletirmek iin rnt zelliklerinin karlmas gerekir. Gnmzde, ok baarl sonular veren rnt snflandrctrlerimevcutolup,snflandrcnndadorudanbaarmnetkileyenzellik karm zerine almalar odaklanmtr. zellik karmann ana sebepleri: 1.lmveyarntuzayndandahakkboyutadnmeyisalamaktr.Bu snflandrcnnkkhatalarileeitimivekararaamasnndahaksasrede gereklemesi demektir.2.Boyutolarakdahadkolanzellikuzaynsnflandrcnndahaazparametreile renmesinimmknhalegetirecektir.Bununyararrntuzayilekararuzay arasndaki dnm aamasnn daha ksa srede gereklemesidir. 3.Duraanolmayanzamanserilerindeolduugibikarmakrntlerintanmlayc karakteristiklerinibulabilmekiinzellikkarmarttr.Bylecekararaamasnn gvenirlilii artacaktr. 4.rntsnflandrmasisteminin,sistemiiveyadndakikontrolszgiriimlerden etkilenmemesinisalayacakbirzellikkarmkararlbiryapnnolumasndaetken olacaktr.Butrkararlzellikler,snflandrcnngenellemeveayrmyeteneinin yksek olmasnda nemlidirler. rntzelliklerinibelirlemedeanaproblemverilenesasrntdeneniyizellikleri semektir.Bununiinikiyaklamvardr:Dorudanvedolaylolarak.Birincimetotgl yapsalbalantlarasahipolanvebasityaplbelirlirnttanmaproblemlerine uygulanabilmektedir.Dolaylmetotlardaiseaadakigibiformleedilebilenbirdnm veya gsterim teknii ile daha kullanl bir yapdan zellik karm yaplmaktadr. Bylece z uzayndan, x uzayna bir dnm gerekletirilir. F(z) x = aretler rntlerinin zelliklerinin karm ile ilgilenildiinde, zellik karm iin genelde zaman ve frekans blgesi gsterimi n plandadr. Bylece karmak rntyapsnnhemgeicivehemdezamanabalolarakfrekans deiimleriniierentanmlayczellikbilgilerikarlabilir.Buzellikler, iaretin zaman ve frekans blgelerindeki yerel bilgilerini karakterize eder. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200320Nesnerntlerininzellikkarmileilgilenildiinde,zelliklerkullanlan veritabanveuygulamaalannagrefarkllkgsterir.Temelzellikler;kenar, ke,doruveeriizgiler,delikvesnreriselliidir.Nesnernts tanmlamalarbuzelliklerinbirindenveyabirkannbirletirilmesindenelde edilir. Endstriyeluygulamalardaouzamannesnerntssnrlarvebu snrlardantretilmilmler,zellikolarakkullanlr.Buzelliklergenel, yerelveilikiselolmakzeregurubaayrlabilir.Genelzelliklerernek olarakevre,arlkmerkezi,snrnoktalarnnarlkmerkezineuzakl, erisellik, alan, eylemsizlik momentigibi zellikler verilebilir. Doru paralar, sabiteriselliiolanemberparalaryerelzellikleriinrnekverilebilir. likisel zelliklere rnek olarak, nesne rntsnn alt paralarnn birbirlerine gre uzaklklar, alar gibi parametreler verilebilir. 3.2.1. znitelik vektrleri Endstriyelnesnerntstanmaalmalarndatannmasistenennesne,snrlarile tanmlanr.ournttanmaalmalarnda,nesneninsnrlarzerindeyaplanbaz nitelendirmelersonucundaznitelikvektrlerieldeedilir.znitelikvektrnn oluturulmasndasadecenesneninsnrlarnnkullanlmas,nitelendirilecekbilginin azalmasndandolayoldukanemlidir.Bununiinnesneninsnrlarnnitelemedepekok teknikgelitirilmitir.outanmateknii,yagenelznitelikleriyadayerelznitelikleri kullanr.Balcagenelznitelikyntemleri;fouriertanmlaycs,otoregresifmodel, grntyikiboyutlusimgeleme,zerrikemomentleriveyapsalrnttanma uygulamalardr.Yerelznitelikyntemlerineise,zincirkodlarvepoligonalyaklam yntemlerinirnekolarakverebiliriz.Nesnerntsneaityerelzellikleriileyen yntemlerdekritiknoktalarveyadelikveke bilgileri trnden zellikler kullanlmaktadr. imdi bu zellik elde etme metotlarndan bazlarn inceleyelim. 3.2.1.1. Otoregresif model Bumodelinesas,nesneninsnrnnbirboyutlusimgelenmesindemerkezseluzakln kullanmnadayanr.Algoritmannilkaamasndamerkeznoktashesaplanr.Dahasonraki aamada nesnenin kenarn oluturan herbir noktann merkeze gre klit uzakl bulunur. Bu ilemler iin aadaki formllerden faydalanlr. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200321Xf x y xf x ygy xy x= ( , ).( , ) Yf x y yf x ygy xy x= ( , ).( , ) ( ) ( )d i x X y Yi g i g( ) = + 2 2 Eerf(x,y)nesneyeaitise1deerini, deilse 0 deerini alr. Bylece aya bal olan deiimlerbulunmuolur.ekil3.5dedeiimgrlmektedir.Eldeedilendeerlervektr formunda yazlarak znitelik vektr elde edilir. ekil 3.5. Grnen nesne rntsnn merkezine gre kenar uzunluklarnn deiimi. 3.2.1.2. Poligonal yaklam Poligonal yaklamn temelinde, nesneye ait kritik noktalarn hesaplanmas yatmaktadr. Kritiknoktalarntesbitinisalayanalgoritmanntanmksacauekildeverilmektedir: Nesneninensolstsnrpikseliileensaaltsnrpikselibalangkritiknoktalarolarak alnr.Buikinoktaarasndadzbirizgiizilir.Dahasonrabudzizgiyedikdorular saptanr. Bu dorularn kenar piksellerini kestii noktalar belirlenir. Dz izgi ile bu noktalar arasndakidikdoruparalarnnuzunluuhesaplanr.Belirlibireiklemedeerinin stndeki noktalar kritik noktalar olarak tespit edilir. Bu noktalarn tek boyutlu simgelenmesi ileeldeedilenzelliklerdenznitelikvektroluturulur.ekil3.6.darnekolarakalnan nesne kenar zerinde kritik noktalarn bulunuu gsterilmektedir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200322 ekil 3.6. Poligonal yaklam ile nesnenin kritik noktalarnn bulunmas. Yukardakiekilde,verilennesnekenarnapoligonalyaklamuygulanaraknesnenin kritik noktalar tespit edilmitir. Bu yaklam u ekilde uygulanmaktadr; Nesne zerinde iki nokta seilir. Buikinoktaarasndabirdoruizilerek,nesnekenarnnzerindekinoktalarnbu doruya olan izdm uzaklklar hesaplanr.Buizdmuzaklklarndanmaksimumolanseilir.Bulunanbumaksimumuzaklk verileneikuzaklkdeerininstndeisenesneninbunoktaskritiknokta(nesne kesi) olarak alnr. Balang noktasndan balanarak nesne kelerisrayla ardk olarak birbirine doru ile balanr. Nesne kenarlarnn bu yeni izilen dorular zerindeki izdmlerine olan uzaklklar tekrarhesaplanrve3,4,5.admlar,verileneikdeerindenkkveyaeitolana kadar tekrarlanr. Builemlersonucundanesnesnrizgisineyaknkkdoruparalarndanoluan yenibirnesnekenareldeedilir.Bukkdorularkritiknoktalarnbirletirilmesiileelde edilir.Kritiknoktalardanoluannesneyeaitzelliklerbirvektrhalindeyazlaraknesnenin znitelik vektr elde edilir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003233.2.1.3. Zincir kodlar Saysalgrnt,kenarkarmailemindengeirildiktensonra,nesneninsadeced izgilerikalr.Bundansonrakiadmdanesneninkenarbilgilerininkodlanmasgerekir. Kodlamailemiiinzincirkodlarkullanlabilir.kitipzincirkodlamaeklimevcuttur;drtl ve sekizli zincir kod. (a)(b) ekil 3.7. a) Drtl, b) Sekizli zincir kod. ekil 3.8.de basit bir nesne ve bu nesneye ait drtl zincir kod gsterimi verilmitir. ekil 3.8. Verilen saysal grntnn snrlarnn drtl zincir kod gsterimi. Buna gre verilen nesnenin znitelik vektr u ekilde oluur. V = [0 0 3 0 0 3 3 3 2 1 2 2 3 2 2 1 1 0 1 1] Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200324Nesneninkenarbilgilerinidahahassasbirekildekodlamakiinsekizlizincirkod kullanlmas daha iyi sonu verir. ekil 3.9.da buna ilikin bir rnek verilmitir. ekil 3.9. Verilen nesnenin snrlarnn sekizli zincir kod ile kodlanmas Bu nesnenin znitelik vektr ise u ekilde oluur; V = [7 7 7 7 4 4 4 4 2 2 2 2] Sekizlizincirkodunundrtlzincirkodunagreennemlistnlyatayvedikey kenar izgilerinin yan sra apraz kenar izgilerini de kodlama imkan tanmasdr.Zincirkodlarilenesneninkenarlarnnhangiyndenekadardevamettiitespit edildiktensonraeldeedilenbuznitelikvektrne,eitliilemleruygulanarakdahakk boyuttavetmnesneleriindahagenelbirvektroluturulabilir.Mesela;znitelikvektr u hale getirilebilir. V = [V0, V1, V2, ....., V7] Burada; V0: Toplam ke says, V1: En kk kenarn en byk kenara oran, V2: 0 ile 45 derece arasnda ki alarn ka tane olduu, V3: 46 ile 90 derece arasndaki alarn ka tane olduu, V4: 91 ile 135 derece arasndaki alarn ka tane olduu, V5: -0 ile -45 derece arasndaki alarn ka tane olduu, V6: -46 ile -90 derece arasndaki alarn ka tane olduu, V7: -91 ile -135 derece arasndaki alarn ka tane olduunu gsterir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200325Eldeedilenbuznitelikvektr,sonrakiblmlerdeanlatlacaksnflandrclarn giriine verilerek nesne snflandrlmas yaplabilir. 3.2.1.4. Yapsal rnt tanma modelleriPekokyapsalrnttanmamodelivardr.Bunlardanbiriolana/uzunluk yntemininyaps,ekil3.10.dagrlen,Tharfininrntsrnekalnarakaklanmaya allmtr. BuyntemdeTharfiynlbirgeometrikselekilolarakdnlmtr.Harfbirim uzunlukveailetantlmtr.1numarailegsterilenksmreferansaolarakalnm dierlerideonabalalarlabelirtilmitir.Tharfinitantanaveuzunlukdeerleri, Tablo 3.1 de gsterilmitir. Bu deerler kullanlarak verilen nesne iin znitelik vektr kurulabilir. ekil 3.10. T alfabetik karakter rntsnn yapsal modeli. Tablo 3.1. T harf rntsnn a/uzunluk yntemine gre yapsal zellikleri. T alfabetik rnts IinNo A Uzunluk101 2902 301 4901 51803 62701 701 82702 Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003263.4. Snflandrma Snflandrma aamasnn amac, rntleri zellik uzaylarna gre kendilerine en yakn snflara minimum hata ile elemektir. Snflandrcnn baarmnda iyi belirlenmi zellikler kilit rol oynarlar. rntsnflandrclarngelenekselveakllolarakgruplaraayrmakmmkndr. GelenekselsnflandrmaalgoritmalaristatistikselbiryapolanBayeskararteorisizerine kuruludur.Bunlarndezavantajlar,zellikuzaynsnflandrmauzayndntrrken,bir grltnnkmasveherbirsnfiinhatakriterininbelliolmamasdr.Geleneksel snflandrclara;okdeikenliGaussmodelleri,enyaknkomu,maksimumolabilirlik, ikiliaasnflandrclarveFisherindorusalsnflandrclarrnekolarakverilebilir. BunakarnakllsnflandrmayaplargenellikleYSAtabanlolup,gnmzdeenyaygn kullanlanvebaarmnispatlamokglsnflandrctrleridirler.zelliklede genellemeyetenekleri,rnttanmauygulamalarnnokbykboyutluverileriasndan nemlidir.Bublmdernttanmadaskakullanlanfarklsnflandrctrlerisunulacaktr. Mimarileri,matematikselaltyaplar,eitmemetotlarvetestetmeprosedrleri deerlendirilecektir. Bunlar: Parametrik Snflandrclar: -Bayes -Maksimum olabilirlik Parametrik Snflandrclar -En yakn komu (k-NN) -Parzen Pencereleri Akll Snflandrclar -Yapay Sinir A Snflandrclar -Bulank Snflandrclar -Nral Bulank (ANFIS) Snflandrclar 3.4.1. Eitim ve Test Etme Snflandrc Sreleri TmsnflandrmaalgoritmalarbulunangelenekselBayesyapsdr.Enyaygn kullanlan renme sreci ekil 3.11.de gsterilmitir.Eitim verisi snflandrcnn hafzas iindeifrelenir.ncekiblmlerdedebelirtildiigibi,snflandrchafzasnuyarlama Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200327parametresi olacaktr. Ayn ekilde, yaygnca kullanlantest etme sistemi ise ekil 3.12de verilmitir. Hata oran yaklatrcs, doru snflandrmann basit bir sayacdr.Snflandrc yntemlerinde,sonrasalolaslklarveyaedeerniceliklertahminetmedetekfarktr.En yaygnkararsreci,sonrasalolaslklarzerinetemellenenyalnzcaBayeskararkuraldr. Snflandrclariinudikkatealnmaldrki;sonrasalolaslklardorudanbirtahminetme deildir,karar,eit nceseller iin art younluklar (maksimum olabilirlik) temeli zerinde varsaylr. Eitim verisi renmeSnflandrc hafzas ekil 3.11. Eitme sreci. GirivektrTahminEdicisnflandrckazanankategoriBayes Karar Kural : Seimsonrasalolaslklar)`|.|

\||.|

\| = xkznP maks xkznPkznHata OranYaklatrcsHata oranveya doruluu ekil 3.12.Test etme sreci. Eitnceselolaslklar,bilgisizliineitdalmprensibisebebiylehepvarsaylandr. Sunulan durumda, ncesel dalmn kullanc her bir ksaltmay nasl bir sklkla yapacan aklar.Eitnceselolaslklaryla,maksimumsonrasalkararnbirmaksimumolabilirlik kararna zorunlu brakmak ki o, sadece art younluu temelindedir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003283.4.2. Bayes karar teorisi Bayesteorisisnflandrmaileminebirolaslkproblemigibiyaklamaktadr.ekil 3.13.deBayesrnttanmasistemininherbirsafhasndakinemlidurumlargsterilmitir. Temel Bayessnflandrcsn da kullanlan byklkler u ekilde tanmlanr : { }sw ...2w ,1w = sadetsonludoaldurum(tannmasistenenrntsnflarnn) kmesi. { }a...2,1A = a adet sonlu mmkn olabilenkarar kmesi dx d-bileenli zellik/rnt vektr |.|

\|jw x p xiin artl olaslk younluk fonksiyonu |.|

\|jw p doal wj durumunda olan ncesel (priori)olaslk |.|

\|xjw p sonrasal (posteriori)olaslk Olaslklar Bayes kuralyla birlikte ilikilendirildiin de :

( ) x pjw pjw x pxjw p|.|

\||.|

\|=|.|

\| Burada, ( ) =|.|

\||.|

\|=s1 jjw pjw x p x p Bayes karar kuralna gre, ( ) . i jiw Karar ise xjw p xiw p |.|

\|> Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200329Bayessnflandrcnnbirokvaryasyonuvegenellemesivardr,fakattemelyap ayndr ve rnt tanma iin yeterlidir. zellikkarc / SeiciSnflandrcBayes Karar KuralDoalDurumlarKararAznitelikvektrXjw) xjw ( p maks)jw ( pnceselolaslklar) xjw ( psonrasalolaslklar)jw x ( partyounluklar ekil 3.13. Bayes rnt tanma sistemi. 3.4.2.1. Snflandrmann doruluk ls Teorikolarak,Bayeskararkuralnnencaziptarafyanllklaveyahataylayaplan snflandrmalarminimizeetmesidir.Hataifadesi,snflandrmadoruluununbirlsn verir ve u ekilde formle edilir.

|.|

\|=|.|

\||.|

\| =|.|

\| =j kdxjw Pjw Pj kjwkR x Pj kjw ,kR x P ) hata (jpkR Burada toplam, x gzlemine uygun olabilen mmkn k kategorilerinin tm zerinden alnr. ntegral, zellik uzaynda gsterilen olaslk younluk fonksiyonlar iletanmlanan Rk blgeleri zerinden alnr. Bylece, x olaslklarnn tmnn hata olaslk toplam gerekte Rj de snflandrldndan Rk blgelerinin iinde hatal snflandrma olup olmad bulunabilir. 3.4.2.2. GvenilirlikGvenilirlik bir kararn kesinlii ile ilgilidir. Yksek kesinlik yksek gvene evrilir, bu dasnflandrcnnkararlarnnkesinolduunugsterir.Gerekliolaslklareldeedildiinde Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200330bir k kararndaki gven sonrasal olaslklar ile aklanabilir. Bir kararn kabul edilmesi ve reddedilmesi,uygungventahminizerinetemeledilebilir.Eerkarardakigvenlikkabul edilebilirbir seviyenin aasnda ise, karar reddedilebilir ve snflandrc sonucu kararsz bir seyir izleyebilir. Bir snflandrc k karar, ayn zamanda karardaki gven tahminini verir ve bu da delile dayanan bir sonusalar. 3.4.2.3 Tahmin iin gerek art Bayessnflandrcnntemeldncesi,artyounlukfonksiyonlar( )jw x p ve ncesel olaslklar( )jw pbilinen veya en kk tahminden biri olabilir. Uygulamada,bu iki olaslktanbirininbilgisineulalamazvebubilginineldeedilmesiiinbayesteorisinin uygulamadakiallagelmiyolukullanlr.renmeyeaitproblemiletahminyapmak sonraki blmlerde aklanacaktr. 3.4.3. Parametrik statistiksel Snflandrc Pratikte,Bayessnflandrmasbilinmeyenartyounluklarntahminettiktensonra ancakyaplabilir.Parametriktahminde,veritemellibilinenbirparametrikekilden varsaylarakekilir.Ancakdatlanparametreleregereksinimveridentahminedilerek olabilir.Pratikte, parametrik biimin bilgisi bir rastlantsal sonutur.

3.4.3.1. Yaps ve matematiksel temeli Verilen bir kategorinin verisi, ok deikenli normal bir younluk ile modellenebildii varsaylr. yle ki; ( )( )( ) ( ) x1 t x21e1/2d/221x p =

Burada;xbird-bileenlistunvektrdr,d-bileenliistenilenvektrdr, dxdkovaryant matris (koordinat sistemi deitiinde tansr bileenleri de birlikte deiir) ve ise nun determinantdr. stenen ve kovaryant matris , bilinmeyen parametrelerile oluturulurkitoplananverilerdentahminyaplabilir.Maksimumolabilirliktahminiveriden karlan byle bilinmeyen parametreleri belirlemek iin bir geleneksel istatistiksel tekniktir. Birletirilen ama fonksiyonu bilinmeyen parametrelerile olaslk younluk fonksiyonunun Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200331logaritmasolaraktanmlananlog-olabilirlikfonksiyonudur.Bufonksiyon( ) x p log olarak yazlrveolabilirlikfonksiyonundan( ) x p oukezanalitikselolarakdahakolaykontrol edilebilir.Bununyannda,logaritmagibimonotonsalolarakartanbirfonksiyondur, ki ( ) x p log yenyksekderecelerekarr,aynzamanda( ) x p deenyksekderecelere karr.okolaslklGaussdurumunda,k.rnek(model)iinlog-olabilirlikfonksiyonuu ekilde verilebilir; ( ) | | ( ) { } ( ) ( ) kx1 tkx21d2 log21,kx p log = Bufonksiyonunmaksimumstandard,optimizasyonteknikleriilebulunabilir.zellikle nn,( ) x p logy en yksek derecelere karmak iin gerekli artlarn bir kmesi aadaki gibi verilebilir; ( ) | | 0 ,kx p log= ( ) | | 0 , x p log = Buartlarnkazanc,adivekovaryantparametreleriiniyibilinenmaksimumolabilirliin tahmin edilmesidir; == N1 kkxN1~ ve ( )( )tN1 k~kx~kxN1 ~= = 3.4.3.2. Maksimum olabilirlik (likelihood) karar verme kural Her ) i k ( N ... , 2 , 1 k = iin ( ) ) ( P karar ) ( P ) ( Pi k i > olaraktanmlanr.Bukuraldarntsnflarnbelirlemedeolaslkyounluk fonksiyonlarndanyaralanlr.Dorudanolaslkyounlukfonksiyonlarnnkullanlmas,bu yntemin zelliidir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003323.4.3.3.EitmeEitme her bir kategori iin ok olaslkl gauss younluundan birinin tahmin edilmesi ileoluur.Yukardakidenklemlerdekimaksimumolabilirlikformlasyonununsonularn kullanarakherbirkategoriiinkovaryantmatrisveistenilenvektrnhesaplanmakiin tahminetmeproblemitanzimedilir.Tanmlanmverigereklidir.Bayesyapsndaart younluklarolarak( ) w x p ,tahminedilenyounluklarkullanlr.HerbirkategoriiinN eitmerneklerininsayszerindematematikselolarakyklenilenbirgereksinimvardr. Yani, d N >>Burada d problemin boyutudur. 3.4.3.4.Test Etme Geneldurumda,Bayesyapskararsreciniizler,buradasonrasalolaslklartahmin edilenartolaslklarndanhesaplanr(ekil3.14).Kazananhepsinialr(Winner-Take-All, WTA)annamacdierbirimlerinkatmanlardangelenenykseksonrasalolaslklarile kategoriyi semektir. En byk k birimi takviye edilir ve dier klar bastrlr, bylece yalnz bir tek k kazandrlr.Ada hesaplanan birimler, k nitelerinin birbiri arasndaki ilikilerebaklarakveherbirbireyselkbirimikullanlarakbuilembaarlr.Mevcut uygulamalarda, sonrasal olaslklarnn maksimum olabilirlik karar art younluklar( )ix p , zerine temellenerek yapld gibihesaplanmasna da gerek yoktur.Giri Vektr( )nx p ( )1x p ( )2x p x1xmx4x3x2Maksimumolabilirlik karar( )1p ( )2p ( )np ( )1 WTAkznBayes Karar Kuralsonrasalolaslklarnceselarlklarart younluklar:ok deikenli Gaussparametrik biimlerxxx ekil 3.14.Parametrik istatistiksel snflandrc. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200333rnek: Bayes karar teorisi tabanl snflandrma Bayes karar teorisi, rnt snflandrma probleminin zm iin temel istatistiksel bir yaklamolup,kararprobleminiolaslkbazdadeerlendirmektevenceselbirolaslk deerden sonrasal bir olaslk deer elde etme ilemi olarak tanmlanmaktadr. ) x |kw ( P ,her k= 1,..K. Yukardakidenklemde,xdeikenininwksnfnaaitolmaolaslngstermektedir. Bylece Bayes Karar kural; ) x ( p)kw | x ( p ).kw ( P) x |kw ( P = Buradabykpharfleriolaslgsterirken,kkpharfleriiseartlolaslk younlukfonksiyonunugstermektedir.Aadakiekildeartlolaslkyounluk fonksiyonlar grlmektedir. ekil: ki snfa gre artl olaslk younluk fonksiyonu Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200334==K1 j)jw | x ( p ).jw ( P ) x ( p Yukardakidenklemileverilenp(x),giriuzaynnartlolaslkyounluk fonksiyonunu ifade eder. Sonu olarak eer P(yi | x) > P(yj | x) ise karar yi snf olacaktr. ekil:w1 ve w2 iin sonrasal olaslk. AyrcaP(yi | x)+ P(yj | x) =1 olmas gerektii unutulmamaldr. rnek:Tekboyutlu,ikisnflbirdatavektrnaadaverilenCauchydalmnnifade ettiinivarsaylmtr.nceselolaslklarndaeikolduukabuledildiindesonrasal olaslklarn da eik olacan ispatlaynz. 2a ax . 2 , 1 i ,ba x11b1) w | x ( p2 12ii+= =|.|

\| += zm: Bayes karar teorisine kuralna gre; Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200335. olacaktir ) x | w ( P ) x | w ( P gre olduguna ) w ( P ) w ( P ; Burada. edilir eldeb 2a a11*b1* ) w ( Pba2a a11*b1* ) w ( P ) x | w ( P; ekilde Benzer. edilir eldeb 2a a11*b1* ) w ( Pba2a a11*b1* ) w ( P ) x | w ( P, seilirse2a ax veba x11*b1* ) w ( P ) x | w ( P)2w | x ( p ).2w ( P )1w | x ( p ).1w ( P ) x ( p. 2 , 1 k) x ( p)kw | x ( p ).kw ( P) x |kw ( P2 1 2 122 12222 12 221 21212 11 12 1211 1= =|.|

\| +=||||.|

\|++=|.|

\| +=||||.|

\|++=+=|.|

\| +=+ == = 3.4.4. Parametrik Olmayan statistiksel Snflandrc Parametrikolamayanistatistikselsnflandrcylaverininyapshakkndavarsaym yaplamaz. Onun yerine, sonrasal olaslklar direk veridentahmin edilebilir. Bylece yaygn yaklam, k-en yakn komu algoritmasdr (kNN, k-Nearest Neighbour).Bu yntem, rnt tanmann en klasik metotlarndan birisi olup, tanmlanmas istenen rntnnvektrn,veritabanndakienyaknkomusununsnfnadahilederektanmlar. Yntem,rnekvektrnistatistikseldalmndanbamszolup,yalnzcaenyakn komunun snfna gre bir snflandrma yaparak tanma ilemini gerekletirir.Buyntemde,rnekrntnnvektralnarak,veritabanndakiherbirvektreolan uzaklllr.Enokkullanlanmesafelsklituzaklolsada,bakaherhangibir l de kullanlabilir. Tanmlanacak olan rnek rntnn vektr, veri tabanndaki kendisine en ok benzeyen, rntnn snfndan saylr (ekil 3.15). Bylece rnek rntnn vektr Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200336en ok hangi snfn iinde yer alyorsa, rnek rnt bu snf trnden bir rnt tipi olarak tanmlanr. Yntem, daha matematiksel olarak aadaki gibi ifade edilebilir : Herhangibirkvektrnnsnflandrlacanvarsayalm.Elimizdekiveritabannda toplamvektrsaysnolsun.Veritabanndakihervektrnsnfbilinmektedirvesnfla vektr arasndaki iliki; C(xi) = j ( j [1,m] )olarak verilir. Yineuzk()adnda,ikivektrarasndakiuzaklverenbirfonksiyonolduunu varsayalm. O halde en yakn komu yntemi u ekilde ifade edilebilir; C(k) = C( min(uzk(k,xi)) ) i [1,n] xi iin ekil 3.15. Veri tabanndaki snflar ve en yakn komu yntemine gre k vektrnn snflandrlmas. Tahmin etmenin en son sonucu u ekilde verilir; ( )Kjkxi p =Burada,( ) x pi sonrasalolaslktrkijkategorisiilex,kjjkategorisindekikomularn saydrveKisehesabakatlanenyaknkomularnsaysdr.K,isteegreseilenklid Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200337uzaklklsdr.Ayrca,busnflandrcpratikdurumdaolanakszsklklagenihafza gereksinimine ihtiya duyduu gibi karlatrma amacn ekil 3.16 ile tamamlamaktadr.Veri azaltma veya kodlama anlamnda, renme meydana gelmez. Tm eitme kmesi hafzada depolanr. Bayes karar kural ile test etme srecine tekrar dnme ve sonu ekil 3.16 de zetlenmitir. GiriVektr( )Nv x, d( )1v x, d( )2v x, dx1xmx4x3x2sonrasal olaslklarx giri vektr ve sakl vprototipi arasndaki uzaklklar1Kategori( )K ... 1 iv , x di=Snflama2KategorikKategoriWTAkazanankategori1/K1/K( )Kkx Pii= SayclarSayma k 2Sayma k 1Sayma k k ekil 3.16.Parametrik olmayan istatistiksel snflandrc : kNN snflandrcs. 3.4.4.1. Uyarlama k-enyaknkomualgoritmasuyarlamadakullanlmaktadr.Tmeitmekmesisktrlmakszn tutulur, bu snflandrc tr evrim ii uyarlamaya olanak salar. Basit bir algoritma,uyarlamayeteneiilebusnflandrcyoluturarakkurulabilir.Uygulamada,iki nemlinoktaygznndetutmakgereklidir.lki,snflandrcdoruolmayananideiimlerirenirvegerekeilimlerikestirmekiinyavaauyarlanmaldr.kincisi, snflandrc nemsiz bilgi ile yararl bilginin yerini almamaldr. Bu iki nemli nokta ancak yenirntdepolanmprototiplerileyeterincekapaliseveancaksnflandrckararnda yeterincekendindeneminisesalamauyarlamayagrebaarlolduusylenir.Eiticisiz uyarlama nedeniyle, snflandrcnn yararl bilgisinin azalan riski vardr. Bu nedenle, nemli olanbalang kmesidir. Minimum gven seviyesi %80 de kurulur. kNN snflandrcsnn uyarlama ilemi aadaki ekilde betimlenmitir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200338 ekil 3.17.kNN snflandrcsnn uyarlama iin algoritmas. 3.4.5. Olaslksal Sinir A Olaslksalsinira(PNN,ProbabilisticNeuralNetwork)birBayessnflandrcnn parametrikolmayanbirgereklemesinigznndebulundurabilir.Bilinmeyenart younluklarParzenpencerelerikullanlaraktahminedilirveBayeskararkuralenyksek olasln k kategorisini elde etmek iin uygulanr. PNNeitim verisinin temel datmna grehibirvarsaymnyaplmadserbestmodel(modeldenbamsz)birtahminedici olarak dnlebilir. 3.4.5.1. Matematiksel temel PNNnintemelinitekiledenfikirParzenpencerelerinikullanarakbilinmeyenart younluklarntahminetmektir.Parzennintekniiverilenbirkategorininherbireitim vektrevresinden-boyutlubirGaussfonksiyonumerkezlemektir.Verilenkategorinin doruolaslkyounlukfonksiyonlarnn(oyf)birtahminiolarakbubireyselgauss servislerinin stne konan, lekleme (blnt) ile ayrlr. n artrmlar ile, tahmin edilen oyf yaklamlar doru oyf 'yi verir. Matematiksel olarak, tahmin edilen oyf u ekildedir; ( )21 N0 i)iy , x ( deN1x f=|||.|

\|= Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200339 Burada dz sabittir,( )iy , x dsaklanm yi rnei ve x test rnei arasndaki uzaklktr, okdeikenlirnek(model)vektrndekibileenlerinsaydrveniseverilen kategorideki eitilen kategorilerin saysdr. Bu formlasyonun avantaj udur ki, birka rnek oyf temelini tekil eden, esnek bir tahmin yapmak iin gereklidir.PNNbutahminetmesrecininparalelbiruygulamasdr.Drtseviyedenoluanyap ekil3.18.dagrlmektedir.Datma(yaylma)katmanbirbalantnoktasgibitemel hizmet verir ve rnt katmannn nronlar arasnda giri vektrnn elemanlarn yayar. Bu ikincikatmankategoritarafndanorganizeedilir,herbirkategoridenherbiriiineitim rneibirnronilegerekletirilir.Herbirrntkatmanbirimitestvektrvesaklanm eitim vektr arasndaki klit uzakln hesaplar. Gauss dorusalszlbu uzaklk lm ileuygulanr.Toplamakatmanndakiherbirbirim,verilenbirsnfnrntkatman klarn ierir ve lekleme (bltleme) bu kategoride eitme rneklerinin saysnn tersi ile toplanr.Toplamakatmannnklartahminedilenartyounluklardr.Sonkatman maksimum olasln kategorisini belirleyen karar katmandr. Giri Vektrx1xmx3x2=((((((

||.|

\|kn0 i2Y X, dekn1 DatmaKatmanrnt Katman(nktane rnek Y)Toplam Katman(kategoriler, k)Karar Katman(Bayes Karar Kural)kazanan kategoriart younluklar2Y X, de((((((

||.|

\|arlklandrmafonksiyonu ekil 3.18.Olaslksal sinir a yaps. 3.4.5.2. Eitme Eitme,rntvektrlerininrntkatmanbirimlerinedorudanpayedildiiandr. Kodlamann meydana gelmedii basit durumdur. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003403.4.5.3. Test etme BirtestvektrPNNyeverildiinde,karardagvenilirbirtahminkadariyiolan kazanan kategori k oluturur. Bu gvenilir tahmin Bayes karar kural kullanlarak, tahmin edilen art younluklarndan hesaplanan sonrasal olaslk ile verilir. Tekrar belirtelim kidenk nceseller, karar maksimum olabilirlik kriteri temelindedir ki, o da art younluklardr. 3.4.5.4. Uyarlama kNNsnflandrcsilebenzerkolaybirekildePNNdeuyarlanr.Aynnemli noktalar gz nne alnr ve bu nedenle uyarlama algoritmas da benzerdir. Bununla birlikte, madem PNN test rnts ve en yakn saklanan prototip arasndaki uzaklk k deilse, baz ilave hesaplamalar bu minimum uzakl bulmak iin gereklidir. Dier bir deyile, algoritma ayndr. ekil 3.19.PNN snflandrcsn uyarlama iin algoritma. 3.4.6. Yapay Sinir A Snflandrcs Yapaysiniralarbiyolojiknronhcresininyapsverenmekarakteristiklerinden esinlenerekgelitirilmibirhesaplamasistemiolup,rnttanmadaokkuvvetli snflandrclardr.Yapaysiniralar,zelliklebilgisayarteknolojisiningelimesiile Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200341mhendisliksahasndaokgenibiruygulamaalanbulmutur.Yapaysiniralar aadaki karakteristiklere sahip paralel bilgi ileme yaplardr :-Biyolojik bir nrondan esinlenerek matematiksel modeli ortaya konmutur. -Birbirine balanan ok fazla saydaki ilem elemanlarndan oluur. -Balant arlklar ile bilgiyi tutar. -Birilemelamangiriuyarlarnadinamikolaraktepkiverebilirvetepkitamamen yerelbilgilerebaldr(ilgiliilemelemannetkileyenbalantlarvebalant arlklar yoluyla gelen giri sinyali). -Eitimverisiileayarlananbalantarlklarsayesinderenme,hatrlamave genelleme yeteneklerine sahiptir. Bustnzellikleri,yapaysiniralarnnkarmakproblemlerizebilmeyeteneini gsterir.ekil3.20.debiyolojiknrondanesinlenerekortayakonmuilemelamannnbasit birmatematikselmodeligsterilmitir.Bumodelde,i.ilemelemannnkaadaki denklem de verilmitir. f(.) a(.)x1x2xmwi2wi1wimArlklariklaryiEikGiriler ekil 3.20.Bir nron hcresinin matematiksel modeli. ||.|

\| = +=m1 ji j ij (t) x w a 1) y(t Buradaa(.)etkinletirmefonksiyonu,iise i.ilemelemannneikdeeridir.lem elemanlarnn bilgi ilemeleri iki ksmdan oluur : Giri ve k. Bir ilem eleman dardan almolduuxjgiribilgilerinibalbulunduklarwijarlklarzerindenbirletirerekbir net deeri retir. i. ilem elemannn net deeri Denklem 2.9. ile hesaplanr. = = m1 ji j ij i ix w net f Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200342Herbirilemelemannnikincisreci,netdeerinibira(.)etkinletirme fonksiyonundangeirerekkdeerinibulmaktr.Etkinletirmefonksiyonlarilem elemanlarnn ok geni aralktaki kn belli aralklara ekmektedir. Bylece her bir ilem elemannntepkisiyumuakolmaktadrvebalantarlklarnndeiimlerinindedaha kk deerlerde olmas salanr. Dolaysyla yapay sinir ann eitiminde, hata deiiminin raksamas engellenerek kararlla ulamasna yardmc olunur. ok yaygn olarak kullanlan bazetkinletirmefonksiyonlar:Birimbasamak,signum,rampa,tekveiftynlsigmoid gibi.Yapaysinirarntsnflandrclarnhempopleryapan,hemdegeleneksel snflandrmametotlarndanayranbirtakmtemelzelliklerivardr.Bunlaraada sralanmaktadr : 1. renme:Yapaysiniralar,rntlerhakkndakiilikiyibelirlibiralgoritmaya dayanarakzmekyerineoilikiyigsterenrntrnekleriniincelemeksuretiyle zmler retirler. Burada, snflandrlacak rnt ile alakal sinir ana rneklerden baka hi bir n bilginin verilmemi olmas dikkat ekicidir. A, kendisine gsterilen rnekleritekrartekrarinceleyerekaradakiilikiyikavramayaalr.Heryenirnek, ansahipolduubilgiyebiryenisinieklervebuilemtekrarettikeilgilirnt snflandrma problemi hakknda baz genellemeler yaplr.2. Genelleme:Alagelmibirtakmsnflandrmakarakteristiklerinde,istenenk retmekiintamolarakdorugirileregereksinimduyulmasdr.teyandanyapay siniralar,girilerindedeiimlerolsabiledorukretebilirler.Yanisistem, dahanceotiptenhibireygrmemiolmasnaramen,insanlargibitamam olmayanveyaksmenhatalgirilerlebile,dorutanmlamayapabilmektedir.Buda iaretetmektedirki,yapaysiniralarkendilerinegsterilenbirrntydahance rendikleriilemukayeseederekvearadakibenzerlikleriortayakoyarak,belirli snflara ayrma zelliklerine sahiptirler. 3. karmyapma: Yapaysinir alar tam doru olmayan bir eitme kmesinden, tam doruyukarabilirler.Sesrntlerinitanmakiineitilmibiryapaysinirana, grlttarafndanbozulmusesverilebilir.Bunarameneitimdensonra,sistem giriibozuksesolmasnaramen,ktasesmkemmelbirekildeoluturulabilir. Yanisistem,eitimkmesininznkarpsaklamtr.Bylece,eksikveya grltl girilere karn uygun ekilde cevap verebilmektedir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003434. Hatatolerans:Verilerdeeerbireksiklikszkonusuolursa,gelenekselyntemler almazlar. Daha nce belirtildii zere, iyi eitilmi ve genelleme kapasitesi yksek bir sinir a, kendisine takdim edilen veriler eksik olsa da karar verme ilemine devam eder.Aynekilde,yapaysinirazerindebirtakmproblemlervebozukluklar olabilir. Geleneksel sistemlerin tersine yapay sinir alar, bu durumda da almalarna devamederler.Verilerdekieksiklikveyayapaysinirandakiyapsalbozukluk arttkayapaysinirannperformansyavayavaazalmayabalar.Fakatsistem fonksiyonunutamamendurdurmazvemutlakabirsonuretilir.Buzellikleryapay sinirannyapsndankaynaklanmaktadr.nkansahipolduubilgi,a zerindeki hcrelerin birbiri ile olan balantlar zerine datlmtr. Zaten byle bir durumda tek bir balant ve onun zerindeki bilgi, bal bana hibir zaman bir mana ifade etmez. Ancak, bir gurup halinde ve tam olarak balantlarn birlikte dnlmesi sonucu anlaml bilgiler retilir. Bundan dolay birka balantnn etkisiz hale gelmesi, sonucuyaetkilemezveyaperformansyavayavadrr.Yapaysinira,sahip olduu dier balantlar nedeniyle ilevine devam eder. Geleneksel sistemlerin ardl almalarndandolay,sistemdekienkkbirhatannveyabozulmann ulaabilecei boyutlar dnlrse, bu zelliin ne kadar nemli olduu ortaya kar. 5. Hz:Gerekzamanuygulamalarndabilgiilemehznemlibiryertekileder. Sistemlerin her geen gn biraz daha karmak olduu, dolays ile daha fazla hacimde veriyidahaverimlibirekildeilemegereklilii,yeniyazlm/donanmsistemlerinin zorunluluunuortayakarmtr.Yapaysiniralarnnda,yinebirbirlerinebalve paralelilemelemanlarndanolutuundanbylehzlileyebilmeleri,bualara zellikleendstriyelhayattaoknemliolangerekzamanlalmakabiliyeti kazandrr.Yaklak60ylncemtevazalmalarilebalayanYSAalmalar,bugnteorik olarakolgunlamvebirokuygulamadayeridoldurulamazbiraraolmutur.Yapaysinir alarnngrevlerinigerekletirmede,sahipolduklarfizikselyapnndanemivardr. Bugn50yeyaknfarklyaplanma,dierbirdeyilefarklmodel,grlmektevebusay hergeengnartmaktadr.Farklyaplama,ilemelemanlarnnbirbirleriileolan balantlarndanveuygulananrenmekuralndankaynaklanmaktadr.lemelemanlarya tamamen birbirleri ile balantl veya yerel olarak guruplar halinde balantl olabildikleri gibi deiik ekilde de birbirleri ile balanabilmektedirler. Bilgi ak bu balantlar zerinden tek ynlolduugibi,iftynldeolabilir.Birgurupilemelemanbirarayagelerekbir Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200344katman olutururlar. Genel itibariyle yapay sinir alarnda 3 tr katman bulunur. Sinir ann ddnyailebalantsnkurangirdikatman,gelenbilgileriilemekabiliyetinesahipara katmanlar ve sinir ann kararlarn d dnyaya aktaran bir kt katman. Girdi katmannda ou zaman bilgi ileme sz konusu olmaz. Bu katmandaki ilem elemanlar aldklar bilgiyi herhangibirdeiiklieuratmadanarakatmandakiilemelemanlarnaaktarrlar.Burada szedilenbilgi,sinirannilemelemanlararasndakibalanthatlarzerindebulunan arlklarlaifadeedilir.Dolaysilebilgi,btnaadatlmdemektir.Bubilgiler,yapay sinir ann belleidir veya dier bir deyile yapay sinir alar eitildikten sonrakullanlaca sistem iin bir veri tabandr. Tm YSA modellerini bir rnt snflandrcs olarak kullanmak mmkndr, fakat en yaygn kullanlan ve en gl rnt snflandrcs ok katmanl ileri beslemeli a olup, tm yapaysinirauygulamalarnn%90nnkaplamaktadr.rntsnflandrcsolarak kullanlan YSA trleri hiyerarik bir biimde ekil 3.21.de gsterilmitir. Yapay Sinir Arnt SnflandrclarEiticili renme Eiticisiz renmeDinamik Alar Statik AlarGeri Beslemeli leri BeslemeliKohonen Haritalar(Kohonen, 1989)Adaptif RezonansTeorisi(ART)(Carpenter, 1987)Tekrarlanan Alar(Pineda, 1988)Hopfield A(Hopfield, 1982)Zaman GeikmeliAlar (TDNN)(Waibel, 1989)Sonlu mpulsCevapl Alar(FIRNN)(Ward, 1998)ok KatmanlAlglayc (MLP)(Hush, 1993)Radyal TabanlFonksiyon Alar(RBF)(Moody, 1989)Olaslksal Alar(PNN)(Specht, 1990)renmeli VektrKuvantalamaAlar (LVQ)(Kohonen, 1988) ekil 3.21. Yapay sinir a rnt snflandrclar. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200345ok katmanl ileri beslemeli yapay sinir a parametrik olmayan bir snflandrcy gz nndetutmaktadr.Verinintemelinitekiledenyaphakkndatahminyaplamayacagibi, ayn zamanda bu bir serbest model tahmin edicidir. katmanl a eitim verisinin sonrasal olaslklar,dorudantahminetmekiinyaygnolarakkullanlr.Yeterinceverilenrnekler, giriverisindenkkategorisieldeedilmesiyleherhangibirrastgeleseilmidorusal olmayan eleme ile renme gerekleebilir. 3.4.6.1.Matematiksel temel ekil3.22.degrlensinirayapsndaherbirbalant,eitmeveyarenmesreci esnasndauyarlanabilenbirarlkdeikeninesahiptir.Girinronlardatmkatmannda olduu gibi benzer ekilde hareket ederler ve PNN deki role ok benzerdir. Bununla birlikte her bir gizli nron, iki ileme tabi tutulur. lkinde, yeni girilerin arlk toplam hesap edilir. Gizli j birimi ile k iin, matematiksel olarak u yazlabilir; = m1 kj kxjkw Burada, jkwgizli j birimi ile k giri birimi arasndaki arlktr, kxk giri biriminden gelensinyaldir, j gizlijbirimiiineikdeeridirvemisegiriinboyutudurveayn zamandagiribirimlerininsaysnadenktir.Birdorusalolmayandnmlenronkn retmek iin bir toplam uygulanr. j 0 jw =ve1 x0 = verilmesi ile, j gizli birimin k u ekilde yazlabilir; |.|

\|=kxm0 kjkw f Buradaf(.)dorusalolmayandntrcolup,aadadenklemiverilenbirsigmoid fonksiyondur. ( )he 11h f+=kbirimlerigizlikatmandanalnangirilerzerindeki,dorusalolmayanilemlerin bir benzer icrasdr. Giriten k reten, yaklatrma fonksiyonu u ekilde yazlabilir; Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200346 ||.|

\||.|

\|===kxm0 kjkw fH0 jijw fiy Burada H gizli birimlerin saysdr, yi 1. k biriminin deeridir ve wij j gizli birim ile i k birimiarasndakibalantnnarldr.Birsnflandrc,xgirivektrileverilen,i kategorisinin sonrasal olaslnn tahmin edicisi olarak bu yaklatrma fonksiyonudur.sonrasal olaslklarGiri Vektrx1xmix2kGiriArakazanan kategoriWTA) x P(jjkijwjkw ekil 3.22.ok katmanl ileri beslemeli sinir a snflandrcs. 3.4.6.2.Eitme Biroptimizasyonproblemiolarak,okkatmanlsiniraeitmeesnasndabelirtilen ama fonksiyonunu minimize etmek iin alr. || | |2iyi21w Ei = Burada,wadakitmarlklarnkapsamlar; iagiriiilesunulduundaikiin istenenktr;ve iy giriiaasunulduuzamaniknngerekdeeridir.wijvewjk arlklarE[w]'nin minimizasyonundadeienparametrelerdir.Optimizasyonproblemibir ardkgradyent(eim)kazanformlasyonuolarak,aadabelirtildiizeredzenlenen arlk kural ile belirtilir : Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200347| |iw Eiw1 iw =+

Buradarenme oran,| |iw E 'dn gradyentidir, wi+1 yeni arlk deeri ve wi ise nceki deerdir.| |iw E gradyent hesaplamak iin geri yaynm (backpropagation) etkili bir yoldur. Bylecesinirasnflandrcs,girileriolarakverilenvewarlklarnnkurulmasnda kullanlan eitme rneklerinden gelen bilgileri kodlarlar. 3.4.6.3.Test Etme Sinirasnflandrcsnnrenmesi,belirtilenmimarisiiindenklemE[.]ile minimizeedilenarlklarayarlanarakgerekleir,yenigirisinyaliiinsonrasalolaslklar nceden bildirilebilir. Katmandan katmanagelen basit sinyal retimlerin de, denklemyi() ile dikte edilen ilemler gerekleir. 3.4.7. Bulank (Fuzzy) Snflandrcs Bir bulank snflandrcnn temelinde, "bir rntnn wi snfna yelik derecesi dr" tanmlamasyatmaktadr.Genelolarakbirbulanksnflandrc,birrntnnmaksimum yelik derecesine sahip olduu snfn bulunmasn salar. Bulanksnflandrclarn,dierbirnemliavantajiselineerolmayanolaylardaki baarlardr.Birnesnehakkndakibilgilerinbelirsizliklerierdiinibelirtmitik;bu belirsizlikleryelikfonksiyonlarileifadeedilebilirler.Snflandrma,bufonksiyonlarn incelenmesinden elde edilen yelik dereceleri ile gerekletirilir.Enokbilinenbulanksnflandrclarise,FuzzyisodataveFuzzyc-mean algoritmasdr. Fuzzy c-mean algoritmas, bir bulank objektif fonksiyonunu optimize etmeyi temelalanvedatanoktalarnnkmelendirilmesiiinenbilinenveenpopleralgoritmadr. Busnflandrcaynzamandaserbestmodeltahminedicivefuzzyc-meankmelemenin genelkavramzerindeesaslanmtr.Snflandrceitimverisizerindeyelik fonksiyonlarnhesaplarvekmelememerkezininyerinibelirler.Yeniverinin snflandrlmasrenilenyelikfonksiyonlarzerinetemellenmitir.Bualgoritmatemel olduundan aada ksaca verilmitir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003483.4.7.1. Matematikseltemel Her bir kme veya kategori prototipi veya merkezi, vi ve bir yelik fonksiyonu veya U ayrlma(blnme) matrisi ile karakterize edilir. U'nun bir elaman olarak, i kategorisindekik rntsnn yelik derecesi ik ifadesi olarak yazlr. Bu yelik ile verilir, 1 m11 j2ivkx11 m12ivkx1ikCN=||||.|

\|||||.|

\|= Burada,NCkategorilerinsaysdr,m; < < m 1 arasndabirfuzzyparametresidirvexkk. eitimrneidir.iftizgisembolbiruzaklklsdr.Mevcutuygulamalarda,klit uzaklolarakbenimsenmektedir.xk rneivimerkezineyaknlatndayelii1're yaklar,uzandaiseyelii0'rayaklar.Yukardakidenkleminpayikmesineuygun olma (dahil olma) miktar olarak yorumlanabilir ve payda ise kmelerin seilen guruba uygun olmaseeneinintoplammiktarolarakyorumlanabilir.Bunedenle,yukardakidenklem yeliin bir normalizasyonudur (ortalamasdr). i. kme merkezi u ekilde verilir: ( )( ) ===nkxmiknmik1iv1 k1 k

Burada,neitimrneklerininsaysdr.Kmemerkezieitimrneklerininbirortalamas olarakdnlebilir,yeliklereuygunolarakarlklanr.Aynzamandasorgulamadaki kategori ile uygun olarak( )= n1 kmikrneinin bulanklk numaras ile normalize edilir. 3.4.7.2.Eitme Eitimesnasnda, aada belirtilen objektif(ama) fonksiyonu minimize edilir: ( ) == CN1 in1 k2ivkxmik Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200349vikmemerkezlerive ik yelikfonksiyonlarminimizasyonesnasndayararlanlabilir parametrelerdir. Ama fonksiyonunun gradyenti, yelik fonksiyonlar ve kme merkezleri ik ve Vi denklemleri ile tanmlanan sistem kazancdr. Bu sistem denklemlerifuzzy kmeleme algoritmas olarak bilinen ardkbir prosedr tarafndanzlebilir. 3.4.7.3.Test Etme Yeni veri verildiinde, eitli kmelere yelikler hesaplanr. Bir ksmi matrisden ziyade bir ksmi vektr, sorguda yalnz bir rnek alnarak hesaplanr. En yksek yelik ile kmeleme ekil 3.23.'daki snflandrc karar olarak seilir. kazanankategoriWTA(x) 1(x) CN(x) 2yelikfonksiyonlargirivektrx1x2 ekil 3.23.Bulank snflandrc. rnek: Fuzzy C-Mean (FCM) Algoritmal Snflandrc Kmeleme,verilerinbenzerlikleriltndealtkmelereveyasnflaraayrmailemi olaraktanmlanr.FCMalgoritmasiteratifbiryapdaolup,aadakidenklemdeverilenJ deerininminimizeedilmesiiinyelikderecesiolanuijvekmelememerkezleriolanvj lerin hesaplanmasna dayanr. Kmelerin balang merkezleri rast gele verilebilir. = = =MiRjj imijv x u J1 12| | ) ( Buradamtasarmparametresi1denbykseilmelidir.Mgiriverisaysn,Risekme saysngstermektedir.Girilerinkmemerkezlerinegreyelikdereceleriiseaadaki Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 200350denklemdekigibihesaplanmaktadr.Dikkatedilmesigerekennemlinokta11==Rjiju olmas gereksinimidir. 11 m1R1 k2|kvix |2|jvix |iju((((((

=|||.|

\|= Eldeedilenyelikderecelerindenyenikmemerkezleriaadakidenklemegreyeniden hesaplanmaktadr.===M1 imijM1 imij inewj) u () u ( xv eldeedilenyenikmemerkeziilebirncekikmemerkeziarasndakifarkistenendeerde ise dng ilemi bitirilir. Saysal Uygulama: Giriverileri((

=6 4 23 2 0G vekmemerkezleri ((

=76 . 4 76 . 347 . 2 89 . 1Vi olacakekildeiki kmeye ayrlmak istenmektedir. m=2, R=2 ve e=0.001 verilmitir. lk iterasyon iin iki snf iinde yelik dereceleri yle olmaktadr: 7746 . 0 2254 . 00803 . 0 9197 . 03271 . 0 6729 . 032 3122 2112 11= == == =u uu uu u zm:Yenimerkezlerise ((

=3820 . 5 4043 . 35410 . 2 366 . 1Vi eldeedilecektir.Eldeedilenyeni merkezlerilebirncekimerkezarasndakifarkedeerindenbykolduusrece,dng devam edecektir. Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003513.4.8. Uyarlamal A Tabanl Bulank karm Sistemi (ANFIS) ile SnflandrmaANFIS(AdaptiveNetworkBasedFuzzyInferenceSystem)in,yapsndahemyapay siniralarhemdebulankmantkkullanlr.YapbakmndanANFIS,bulankkarm sistemindeki eer-ise kurallar ve giri k bilgi iftlerinden oluur. Ancak sistem eitiminde yapay sinir arenme algoritmalar kullanlr. x ve y giri, z ise k olarak alnrsa temel kural yaps u ekilde yazlabilir: Eer x A1 ve y B1 ise 1 1 1 1r y q x p f + + = Burada p ve q lineer k parametreleridir. ki girili ve bir kl bir ANFIS in temel yaps ekil3.24.degrlmektedir.Buyap,5katmanve9adeteer-isekuralkullanlarak oluturulmutur: A1A2A3B1B2B3xy1.Katman2.KatmanNNNNNNNNN3.Katmanx y4. Katmanxy5.Katman2w8w7w6w5w4w3w9w1w1w1 1* f w9 9* f wf ekil 3.24. 2 girili 9 kurall bir ANFIS snflandrc yaps Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003521.Katman:Bukatmandakihcresays,ikigirivebuikigiriinherbirineyelik fonksiyonu tanmlandna gre alt adettir (i=6dr). Buna gre, O1,i=Ai(x), i=1,2,3 iinO1,i=Bi-3(y), i=4,5,6 iin Buradaxveygirilerdir.Bukatmannkkurallarnvarsaym(eer)ksmlarnnyelik fonksiyonlarnaolanyelikdereceleridir.KullanlanyelikfonksiyonuDenklem3de verilmitir.BuradandagrldgibiyelikfonksiyonuolarakGaussyelikfonksiyonu kullanlmtr. Ai(x), Bi-3(y)=) )) /( ) ( exp((2i i ia c x

2. Katman: Burada kurallarn kesinlik dereceleri cebirsel arpm kullanlarak bulunur. O2,i=wi=Ai(x)*Bi(y), i=1,2,3,.,9 3. Katman: Burada kurallarn normalizasyon ilemi yaplmaktadr: O3,i=iw =wi/(w1+w2), i=1,2,3,.,9 4.Katman:Bukatmandanormalizeedilmiherbirkuralkendineaitkfonksiyonuile arplr. O4,i=iw *fi=wi*(pix+qiy+ri) Buradaki p,q ve r lineer parametreleri sonu parametreleri olarak adlandrlr. 5.Katman:4.KatmanklarnntoplanarakANFISknnsaysaldeerininbulunduu ksmdr. O5,i=toplam k = =iiiii ii iwf wf w

Yrd.Do.Dr. brahim Trkolu; Frat niversitesi, Elektronik ve Bilgisayar Eitimi Blm 2003534. RNT TANIMA UYGULAMALARI Seilecek makalelere gre anlatlacaktr. 5. RNT TANIMA SSTEM GELTRME Belirlenecek proje konularna gre yaplacaktr. 6. KAYNAKLAR 1.Trkolu,.,2002.DuraanOlmayanaretleriinZaman-FrekansEntropilerine DayalAkllrntTanma.DoktoraTezi,Fratniversitesi,FenBilimleri Enstits, Elaz 2.A.D. Kulkarni Computer Vision and Fuzzy Neural Systems, Prentice Hall, 20013.E.M. Tzanakou Supervised and Unsupervised Pattern Recognition, CRC Press,2000. 4.Trkolu,.,1999,rntTanmaYntemlerininncelenmesi,DoktoraSemineri, Frat niversitesi, Fen Bilimleri Enstits, Elaz 5.C.M. Bishop Neural Networks for Pattern Recognition, Oxford University, 1996.6.Trkolu,.,1996,Yapaysiniralarilenesnetanma.YksekLisanstezi,Frat niversitesi Fen Bilimleri Enstits, Elaz 7.S.P.BanksSignalProcessing,mageProcessingandPatternRecognition,Prentice Hall, 1990. 8.Y.H.PaoAdaptivePatternRecognitionandNeuralNetworks,AddisonWesley, 1989. 9.R.O. Duda, P.E. Hart Pattern Classification and Scene Analysis, Wiley, 1973.