““INTINTEELIGENTNILIGENTNI” ” RAČUNARSKIRAČUNARSKI SISTEMISISTEMI
Aleksandar JovičićAleksandar Jovičić[email protected]@jovicic.name
(Da li Don Kihot još uvek jaše?)(Da li Don Kihot još uvek jaše?)
Veštačka inteligencijaVeštačka inteligencija(Artificial Intelligence - AI)(Artificial Intelligence - AI)
■ Šta je prirodna inteligencijaŠta je prirodna inteligencija??■ Gde ona “stanuje”Gde ona “stanuje”■ Da li mozak radi kao računarDa li mozak radi kao računar??■ Da li “elektronski mozak” može Da li “elektronski mozak” može
da nas uništida nas uništi??■ Čemu sve to služiČemu sve to služi??
■ ΣΩΚΡAΤΗΣ, ΠΛAΤΩΝ, AΡΙΣΤΟΤEΛΗΣΣΩΚΡAΤΗΣ, ΠΛAΤΩΝ, AΡΙΣΤΟΤEΛΗΣ ... ...■ Hobs, Leibniz, Bool, BabbageHobs, Leibniz, Bool, Babbage ... ...■ Aiken, Eckert & Mauchly ...Aiken, Eckert & Mauchly ...
■ Turing, Shannon ...Turing, Shannon ...
BCBCXVIIXVII
XIXXIX18351835
19441944
19461946
19571957
Back to the future ...Back to the future ...
Prvih deset godinaPrvih deset godina ... ...
■ ““Sajmonovo predskazanjeSajmonovo predskazanje” ” ● svetski prvak u šahusvetski prvak u šahu!!
● veliki matematičarveliki matematičar!!
● superiorni psihologsuperiorni psiholog!!
■ Blistav početakBlistav početak■ EpilogEpilog ... ...
1. 1. fazafaza - - KognitivnaKognitivna simulacijasimulacija(1957-1962)(1957-1962)
■ Prevodjenje jezikaPrevodjenje jezika● mehanički rečnikmehanički rečnik
● mehanička sekretaricamehanička sekretarica
■ RešavanjeRešavanje problemaproblema● GGeneraleneral PProblemroblem SSolverolver (Newell & Simon)(Newell & Simon)
● igreigre
● dokazivanjedokazivanje teoremateorema
■ RaspoznavanjeRaspoznavanje oblikaoblika
Značaj neuspeha 1. fazeZnačaj neuspeha 1. faze
■ Marginalna svestMarginalna svest vsvsheuristički vodjeno pretraživanjeheuristički vodjeno pretraživanje
■ Tolerancija dvosmislenostiTolerancija dvosmislenosti vsvspreciznost oslobodjena kontekstapreciznost oslobodjena konteksta
■ Razlikovanje bitnog od nebitnogRazlikovanje bitnog od nebitnog vsvs pretraživanje na osnovupretraživanje na osnovupokušaja i greškepokušaja i greške
■ Jasno grupisanje Jasno grupisanje vsvsliste obeležjaliste obeležja
2. 2. fazafaza – – Semantička obrada Semantička obrada informacijainformacija (1962-1967)(1962-1967)
■ Samoorganizujući sistemiSamoorganizujući sistemi■ BobrowBobrow--ovov “ “STUDENTSTUDENT””
Program kojiProgram koji “ “Razume engleskiRazume engleski
■ Evans-Evans-ovov program analogijeprogram analogije■ QuillianQuillian--ovov programprogram
semantičkog pamćenjasemantičkog pamćenja
SimptomiSimptomi ... ...
■ Velika početna obećanjaVelika početna obećanja■ Munjevit start i početni uspesiMunjevit start i početni uspesi■ Kombinatorna eksplozijaKombinatorna eksplozija■ StravičanStravičan KRAHKRAH!!
A gde suA gde su ... ...V
ešt
ačk
a inte
ligenci
jaV
ešt
ačk
a inte
ligenci
ja
■ ““Nauka koja činiNauka koja čini da mašine obavljajuda mašine obavljaju stvari koje bistvari koje bi zahtevale inteligencijuzahtevale inteligenciju kada bi ih obavljao čovekkada bi ih obavljao čovek””
M. Minsky, 1968M. Minsky, 1968
■ ““Oblast upravljanjaOblast upravljanja koja istražuje mogućnosti da se koja istražuje mogućnosti da se učini da se računar ponaša na način koji ljudi jedni učini da se računar ponaša na način koji ljudi jedni drugima priznaju kao ‘inteligentno’ ponašanjedrugima priznaju kao ‘inteligentno’ ponašanje””
Feigenbaum i McCorduck, 1983Feigenbaum i McCorduck, 1983
■ ““Deo naukeDeo nauke o računarima sumeren na stvaranje i o računarima sumeren na stvaranje i proučavanje računarskih programa koji ispoljavaju proučavanje računarskih programa koji ispoljavaju ponašajna svojstva koja mi identifikujemo kao ponašajna svojstva koja mi identifikujemo kao inteligentno ponašanjeinteligentno ponašanje - - znanjeznanje, , rezonovanjerezonovanje, , učenjeučenje, , rešavanjerešavanje problemaproblema, , razumevanjerazumevanje jezika i drjezika i dr.”.”
A. Barr, 1983A. Barr, 1983
definicijedefinicije
ŠTA DALJEŠTA DALJE?!??!?
■ Ekspertni sistemiEkspertni sistemi■ FuzzyFuzzy logikalogika■Neuronske mrežeNeuronske mreže■Data mining / KDDData mining / KDD■ Inteligentni agentiInteligentni agenti
““Vreme je novacVreme je novac!”!”
Ekspertni sistemiEkspertni sistemi(Expert Systems - ES)(Expert Systems - ES)
■ Šta suŠta su??■ Zašto su nastaliZašto su nastali??■Da li su bolji odDa li su bolji od
živih eksperataživih eksperata??■ Zašto ih onda koristitiZašto ih onda koristiti??
Zašto koristitiZašto koristiti ES ES ?!??!?
Ušteda u novcuUšteda u novcu Nehumani uslovi radaNehumani uslovi rada Nedostatak živog ekspertaNedostatak živog eksperta ... ...
Eks
pert
ni si
stem
iEks
pert
ni si
stem
i
Performanse
Procenat ljudi
Performanse tipičnog ekspertnog sistema
Performanse ljudi
Dobitak u performansama postignut korišćenjem ekspertnih sistema
PodelaPodela ES ES po tipupo tipu tehnologijetehnologije
■ TradicionalniTradicionalni((koriste uglavnom razradjene i uhodane koriste uglavnom razradjene i uhodane metode i tehnike predstavljanja znanjametode i tehnike predstavljanja znanja))
■ SavremeniSavremeni((mnogo razradjeniji sistemi za akviziciju mnogo razradjeniji sistemi za akviziciju znanja, sposobnost automatskog učenja, znanja, sposobnost automatskog učenja, bolji korisnički interfejs, nove tehnike za bolji korisnički interfejs, nove tehnike za predstavljanje znanjapredstavljanje znanja))Eks
pert
ni si
stem
iEks
pert
ni si
stem
i
PodelaPodela ES ES po namenipo nameni
■ za interpretacijuza interpretaciju ( (identifikovanjeidentifikovanje//prepoznavanjeprepoznavanje objekata medju velikim brojem ulaznih podatakaobjekata medju velikim brojem ulaznih podataka),),
■ za dijagnozuza dijagnozu ( (otkrivanje nepravilnosti u radu nekog otkrivanje nepravilnosti u radu nekog sistemasistema//organizmaorganizma),),
■ za monitoringza monitoring ( (nadgledanje rada sistemanadgledanje rada sistema),),
■ za kontroluza kontrolu ( (kontrola proizvodnog procesakontrola proizvodnog procesa//stanjastanja),),
■ za predvidjanjeza predvidjanje ( (predvidjanje budućih dogadjaja na predvidjanje budućih dogadjaja na osnovu trenutnih stanjaosnovu trenutnih stanja),),
■ za dizajnza dizajn / / planiranjeplaniranje ((sklapanje računarskih sklapanje računarskih konfiguracija, izrada planovakonfiguracija, izrada planova), ),
■ za edukacijuza edukaciju / / instruktažuinstruktažu ( (podučavanje budućih podučavanje budućih eksperata, treningeksperata, trening))
Eks
pert
ni si
stem
iEks
pert
ni si
stem
i
PodelaPodela ES ES po tehnikamapo tehnikama predstavljanja znanjapredstavljanja znanja
■ ESES sa deklarativnimsa deklarativnimpredstavljanjem znanjapredstavljanjem znanja((znanje je u odvojenim modulima, olakšano je znanje je u odvojenim modulima, olakšano je dodavanje novog znanja i izmena postojećeg ali se dodavanje novog znanja i izmena postojećeg ali se javlja problem brzinejavlja problem brzine))
■ ESES sa proceduralnimsa proceduralnimpredstavljanjem znanjapredstavljanjem znanja((znanje je ugradjeno u kod i otežano je dodavanje i znanje je ugradjeno u kod i otežano je dodavanje i izmena novog, medjutim dolazi do dobitaka u brziniizmena novog, medjutim dolazi do dobitaka u brzini))E
kspert
ni si
stem
iEks
pert
ni si
stem
i
StrukturaStruktura ESESEks
pert
ni si
stem
iEks
pert
ni si
stem
i
Korisnici
KORISNIČKI INTERFEJS
MEHANIZAM ZAKLJUČIVANJA
BAZA ZNANJA
RADNA MEMORIJA
Eksperti
Inženjer znanja
Predstavljanje znanjaPredstavljanje znanja
■ Semantičke mrežeSemantičke mreže■ TrojkeTrojke ObjekatObjekat--AtributAtribut--VrednostVrednost■ Produkciona pravilaProdukciona pravila■ FrejmoviFrejmovi■ LogikaLogika■ FuzzyFuzzy sistemisistemi
i neuronske mrežei neuronske mrežeEks
pert
ni si
stem
iEks
pert
ni si
stem
i
Semantičke mrežeSemantičke mreže
Eks
pert
ni si
stem
iEks
pert
ni si
stem
i
Program
Ekspertni sistem
je
Korisnički interfejs ima
Bazu znanja
ima
Mehanizam zaključivanja
ima
“MYCIN”
je
Dijagnostički ES
je vrste
Produkciona pravilaProdukciona pravila
Eks
pert
ni si
stem
iEks
pert
ni si
stem
i
b001: b001: prisutni simptomiprisutni simptomi je tačnoje tačno
... ... ako suako su SVISVI dole navedeni uslovi zadovoljenidole navedeni uslovi zadovoljeni Iznenadan bolIznenadan bol? ? nije netačnonije netačno Jak bolJak bol? ? je tačnoje tačno s001: s001: simptomi infekcijesimptomi infekcije je tačnoje tačno
Prisutni simptomi mastitisaPrisutni simptomi mastitisa
s001: s001: simptomi infekcijesimptomi infekcije je tačnoje tačno... ... ako suako su SVISVI dole navedeni uslovi zadovoljenidole navedeni uslovi zadovoljeni Bol u dojciBol u dojci?? nije netačnonije netačno Toplina u dojciToplina u dojci?? nije netačnonije netačno Otok na dojciOtok na dojci?? nije netačnonije netačno CrveniloCrvenilo?? nije netačnonije netačno s001 s001 bar jedan od poslednja tribar jedan od poslednja tri je tačnoje tačno
PostojePostoje simptomisimptomi infekcijeinfekcije
FrejmoviFrejmovi (Frames)(Frames)
Eks
pert
ni si
stem
iEks
pert
ni si
stem
i
Mehanizam zaključivanjaMehanizam zaključivanja
■ Backward chainingBackward chaining■ Forward chainingForward chaining■ Prepoznavanje uzorakaPrepoznavanje uzoraka■ Razrešavanje konflikataRazrešavanje konflikata■ Black boardBlack board■ LogikaLogikaEks
pert
ni si
stem
iEks
pert
ni si
stem
i
Pretraživanje na grafuPretraživanje na grafu
Eks
pert
ni si
stem
iEks
pert
ni si
stem
i
A
B C
D EF
G
• Pretraživanje po dubiniPretraživanje po dubini• Pretraživanje po širiniPretraživanje po širini
Forward chainingForward chainingEks
pert
ni si
stem
iEks
pert
ni si
stem
i
A
B C
D EF
• Vodjeno podacimaVodjeno podacima
G
Backward chainingBackward chainingEks
pert
ni si
stem
iEks
pert
ni si
stem
i
A
B C
D EF
G
• Vodjeno ciljemVodjeno ciljem
LogikaLogika
■ Iskazni računIskazni račun■ Predikatski računPredikatski račun
Eks
pert
ni si
stem
iEks
pert
ni si
stem
i
Modus PonensModus PonensA->B &A->B &AA
=>=>BB
FuzzyFuzzy skupoviskupovi
■ Šta suŠta su FuzzyFuzzy skupovi skupovi ??■Da li neko može da bude Da li neko može da bude
““malo mrtavmalo mrtav”” ??■Gde se koriste Gde se koriste ??■Koje su im prednostiKoje su im prednosti ? ?
FuzzyFuzzy funkcije pripadnosti funkcije pripadnosti
■Ko je visok a ko nizakKo je visok a ko nizak ?!??! ?!??!
Fuzz
yFu
zzy s
kupovi
sku
povi
160 200
nizaknizak visokvisok1
0.50
0170 190
0.25
0.75
ObliciOblici fuzzyfuzzy funkcija pripadnostifunkcija pripadnosti
Fuzz
yFu
zzy s
kupovi
sku
povi
NormalnostNormalnost fuzzyfuzzy skupaskupaFu
zzy
Fuzz
y s
kupovi
sku
povi
160 200
AA1
0.40
0180
BB
AA - - NormalanNormalanBB - - SubSub--normalannormalan
185
Osnovne operacije saOsnovne operacije sa fuzzyfuzzy skupovimaskupovima
Fuzz
yFu
zzy s
kupovi
sku
povi
PresekPresek
UnijaUnija
NegacijaNegacija
PresekPresek ...... ...... ffa*ba*b(x)=min{f(x)=min{faa(x),f(x),fbb(x)}(x)}
UnijaUnija ........ ........ ffa+ba+b(x)=max{f(x)=max{faa(x),f(x),fbb(x)}(x)}
NegacijaNegacija ... ... ff-a-a(x)=1-f(x)=1-faa(x)(x)
Operatori modifikacijeOperatori modifikacijeFu
zzy
Fuzz
y s
kupovi
sku
povi
Množenje skalaromMnoženje skalarom
Množenje skalaromMnoženje skalarom ... ... ffaAaA(x)=af(x)(x)=af(x)
StepenovanjeStepenovanje ... ... ffAAaa(x)=(f(x))(x)=(f(x))aa
NormalizacijaNormalizacija ... ... NORM(A)=A/f’NORM(A)=A/f’aa
Pojačavanje kontrastaPojačavanje kontrasta ... ... ffINT(A)INT(A)(x)={2(f(x)={2(faa(x)(x)22 ... /0<=f ... /0<=faa(x)<=0.5/,(x)<=0.5/, 1-2[1-f1-2[1-faa(x)](x)]22 ... /0.5<=f ... /0.5<=faa(x)<=1/}(x)<=1/}
StepenovanjeStepenovanje
NormalizacijaNormalizacija
AA
AA
Pojačavanje kotrastaPojačavanje kotrasta
AA
A’A’
A’A’
A’’A’’
AA
A’A’ A’A’
KoncentrisanjeKoncentrisanje ... CONC(A)=A... CONC(A)=A22
ProširenjeProširenje ... DIL(A)=A... DIL(A)=A0.50.5
ModifikatoriModifikatorilingvističkih izrazalingvističkih izraza
Fuzz
yFu
zzy s
kupovi
sku
povi
veomaveoma A = A = CONC(A)CONC(A)
manjemanje--viševiše A = A = DIL(A)DIL(A)
poneštoponešto A = A = NORM(A NORM(A i nei ne ( (veomaveoma A)) A))
tipatipa A = A = NORM(NORM(nene CONC CONC22(A) (A) ii DIL(A)) DIL(A))
priličnoprilično A = A = NORM(INT(A) NORM(INT(A) i nei ne INT(CONC(A))) INT(CONC(A)))
izuzetnoizuzetno A = A = NORM(INT(A))NORM(INT(A))
Neuronske mrežeNeuronske mreže■Da li neuronske mreže misleDa li neuronske mreže misle??■Da li one mogu da sanjajuDa li one mogu da sanjaju??■A za šta se one koristeA za šta se one koriste??■ Jkasdnj&^%$&*&jd&*## :)Jkasdnj&^%$&*&jd&*## :)■Koliko seKoliko se “ “računarskeračunarske
neuronske mreženeuronske mreže””razlikuju od biološkihrazlikuju od bioloških??
??????
Model neuronaModel neurona
ZakonZakon “ “Sve ili ništaSve ili ništa””
QQwwi1i1
wwi2i2
wwinin
...
y=f(sum(xy=f(sum(xiiwwijij)-Q))-Q)
Neuro
nsk
e m
reže
Neuro
nsk
e m
reže
Funkcije aktivacijeFunkcije aktivacijeN
euro
nsk
e m
reže
Neuro
nsk
e m
reže
Q
Q
Neke osobineNeke osobine
■ Broj slojevaBroj slojeva■ RekurentnostRekurentnost■ ObučavanjeObučavanje■ Back-propagationBack-propagation
Neuro
nsk
e m
reže
Neuro
nsk
e m
reže
Vrste neuronskih mrežaVrste neuronskih mreža
■ PerceptronPerceptron ((nerekurentannerekurentan))
■ Hopfield-Hopfield-ovaova ((rekurentna jednoslojnarekurentna jednoslojna))
■ Boltzmann-Boltzmann-ova mašinaova mašina((modifikovanamodifikovana HopfieldHopfield--ovaova))
■ Celularne mrežeCelularne mreže ((po uzoru na ćelijske automatepo uzoru na ćelijske automate))
■ Heming-Heming-ovaova ((rekurentnarekurentna + + propagacionapropagaciona))
■ Kohonen-Kohonen-ovaova ((samoorganizujućasamoorganizujuća, , preslikavajućapreslikavajuća))
■ Dvostruko asocijativnaDvostruko asocijativna ((dvoslojnadvoslojna, , rekurentnarekurentna))Neuro
nsk
e m
reže
Neuro
nsk
e m
reže
Data miningData mining
““Računari su nam obećaliRačunari su nam obećalifontanu mudrostifontanu mudrosti
a sve što smo dobilia sve što smo dobilije samo poplava podatakaje samo poplava podataka””
Jedan isfrustrirani Jedan isfrustrirani menadžer iz SAD menadžer iz SAD
Knowledge DiscoveriesKnowledge Discoveriesin Databases (KDD)in Databases (KDD)
Data miningData mining* * StatističariStatističari, , analitičarianalitičari, , MenadžeriMenadžeri
* * IstraživačiIstraživači iz veštačke inteligencije i mašinskog učenjaiz veštačke inteligencije i mašinskog učenja
?!??!?!??!
KDD KDD ii Data miningData mining
Prikupljanje i raspakivanjePrikupljanje i raspakivanje uskladištenih podatakauskladištenih podataka
Velikabaza
podataka
Ciljnipodaci
SelekcijaSelekcija
Pretprocesirani podaci
Transformisani podaci
PretprocesiranjePretprocesiranje
TransformisanjeTransformisanje
Data miningData miningPattern-i/Trendovi
Znanje
TumačenjeTumačenje
KDD KDD ii Data miningData mining
Prikupljanje i raspakivanjePrikupljanje i raspakivanje uskladištenih podatakauskladištenih podataka
Velikabaza
podataka
Ciljnipodaci
SelekcijaSelekcija
Pretprocesirani podaci
Transformisani podaci
PretprocesiranjePretprocesiranje
TransformisanjeTransformisanje
Data miningData miningPattern-i/Trendovi
Znanje
TumačenjeTumačenje
Data Data WarehouseWarehouse
OLAPOLAP
NetrivijalnaNetrivijalnaekstrakcija informacija iz podatkaekstrakcija informacija iz podatka
za koje važi da suza koje važi da su::
implicitne,implicitne,prethodno nepoznateprethodno nepoznatei potencijalno korisnei potencijalno korisne
Frawley, 1992Frawley, 1992
Knowledge DiscoveriesKnowledge Discoveriesin Databases (KDD)in Databases (KDD)
1989
Ostali naziviOstali nazivi ... ...
■ Data miningData mining
■ Knowledge extractionKnowledge extraction
■ Data pattern processingData pattern processing
■ Data archeologyData archeology
■ Information harvestingInformation harvesting
■ SiftwareSiftware
■ ......
Knowledge DiscoveriesKnowledge Discoveriesin Databases (KDD)in Databases (KDD)
KDDKDD i srodne oblastii srodne oblasti
StatistikaStatistika•Podaci se ne koriste više putaPodaci se ne koriste više puta
((model se definiše unapredmodel se definiše unapred))•Generalizacija na populacijuGeneralizacija na populaciju
((na osnovu uzorkana osnovu uzorka))•Uglavnom numerički podaciUglavnom numerički podaci
Mašinsko učenjeMašinsko učenje (Machine Learning)(Machine Learning)•Znanje često nerazumljivo za korisnikaZnanje često nerazumljivo za korisnika•Komplikovaniji algoritmi bez učešća korisnikaKomplikovaniji algoritmi bez učešća korisnika•Manje podatakaManje podataka•Širi pojamŠiri pojam
KDDKDD zadacizadaci
■ KlasifikacijaKlasifikacija
■ Odredjivanje klasteraOdredjivanje klastera//taksonataksona
■ Utvrdjivanje zavisnosti unutar slogaUtvrdjivanje zavisnosti unutar sloga
■ Utvrdjivanje vremenskih zavisnostiUtvrdjivanje vremenskih zavisnosti
■ DiskriminacijaDiskriminacija//tipične vrednostitipične vrednosti
■ ......
KlasifikacijaKlasifikacija
PodaciPodaci pripadajupripadaju nekojnekoj odod unapredunapred utvrdjenihutvrdjenih klasaklasa
Prihod StarostIstorija
transakcijaUlazni slojUlazni sloj
Medju-slojMedju-sloj
Disciplinovanštediša
Problematičanštediša
Izlazni slojIzlazni sloj
Neuronska mrežaNeuronska mreža
PodaciPodaci pripadajupripadaju nekojnekoj odod unapredunapred utvrdjenihutvrdjenih klasaklasa
PrihodPrihod > > $40,000? $40,000?
StarostStarost < 40 < 40 godinagodina
Stablo odlučivanjaStablo odlučivanja
KreditnaKreditna istorijaistorija > 2 > 2 godinegodine
NedisciplinovanNedisciplinovanštedišaštediša
DisciplinovanDisciplinovanštedišaštediša
DisciplinovanDisciplinovanštedišaštediša
nene dada
nene dada nene dada
KlasifikacijaKlasifikacija
Odredjivanje klasteraOdredjivanje klastera
Klase nisu unapred poznateKlase nisu unapred poznatei formiraju se na osnovu podatakai formiraju se na osnovu podataka
((maksimalna sličnost unutar klasamaksimalna sličnost unutar klasa iimaksimalna razlika medju klasamamaksimalna razlika medju klasama))
■ Cluster analysisCluster analysis
■ Vizuelne metodeVizuelne metode
Odredjivanje klasteraOdredjivanje klastera
Klase nisu unapred poznateKlase nisu unapred poznatei formiraju se na osnovu podatakai formiraju se na osnovu podataka
((maksimalna sličnost unutar klasamaksimalna sličnost unutar klasa iimaksimalna razlika medju klasamamaksimalna razlika medju klasama))
■ Cluster analysisCluster analysis
■ Vizuelne metodeVizuelne metodePotencijalan kupac
“Osvojen” od konkurencije
Utvrdjivanje zavisnostiUtvrdjivanje zavisnostiunutar slogaunutar sloga
Predikcija jednog podatkaPredikcija jednog podatkana osnovu drugogna osnovu drugog
u okviru iste transakcijeu okviru iste transakcije//slogasloga((UtvrdjivanjeUtvrdjivanje patternpattern--aa))
■ Apriori Apriori algoritamalgoritam
■ DHP DHP algoritamalgoritam
■ ...... • 95% 95% kupacakupaca Coca-ColaCoca-Cola, , kupujekupuje i i kokice proizvodjačakokice proizvodjača А А
• 87% 87% kupacakupaca Coca-ColaCoca-Cola i kokicai kokica proizvodjačaproizvodjača А, А, kupuje i grisinekupuje i grisine
UtvrdjivanjeUtvrdjivanjevremenskih zavisnostivremenskih zavisnosti
Predikcija jednog podatkaPredikcija jednog podatkana osnovu drugogna osnovu drugog
zavisno od redosleda ili vremenazavisno od redosleda ili vremena
■ MPTPMPTP algoritamalgoritam
■ Vizuelne metodeVizuelne metode
• 73% 73% kupaca koji kupe televizorkupaca koji kupe televizor, , u u periodu odperiodu od 3 3 meseca kupe i DVD plejermeseca kupe i DVD plejer
• 87% 87% posetilacaposetilaca mestamesta А А posleposle togatoga poseteposete i mestoi mesto BB
DiskriminacijaDiskriminacija / /tipičnetipične vrednostivrednosti
IdentifikovanjeIdentifikovanje osobinaosobina koje su koje su dovoljne za razlikovanje dve klasedovoljne za razlikovanje dve klase
Utvrdjivanje tipičnih vrednosti koje Utvrdjivanje tipičnih vrednosti koje služe kao reference za poredjenjesluže kao reference za poredjenje
• Osobe koje plaćaju gotovinomOsobe koje plaćaju gotovinomsu štedljivijesu štedljivije
• TipičanTipičan ““srpski biznismensrpski biznismen” ” imaimamobilnimobilni telefon, zlatni lanac i skup autotelefon, zlatni lanac i skup auto
1.1. A B C D E A B C D E 2 3 5 4 52 3 5 4 5
Primer nalaženjaPrimer nalaženja zavisnosti unutar slogazavisnosti unutar sloga
AprioriApriori algoritamalgoritam
Baza podatakaBaza podataka
ID DataID Data1 A B C E1 A B C E2 A C D2 A C D3 B C D E3 B C D E4 B E4 B E5 C D E5 C D E6 C D E6 C D E
ss – – Faktor podrškeFaktor podrške(support)(support)
cc – – Faktor poverenjaFaktor poverenja(confidence)(confidence)
ss =50%=3 =50%=3cc = =7575%%
AprioriApriori algoritamalgoritam
Baza podatakaBaza podataka
ID DataID Data1 A B C E1 A B C E2 A C D2 A C D3 B C D E3 B C D E4 B E4 B E5 C D E5 C D E6 C D E6 C D E
ss – – Faktor podrškeFaktor podrške(support)(support)
cc – – Faktor poverenjaFaktor poverenja(confidence)(confidence)
ss =50%=3 =50%=3cc = =7575%%
1.1. A B C D E A B C D E 2 3 5 4 52 3 5 4 5X
Primer nalaženjaPrimer nalaženja zavisnosti unutar slogazavisnosti unutar sloga
AprioriApriori algoritamalgoritam
Baza podatakaBaza podataka
ID DataID Data1 A B C E1 A B C E2 A C D2 A C D3 B C D E3 B C D E4 B E4 B E5 C D E5 C D E6 C D E6 C D E
ss – – Faktor podrškeFaktor podrške(support)(support)
cc – – Faktor poverenjaFaktor poverenja(confidence)(confidence)
ss =50%=3 =50%=3cc = =7575%%
AprioriApriori algoritamalgoritam
Baza podatakaBaza podataka
ID DataID Data1 A B C E1 A B C E2 A C D2 A C D3 B C D E3 B C D E4 B E4 B E5 C D E5 C D E6 C D E6 C D E
ss – – Faktor podrškeFaktor podrške(support)(support)
cc – – Faktor poverenjaFaktor poverenja(confidence)(confidence)
ss =50%=3 =50%=3cc = =7575%%
2.2. B C D E B C D E 3 5 4 53 5 4 5
Primer nalaženjaPrimer nalaženja zavisnosti unutar slogazavisnosti unutar sloga
AprioriApriori algoritamalgoritam
Baza podatakaBaza podataka
ID DataID Data1 A B C E1 A B C E2 A C D2 A C D3 B C D E3 B C D E4 B E4 B E5 C D E5 C D E6 C D E6 C D E
ss – – Faktor podrškeFaktor podrške(support)(support)
cc – – Faktor poverenjaFaktor poverenja(confidence)(confidence)
ss =50%=3 =50%=3cc = =7575%%
AprioriApriori algoritamalgoritam
Baza podatakaBaza podataka
ID DataID Data1 A B C E1 A B C E2 A C D2 A C D3 B C D E3 B C D E4 B E4 B E5 C D E5 C D E6 C D E6 C D E
ss – – Faktor podrškeFaktor podrške(support)(support)
cc – – Faktor poverenjaFaktor poverenja(confidence)(confidence)
ss =50%=3 =50%=3cc = =7575%%
3.3. BC BD BE CD CE DE BC BD BE CD CE DE 2 1 2 1 3 4 4 33 4 4 3
{{ B C D E B C D E }}
Primer nalaženjaPrimer nalaženja zavisnosti unutar slogazavisnosti unutar sloga
AprioriApriori algoritamalgoritam
Baza podatakaBaza podataka
ID DataID Data1 A B C E1 A B C E2 A C D2 A C D3 B C D E3 B C D E4 B E4 B E5 C D E5 C D E6 C D E6 C D E
ss – – Faktor podrškeFaktor podrške(support)(support)
cc – – Faktor poverenjaFaktor poverenja(confidence)(confidence)
ss =50%=3 =50%=3cc = =7575%%
3.3. BC BD BE CD CE DE BC BD BE CD CE DE 2 1 2 1 3 4 4 33 4 4 3X X
{{ B C D E B C D E }}
Primer nalaženjaPrimer nalaženja zavisnosti unutar slogazavisnosti unutar sloga
AprioriApriori algoritamalgoritam
Baza podatakaBaza podataka
ID DataID Data1 A B C E1 A B C E2 A C D2 A C D3 B C D E3 B C D E4 B E4 B E5 C D E5 C D E6 C D E6 C D E
ss – – Faktor podrškeFaktor podrške(support)(support)
cc – – Faktor poverenjaFaktor poverenja(confidence)(confidence)
ss =50%=3 =50%=3cc = =7575%%
4. 4. BE CD CE DE BE CD CE DE 3 4 4 33 4 4 3
{{ B C D E B C D E }}
Primer nalaženjaPrimer nalaženja zavisnosti unutar slogazavisnosti unutar sloga
AprioriApriori algoritamalgoritam
Baza podatakaBaza podataka
ID DataID Data1 A B C E1 A B C E2 A C D2 A C D3 B C D E3 B C D E4 B E4 B E5 C D E5 C D E6 C D E6 C D E
ss – – Faktor podrškeFaktor podrške(support)(support)
cc – – Faktor poverenjaFaktor poverenja(confidence)(confidence)
ss =50%=3 =50%=3cc = =7575%%
5.5. CDE CDE 33
{{ B C D E B C D E }}{ { BE CD CE DE BE CD CE DE }}
Primer nalaženjaPrimer nalaženja zavisnosti unutar slogazavisnosti unutar sloga
AprioriApriori algoritamalgoritam
Baza podatakaBaza podataka
ID DataID Data1 A B C E1 A B C E2 A C D2 A C D3 B C D E3 B C D E4 B E4 B E5 C D E5 C D E6 C D E6 C D E
ss – – Faktor podrškeFaktor podrške(support)(support)
cc – – Faktor poverenjaFaktor poverenja(confidence)(confidence)
ss =50%=3 =50%=3cc = =7575%%
33 B -> E B -> E 3 3 100%100%55 E -> B E -> B 3 3 60%60%55 C -> D C -> D 4 4 80%80%44 D -> C D -> C 4 4 100%100%55 C -> E C -> E 4 4 80%80%55 E -> C E -> C 4 4 80%80%44 D -> E D -> E 3 3 75%75%55 E -> D E -> D 3 3 60%60%
{{ B C D E B C D E }}
{{ CDE CDE }}44 CD -> E CD -> E 3 3 75%75%44 CE -> D CE -> D 3 3 75%75%33 DE -> C DE -> C 3 3 100%100%55 C -> DE C -> DE 3 60%3 60%44 D -> CE D -> CE 3 3 75%75%55 E -> CD E -> CD 3 60%3 60%
{ { BE CD CE DE BE CD CE DE }}
AprioriApriori algoritamalgoritam
Baza podatakaBaza podataka
ID DataID Data1 A B C E1 A B C E2 A C D2 A C D3 B C D E3 B C D E4 B E4 B E5 C D E5 C D E6 C D E6 C D E
ss – – Faktor podrškeFaktor podrške(support)(support)
cc – – Faktor poverenjaFaktor poverenja(confidence)(confidence)
ss =50%=3 =50%=3cc = =7575%%
Primer nalaženjaPrimer nalaženja zavisnosti unutar slogazavisnosti unutar sloga
LiteraturaLiteratura
■ Hubert L. DreyfusHubert L. Dreyfus“ŠTA RAČUNARI NE MOGU“ŠTA RAČUNARI NE MOGU””
■ Miroslav JockovićMiroslav Jocković““VEŠTAČKA INTELIGENCIJAVEŠTAČKA INTELIGENCIJA””
■ Vladan DevedžićVladan Devedžić““EKSPERTNI SISTEMI ZA RADEKSPERTNI SISTEMI ZA RADU REALNOM VREMENUU REALNOM VREMENU””
■ Pero SubašićPero Subašić““FAZI LOGIKA I NEURONSKE MREŽEFAZI LOGIKA I NEURONSKE MREŽE””
■ Vladan DevedžićVladan Devedžić““INTELIGENTNI INFORMACIONI SISTEMIINTELIGENTNI INFORMACIONI SISTEMI””
““INTELIGENTNIINTELIGENTNI” ” RAČUNARSKI SISTEMIRAČUNARSKI SISTEMI
(Da li Don Kihot još uvek jaše?)(Da li Don Kihot još uvek jaše?)
DA SAMO ŠTO JE UMESTO KOPLJA UZEO PUŠKUDA SAMO ŠTO JE UMESTO KOPLJA UZEO PUŠKU
Aleksandar JovičićAleksandar Jovičić[email protected]@jovicic.name
http://www.jovicic.name/isp/iis.pdfhttp://www.jovicic.name/isp/iis.pdf