Dinamikus programozás• Problémamegoldási megközelítés – (rossz fordítás)

• Oszd meg és uralkodj: független részproblémák

• Dinamikus programozás esetén nem függetlenek. (Az Oszd meg és uralkodj feleslegesen többet dolgozna)

• Jellemzése:1. Vázoljuk az optimális megoldás szerkezetét2. Adjunk rekurzív definíciót az értékére3. Alulról-felfelé (bottom-up) kiszámítjuk a részproblémák optimális megoldásait4. Ezeket kombinálva kiszámítjuk az egész probléma optimális megoldását

Dinamikus programozási példa: Mátrixsorozat összeszorzása

• M1 M2…Mn – a mátrixszorzás asszociatív, de nem kommutatív. Viszont nem egyformán hatékony a zárójelezéselétezik optimális zárójelezés

• iMj1 jMk

2…lMmniMm – a szorzótényezők sor-oszlop

kompatibilisek kell, hogy legyenek

• iMj1 jMk

2 időigénye: i*j*k. Például…

• (10x100 * 100x5) * 5x50 5000 + 2500Viszont...

• 10x100 * (100x5 * 5x50) 25000+50000

Mátrixszorzás• Melyik az oszlop és melyik a sor?• Közös dimenziójú oszlop- ill. sorpárok elemeit

összeszorozzuk és összeadjuk. Az eredmény: sorok száma az elsőből, oszlopok száma a másodikból

• Mátrixszorzat(A,B)if oszlop(A)<>sor(B) then errorelse for i=1 to sor(A)

do for j=1 to oszlop(B) do C[i,j]=0 for k=1 to oszlop(A)

do C[i,j]=C[i,j]+A[i,k]*B[k,j]return C

Szorzások számának becslése az összes lehetőség végigvizsgálásával?

• Exponenciális algoritmus!!

• Egyetlen újabb mátrixtényező hozzávétele a lehetőségek számát legalább megkétszerezi (bár nem lenne muszáj mindent újra kiszámítani)

• iMj1 jMk

2…lMmnPn, akkor Pn+1>Pn*2

• P(1)=1;P(n)= k=0Σn-1 P(k) *P(n-k), ha n>=2

• Észrevétel: (M1M2…Mk )*(Mk+1…Mn) Ha a teljes szorzat optimális, akkor a részszorzatainak is optimálisnak kell lenni.

Hányféle lehetőség van a szorzatszámbecslésre

Rekurzív (naív) megoldás

• Legyen m[i,j] az Mi..j szorzatszakasz optimális kiszámításának szorzatszáma. (1<i,j<n)

• m[i,i] = 0m[i,j]=mini<=k<j(m[i,k]+m[k+1,j]+

+sor(i)*oszlop(k)*oszlop(j))

• k szerinti ciklusban, az m szerinti rekurzív hívással (FentrőlLefelé-TeljestőlRészekig-TopDown - FeketeLuk megközelítés) exponenciális idő, mert a részfeladatokat esetleg többször is megoldja átfedő részfeladatok

Szorzások számának becslése• Hány részfeladat van összesen? Ahány m[i,j] részoptimum,

vagyis ahány 1<=i<=j<=n (i,j) pár,összesen n*(n+1)/2= Θ(n2)

• Megoldás: AlulrólFelfelé, a RészektőlEgészig, BottomUp, a részeredmények tárolásával

• Algoritmuselemzés: Futásidő: 1 részfeladat kiszámítása egy n hosszú vektor (átló) optimumkeresése. Θ(n3)

• Helyigény: Θ(n2)• Filozófia: TopDown vagy BottomUp? – Lebontunk, vagy

építkezünk? – Csőlátás vagy halszemoptika? – Holisztika vagy redukcionizmus? Ügyes szakbarbárok, vagy haszontalan próféták?

PéldaM1(30x35)*M2(35x15)*M3(15x5)*M4(5x10)*M5(10x20)*M6(20x25)

0

0

0

0

0

0

i i

j

j

1

1

2

1

6

6

Pl. az m[2,5] = min {m[2,2]+m[3,5]+35*15*20=13000--- m[2,3]+m[4,5]+35*5*20=7125--- m[2,4]+m[5,5]+35*10*20=11375} = 7125

m[i,j]: az Mi..j optimális

szorzásszám

s[i,j]: i és j között hol kellett

zárójelezni

15750

2625

750

1

2

3

4

5

1000

5000

7875

4375

2500

3500

9375

7125

5375

11875

1050015125

1

3

3

5

3

3

3

333

Átlósan haladunk, l a kezdő j index

• MSzorzásSorrend(n)for i=1 to n do m[i,i]=0for l=2 to n do for i=1 to n-l+1

do j=i+l-1 m(i,j)= ∞

for k=i to j-1 do Szorz=m[i,k]+m[k+1,j]+ sor(i)*oszlop(k)*oszlop(j) if Szorz<m[i,j] then

m[i,j]=Szorzs[i,j]=k

return m, s

Mátrixok száma

Főátló kinullázása

k töréspont (i<=k<j)

Az optimális megoldás• MátrixLáncSzorzat(M,i,j)if j>i then X=MátrixLáncSzorzat(M,i,s[i,j]) Y=MátrixLáncSzorzat(M,s[i,j]+1,j) return(Mátrixszorzat(X,Y))else return M[i]

• A helyes zárójelezés:

• (M1 * (M2 * M3)) * ((M4 * M5) * M6)

Mátrixok vektora

A M…Sorrend algoritmus által

elkészített „elvágási” mátrix

Hol alkalmazható egyáltalán?• Optimalizálási probléma• Optimális részstruktúrák• Egymást átfedő részfeladatok (az Oszd Meg és Uralkodj

nem vizsgálja a visszatérő részfeladatokat, hanem újra megoldja őket) 1-4

1-1 2-4 1-2 3-4 1-3 4-4

2-2 3-4 2-3 4-4 1-1 2-2 3-3 4-4 1-1 2-3 1-2 3-3

3-3 4-4 2-2 3-3 2-2 3-3 1-1 2-2

Egy alternatív megoldás!! Rekurzív, felülről lefelé (naív) megoldás a részeredmények mátrixba történő feljegyzésével

Legrövidebb utak irányított gráfokban• G=(V,E) irányított gráf + w:ER súlyfüggvény.• Egy p=(v0, v1,…, vk) út súlya: w(p)= i=0Σk w(vi ,vi+1 )• Az u-ból v-be vivő legrövidebb út definíciója:• δ(u,v)=Σ min{w(p),p:uv}, ha létezik p, egyébként ∞• Figyelem!! δ(u,v) NEM egyértelmű!!• Legrövidebb utak feszítőfájaminimális súlyú feszítőfa• Problématípusok:• Alapprobléma: egy adott sV kezdőcsúcsból az összes v csúcsba vivő

legrövidebb utak problémája. Következmények:• 1. Adott csúcsba mindenhonnan beérkező legrövidebb utak problémája.

(megoldás az élek megfordításával)• 2. Adott csúcspár közötti legrövidebb utak problémája (nem ismert

aszimptotikusan gyorsabb megoldás, mint az Alapprobléma)• 3. Összes csúcspár közötti legrövidebb utak problémája (Alapprobléma

minden csúcsra – ennél gyorsabb megoldás is létezik)

Negatív súlyú élek• Negatív súlyú élek, ill. negatív összsúlyú körök

problematikusak. Ha ilyet tartalmaz egy u-ból v-be vivő út, akkor δ(u,v)=- ∞. Ha v nem elérhető, akkor δ(u,v)=∞

• Algoritmuseredmények: 1. Súly, 2. Út (utak)

s

a b

c d

e f

g

3

-4

4

5

6

-32 3

-6

7

8

Negatív kör

Algoritmusok általános jellemzése• Dijkstra algoritmusa: csak nemnegatív élekre!• Bellman-Ford algoritmus: negatív élekre is

működik, megtalálja a negatív köröket is• Bellman-Ford algoritmus használata lineáris

programozási feladatokra• Fokozatos közelítés: az egyes csúcsok elérési

súlyainak közelítése a felső korlát fokozatos finomítása (csökkentése) útján

• Alapelv: az optimális részstruktúrák elve. Egy optimális utakat tartalmazó feszítőfa részei szintén optimális utakat tartalmaznak.

Mohó algoritmusokdinamikus programozás

Dijkstra algoritmusa• Dijkstra(s)for vV do Táv[v]=∞ Szülő[v]=NILTáv[s]=0Bejáratlan=Vwhile Bejáratlan<>{} do u=Bejáratlan.KiveszMin for vSzomszéd(u) do if Táv[v]>Táv[u]+Súly[u,v]

then Táv[v]=Táv[u]+Súly[u,v] Szülő[v]=u

Elsőbbségi sor, a távolság becslés alapján. Valójában

azonban mindig csak a NemBejárt-Bejárt vágatból

vesszük a következő csúcsot

y:∞y:7x:∞x:5

u:∞u:10

A Dijkstra-algoritmus működése

s:0

v:∞

x:5

u:8u:810

5

1

92 3 6 4

2

7

s:0

v:14v:13v:9

Megjegyzések: 1. Hasonlít a „SzéltébenBejár” és a „Prim” algoritmusra. Különbség elemzése HÁZI FELADAT…

2. Csak pozitív élsúlyokra működik

3. Mohó? Dinamikus? Bottom-up: Top-down?

Optimális feszítőfaLegrövidebb utak• A fa TELJES súlya

minimális, az egyes élekhez vezető utak nem feltétlenül

• Minden lépésben a nyitott vágat legkönnyebb élét vesszük hozzá a halmazhoz. Ehhez nem feltétlenül vezet a legrövidebb út.

a

b

h

i

g

d

f

e

9

10

1411

21

8

4

6

2

7

8

7c4

a

b

h

i

g

d

f

e

9

10

1411

21

8

4

6

2

7

8

7c4

• Az egyes élekhez vezető utak KÜLÖN-KÜLÖN minimálisak, a fa teljes súlya nem feltétlenül,

• Minden lépésben a nyitott vágat legrövidebb úthosszúságú élét vesszük hozzá a halmazhoz, ez nem feltétlenül a legkönnyebb is.

A Dijkstra algoritmus elemzése• 1. A „Bejáratlan” tömb lineáris vektor.

KiveszMin O(V), és |V| ilyen művelet van KiveszMin össz. O(V2) A Szomszéd(u) a gráf minden élét 1szer vizsgálja meg. O(V2 +E)

• 2. A „Bejáratlan” tömb bináris kupac, KiveszMin ideje O(lgV), és |V| ilyen művelet van. Kupacfelépítés: O(V) KulcsotCsökkent: O(lgV), és legfeljebb |E| ilyen művelet van. össz.O((V+E)lgV) = O(ElgV)

• 3. Fibonacci kupacokkal: O(VlogV+E)

A Bellman-Ford algoritmus + elemzése• Negatív súlyú élek is lehetségesek

• Negatív körökre HAMIS logikai értéket ad

• Futási ideje: O(V*E)

• Buborékrendezéshez hasonló működési elv

• Negatív körökbe a legkönnyebb út választása miatt bepörög, és a pörgést csak a ciklus vége állítja le

• Ha egy csúcs nem elérhető, akkor Táv[u]=∞

• BellmanFord(s)for vV do Táv[v]=∞ Szülő[v]=NILTáv[s]=0for i=1 to |V|-1 do for u,vE if Táv[v]>Táv[u]+Súly[u,v]

then Táv[v]=Táv[u]+Súly[u,v] Szülő[v]=ufor u,vE do if Táv[v]>Táv[u]+Súly[u,v] then return HAMISreturn IGAZ

Negatív kör keresése

A háló lehetséges leghosszabb útja

Egy közelítés hatása legrosszabb esetben |V| lépés után teljesen biztosan eljut minden élhez

A fokozatos közelítés miatt ilyen feltétel csak akkor alakulhat ki,

ha fenti ciklus leállt

Él kiválasztása valamilyen rendezés szerint (pl.

lexikografikus sorrendben)

A Bellman-Ford algoritmus működése

y:∞x:∞

u:∞6 -2

8 -4

2

-3

z:0

v:∞

7

9

7

5u:6

x:7

v:4

y:2

u:2

y:-2

Legrövidebb utak Irányított Körmentes Gráfokban (KIG)

• KIG: A legrövidebb utak jól definiáltak, mert nincs negatív kör

• Algoritmus: az éleket a csúcsok topologikus rendezésének sorrendjében tekinti

• Nincs ciklus, nincs visszamutató él

• Futási idő: Topologikus rendezés: Θ(V+E) – Minden élt egyszer vizsgálunk – Közelítés konstans idő Θ(V+E)

• Sejtés: elég lenne csak a kiindulási csúcstól?

• KIGLegrövidebbUtak(s)A csúcsok topologikus rendezésefor vV do Táv[v]=∞ Szülő[v]=NILTáv[s]=0for uV - a topologikus rendezés

sorrendjében do for vUtód(u) if Táv[v]>Táv[u]+Súly[u,v]

then Táv[v]=Táv[u]+Súly[u,v] Szülő[v]=u

Közelítés

r:∞ s:0 t:∞ u:∞ v:∞ x:∞5 2 7 -1 -2

6 1

3 42

s:0 t:2 u:6t:2 v:6 x:4u:6 v:5v:5 x:3x:3

PERT (Program Evaluation and Review Technique) diagram – kritikus út meghatározása

• Munkafolyamat: tevékenységek, mérföldkövek (KIG-ek!)

• Gráfélek: tevékenységek, súlyok: időtartamok

• uv, vx élek: az uv tevékenységnek meg kell előznie a vx-et

• Egy uv út egy tevékenységsorozat, amit csak az adott sorrendben lehet elvégezni

• Kritikus út: a KIG-en keresztülvezető leghosszabb út. Ez a teljes munkafolyamat időszükségletére vonatkozó alsó határ.

• KIGLeghosszabbUtak(s)A csúcsok topologikus rendezésefor vV do Táv[v]=-∞ Szülő[v]=NILTáv[s]=0for uV a topologikus rendezés sorrendjében do for vUtód(u) if Táv[v]<Táv[u]+Súly[u,v]

then Táv[v]=Táv[u]+Súly[u,v] Szülő[v]=u

r:-∞ s:0 t:-∞ u:-∞ v:-∞ x:-∞5 2 7 1 2

6 1

3 4 2

s:0

Ugyanaz az algoritmus, mint a LegrövidebbUtak...

…csupán a közelítés az ellenkező feltételt vizsgálja

t:2 u:6t:2 v:6 x:4v:10 x:10v:10 x:12u:9u:9 x:12