알고리즘(algorithm) ggy (reedy method...

알고리즘알고리즘(Algorithm) (Algorithm) 알고리즘알고리즘(Algorithm) (Algorithm) Greedy Method (Greedy Method (탐욕적탐욕적 방법방법))G y (G y (탐욕적탐욕적 방법방법))

20112011년년 봄학기봄학기강원대학교강원대학교 컴퓨터과학전공컴퓨터과학전공 문양세문양세강원대학교강원대학교 컴퓨터과학전공컴퓨터과학전공 문양세문양세

강의강의 순서순서Greedy Method

탐욕적 알고리즘 개요

최소비용 신장 트리 (Minimum Spanning Tree)

Dijkstra’s Algorithm for the Short Path Problem

배낭 채우기 문제 (The Knapsack Problem)

Computer Algorithmsby Yang-Sae MoonPage 2

탐욕적탐욕적 알고리즘알고리즘 개요개요Greedy Method

탐욕적 알고리즘(Greedy Algorithm)은 결정을 해야 할 때마다

그 순간에 가장 좋다(최적이다)고 생각되는 것을 해답으로 선택함그 순간에 가장 좋다(최적이다)고 생각되는 것을 해답으로 선택함

으로써 최종적인 해답에 도달한다.

그 순간의 선택은 그 당시(local)에는 최적이다. 그러나 최적이라고

생각했던 해답들을 모아서 최종적인(global)해답을 만들었다고 해

서, 그 해답이 궁극적으로 최적이라는 보장이 없다.

따라서 탐욕적인 알고리즘은 항상 최적의 해답을 주는지를 반드시따라서 탐욕적인 알고리즘은 항상 최적의 해답을 주는지를 반드시

검증해야 한다.


탐욕적탐욕적 알고리즘의알고리즘의 설계설계 절차절차Greedy Method

1. 선정과정(selection procedure)현재 상태에서 가장 좋으리라고 생각되는(greedy)현재 상태에서 가장 좋으리라고 생각되는(greedy)해답을 찾아서 해답모음(solution set)에 포함시킨다.

2 적정성 점검(f ibili h k)2. 적정성 점검(feasibility check)새로 얻은 해답모음이 적절한지를 결정한다.

3. 해답점검(solution check)새로 얻은 해답모음이 최적의 해인지를 결정한다.정

다음의 거스름돈 계산하기 문제 참조


보기보기: : 거스름돈거스름돈 계산하기계산하기Greedy Method

문제: 동전의 개수가 최소가 되도록 거스름 돈을 주는 문제

탐욕적인 알 리탐욕적인 알고리즘

• 거스름돈을 x라 하자.

• 먼저, 가치가 가장 높은 동전부터 x가 초과되지 않도록 계속 내준다.

이 과정을 가치가 높은 동전부터 내림순으로 총액이 정확히 가 될 때• 이 과정을 가치가 높은 동전부터 내림순으로 총액이 정확히 x가 될 때

까지 계속한다.


Greedy Method거스름돈거스름돈 계산하기계산하기 –– 최적최적 해를해를 찾는찾는 경우경우

현재 우리나라에서 유통되고 있는 동전만을 가지고, 이 알고리즘

을 적용하여 거스름돈을 주면 항상 동전의 개수는 최소가 된다 을 적용하여 거스름돈을 주면, 항상 동전의 개수는 최소가 된다.

따라서 이 알고리즘은 최적(optimal)!

선정과정 가치가 높은 동전을 선택한다• 선정과정: (가치가 높은) 동전을 선택한다.

• 적정성 검사: 거스름돈 총액을 넘는지 확인한다.

• 해답 점검: 현재까지의 금액이 거스름돈 총액에 도달했는지 확인한다.


거스름돈거스름돈 계산하기계산하기 –– 최적최적 해를해를 찾지찾지 못하는못하는 경우경우Greedy Method

12원 짜리 동전을 새로 발행했다고 하자.

이 알고리즘을 적용하여 거스름돈을 주면 항상 동전의 개수는이 알고리즘을 적용하여 거스름돈을 주면, 항상 동전의 개수는최소가 된다는 보장이 없다.

예제: 거스름돈 액수 16원예제: 거스름돈 액수 = 16원

• 탐욕알고리즘의 결과: 12원 1개 = 12원, 1원 4개 = 4원

• 동전의 개수 = 5개 최적(optimal)이 아님!

• 최적의 해: 10원 1개, 5원 1개, 1원 1개가 되어 동전의 개수는 3개가 된다.


그래프그래프 용어용어 –– 좀좀 더더 복습하기복습하기Greedy Method

비방향성 그래프(undirected graph) G = (V,E) • V는 정점(vertex)의 집합( )

• E는 이음선(edge)의 집합

경로(path): 두 노드 사이에 이음선으로 연결된 노드의 나열

연결된 그래프(connected graph): 임의의 두 노드 사이에 경로가존재

부분그래프(subgraph)

가중치 포함 그래프(weighted graph)

순환경로(cycle)

순환적그래프(cyclic graph), 비순환적그래프(acyclic graph).

트리(tree): 비순환적이며, 비방향성 그래프

뿌리 있는 트리(rooted tree): 한 정점이 뿌리로 지정된 트리


연결된연결된 가중치가중치 ((포함포함) ) 비방향비방향 그래프그래프Greedy Method

1v1 v21

33 3

4

6

v3 v44

2 5

v5

2 5


신장신장 트리트리 (Spanning Tree)(Spanning Tree)Greedy Method

연결된 비방향성 그래프 G에서, 순환경로(cycle)가없어 지도록 이음선을 제거하여 구성한 연결된 부분없어 지도록 이음선을 제거하여 구성한 연결된 부분

그래프를 신장트리(spanning tree)라 한다.

따라서 신장트리는 안에 있는 모든 정점을 다 포함따라서 신장트리는 G안에 있는 모든 정점을 다 포함하되 트리가 되는(i.e., 순환경로가 존재하지 않는) ( )연결된 부분그래프이다.


신장신장 트리의트리의 예예Greedy Method

v1 v21

3 6

v3 v4 v1 v21

v

5 3

v5 v3 v44

v5

2


5

최소비용최소비용 신장신장 트리트리 (Minimum Spanning Tree: MST)(Minimum Spanning Tree: MST)Greedy Method

신장트리가 되는 G의 부분그래프 중에서 가중치의 합이최소가 되는 부분그래프를 최소비용신장트리(minimum 최소가 되는 부분그래프를 최소비용신장트리(minimum spanning tree)라고 한다.

여기서 최소의 가중치를 가진 부분그래프(MST)는 반드시(당연히) 트리가 되어야 한다. 그 이유는 다음과 같다.

• 만약 트리가 아니라면, 분명히 순환경로(cycle)가 있을 것이다.

• 그렇게 되면 순환경로 상의 한 이음선을 제거하면 더 작은 비용의 신• 그렇게 되면, 순환경로 상의 한 이음선을 제거하면 더 작은 비용의 신장트리가 만들어진다.

관찰: 모든 신장트리가 최소비용신장트리는 아니다관찰: 모든 신장트리가 최소비용신장트리는 아니다.


최소비용최소비용 신장신장 트리의트리의 예예Greedy Method

v1 v21

1 2

3

v3 v44

2

v5

앞서의 예제에는 상기 MST 이외에 하나의 MST가 더 있다고한다 찾아보기 바람


한다. 찾아보기 바람

최소비용최소비용 신장신장 트리의트리의 응용응용(Applications)(Applications)Greedy Method

도로건설: 도시들을 모두 연결하면서 도로의 길이가 최소가도시들을 모두 연결하면서 도로의 길이가 최소가

되도록 하는 문제

통신(telecommunications):전화선의 길이가 최소가 되도록 전화 케이블 망을전화선의 길이가 최소가 되도록 전화 케이블 망을

구성하는 문제

배관(plumbing):파이프의 총 길이가 최소가 되도록 연결하는 문제파이프의 총 길이가 최소가 되도록 연결하는 문제


MST MST –– 무작정무작정 알고리즘알고리즘Greedy Method

알고리즘

• 모든 신장트리를 다 고려해 본다(계산해 본다).

• 그 중에서 최소비용이 드는 것을 신장트리를 고른다.그 중에서 최소비용이 드는 것을 신장트리를 고른다.

분석

• 최악의 경우, 지수보다도 나쁘다.

• 이유?• 이유?( 완전 연결이면… 대충 생각해도 n!에 해당한다.)





Prim의 알고리즘

Kruskal의 알고리즘




MST MST –– 탐욕적탐욕적 알고리즘알고리즘Greedy Method

문제: 비방향성 그래프 G = (V,E)가 주어졌을 때, F E를 만족하면서, (V,F)가 G의 MST가 되는 F를 찾는 문제. , ( , )

알고리즘:

1 F := 0;1. F : 0;

2. 최종해답을 얻지 못하는 동안 다음 절차를 계속 반복하라

( ) 선정 절차 적절한 최적해 선정절차에 따라서 하나의(a) 선정 절차: 적절한 최적해 선정절차에 따라서 하나의

이음선을 선정

(b) 적정성 점검: 선정한 이음선을 F에 추가시켜도 순환경

로가 생기지 않으면, F에 추가시킨다.

(c) 해답 점검: T = (V,F)가 신장트리이면, T가 최소비용

신장 트리 이다.


신장 트리 이다.

MST MST –– PrimPrim의의 알고리즘알고리즘((추상적추상적))Greedy Method

1. F := 0;2. Y := {v1};{ 1};3. 최종해답을 얻지 못하는 동안 다음 절차를 계속 반복하라

(a) 선정 절차/적정성 점검: V Y에 속한 정점 중에서, (a) 선정 절차/적정성 점검: V Y에 속한 정점 중에서, Y에 가장 가까운 정점 하나를 선정한다.

(b) 선정한 정점을 Y에 추가한다.(b) 선정한 정점을 Y에 추가한다.(c) Y로 이어지는 이음선을 F에 추가한다.(d) 해답 점검: Y = V가 되면 T = (V F)가 최소비용 신장(d) 해답 점검: Y V가 되면, T (V,F)가 최소비용 신장

트리이다.20

V Y Y

20

25

10


25

15

Greedy MethodMST MST –– PrimPrim의의 알고리즘알고리즘((구체적구체적) (1/3)) (1/3)

그래프의 인접행렬식 표현

v v이음선의가중치 에서 로 이음선이있는 경우

v1 v21

3 3 6

[ ][ ]

0

i j

i j

v vW i j v v

i j

이음선의가중치 에서 로 이음선이있는 경우

에서 로 이음선이없는 경우

인경우

v3 v44

2 5

추가적으로 nearest[1..n]과 distance[1..n] 배열 유지

에 속한 에서 가장 가까운

v5

• nearest[i] = Y에 속한 노드 중 vi(V-Y)에서 가장 가까운노드의 인덱스

• distance[i] = vi와 nearest[i]를 잇는 이음선의 가중치

Yva

vb

vj vi

t[ ] b

nearest[i] = jwa,b

distance[i] = wi,j


bnearest[a] = b wi,jdistance[a] = wa,b

Greedy MethodMST MST –– PrimPrim의의 알고리즘알고리즘((구체적구체적) (2/3)) (2/3)

알고리즘

void prim(int n, // 입력: 정점의 수const number W[][], // 입력: 그래프의 인접행렬식 표현set_of_edges& F) // 출력: 그래프의 MST에 속한 이음선의 집합

{{index i, vnear;number min;edge e;

v1 v21

3 3 6edge e;index nearest[2..n];number distance[2..n];

F t t

v3 v44

2 5

F = empty_set;for(i=2;i

Greedy MethodMST MST –– PrimPrim의의 알고리즘알고리즘((구체적구체적) (3/3)) (3/3) v1 v21

3 3 6

알고리즘 (계속)

// 개의 정점을 에 차례로 추가한다

v3 v4

3

4

2 5

6

repeat(n-1 times) { // n-1개의 정점을 Y에 차례로 추가한다min = ;for(i=2; i

Greedy MethodMST MST –– PrimPrim의의 알고리즘알고리즘 분석분석

단위연산: repeat-루프 안에 있는 두 개의 for-루프 내부에있는 명령문(비교문 및 지정문)있는 명령문(비교문 및 지정문)

입력크기: 노드의 개수, n

분석:분석:

• repeat-루프가 n-1번 반복되고,

각 루프마다 f 루프가 1번씩 수행되므로 (모든 경우의) • 각 루프마다 for-루프가 n-1번씩 수행되므로 (모든 경우의) 시간복잡도는 다음과 같다.

T( ) 2( 1)( 1) (2)• T(n) = 2(n-1)(n-1) (n

2)


Greedy MethodMST MST –– PrimPrim의의 알고리즘의알고리즘의 최적최적 여부여부 검증검증 (1/6)(1/6)

Prim의 알고리즘이 찾아낸 신장트리가 최소비용(minimal)인지를검증해야 한다. 다시 말하면, Prim의 알고리즘이 최적(optimal)인지를 보여야 한다.

탐욕적 방법의 문제점은 이것이다.즉, 알고리즘을 개발하기는 비교적 용이하나,개발한 알고리즘의 최적성을 보이는 작업이 어렵다개발한 알고리즘의 최적성을 보이는 작업이 어렵다.



정의 4.1: 비방향성 그래프 G = (V,E)가 주어졌을 때, 만약 E의 부분집합 F에 MST가 되도록 이음선을 추가해 나갈만약 E의 부분집합 F에 MST가 되도록 이음선을 추가해 나갈

수 있으면(F에 이음선들을 추가하여 MST가 되면),

는 유망하다 라고 한다F는 유망하다(promising)라고 한다.

• 유망의 의미는 “지금까지 구성한 집합을 사용하여 최적의 솔루션을

구성할 수 있음”을 말한다.

• Prim의 알고리즘에서 구성되는 각 단계의 F들이 유망함을 보이면, 최적성 계 망 ,

임을 보일 수 있게 된다.



보조정리 4.1: G = (V,E)는 연결되고, 가중치 포함 비방향성 그래프라고 하자. E의 부분집합인 F는 유망하다 하고, Y는 F안에 있는 이라고 하자 의 부분집합인 는 유망하다 하고, 는 안에 있는 이음선 들에 의해서 연결이 되어 있는 정점의 집합이라고 하자.이때, Y에 있는 어떤 정점과 V - Y에 있는 어떤 정점을 잇는 이음선중에서 가중치가 가장 작은 이음선을 e라고 하면, F {e}는 유망하다. (즉, Prim의 방법을 사용한 F {e}는 유망하다.)

e

V - Y Ye’

e e’

F = {파란색 이음선들}



증명: F가 유망하기 때문에, F F’이면서 (V,F’)이 MST가 되는 F’이 반드시 존재한다. (F에 이음선들이 더해져 F’이 되므로)• 경우 1: 만일 e F’이라면, F {e} F’이 되고, 따라서 F {e}도 유망하다.

• 경우 2:

만일 e F’라면, (V,F’)는 신장 트리이기 때문에, F’ {e}는 반드시 순환경로를하나 포함하게 된다. 그리고, e는 반드시 그 순환경로 가운데 한 이음선이 된다.

그러면 Y에 있는 한 노드에서 V - Y에 있는 한 정점을 연결하는 어떤 다른 이음선 그러면 Y에 있는 한 노드에서 V - Y에 있는 한 정점을 연결하는 어떤 다른 이음선e’ F’가 그 순환경로 안에 반드시 존재하게 된다.

이때, 만약 F’ {e}에서 e’를 제거하면, 그 순환경로는 없어지게 되며, 다시 신장트리가 된다.

그런데 e는 Y에 있는 한 정점에서 V - Y에 있는 한 정점을 연결하는 최소의 가중치(weight)를 가진 이음선이기 때문에, e의 가중치는 반드시 e’의 가중치 보다 작치(we g t)를 가진 이음선이기 때문에, e의 가중치는 반드시 e 의 가중치 보다 작거나 같아야 한다. (실제로 반드시 같게 된다.)

그러면, F’ {e} - {e’}는 MST이다.


결론적으로 F {e} F’ {e} - {e’}가 되고, 따라서 F {e} 유망하다.


경우 2를 설명하는 예제

• F = {(v1,v2)}

• F’ = {파란색 이음선들} = MST

• F’은 e’을 가지고 있어서, e를 추가할 경우 순환경로가 생긴다할 경우, 순환경로가 생긴다.

• 그런데, 그림에서와 같이F’ {e} - {e’} 역시 MST가 된다F {e} - {e } 역시 MST가 된다.

• 따라서, F {e} F’ {e} - {e’} 가성립하며, 이는 F {e}가 유망함을{ }의미한다.



정리: Prim의 알고리즘은 항상 MST를 만들어 낸다.

증명: (수학적귀납법)증명: (수학적귀납법)매 반복이 수행된 후에 집합 F가 유망하다는 것을 보이면 된다.

귀납기본 공집합은 당연히 유망하다• 귀납기본: 공집합은 당연히 유망하다.

• 귀납가정: 어떤 주어진 반복이 이루어진 후, 그 때까지 선정하였던 이음선의 집합인 F가 유망하다고 가정한다합인 F가 유망하다고 가정한다.

• 귀납단계: 집합 F {e}가 유망하다는 것을 보이면 된다.

여기서 e는 다음 단계의 반복 수행 시 선정된 이음선이다 여기서 e는 다음 단계의 반복 수행 시 선정된 이음선이다.

그런데, 위의 보조정리 4.1에 의하여 F {e}은 유망하다고 할 수 있다.

왜냐하면 이음선 e는 Y에 있는 어떤 정점을 V Y에 있는 어떤 정점으로 잇는 왜냐하면 이음선 e는 Y에 있는 어떤 정점을 V - Y에 있는 어떤 정점으로 잇는이음선 중에서 최소의 가중치를 가지고 있기 때문이다.

증명 끝


증명 끝




Prim의 알고리즘

Kruskal의 알고리즘




Greedy MethodMST MST –– KruskalKruskal의의 알고리즘알고리즘 ((추상적추상적))

1. F := 0;

2. 서로소(disjoint)가 되는 V 의 부분집합 들을 만드는데, 2. 서로소(disjoint)가 되는 V 의 부분집합 들을 만드는데, 각 부분집합 마다 하나의 정점만 가지도록 한다

3 E안에 있는 이음선을 가중치의 비내림차순으로 정렬한다3. E안에 있는 이음선을 가중치의 비내림차순으로 정렬한다

4. 최종해답을 얻지 못하는 동안 다음 절차를 계속 반복하라(a) 선정 절차: 다음 이음선을 선정한다(a) 선정 절차: 다음 이음선을 선정한다.

(최소의 가중치를 가진 이음선을 선정한다.)

(b) 적정성 점검: 만약 선정된 이음선이 두 개의 서로소인 정점을(b) 적정성 점검: 만약 선정된 이음선이 두 개의 서로소인 정점을

잇는다면, 먼저 그 부분집합을 하나의 집합으로 합하고,

그 다음에 그 이음선을 F에 추가한다.

(c) 해답 점검: 만약 모든 부분집합이 하나의 집합으로 합하여 지면,

그 때 T = (V,F)가 최소비용 신장 트리 이다.


Greedy MethodMST MST –– KruskalKruskal의의 알고리즘알고리즘 ((세부적세부적) (1/2)) (1/2)

서로소 집합 추상 데이터 타입 (disjoint set abstract data type)• index i; // node viindex i; // node vi

• set_pointer p, q;

• initial(n): n개의 서로소 부분집합을 초기화initial(n): n개의 서로소 부분집합을 초기화(하나의 부분집합에 1에서 n사이의 인덱스(노드)가 정확히 하나 포함됨)

• p = find(i): 인덱스(노드) i가 포함된 집합의 포인터 p를 넘겨줌p f ( ) ( ) p

• merge(p,q): 두 개의 집합을 가리키는 p와 q를 합병

• equal(p,q): p와 q가 같은 집합을 가리키면 true를 넘겨줌q (p,q) p q

e

Set A Set Bi j

p = find(i) q = find(j)


p = find(i) q f (j)

Greedy MethodMST MST –– KruskalKruskal의의 알고리즘알고리즘 ((세부적세부적) (2/2)) (2/2)

알고리즘

void kruskal( int n int m // 입력: 정점의 수 n 이음선의 수 mvoid kruskal( int n, int m, // 입력: 정점의 수 n, 이음선의 수 mset_of_edges E, // 입력: 가중치를 포함한 이음선의 집합

set_of_edges& F) // 출력: MST를 이루는 이음선의 집합{

index i j;index i, j;set_pointer p, q;edge e;E에 속한 m개의 이음선을 가중치의 비내림차순으로 정렬;F = emptyset;initial(n);while (F에 속한 이음선의 개수가 n-1보다 작다) {

e = 아직 점검하지 않은 최소의 가중치를 가진 이음선;i, j = e를 이루는 양쪽 정점의 인덱스;p = find(i);q = find(j);if (!equal(p,q)) { Set A Set B

e

i jif (!equal(p,q)) {merge(p,q);e를 F에 추가;

}}

j

p = find(i) q = find(j)


}} equal(p,q) = true는 e를 추가할 경우

cycle이 형성됨을 의미한다.

Greedy MethodMST MST –– KruskalKruskal의의 알고리즘알고리즘 분석분석 (1/2)(1/2)

단위연산: 비교문

입력크기: 정점의 수 n과 이음선의 수 m

분석

1. 이음선 들을 정렬하는데 걸리는 시간: (m lg m) 이음선 들을 정렬하는데 걸리는 시간 ( g ) 정렬의 이론적 하한

2. 반복문 안에서 걸리는 시간: 루프를 m번 수행한다. 서로소인 집합 자료구조(disjoint set data structure)를 사용하여 구현하면, find, equal, merge는 (lg m)에 수행된다.( S h의 복잡도로 이해하면 된다 증명은 생략)( Search의 복잡도로 이해하면 된다. 증명은 생략)따라서, m번 반복에 대한 시간복잡도는 (m lg m)이다.

3 N개의 서로소 집합(disjoint set)을 초기화하는데 걸리는 시간: (n) 3. N개의 서로소 집합(disjoint set)을 초기화하는데 걸리는 시간: (n)


Greedy MethodMST MST –– KruskalKruskal의의 알고리즘알고리즘 분석분석 (2/2)(2/2)

분석 (계속)• 그런데 여기서 m n - 1이기 때문에, 위의 1과 2는 3을 지배하게 되므로,

W(m, n) = (m lg m)가 된다.

• 그러나, 최악의 경우에는, 모든 정점이 다른 모든 정점과 연결이 될 수 있기 때문에(fully connected) 가 된다 그러므로 최악의 경우의 시간( 1) 2( )n nm n 문에(fully connected), 가 된다. 그러므로, 최악의 경우의 시간복잡도는 다음과 같다.

2 ( )m n

2 2 2 2( ) ( lg ) ( 2 lg ) ( lg )W m n n n n n n n

• 최적여부의 검증(Optimality Proof): Prim의 알고리즘의 경우와 비슷함.

( , ) ( lg ) ( 2 lg ) ( lg )W m n n n n n n n

( 1)( 1) ( 2) 2 1 n nn n ( 1) ( 2) 2 12

n n


Greedy MethodMST MST –– Prim vs. KruskalPrim vs. Kruskal

W( ) h d h

분석 결과 비교

W(m,n) sparse graph dense graph Prim

Kruskal (n2)

(m lg m) and (n2 lg n) (n2)

(n lg n) (n2)

(n2 lg n) us al (m lg m) and (n lg n) (n lg n) (n lg n)

(Kruskal) 연결된 그래프에서 이음선 개수 m은 다음 범위를 갖는다.( 1)

21n nn m

(Kruskal) 연결된 그래프에서 이음선 개수 m은 다음 범위를 갖는다.

• 그래프가 sparse하면 m n이므로 (n lg n)이 된다• 그래프가 sparse하면, m n이므로, (n lg n)이 된다.

• 반면에 dense이면, m n2이므로, (n2 lg n)이 된다.


Greedy MethodMST MST –– More Improved AlgorithmsMore Improved Algorithms

알고리즘의 시간복잡도는 그 알고리즘을 구현하는데 사용하는 자

료구조에 좌우되는 경우도 있다료구조에 좌우되는 경우도 있다.

Prim’s algorithm W(m,n) sparse graph dense graph

Heap Fibonacci heap

(m lg n) (m + n lg n)

(n lg n) (n lg n)

(n2 lg n) (n2)





Dijkstra’s Algorithm for the Shortest Path Problem



Greedy Method단일단일 출발점출발점 최단경로최단경로 문제문제(Single Source Shortest Path Problem)(Single Source Shortest Path Problem)(Single Source Shortest Path Problem)(Single Source Shortest Path Problem)

제3장(강의노트 06)에서 모든 정점을 대상으로 하는 최단 경로를구하는 (n3)의 DP 알고리즘을 개발하였다구하는 (n )의 DP 알고리즘을 개발하였다.

본 문제에서는, 가중치가 있는 방향성 그래프에서 한 특정 정점에서 다른 모든 정점으로 가는 최단경로 구하는 문제를 다룬다서 다른 모든 정점으로 가는 최단경로 구하는 문제를 다룬다.

v11

1 74

v2v56

4

v3v41 3

5

2( ) ( 1) ( 1) ( 1)[ ][ ] min( [ ][ ] [ ][ ] [ ][ ])k k k kD i j D i j D i k D k j


34 5 1 2

[ ][ ] min( [ ][ ], [ ][ ] [ ][ ])D i j D i j D i k D k j 경우 경우

Greedy MethodDijkstra Dijkstra 알고리즘알고리즘 ((추상적추상적))

1. F := 0;

2 Y := {v };2. Y := {v1};3. 최종해답을 얻지 못하는 동안 다음 절차를 계속 반복하라

(a) 선정 절차/적정성 점검: V - Y에 속한 정점 중에서, v1에서 Y에 속한( ) , 1정점 만을 거쳐서 최단경로가 되는 정점 v를 선정한다

(b) 그 정점 v를 Y에 추가한다. (아래 그림에서 vi)에서 로 이어지는 최단경로 상의 이음선을 에 추가한다(c) v에서 F로 이어지는 최단경로 상의 이음선을 F에 추가한다.

(d) 해답 점검: Y = V가 되면, T = (V,F)가 최단경로를 나타내는 그래프이다이다.

15vx

55

Set Y v1vy

vavi5

20

5

5


20

Greedy MethodDijkstra Dijkstra 알고리즘알고리즘 –– 구성구성 예제예제

MST 찾는 것과 유사하나, MST는 출발점개념이 없는 반면에 SP는 “출발점에서의

거리”를 고려해야 한다. (다음 페이지 참조)거리 를 려해야 한다 (다음 페이지 참 )


Greedy MethodDijkstra Dijkstra 알고리즘알고리즘 ((세부적세부적) (1/3)) (1/3)

가중치 그래프 W는 앞서(강의노트06)와 같이 이차원 배열로 표현

앞서의 t[] di t [] 대신에 t h[] l th[] 사용앞서의 nearest[], distance[] 대신에 touch[], length[] 사용• touch[i]: Y에 속한 노드들만을 거쳐서 v1에서 vi로 가는 현재 최단경로 상의

마지막 이음선을 라 할 때 Y에 속한 노드 v의 인덱스마지막 이음선을 라 할 때, Y에 속한 노드 v의 인덱스

• length[i]: Y에 속한 노드들만을 거쳐서 v1에서 vi로 가는 현재 최단경로의 길이

Set Y

25

v

vx

vi102

3

vj10

v1vy

vavi

20

8

vk

현 상태에서는

• touch[i] = a, length[i] = 15 (2+3+10)

• touch[j] = x length[j] = 27 (2+25)

노드 vi가 Y에 포함된 상태에서는

• touch[j] = i, length[j] = 25 (2+3+10+10)


• touch[j] x, length[j] 27 (2+25)

• touch[k] = y, length[k] = 28 (8+20)• touch[k] = y, length[k] = 28 (8+20)


알고리즘

void dijkstra(int n, const number W[][], set_of_edges& F){

index i, vnear;, ;number min;edge e;index touch[2..n];

b l th[2 ]number length[2..n];

F = empty_set;for(i=2; i


알고리즘 (계속)노드 하나를 Y에 넣기 위해, Y에서 도달 길이가 가장 짧은 vvnear를 선택한다.

repeat(n-1 times) { // n-1개의 정점을 Y에 차례로 추가한다min = “infinite”;for(i=2; i

Greedy MethodDijkstra Dijkstra 알고리즘알고리즘 분석분석

분석: T(n) (n2) repeat x 2-for-loop

• 힙(heap)으로 구현하면 (m lg n)이고,

• 피보나찌 힙으로 구현하면 (m + n lg n)이다.피 나찌 힙 구현하면 ( g )이다

최적여부의 검증(O ti lit P f)최적여부의 검증(Optimality Proof)• Prim의 알고리즘과 동일하게 증명할 수 있다.


Greedy MethodDynamic Programming vs. Greedy MethodDynamic Programming vs. Greedy Method

탐욕적인 접근방법 동적계획법

최적화 문제를 푸는데 적합 최적화 문제를 푸는데 적합

탐욕적 알고리즘이 존재할 경우

일반적으로 더 효율적 때로는 불필요하게 복잡

일반적으로 더 효율적 때 는 불필 하게 복잡

알고리즘이 최적인지를

증명해야 함

최적화 원칙이 적용되는지를

점검해 보기만 하면 됨 증명해야 함 점검해 보기만 하면 됨

단일출발점 최단경로 문제: (n2) 단일출발점 최단경로 문제:

(n3) (n )

배낭 빈틈없이 채우기 문제는 풀지만,

0-1 배낭 채우기 문제는 풀지 못함 0-1 배낭 채우기 문제를 푼다

0 1 배낭 채우기 문제는 풀지 못함


Greedy Method00--11배낭배낭 채우기채우기 문제문제 (0(0--1 Knapsack Problem) (1/2)1 Knapsack Problem) (1/2)

문제의 개념적 정의

어떤 도둑이 보석상에서 배낭을 매고 침입했다.

훔칠 보석의 총 무게가 용량 W를 초과하면 배낭이 망가진다훔칠 보석의 총 무게가 용량 W를 초과하면 배낭이 망가진다.

똑똑한 도둑은 각 보석의 (무게, 값어치)을 알고 있다.똑똑한 둑은 각 석의 (무게, 값어치)을 알 있다

이 도둑은 총 무게가 W를 초과하지 않으면서 보석들의 총 값어치가 최대가 되도록 보석을 배낭에 담고자 한다가 최대가 되도록 보석을 배낭에 담고자 한다.


Greedy Method00--11배낭배낭 채우기채우기 문제문제 (0(0--1 Knapsack Problem) (2/2)1 Knapsack Problem) (2/2)

문제의 정형적 정의

입력:

• S = {item1, item2,…, itemn}S {item1, item2,…, itemn}

• wi = itemi의 무게

p item 의 가치• pi = itemi의 가치

• W = 배낭에 넣을 수 있는 총 무게

문제 정의

를 만족하면서 가 최대가 되도록i

iitem Aw W

i iitem A p

A S가 되는 A를 결정하는 문제이다.iitem A i


Greedy Method00--11배낭배낭 채우기채우기 –– 무작정무작정 알고리즘알고리즘

n개의 아이템에 대해서 모든 부분집합을 다 고려한다.

각 아이템의 무게 wi는 W를 넘지 않는다고 하면, 가능한 A의 개수

는 크기가 n인 집합의 부분집합의 개수와 동일하다.

그러나, 불행하게도 크기가 n인 집합의 부분집합의 수는 2n개이다.


Greedy Method00--11배낭배낭 채우기채우기 –– 탐욕적탐욕적 방법방법 11

가장 비싼 물건부터 우선적으로 채운다.

애석하게도 이 알고리즘은 최적이 아니다!

품목 무게 값

왜 아닌가? 보기: W = 30kg

품목 무게 값 item1 25kg 10 만원 item2 10kg 9 만원 item2 10kg 9 만원 item3 10kg 9 만원

• 탐욕적인 방법: item1 25kg 10만원

• 최적인 해답: item2 + item3 20kg 18만원



가장 가벼운 물건부터 우선적으로 채운다.

마찬가지로 이 알고리즘도 최적이 아니다!

품목 무게 값


품목 무게 값 item1 25kg 20 만원 item2 10kg 9 만원 item2 10kg 9 만원 item3 10kg 5 만원

• 탐욕적인 방법: item2 + item3 20kg 14만원

• 최적인 해답: item1 25kg 20만원



무게 당 가치가 가장 높은 물건부터 우선적으로 채운다.

그래도 최적이 아니다!


품목 무게 값 값어치

item1 5kg 50 만원 10 만원/kg


• 탐욕적인 방법: item1 + item3 25kg 190만원


g

• 최적인 해답: item2 + item3 30kg 200만원

더 복잡한 탐욕적 방법을 쓰더라도, 0-1 배낭 채우기 문제는


풀리지 않는다.

Greedy Method배낭배낭 빈틈없이빈틈없이 채우기채우기 문제문제(The Fractional Knapsack Problem)(The Fractional Knapsack Problem)(The Fractional Knapsack Problem)(The Fractional Knapsack Problem)

물건의 일부분을 잘라서 담을 수 있다.

(보석이 금괴가 아니라 금가루라고 해석하면 된다.)

탐욕적인 접근방법으로 최적 해를 구하는 알고리즘을 만들탐욕적인 접근방법으로 최적 해를 구하는 알고리즘을 만들

수 있다.

item1 + item3 + item2 x 1/2 30kg 220만원

최적이다! 증명? (스스로 해 보세요)최적이다! 증명? (스스로 해 보세요)


Greedy Method00--11배낭배낭 채우기채우기 –– 동적동적 프로그래밍프로그래밍 (1/4(1/4) ) -- skipskip

i > 0 이고 w > 0일 때, 전체 무게가 w가 넘지 않도록 i번째까지의 항목 중에서 얻어진 최고의 이익(optimal profit)을 P[i][w]라고 하면 다음의 재에서 얻어진 최고의 이익(optimal profit)을 P[i][w]라고 하면, 다음의 재귀 관계식을 얻을 수 있다.

max( [ 1][ ] , [ 1][ ] ) ( )[ ][ ] i i i

P i w p P i w w w wP i

• P[i-1][w]는 i번째 항목을 포함시키지 않는 경우의 최고 이익이다.

( ) ( )[ ][ ]

[ 1][ ] ( )i i i

i

pP i w

P i w w w

• pi + P[i - 1][w - wi]는 i번째 항목을 포함시키는 경우의 최고 이익이다.

위의 재귀 관계식이 최적화 원칙을 만족하는 지는 쉽게 알 수 있다.

그러면 어떻게 P[n][W]값을 구할 수 있을까?

다음과 같은 2차원 배열을 만든 후, 각 항을 계산하여 채워 넣으면 된다.

• int P[0..n][0..W]

• 여기서 P[0][w] = 0, P[i][0] = 0으로 놓으면 되므로, 계산해야 할 항목의 수는 W ( W)이다


계산해야 할 항목의 수는 nW (nW)이다.

Greedy Method00--11배낭배낭 채우기채우기 –– 동적동적 프로그래밍프로그래밍 (2/4) (2/4) -- skipskip

여기서 n과 W와는 아무런 상관 관계가 없다. 따라서 W = n!이라고 한다면 수행시간은 (n n!)이 된다따라서, W = n!이라고 한다면 수행시간은 (n n!)이 된다.그렇게 되면 이 알고리즘은 앞에서 얘기한 무작정 알고리즘보다도

나을게 하나도 없거나 오히려 더 좋지 않다나을게 하나도 없거나 오히려 더 좋지 않다.

그럼 이 알고리즘을 최악의 경우에 (2n) 시간에 수행될 수 있도록,

즉 무작정 알고리즘 보다 느리지 않고 때로는 훨씬 빠르게 수행될즉 무작정 알고리즘 보다 느리지 않고, 때로는 훨씬 빠르게 수행될수 있도록 개선할 수 있을까?

착안점은 P[n][W]를 계산하기 위해서 (n-1)번째 행을 모두 계산할착안점은 P[n][W]를 계산하기 위해서 (n-1)번째 행을 모두 계산할필요가 없다는데 있다.

즉 P[n 1][W]와 P[n 1][W w ] 두 항만 계산하면 된다 이런 식으로즉, P[n-1][W]와 P[n-1][W-wn] 두 항만 계산하면 된다. 이런 식으로n = 1이나 w 0일 때 까지 계속해 나가면 된다. (다음 페이지…)



앞선 예에서 P[3][30]을 계산해 보자.

개량 알고리즘은 다음과 같이 7개 항만 계산하는데 비해서 이전개량 알고리즘은 다음과 같이 7개 항만 계산하는데 비해서, 이전알고리즘은 3 30 = 90항을 계산해야 한다.

st

nd

1 row = [3][30] ( [2][30],140 [2][10]) (110,140 160) 200

[2][30] ( [1][30],60 [1][20]) (50,60 50) 1102

P max P P max

P max P P max

nd [ ][ ] ( [ ][ ], [ ][ ]) ( , )2 row = [2][10] ( [1][10],60 [1][0]) (50,60 0) 60

[1][0] 0

P max P P max

P

rd

[ ][ ]

3 row = P[1][10] 50

[1][20] 50P

[1][30] 50P



개선된 알고리즘의 최악의 경우 수행시간을 계산해 보자.앞의 예에서 보듯이 (n i)번째 행에서 기껏해야 2

i항을 계산한다 • 앞의 예에서 보듯이 (n - i)번째 행에서 기껏해야 2 항을 계산한다.

• 따라서, 총 계산하는 항 수는 1 + 2 + 22

+…+ 2n-1

= 2n

- 1이 된다.

• 결국, 계산하는 엔트리 수는 (2n)가 된다. 결국, 계산하는 엔트리 수는 (2 )가 된다.

결국, 개선된 알고리즘의 최악의 경우 수행 시간은 (2n)이다.

분할정복 방법으로도 이 알고리즘을 설계할 수도 있고, 그 최악의경우 수행시간은 (2

n)이다경우 수행시간은 (2 )이다.

아직 아무도 이 문제의 최악의 경우 수행시간이 지수( ti l)아직 아무도 이 문제의 최악의 경우 수행시간이 지수(exponential)보다 나은 알고리즘을 발견하지 못했고, 아직 아무도 그러한 알고리즘은 없다라고 증명한 사람도 없다


리즘은 없다라고 증명한 사람도 없다.

Homework Homework #4#4Greedy Method


알고리즘(algorithm) ggy (reedy method...

Documents