CSC201 CSC201 Analysis and Design of AlgorithmsAnalysis and Design of Algorithms

P and NP Problems

Dr.Surasak MungsingDr.Surasak MungsingE-mail: Surasak.mu@spu.ac.th

04/20/23 1

04/20/23 2

Euler Circuit ProblemsEuler Circuit Problemsลากเส้�นตามรู�ปโดยไม�ซ้ำ��า ม�รู�ปใดทำ�าได�บ้�าง และ รู�ปใดทำ�าไม�ได�เลย

การูจบ้ทำ��จ�ดเรู �มต�น จะเป!นไปได�ถ้�ากรูาฟม� node degree ทำ$�งหมดเป!นคู่��(Euler Circuit)

เป!นไปไม�ได� ถ้�าม� node degree เป!นคู่��มากกว่�า 2 โหนด

เป!นไปได� ถ้�าม� node degree เป!นคู่�� = 2 โหนด(Euler path)

04/20/23 3

คู่ว่ามยากของป*ญหาคู่ว่ามยากของป*ญหา

ปั�ญหาแบ่�งเปั�นกลุ่��มได้�แก� กลุ่��มปั�ญหา P กลุ่��มปั�ญหา NP กลุ่��มปั�ญหา NP-hard กลุ่��มปั�ญหา NP-complete

บ่างปั�ญหาม�ความยากที่��ย�งไม�ม�ใครในโลุ่กออกแบ่บ่อ�ลุ่กอร�ที่ มที่��ให�ผลุ่เฉลุ่ยได้�รวด้เร#ว ซึ่ �งปั�ญหาเหลุ่�าน�&ว�า NP-complete problem

ปรูะส้ ทำธิ ภาพของอ$ลกอรู ทำ/ม ปรูะส้ ทำธิ ภาพของอ$ลกอรู ทำ/ม

04/20/23 4

ปั�ญหา เวลุ่าที่'างานของอ�ลุ่กอร�

ที่ มSorting O(n log n)

Closest point 2D O(n log n)

Single source shortest path

O(e + v log v)

Minimum spanning tree O(e log e)

Matrix multiplication O(n3)

All pair shortest path O(v3)

Sum of subset O(2n)

Assignment O(n!)

อ$ลกอรู ทำ/มทำ��ม�ปรูะส้ ทำธิ ภาพ หมายถ้/งอ$ลกอรู ทำ/มทำ��จะทำ�างานได�รูว่ดเรู0ว่และม�อ$ตรูาการูเต บ้โตของเว่ลาทำ�างานทำ��ยอมรู$บ้ได� คู่1อO(nk)อ$ลกอรู ทำ/มทำ��ไม�ม�ปรูะส้ ทำธิ ภาพ หมายถ้/งอ$ลกอรู ทำ/มทำ��ม�เว่ลาการูทำ�างานโตเรู0ว่กว่�าฟ*งก2ชั$นพห�นามเชั�น O(n log n) O(2n) หรู1อ O(n!)

04/20/23 5

ป*ญหาง�ายหรู1อยากป*ญหาง�ายหรู1อยาก

เปั�นปั�ญหาง�าย (Tractable problem) ก#ต่�อเม*�อม�อ�ลุ่กอร�ที่ มที่��ม�ปัระสิ�ที่ธิ�ภาพซึ่ �งใช้�แก�ปั�ญหาน�&ได้�

เปั�นปั�ญหายาก (Intractable problem) ก#ต่�อเม*�อพ�สิ1จน3ได้�ว�าต่�องใช้�อ�ลุ่กอร�ที่ มที่��ไม�ม�ปัระสิ�ที่ธิ�ภาพแน�ๆในแก�ปั�ญหาน�&

ปั�ญหาในต่ารางปัระสิ�ที่ธิ�ภาพอ�ลุ่กอร�ที่ มข�างต่�น ยกเว�น 2 รายการสิ�ด้ที่�ายเปั�นปั�ญหาง�ายที่�&งสิ�&น เพราะได้�พบ่อ�ลุ่กอร�ที่ มที่��ม�ปัระสิ�ที่ธิ�ภาพซึ่ �งใช้�แก�ปั�ญหาเหลุ่�าน�&แลุ่�ว

สิองปั�ญหาสิ�ด้ที่�ายในต่ารางปัระสิ�ที่ธิ�ภาพอ�ลุ่กอร�ที่ มข�างต่�นเปั�นปั�ญหายากเพราะอาจม�อ�ลุ่กอร�ที่ มที่��ม�ปัระสิ�ที่ธิ�ภาพซึ่ �งแก�ปั�ญหาเหลุ่�าน�&ได้�ที่��เราย�งไม�ร1 �จ�กก#ได้�

04/20/23 6

ม�ป*ญหาอะไรูบ้�างทำ��รู��ว่�ายากแน�ๆม�ป*ญหาอะไรูบ้�างทำ��รู��ว่�ายากแน�ๆ ปั�ญหาแจกแจงที่�กกรณี� เซึ่ต่ย�อย ซึ่ งม�ความซึ่�บ่ซึ่�อนอย1�ใน O(2n) ปั�ญหาย�ายจานหอคอยฮานอย ซึ่ �งต่�องที่'าการย�าย 2n -1 คร�&ง ปั�ญหายากที่��สินใจก�นสิ�วนใหญ�เปั�นปั�ญหาที่��ค�ด้ค'าต่อบ่นานๆ ไม�ใช้�

ค�ด้ค'าต่อบ่ยาวๆ ปั�ญหาปัระเภที่ที่��พ�สิ1จน3ได้�เลุ่ยว�าไม�ม�อ�ลุ่กอร�ที่ มใด้ๆหาค'าต่อบ่ได้�

(เร�ยกก�นว�าปั�ญหา non-computable) เช้�น Hilbert’s Tenth Problem ซึ่ �งต่�องการหาค'าต่อบ่ของสิมการ Diphantine ต่�วอย�างเช้�น จงหาว�าม�ค'าต่อบ่จ'านวนเต่#มของต่�วแปัร x, y แลุ่ะ z ในสิมการ 42x2y +34xz = 112 หร*อไม� ?

ปั�ญหา Halting problem ซึ่ �ง Alan Turing เปั�นผ1�พ�สิ1จน3ว�า เปั�นปั�ญหาแบ่บ่ค'านวณีไม�ได้�ในปั7 ค.ศ . 1937

04/20/23 7

ป*ญหาการูต$ดส้ นใจป*ญหาการูต$ดส้ นใจ

ปั�ญหาการต่�ด้สิ�นใจค*อปั�ญหาที่��ให�ค'าต่อบ่ว�า ใช้�/ไม�ใช้� ได้�/ไม�ได้� ม�/ไม�ม� จร�ง/ไม�จร�ง ม�เพ�ยงสิองค'าต่อบ่

ต่�วอย�างของปั�ญหาปัระเภที่น�& เช้�น Satisfiability (SAT) Hamilton Circuit (HAM) Traveling Salesperson Problem (TSP)

04/20/23 8

ต$ว่อย�างป*ญหา ต$ว่อย�างป*ญหา Satisfiability Satisfiability (SAT)(SAT)

04/20/23 9

ต$ว่อย�างป*ญหา ต$ว่อย�างป*ญหา Hamilton CircuitHamilton Circuit

1

1

2

34

5

2 3

4 5 6

7 8 9

10

1311

12กราฟที่��ม�วงจร Hamilton

กราฟที่��ไม�ม�วงจร Hamilton

กราฟน�&ม�วงจร Hamilton หร*อไม� (วงจรที่��ผ�านจ�ด้ยอด้ที่�กจ�ด้ๆลุ่ะหน �งคร�&ง)

Traveling Salesperson Problem (TSP)Traveling Salesperson Problem (TSP)

ก'าหนด้ให� G ค*อกราฟ อยากที่ราบ่ว�าม�วงจรในกราฟน�&ซึ่ �งผ�านจ�ด้ยอด้ (Vertex) ที่�กจ�ด้ในกราฟจ�ด้ลุ่ะหน �งคร�&ง โด้ยความยาวรวมของวงจรน�&ม�ค�าไม�เก�น k หร*อไม�

เปั�น NP-hard Problem

Other ProblemsOther Problems Partition

Partition n positive integers s1, s2, s3, …, sn into two groups A and B such that the sum of the numbers in each group is the same.

[9, 4, 6, 3, 5, 1,8] A = [9, 4, 5] and B = [6, 3, 1, 8] เปั�น NP-hard Problem

Subset Sum Problem

Does any subset of n positive integers s1, s2, s3, …, sn have a sum exactly equal to c?

[9, 4, 6, 3, 5, 1,8] and c = 18A = [9, 4, 5]

เปั�น NP-hard Problem

04/20/23 12

ต�องการูคู่�าตอบ้ทำ��เป!นไปได�หรู1อคู่�าตอบ้ทำ��ต�องการูคู่�าตอบ้ทำ��เป!นไปได�หรู1อคู่�าตอบ้ทำ��ด�ทำ��ส้�ดด�ทำ��ส้�ด

เป5าหมายการูแก�ป*ญหาน$�น ต่�องการจะให�ได้�ค'าต่อบ่ที่��ด้�ที่��สิ�ด้หร*อต่�องการแค�ค'าต่อบ่ที่��เปั�นไปัได้�ต$ว่อย�างป*ญหา

Travelling Salesperson: บ่�ร�ษไปัรษณี�ย3ต่�องการเด้�นสิ�งจด้หมายให�ครบ่ที่�กเม*องโด้ยให�ม�ระยะที่างรวมสิ�&นที่��สิ�ด้• ค'าต่อบ่ที่��ด้�ที่��สิ�ด้ในปั�ญหาน�&ค*อค'าต่อบ่ของระยะ

ที่างที่��สิ� &นที่��สิ�ด้ จะใช้�เวลุ่าสิ'าหร�บ่การหาค'าต่อบ่เปั�น O(n!)

• ค'าต่อบ่ที่��พอใช้�ได้�อาจอย1�ในเที่อมของ O(na)

• ที่�&งน�&ระยะเวลุ่าที่��ใช้�ในการที่'าค'าต่อบ่ที่��ด้�ที่��สิ�ด้ของแต่�ลุ่ะปั�ญหาข &นก�บ่ลุ่�กษณีะธิรรมช้าต่�ของปั�ญหาน�&นๆ

04/20/23 13

ป*ญหาเป!นแบ้บ้ ป*ญหาเป!นแบ้บ้ P P หรู1อ หรู1อ NPNP

ปั�ญหาแบ่�งเปั�น 2 กลุ่��ม กลุ่��มแรกค*อปั�ญหาที่��แก�ไขได้�ในเวลุ่า Polynomial กลุ่��มที่��สิองค*อปั�ญหาที่�� ไม� สิามารถแก�ไขได้�ในเวลุ่า

Polynomial ปั�ญหาในกลุ่��มที่��สิองอาจแก�ได้�ในเวลุ่า Polynomial ถ�าใช้�ว�ธิ�

เด้า (guess) ค'าต่อบ่ โด้ยก'าหนด้ระยะเวลุ่าในการเด้าค'าต่อบ่ให�อย1�ในร1ปัของเวลุ่า P

ปั�ญหาที่��แก�ไขได้�ในเวลุ่า Polynomial เร�ยกว�าปั�ญหาแบ่บ่ P ปั�ญหาที่��แก�โด้ยใช้�เวลุ่า P ในการเด้าค'าต่อบ่ เปั�นปั�ญหาแบ่บ่

NP หร*อ Non-Deterministic Polynomial

04/20/23 14

เคู่รู1�องคู่�านว่ณแบ้บ้ เคู่รู1�องคู่�านว่ณแบ้บ้ TuringTuring

เสินอโด้ย Alan Turing ในปั7 ค.ศ . 1936 เปั�นแบ่บ่จ'าลุ่องของเคร*�องค'านวณีที่��ม�โครงสิร�างง�ายๆ แต่�สิามารถใช้�แก�ปั�ญหาสิ�วนใหญ�ได้�

ม�ปั�ญหาบ่างปัระเภที่ที่��ไม�ว�าจะใช้�เคร*�องค'านวณีแบ่บ่ใด้ก#ต่าม ก#ไม�สิามารถจะใช้�หาค'าต่อบ่ของปั�ญหาเหลุ่�าน�&นได้� เช้�น ปั�ญหาที่��ว�าจะร1 �ได้�อย�างไรว�าโปัรแกรมที่��ให�มาจะหย�ด้ที่'างาน (the Halting Problem)

A Turing Machine was a specific mechanical device that could carry out some specific task in a systematic way .Each Turing Machine would work in a similar manner, using mechanisms related to the computer concepts of input, output and a program.

04/20/23 15

Deterministic Turing MachineDeterministic Turing Machine (DTM)(DTM)

เคู่รู1�องคู่�านว่ณ DTM แบ้บ้พ1�นฐานปรูะกอบ้ด�ว่ย1 .เทำปทำ��ม�คู่ว่ามยาว่ไม�จ�าก$ด แบ้�งออกเป!นชั�องๆ เทำ�าๆ ก$น เพ1�อไว่�

บ้รูรูจ�ข�อม�ล ซ้ำ/�งอาจเป!นต$ว่เลขหรู1อต$ว่หน$งส้1อก0ได�2. ห$ว่ส้�าหรู$บ้อ�านและเข�ยนต$ว่อ$กษรูทำ��อย��บ้นเทำป ห$ว่น��อ�านต$ว่อ$กษรู

คู่รู$�งละหน/�งต$ว่อ$กษรูและส้ามารูถ้เล1�อนไปมาทำางซ้ำ�ายหรู1อขว่าได� หรู1อไม�เล1�อนเลย ทำ$�งน��จะข/�นก$บ้ส้�ว่นคู่ว่บ้คู่�มหรู1อล�าด$บ้การูทำ�างานของเคู่รู1�องคู่�านว่ณ

3. ส้�ว่นคู่ว่บ้คู่�ม ทำ�าหน�าทำ��ต$ดส้ นใจว่�า จะให�ห$ว่อ�าน/เข�ยนบ้$นทำ/กต$ว่อ$กษรูอะไรูลงไปบ้นเทำป เม1�ออ�านต$ว่อ�กษรูหน/�งต$ว่บ้นเทำป จะเป!นผู้��ก�าหนดว่�าจะให�ไปทำ�าข$�นตอนไหนต�อไปในล�าด$บ้การูทำ�างนของเคู่รู1�อง

. . . . . . . .

ห$ว่อ�าน/เข�ยนส้�ว่นคู่ว่บ้คู่�ม เทำปทำ��ม�คู่ว่ามยาว่ไม�จ�าก$ด

04/20/23 16

Non- deterministic Turing MachineNon- deterministic Turing Machine (NDTM)(NDTM)

เคู่รู1�องคู่�านว่ณ NDTM แบ้บ้พ1�นฐานปรูะกอบ้ด�ว่ย1. เทำปทำ��ม�คู่ว่ามยาว่ไม�จ�าก$ด แบ้�งออกเป!นชั�องๆ เทำ�าๆ ก$น เพ1�อไว่�

บ้รูรูจ�ข�อม�ล ซ้ำ/�งอาจป!นต$ว่เลขหรู1อต$ว่หน$งส้1อก0ได�2. ห$ว่ส้�าหรู$บ้อ�านและเข�ยนต$ว่อ$กษรูทำ��อย��บ้นเทำป ห$ว่น��อ�านต$ว่อ$กษรู

คู่รู$�งละหน/�งต$ว่อ$กษรูและส้ามารูถ้เล1�อนไปมาทำางซ้ำ�ายหรู1อขว่าได� หรู1อไม�เล1�อนเลย ทำ$�งน��จะข/�นก$บ้ส้�ว่นคู่ว่บ้คู่�มหรู1อล�าด$บ้การูทำ�างานของเคู่รู1�องคู่�านว่ณ

3. ส้�ว่นคู่ว่บ้คู่�มแน�ชั$ดและส้�ว่นเดา ทำ�าหน�าทำ��ต$ดส้ นใจว่�า จะให�ห$ว่อ�าน/เข�ยนบ้$นทำ/กต$ว่อ$กษรูอะไรูลงไปบ้นเทำป เม1�ออ�านต$ว่อ�กษรูหน/�งต$ว่บ้นเทำป จะเป!นผู้��ก�าหนดว่�าจะให�ไปทำ�าข$�นตอนไหนต�อไปในล�าด$บ้การูทำ�างนของเคู่รู1�อง

04/20/23 17

DTM and NDTM with k tapesDTM and NDTM with k tapes

DTM with k tapes

NDTM with k tapes

04/20/23 18

โปรูแกรูมส้�าหรูบ้เคู่รู1�องคู่�านว่ณแบ้บ้โปรูแกรูมส้�าหรูบ้เคู่รู1�องคู่�านว่ณแบ้บ้ TuringTuring

กลุ่��มต่�วอ�กษรที่��ม�จ'านวนแน�นอนบ่นเที่ปั แที่นด้�วย T กลุ่��มข�&นต่อนการที่'างานของสิ�วนควบ่ค�ม แที่นด้�วย Q

q0 ค*อข�&นต่อนเร��มต่�น qF ค*อข�&นต่อนสิ�ด้ที่�าย {qi} ค*อข�&นต่อนระหว�าง q

0 แลุ่ะ qF

ฟ�งก3ช้�นการเปัลุ่��ยนข�&นต่อนการที่'างานแลุ่ะเลุ่*�อนห�วอ�าน/เข�ยน แที่นฟ�งก3ช้�นเม*�ออ�านต่�วอ�กรเข�ามาต่'าแหน�งห�วอ�าน/เข�ยน เลุ่*�อนได้� 3 แบ่บ่ ค*อ L (ไปัที่าง

ซึ่�าย ) R (ไปัที่างขวา ) แลุ่ะ S (ไม�เลุ่*�อน): (Q – {qF} x T Q x T x {L, R, S}

04/20/23 19

การูลดรู�ปของป*ญหาการูลดรู�ปของป*ญหา ก'าหนด้ให� Q1 แลุ่ะ Q

2 เปั�นปั�ญหาการต่�ด้สิ�นใจ 2 ปั�ญหา

ถ�าเราลุ่ด้ร1ปัปั�ญหา Q1ไปัเปั�นปั�ญหา Q

2 ก#แสิด้งว�าเราสิามารถเปัลุ่��ยน

ต่�วอย�างปั�ญหาใด้ๆของ Q1 ไปัเปั�นต่�วอย�างปั�ญหาของ Q2 ได้�

จากน�&นใช้�อ�ลุ่กอร�ที่ ม Q2 หาค'าต่อบ่ ก#จะเปั�นค'าต่อบ่ของต่�วอย�างปั�ญหาของ

Q1 น�&น การลุ่ด้ร1ปัของปั�ญหาเปั�นกลุ่ว�ธิ�ในการแก�ปั�ญหาแบ่บ่หน �ง

สิมมต่�ว�าเราต่�องการแก�ปั�ญหา Q1 สิ��งที่��น�กออกแบ่บ่อ�ลุ่กอร�ที่ มต่�องค�ด้ค*อ Q1 เปั�นปั�ญหาที่��ร1 �สิ กคลุ่�ายๆก�บ่ปั�ญหาอ*�นที่��เราเคยร1 �จ�กว�ธิ�แก�ไขหร*อไม� ถ�าร1 �สิ กว�าคลุ่�ายปั�ญหา Q2 แลุ่�ว ค�ด้ต่�อว�าจะม�ว�ธิ�ต่�ความปั�ญหา Q

1 ให�อย1�ใน

ร1ปัแบ่บ่ของปั�ญหา Q2 ที่��เราร1 �จ�กว�ธิ�แก�ไขน�&นได้�อย�างไร

04/20/23 20

กล��มป*ญหากล��มป*ญหา NP-CompleteNP-Complete

P NPปั�ญหาในกลุ่��ม P เปั�นปั�ญหาง�ายที่�&งสิ�&น เพราะม�อ�ลุ่กอร�ที่ มหาค'าต่อบ่ได้�อย�างม�ปัระสิ�ที่ธิ�ภาพ ในขณีะที่��ปั�ญหาในกลุ่��ม NP น�&นย�งไม�เด้�นช้�ด้

ในปั7 ค.ศ . 1971 Cook ได้�แสิด้งให�เห#นว�าปั�ญหา SAT เปั�นปั�ญหาที่��ยากที่��สิ�ด้ใน NP โด้ยการพ�สิ1จน3ว�าที่�กๆปั�ญหาใน NP สิามารถลุ่ด้ร1ปัแบ่บ่พห�นามไปัเปั�น SAT ได้�หมด้

ในปั7 ค.ศ . 1972 Karp ได้�อาศ�ยกลุ่ว�ธิ�การลุ่ด้ร1ปัเพ*�อแสิด้งให�เห#นว�าม�ปั�ญหาอ*�นๆอ�กมากมายหลุ่ากหลุ่ายร1ปัแบ่บ่ที่��ม�ความยากง�ายเที่�ยบ่เที่�าก�บ่ SAT น��นก#ค*อกลุ่��มปั�ญหาที่��เร�ยกว�า NP-Complete ซึ่ �งเปั�นกลุ่��มปั�ญหาที่��ยากที่��สิ�ด้ใน NP หมายความว�าเปั�นกลุ่��มปั�ญหาที่��ม�ความยากง�ายที่�ด้เที่�ยมก�นหมด้ (อ�นเปั�นที่��มาของค'าว�า Complete หร*อ บ่ร�บ่1รณี3)

04/20/23 21

NP-Complete NP-Complete ((ต�อต�อ))

ด้�งน�&นหากใครพบ่อ�ลุ่กอร�ที่ มที่��ม�ปัระสิ�ที่ธิ�ภาพที่��แก�เพ�ยง 1 ปั�ญหาใน NP-Complete ก#ย�อมหมายความว�าที่�กปั�ญหาใน NPC เปั�นปั�ญหาง�ายที่�&งสิ�&น (น��นค*อพ�สิ1จน3ได้�ว�า P = NP)

ในที่างกลุ่�บ่ก�น ถ�าม�ใครสิามารถพ�สิ1จน3เพ�ยง 1 ปั�ญหาใด้ใน NPC เปั�นปั�ญหายาก ก#สิร�ปัได้�ว�าที่�กปั�ญหาในกลุ่��มน�&เปั�นปั�ญหายากที่�&งสิ�&น (น��นค*อ พ�สิ1จน3ได้�ว�า P NP หร*อ P NP)

04/20/23 22

ส้รู�ปส้รู�ป

Or, if any NP-complete problem can be solved in polynomial time, then NP = P

P

NP-Complete

NP

กลุ่��มปั�ญหา NP-Hard Q เป!นป*ญหา NP-Hard ถ้�าทำ�กป*ญหาใน NP ส้ามารูถ้ลดรู�ปแบ้บ้

พห�นามไปเป!น Q ได�NP-Complete คู่1อกล��มของป*ญหาการูต$ดส้ นใจทำ��เป!น NP-

Hard และอย��ในกล��ม NPป*ญหา NP-Hard ไม�จ�าเป!นต�องเป!นป*ญหาต$ดส้ นใจ

If any NP-Complete can be solved in polynomial time, then all NP problems can be solved in polynomial time.

04/20/23 23

ส้รู�ปส้รู�ป

SAT เปั�น NP Problem NP problem ที่�&งหลุ่ายแปัลุ่งให�เปั�นปั�ญหา SAT ได้�ในเวลุ่า

Polynomial การแก�ปั�ญหาที่��เปั�น NP สิามารถที่'าได้�ในเวลุ่าที่��เปั�น Polynomial

โด้ยใช้�เคร*�อง NDTM

Apr 20, 202324