vỀ cỰc trỊ hÀm lỒi

ĐẠI HỌC QUỐC GIA HÀ NỘI

TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

-------------------------

NGUYỄN ĐÌNH THỌ

VỀ CỰC TRỊ HÀM LỒI

LUẬN VĂN THẠC SĨ TOÁN HỌC

Hà Nội - Năm 2014

ĐẠI HỌC QUỐC GIA HÀ NỘI

TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

-------------------------

NGUYỄN ĐÌNH THỌ

VỀ CỰC TRỊ HÀM LỒI

Chuyên ngành: TOÁN GIẢI TÍCH

Mã số: 60 46 01 02

LUẬN VĂN THẠC SĨ TOÁN HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC:

GS. TSKH. LÊ DŨNG MƯU

Hà Nội - Năm 2014

i

MỤC LỤC

Lời nói đầu ii

Chương 1. Các kiến thức cơ bản về giải tích lồi 1

1.1. Tập lồi 1

1.2. Hàm lồi 9

1.3. Dưới vi phân 11

1.3.1. Khái niệm 11

1.3.2. Phép tính với dưới vi phân 14

1.4. Đạo hàm theo hướng và tính khả vi của hàm lồi 17

Chương 2. Cực tiểu hàm lồi trên tập lồi 19

2.1. Phát biểu bài toán 19

2.2. Sự tồn tại nghiệm tối ưu 23

2.3. Điều kiện tối ưu 26

2.3.1. Bài toán với ràng buộc đẳng thức 27

2.3.2. Bài toán với ràng buộc bất đẳng thức 29

2.4. Đối ngẫu Lagrange 32

2.5. Các phương pháp giải cơ bản 35

2.5.1. Phương pháp chiếu dưới đạo hàm 35

2.5.2. Thuật toán Frank-Wolfe 38

Chương 3. Cực đại hàm lồi trên tập lồi 44

3.1. Phát biểu bài toán 44

3.2. Tính chất cơ bản 44

3.3. Các phương pháp giải cơ bản 46

3.3.1. Phương pháp xấp xỉ ngoài 46

3.3.2. Phân hoạch không gian và thuật toán nhánh cận 52

Kết luận 62

Tài liệu tham khảo 63

ii

LỜI NÓI ĐẦU

Cực trị hàm lồi trên tập lồi là một lớp bài toán cơ bản của tối ưu hóa. Cực

tiểu hàm lồi trên tập lồi gọi là quy hoạch lồi có tính chất cơ bản là mọi điểm cực

tiểu địa phương đều là cực tiểu tuyệt đối. Tính chất quan trọng này cho phép các lý

thuyết có tính địa phương như giới hạn, vi phân,...có thể áp dụng trực tiếp vào quy

hoạch lồi. Lý thuyết về bài toán quy hoạch lồi đã được nghiên cứu nhiều và đã thu

được nhiều kết quả quan trọng dựa trên lý thuyết của giải tích lồi và tối ưu hóa. Cực

đại hàm lồi trên tập lồi có tính chất khác hẳn cực tiểu hàm lồi trên tập lồi, cụ thể ta

thấy rằng cực đại địa phương của một hàm lồi không nhất thiết là cực đại tuyệt đối.

Mục đích của luận văn này là để trình bày bài toán cực đại, cực tiểu hàm lồi

trên tập lồi và một số phương pháp giải cơ bản các bài toán này. Luận văn gồm có

ba chương:

Chương 1. Các kiến thức cơ bản về giải tích lồi

Trình bày một số khái niệm, định nghĩa và kết quả cần thiết liên quan đến tập

lồi và hàm lồi.

Chương 2. Cực tiểu hàm lồi trên tập lồi

Trình bày bài toán cực tiểu hàm lồi trên tập lồi, sự tồn tại nghiệm tối ưu và

điều kiện tối ưu của bài toán. Đối ngẫu Lagrange. Trình bày hai phương pháp cơ

bản giải bài toán quy hoạch lồi đó là phương pháp chiếu dưới đạo hàm và thuật toán

Frank-Wolfe.

Chương 3. Cực đại hàm lồi trên tập lồi

Trình bày bài toán cực đại hàm lồi trên tập lồi và một số tính chất cơ bản.

Trình bày hai phương pháp cơ bản giải bài toán cực đại hàm lồi trên tập lồi đó là

phương pháp xấp xỉ ngoài và thuật toán nhánh cận.

Luận văn được hoàn thành tại Trường Đại học Khoa học Tự nhiên - Đại học

Quốc gia Hà Nội, dưới sự hướng dẫn của GS. TSKH. Lê Dũng Mưu.

Em xin bày tỏ lòng biết ơn sâu sắc tới GS. TSKH. Lê Dũng Mưu, người đã

tận tình hướng dẫn và giúp đỡ em trong suốt quá trình nghiên cứu để em có thể

hoàn thành luận văn này.

iii

Em cũng bày tỏ lòng biết ơn chân thành tới quý thầy, cô giáo Trường Đại

học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội đã giảng dạy và giúp đỡ em

hoàn thành khóa học.

Nhân dịp này em cũng xin chân thành cảm ơn Ban giám hiệu, đồng nghiệp

Trường THPT Ân Thi, gia đình và bạn bè đã luôn động viên, giúp đỡ và tạo điệu

kiện cho em về mọi mặt trong suốt quá trình học tập và thực hiện luận văn này.

Mặc dù đã có nhiều cố gắng nhưng luận văn khó tránh khỏi những thiếu sót.

Tác giả rất mong nhận được ý kiến đóng góp của quý thầy, cô giáo và bạn đọc để

luận văn được hoàn thiện hơn.

Xin trân trọng cảm ơn!

1


Chương này trình bày một số khái niệm, định nghĩa và kết quả cần thiết liên

quan đến tập lồi và hàm lồi. Nội dung của chương được tham khảo từ các tài liệu

[1], [2], [4], [9].

1.1. Tập lồi

Định nghĩa 1.1. Cho hai điểm , na b .

(i) Đường thẳng đi qua hai điểm a và b là tập hợp có dạng

, , , 1nx x αa βb α β α β .

(ii) Đoạn thẳng nối hai điểm a và b là tập hợp có dạng

, 0, 0, 1nx x αa βb α β α β .

Định nghĩa 1.2. Một tập nC được gọi là một tập lồi, nếu C chứa mọi đoạn

thẳng đi qua hai điểm bất kỳ của nó. Tức là

C là tập lồi , , 0,1x y C λ thì 1λx λ y C .

Định nghĩa 1.3. (i) Ta nói x là tổ hợp lồi của các điểm (vectơ) 1 2, ,..., kx x x nếu

1

kj

jj

x λ x

với 0, 1,2,...,jλ j k và 1

1k

jj

λ

.

(ii) Ta nói x là tổ hợp affine của các điểm (vectơ) 1 2, ,..., kx x x nếu

1

kj

jj

x λ x

với 1

1k

jj

λ

.

Mệnh đề 1.1. Tập hợp C là lồi khi và chỉ khi nó chứa mọi tổ hợp lồi của các điểm

của nó. Tức là

C lồi 11

1 1

, ,..., 0 1 ,...,

k k

kk j j j

j j

k λ λ sao cho λ và x x C thì λ x C .


2

Định nghĩa 1.4. Một tập C được gọi là tập affine nếu nó chứa đường thẳng đi qua

hai điểm bất kỳ của nó, tức là

C là tập affine , , x y C λ thì 1λx λ y C .

Định nghĩa 1.5. Siêu phẳng trong không gian n là tập hợp các điểm có dạng

n Tx a x α ,

trong đó na là một vectơ khác 0 và α .

Định nghĩa 1.6. Nửa không gian là một tập hợp có dạng

n Tx a x α ,

trong đó na là một vectơ khác 0 và α , đây là nửa không gian đóng.

Tập n Tx a x α là nửa không gian mở.

Mệnh đề 1.2. Tập M là tập affine khi và chỉ khi nó có dạng M L a với L

là một không gian con và a M . Không gian con L này được xác định duy nhất.

Không gian L trong mệnh đề trên được gọi là không gian con song song với

M (hoặc không gian con của M ).

Định nghĩa 1.7. Thứ nguyên (hay chiều) của một tập affine M là thứ nguyên của

không gian song song với M và được ký hiệu là dim M .

Mệnh đề 1.3. Bất kỳ một tập affine nM có số chiều r đều có dạng

nM x Ax b , (1.1)

trong đó A là ma trận cấp m n , mb và rankA n r . Ngược lại, mọi tập hợp

có dạng (1.1) với rankA n r đều là tập affine có số chiều là r .

Định nghĩa 1.8. Các điểm 0 1, ,..., kx x x trong n được gọi là độc lập affine nếu bao

affine của chúng có thứ nguyên là k .

Định nghĩa 1.9. Một tập hợp nS được gọi là một đơn hình có thứ nguyên bằng

k (hoặc k đơn hình), nếu S là tổ hợp lồi của 1k vectơ độc lập affine. Các vectơ

này được gọi là đỉnh của đơn hình.


3

Định nghĩa 1.10. Một tập được gọi là tập lồi đa diện, nếu nó là giao của một số

hữu hạn các nửa không gian đóng.

Dạng tường minh của một tập lồi đa diện được cho như sau:

: , , 1,2,...,n jjD x a x b j m ,

trong đó 0 j na và jb , 1,2,...,j m .

Nếu ta kí hiệu A là ma trận có m hàng là các vectơ ja 1,2,...,j m và

vectơ 1 2, ,...,Tmb b b b thì hệ trên viết được là:

nD x Ax b .

Định nghĩa 1.11. Một tập C được gọi là nón nếu

0, λ x C λx C .

(i) Một nón được gọi là nón lồi nếu nó đồng thời là một tập lồi.

(ii) Một nón lồi được gọi là nón nhọn nếu nó không chứa đường thẳng, khi đó ta nói

O là đỉnh của nón. Nếu nón lồi này là một tập lồi đa diện thì ta nói nó là nón lồi đa

diện.

Định nghĩa 1.12. Cho nC là một tập lồi và x C .

(i) Tập

: , 0, CN x w w y x y C

được gọi là nón pháp tuyến (ngoài) của C tại x .

(ii) Tập

: , 0, CN x w w y x y C

được gọi là nón pháp tuyến (trong) của C tại x .

Định nghĩa 1.13. Một điểm a C được gọi là điểm trong tương đối của C nếu nó

là điểm trong của C theo tô-pô cảm sinh bởi affC . Ký hiệu tập các điểm trong

tương đối của C là riC . Vậy

ri : : affC a C B a B C C ,


4

trong đó B là một lân cận mở của gốc.

Hiển nhiên

ri aff : affC a C B a B C C .

Mệnh đề 1.4. Cho nC là một tập lồi. Giả sử rix C . Khi đó với mọi y C ,

tất cả các điểm trên đoạn thẳng nối x và y , có thể trừ y , đều thuộc riC . Nói cách

khác, với mọi 0 1λ thì 1 ri riλ C λC C .

Định nghĩa 1.14. Bao lồi của một tập E là giao của tất cả các tập lồi chứa E . Ký

hiệu là coE .

Định nghĩa 1.15. Một điểm x C được gọi là điểm cực biên của C nếu không tồn

tại , , 0a b C a và 0 1λ sao cho 1x λa λ b .

Trong trường hợp C tập lồi đa diện thì điểm cực biên còn được gọi là đỉnh.

Ta kí hiệu V C là tập các điểm cực biên của C . Bao lồi của một số hữu hạn điểm

là một tập đa diện lồi, compact. Nếu 0 1, ,..., mv v v độc lập affine thì bao lồi của

chúng là một đơn hình. Đơn hình này có thứ nguyên là m . Các điểm 0 1, ,..., mv v v

được gọi là đỉnh (điểm cực biên) của đơn hình này.

Định nghĩa 1.16. Một tập F C được gọi là một diện của một tập lồi C nếu F là

tập lồi có tính chất

, : 1 , 0 1x y C tx t y F t thì ,x y F .

Điểm cực biên là diện có thứ nguyên bằng 0. Cạnh là diện có thứ nguyên bằng 1.

Tia cực biên là một diện nửa đường thẳng. Như vậy tia cực biên là một cạnh vô hạn.

Hướng cực biên là hướng của tia cực biên.

Định nghĩa 1.17. Cho 0x C . Ta nói Ta x α là siêu phẳng tựa của C tại 0x , nếu

0Ta x α , Ta x α , x C .

Định nghĩa 1.18. Cho C (không nhất thiết lồi) và y là một vectơ bất kỳ, đặt

: inf

Cx C

d y x y .


5

Ta nói Cd y là khoảng cách từ y đến C . Nếu tồn tại π C sao cho

Cd y π y , thì ta nói π là hình chiếu (vuông góc) của y trên C và ký hiệu là

Cπ P y .

Theo định nghĩa, ta thấy rằng hình chiếu CP y của y trên C là nghiệm của

bài toán tối ưu

21min

2

x y x C .

Nói cách khác việc tìm hình chiếu của y trên C có thể đưa về việc tìm cực

tiểu của hàm toàn phương 2

x y trên C . Nếu C thì Cd y hữu hạn, vì

0 , Cd y x y x C .

Mệnh đề 1.5. Cho C là một tập lồi đóng khác rỗng. Khi đó:

(i) Với mọi ny , π C hai tính chất sau là tương đương:

a) Cπ P y ,

b) Cy π N π .

(ii) Với mọi ny , hình chiếu CP y của y trên C luôn tồn tại và duy nhất.

(iii) Nếu y C , thì , 0 C CP y y x P y là siêu phẳng tựa của C tại CP y

và tách hẳn y khỏi C , tức là

, 0, C CP y y x P y x C

và

, 0 C CP y y y P y .

(iv) Ánh xạ Cy P y có các tính chất sau:

a) , , nC CP x P y x y x y (tính không giãn).

b) 2

, C C C CP x P y x y P x P y (tính đồng bức).

Chứng minh. (i) Giả sử có a). Lấy x C và 0,1λ . Đặt


6

: 1 λx λx λ π .

Do ,x π C và C lồi, nên λx C . Hơn nữa do π là hình chiếu của y nên

λπ y y x . Hay

22

π y λ x π π y .

Khai triển vế phải, ước lược và chia hai vế cho 0λ , ta có

22 , 0 λ x π x π π y .

Điều này đúng với mọi x C và 0,1λ . Do đó khi cho 0λ , ta được

, 0, π y x π x C .

Vậy Cy π N π .

Bây giờ giả sử có b). Với mọi x C , ta có

2

0

.

T T

T

y π x π y π x y y π

y π y π x y

Từ đây và b), dùng bất đẳng thức Cauchy-Schwarz ta có

2.

Ty π y π y x y π y x .

Suy ra , y π y x x C và do đó Cπ P y .

(ii) Do inf

Cx C

d y x y nên theo định nghĩa của cận dưới đúng, tồn tại một dãy

kx C sao cho

lim

kC

kx y d y .

Vậy dãy kx bị chặn, do đó nó có một dãy con jkx hội tụ đến một điểm π nào

đó. Do C đóng nên π C . Vậy

lim lim

jk kC

j kπ y x y x y d y .

Chứng tỏ π là hình chiếu của y trên C .


7

Bây giờ ta chỉ ra tính duy nhất của hình chiếu. Thật vậy, nếu tồn tại hai điểm

π và 1π đều là hình chiếu của y trên C thì

1 1, C Cy π N π y π N π .

Tức là

1, 0 π y π π

và

1 1, 0 π y π π .

Cộng hai bất đẳng thức này ta suy ra 1 0 π π , và do đó 1π π .

(iii) Do Cy π N π nên

, 0, π y x π x C .

Vậy , ,π y x π y π là một siêu phẳng tựa của C tại π . Siêu phẳng này tách

y khỏi C vì y π nên

2, 0 π y y π π y .

(iv) Theo phần (ii) ánh xạ Cx P x xác định khắp nơi.

Do C C Cz P z N P z với mọi z , nên áp dụng z x và z y ta có

, 0 C C Cx P x P y P x

và

, 0 C C Cx P y P x P y .

Cộng hai bất đẳng thức trên ta được

, 0 C C C CP y P x P y P x x y .

Từ đây và theo bất đẳng thức Cauchy-Schwarz suy ra

C CP x P y x y .

Để chứng minh tính đồng bức, áp dụng tính chất b) của (i) lần lượt với

CP x và CP y , ta có


8

, 0 C C CP x x P x P y ,

, 0 C C Cy P y P x P y .

Cộng hai bất đẳng thức ta được

, 0 C C C CP x P y y x P x P y

2

, 0 C C C CP x P y y x P x P y

2

, C C C CP x P y x y P x P y .

Định lý 1.1. (Định lý xấp xỉ tuyến tính tập lồi) Mọi tập lồi đóng khác rỗng và không

trùng với toàn bộ không gian đều là giao của tất cả các nửa không gian tựa của nó.

Định nghĩa 1.19. Cho hai tập C và D khác rỗng, ta nói siêu phẳng Ta x α tách

C và D nếu

, , T Ta x α a y x C y D .

Ta nói siêu phẳng Ta x α tách chặt C và D nếu

, , T Ta x α a y x C y D .

Ta nói siêu phẳng Ta x α tách mạnh C và D nếu

sup inf , ,

T T

y Dx C

a x α a y x C y D .

Định lý 1.2. (Định lý tách 1) Cho C và D là hai tập lồi khác rỗng trong n sao

cho C D . Khi đó có một siêu phẳng tách C và D .

Định lý 1.3. (Định lý tách 2) Cho C và D là hai tập lồi đóng khác rỗng trong n

sao cho C D . Giả sử có ít nhất một tập là compact. Khi đó hai tập này có

thể tách mạnh được bởi một siêu phẳng.

Bổ đề 1.1. (Bổ đề Farkas) Cho A là một ma trận thực cấp m n và na . Khi đó

trong hai hệ dưới đây có một hệ và chỉ duy nhất một hệ có nghiệm

0, 0, T nAx a x x ,

, 0, T mA y a y y .


9

Ý nghĩa hình học của Bổ đề Farkas: Nón lồi, đóng 0 nx Ax nằm

trong nửa không gian 0 n Tx a x khi và chỉ khi vectơ pháp tuyến a ở trong

nón sinh bởi các hàng của ma trận A .

1.2. Hàm lồi

Cho nC là tập lồi và :f C . Ta sẽ ký hiệu

dom :f x C f x .

Định nghĩa 1.20. Tập domf được gọi là miền hữu dụng của f . Tập

epi : ,f x μ C f x μ

được gọi là trên đồ thị của hàm f .

Bằng cách cho f x nếu x C , ta có thể coi f được xác định trên

toàn không gian, và ta có

dom nf x f x ,

epi , nf x μ f x μ .

Định nghĩa 1.21. Cho nC lồi và :f C . Ta nói f là hàm lồi trên C ,

nếu epif là một tập lồi trong 1n .

Ta chủ yếu làm việc với hàm : nf . Trong trường hợp này

định nghĩa trên tương đương với

1 1f λx λ y λf x λ f y , ,x y C , 0,1λ .

Định nghĩa 1.22. Cho nC lồi.

(i) Hàm : nf được gọi là hàm lồi chặt trên C nếu

1 1f λx λ y λf x λ f y , ,x y C , 0,1λ .


10

(ii) Hàm : nf được gọi là hàm lồi mạnh trên C với hệ số 0η ,

nếu ,x y C , 0,1λ ta có

211 1 1

2f λx λ y λf x λ f y ηλ λ x y .

(iii) Hàm f được gọi là hàm lõm trên C , nếu f là hàm lồi trên C .

Mệnh đề 1.6. Một hàm :f C là hàm lồi trên C khi và chỉ khi

,x y C , α f x , β f y , 0,1λ 1 1f λx λ y λα λ β .

Ví dụ 1.1. (Một số ví dụ về hàm lồi)

(i) Cho C là một tập lồi, Cδ là hàm chỉ của C , được định nghĩa như sau:

0 khi ,

: khi .

C

x Cδ x

x C

Cδ là một hàm lồi.

(ii) Cho C lồi đóng, hàm khoảng cách đến tập C , được định nghĩa như sau:

: min .

Cy C

d x x y

Cd là một hàm lồi.

Định nghĩa 1.23. Một hàm f gọi là chính thường, nếu domf và

, f x x .

Định nghĩa 1.24. Một hàm f gọi là đóng, nếu epif là một tập đóng trong 1n .

Chú ý 1.1. (i) Nếu f là một hàm lồi trên một tập lồi C , thì có thể thác triển f lên

toàn không gian bằng cách đặt

khi ,

: khi .

e

f x x Cf x

x C

(ii) Nếu f là hàm lồi trên n thì domf là một tập lồi, vì domf là hình chiếu trên

n của epif , tức là dom : , epif x μ x μ f .

Định nghĩa 1.25. Hàm f được gọi là thuần nhất dương (bậc 1) trên n nếu


11

f λx λf x , , 0nx λ .

Mệnh đề 1.7. Cho f là một hàm thuần nhất dương trên n . Khi đó f là hàm lồi

khi và chỉ khi f là dưới cộng tính theo nghĩa f x y f x f y , , nx y .

Mệnh đề 1.8. Nếu 1 2,f f là những hàm lồi, chính thường thì 1 2f f là hàm lồi.

Hệ quả 1.1. Nếu 1 2, ,..., mf f f là các hàm lồi, chính thường và 1 2, ,..., mλ λ λ là các số

dương thì hàm 1 1 2 2 ... m mλ f λ f λ f là lồi.

Định nghĩa 1.26. Hàm l là hàm non affine của một hàm f trên n nếu l là hàm

affine trên n và , nl x f x x .

Định lý 1.4. Mọi hàm lồi đóng chính thường f trên n đều là bao trên của các

hàm non affine của nó. Tức là

sup v vv

f x l x l A ,

trong đó A là tập hợp tất cả các hàm non affine của f .

1.3. Dưới vi phân

1.3.1. Khái niệm

Định nghĩa 1.27. Cho : nf . Ta nói *nx là dưới đạo hàm của f

tại điểm 0nx nếu

* 0 0, x x x f x f x , nx .

Tập hợp tất cả các dưới đạo hàm của f tại điểm 0x được gọi là dưới vi phân của

f tại điểm đó và được kí hiệu là 0f x . Vậy

0 * * 0 0, , nf x x x x x f x f x x .

Nếu 0 f x thì ta nói f khả dưới vi phân tại điểm 0x .


12

Ví dụ 1.2. (Một số ví dụ về dưới vi phân)

(i) Nếu f là hàm affine

*( ) , f x x x α với *nx và α

thì 0 * f x x , 0 nx

(ii) Nếu nC là tập lồi và 0x C thì

0 * * 0, , n nC Cδ x x x x x δ x x .

Với x C thì Cδ x nên * 0, Cx x x δ x luôn đúng. Vậy

0 * * 0 0, 0, nC Cδ x x x x x x C N x .

Mệnh đề 1.9. Cho : nf lồi, chính thường. Khi đó:

(i) Nếu domx f thì f x .

(ii) Nếu int domx f thì f x và compact. Ngược lại, nếu f x ,

compact thì ri domx f .

Chứng minh. (i) Cho domz f thì f z . Vậy nếu domx f thì f x

và do đó không thể tồn tại *x thỏa mãn

*, x z x f x f z .

Vậy f x .

(ii) Giả sử int domx f . Ta có điểm ,x f x nằm trên biên của epif . Do f lồi,

chính thường nên tồn tại siêu phẳng tựa của bao đóng của epif đi qua ,x f x ,

tức là tồn tại np , t không đồng thời bằng 0 thỏa mãn

, , , , epi .p x tf x p y tμ y μ f (1.2)

Ta có 0t , vì nếu 0t thì

, , , dom .p x p y y f

Nhưng do int domx f nên điều này kéo theo 0p . Vậy 0t .


13

Hơn nữa 0t , vì nếu 0t thì trong bất đẳng thức (1.2), khi cho μ ta suy ra

mâu thuẫn vì vế trái cố định.

Chia hai vế của (1.2) cho 0t , đồng thời thay μ f y và đặt * p

xt

, ta được

* *, , , dom . x x f x x y f y y f

Hay là

*, , dom . x y x f x f y y f

Nếu domy f thì f y , do đó

*, , . nx y x f x f y y

Chứng tỏ * .x f x

Bây giờ ta chỉ ra tập f x compact.

Do domx f nên *x f x khi và chỉ khi

*' , , , . nf x d x d d (1.3)

Lấy ie vectơ đơn vị thứ i 1,...,i n của n . Áp dụng (1.3) lần lượt với id e

với 1,...,i n ta có * ' , iix f x e . Tương tự, áp dụng với id e với 1,...,i n ta

có * ' , iix f x e hay * ' , i

ix f x e . Tóm lại

*' , ' , , 1,..., . i if x e x f x e i n

Do ri domx f nên ' ,f x y hữu hạn với mọi ny . Nói riêng ' , if x e và

' , if x e hữu hạn với mọi 1,..., .i n Vậy f x bị chặn, và do tính đóng nên nó

compact.

Ngược lại, giả sử f x khác rỗng và compact. Ta chỉ ra rằng ri domx f . Do

f x nên domx f . Nếu trái lại ri domx f thì x ở trên biên tương đối


14

của domf . Do domf lồi, theo mệnh đề về siêu phẳng tựa, tồn tại một siêu phẳng

tựa của bao đóng của domf tại x , tức là tồn tại vectơ , 0 np p sao cho

, dom . T Tp x p z z f

Lấy *x f x . Từ đây và theo định nghĩa dưới vi phân ta có

* *, , , 0, . nf z f x x z x x λp z x λ z

Chứng tỏ * , 0 x λp f x λ . Điều này mâu thuẫn với tính bị chặn của f x .

Vậy ri dom .x f

1.3.2. Phép tính với dưới vi phân

Mệnh đề 1.10. Cho f là hàm lồi chính thường trên n và 0λ . Khi đó

λf x λ f x , nx .

Chứng minh. Ta có:

*x λf x *, , nx z x λf z λf x z

*, , nx z x λf z λf x z

*

*

*

, ,

.

nxz x f z f x z

λ

xf x

λ

x λ f x

Vậy λf x λ f x , nx .

Định lý 1.5. (Định lý Moreau-Rockafellar) Cho 1 2, , ..., mf f f là các hàm lồi chính

thường trên n . Khi đó:

a) 1 1

m m

i ii i

f x f x , nx .


15

b) Nếu 1ri dom

m

ii

f thì

1 1

m m

i ii i

f x f x , nx .

Chứng minh. a) Giả sử *

1

m

ii

x f x thì * *

1

m

ii

x x , với *i ix f x , 1,2,...,i m .

Ta có *i ix f x , 1,2,...,i m *, , , 1,2,..., ni i ix z x f z f x z i m

*

1 1 1

, ,

m m m

ni i i

i i i

x z x f z f x z

*

1 1

*

1

, ,

, .

m mn

i ii i

mn

ii

x z x f z f x z

x f x x

Vậy 1 1

m m

i ii i

f x f x , nx .

b) Ta cần chứng minh 1 1

m m

i ii i

f x f x , nx . (1.4)

Trước hết ta có mệnh đề sau:

Mệnh đề 1.11. Cho 1 2, ,..., mf f f là các hàm lồi hữu hạn trên một tập lồi D và

A là một ma trận thực cấp k n . Giả sử intb A D . Khi đó hệ

, , 0, 1,..., ix D Ax b f x i m

không có nghiệm, khi và chỉ khi tồn tại kt và 0, 1,..., iλ i m sao cho

1

1

m

ii

λ và 1

, 0,

m

i ii

t Ax b λ f x x D .

Bây giờ ta chứng minh b).

Trường hợp 1m là hiển nhiên. Ta chứng minh cho 2m . Thật vậy:

Lấy 0nx và * 01 2 x f f x . Theo định nghĩa của dưới vi phân ta có


16

* 0 01 2 1 2, , nx x x f f x f f x x

0 0 * 01 2 1 2 , 0, nf x f x f x f x x x x x

0 0 * 0

1 2 1 2 , 0

f x f y f x f x x x x

x y không có nghiệm.

Lấy 1 2dom dom D f f và ,A x y x y .

Theo giả thiết 1f liên tục tại một điểm 1 2dom dom a f f , nên tồn tại một lân cận

U của gốc sao cho

1 2dom dom U a U a f f A D .

Vậy 0 int A D . Áp dụng Mệnh đề 1.11 với

0 0 * 01 2 1 2( , ) , f x y f x f y f x f x x x x ,

,A x y x y

ta có

0 0 * 01 2 1 2 1

2

, , 0, dom ,

dom

t x y f x f y f x f x x x x x f

y f.

Với 1domx f và 2domy f , thì bất đẳng thức trên là hiển nhiên. Vậy

0 0 * 01 2 1 2, , 0, ,

nt x y f x f y f x f x x x x x y .

Lấy 0x x , ta có

0 02 2, 0 t x y f y f x , ny

0 02 2, t y x f y f x , ny .

Suy ra 02t f x .

Lấy 0y x , ta có

0 0 * 01 1, , 0 t x x f x f x x x x , nx

* 0 01 1, x t x x f x f x , nx .


17

Suy ra * 01 x t f x .

Vậy * * 0 01 2 x x t t f x f x .

Do đó 2 2

1 1

i ii i

f x f x , nx .

Giả sử (1.4) đúng với 2n k , tức là ta có

1 1

k k

i ii i

f x f x , nx .

Ta cần chứng minh (1.4) đúng với 1n k , tức là cần chứng minh

1 1

1 1

k k

i ii i

f x f x , nx .

Thật vậy, vì (1.4) đúng với 2n và n k nên ta có

1

11 1

k k

i i ki i

f x f f x

11

11

k

i ki

k

i ki

f x f x

f x f x

1

1

, .k

ni

i

f x x

Tóm lại, 1 1

m m

i ii i

f x f x , nx .

Vậy 1 1

m m

i ii i

f x f x , nx .

1.4. Đạo hàm theo hướng và tính khả vi của hàm lồi

Định nghĩa 1.28. Ta gọi đạo hàm theo hướng d của một hàm số f (không nhất

thiết là lồi) tại điểm x là đại lượng


18

0' , : lim

λ

f x λd f xf x d

λ

nếu giới hạn này tồn tại.

Định lý 1.6. Nếu f là một hàm lồi trên tập lồi C thì với mọi x C và mọi d sao

cho x d C , đạo hàm theo hướng d của f tại x luôn tồn tại và nghiệm đúng

' ,f x d f x d f x .

Ngoài ra với mỗi điểm x cố định, ' ,.f x là một hàm lồi trên tập lồi

d x d C .

Định nghĩa 1.29. Cho hàm f xác định trên một lân cận của nx . Hàm f được

gọi là khả vi tại x , nếu tồn tại *x sao cho

*,lim 0

z x

f z f x x z x

z x.

Một điểm *x như thế này, nếu tồn tại sẽ duy nhất và được gọi là đạo hàm của

f tại x . Đạo hàm này được ký hiệu là f x hoặc 'f x .

Từ Định lý 1.6 dễ dàng suy ra rằng nếu f khả vi thì

' , , , f x d f x d d .

Định lý 1.7. Cho f là hàm khả vi trên tập lồi mở nX . Khi đó:

Hàm f là hàm lồi trên X , , , .f y f x f x y x x y X

Nói chung một hàm lồi không nhất thiết khả vi tại mọi điểm. Dưới vi phân là

một khái niệm mở rộng của đạo hàm trong trường hợp hàm không khả vi. Trong

trường hợp 0f x chỉ gồm duy nhất một điểm thì f khả vi tại 0x .

19


Chương này trình bày bài toán cực tiểu hàm lồi trên tập lồi, sự tồn tại nghiệm

và điều kiện tối ưu cho nghiệm bài toán. Trình bày hai phương pháp cơ bản giải bài

toán quy hoạch lồi đó là phương pháp chiếu dưới đạo hàm và thuật toán Frank-

Wolfe. Nội dung của chương được tham khảo từ các tài liệu [1] - [7], [9].

2.1. Phát biểu bài toán

Cho nD và : nf . Xét bài toán quy hoạch toán học

min f x x D . P

Bài toán này được hiểu là tìm một điểm *x D sao cho

* , f x f x x D . Mỗi điểm x D được gọi là một phương án chấp nhận

được của bài toán P . Tập D được gọi là miền (tập) chấp nhận được, f được gọi

là hàm mục tiêu của bài toán P . Thông thường, tập D được cho như là tập

nghiệm của một hệ bất đẳng thức hoặc đẳng thức có dạng

: 0, 0, 1,..., , 1,..., j iD x X g x h x j m i p ,

trong đó nX và , : nj ig h , 1,..., , 1,...,j m i p .

Bài toán P có rất nhiều ứng dụng trong các lĩnh vực khác nhau. Chẳng

hạn, trong kinh tế nó là bài toán xác định phương án sản xuất sao cho chi phí thấp

nhất, với x là phương án sản xuất mà mỗi tọa độ jx của nó là số lượng sản phẩm

loại j cần sản xuất, còn f x là chi phí ứng với phương án x . Bài toán P trong

mô hình này có nghĩa là tìm một phương án sản xuất trong tập hợp các phương án

chấp nhận được D sao cho chi phí sản xuất ứng với phương án này là thấp nhất.

Định nghĩa 2.1. Điểm *x D mà

* , f x f x x D


20

được gọi là nghiệm tối ưu, hoặc nghiệm tối ưu toàn cục, hoặc nghiệm cực tiểu toàn

cục, hoặc đơn giản là nghiệm của bài toán P .

Định nghĩa 2.2. Điểm *x D được gọi là nghiệm cực tiểu toàn cục chặt của bài

toán P nếu

* , f x f x x D và *x x .

Giá trị tối ưu (hay giá trị cực tiểu) của bài toán P được kí hiệu là

minx D

f x .

Nếu bài toán P có nghiệm là *x thì

* min

x D

f x f x .

Ta ký hiệu Argmin f x x D là tập nghiệm tối ưu của bài toán P . Nếu

bài toán chỉ có một nghiệm tối ưu thì có thể viết

* argmin x f x x D .

Định nghĩa 2.3. Điểm *x D được gọi là nghiệm tối ưu địa phương hoặc nghiệm

cực tiểu địa phương của bài toán P nếu tồn tại một lân cận U của điểm *x sao

cho

* , f x f x x U D .

Định nghĩa 2.4. Điểm *x D được gọi là nghiệm tối ưu địa phương chặt hoặc

nghiệm cực tiểu địa phương chặt của bài toán P nếu tồn tại một lân cận U của

điểm *x sao cho

* , f x f x x U D và *x x .

Chú ý 2.1. (i) Nếu nD thì ta nói P là bài toán tối ưu không ràng buộc.

Ngược lại, nếu nD thì ta nói P là bài toán tối ưu có ràng buộc.


21

(ii) Nghiệm tối ưu toàn cục cũng là nghiệm tối ưu địa phương nhưng điều ngược lại

chưa chắc đúng. Tuy nhiên, nếu D là tập lồi và f x là hàm lồi thì nghiệm tối ưu

địa phương của bài toán P cũng là nghiệm tối ưu toàn cục. Cụ thể :

Mệnh đề 2.1. Cho hàm lồi : nf và tập lồi khác rỗng nD . Xét bài toán

min f x x D .

Khi đó:

a) Nếu *x là một nghiệm tối ưu địa phương của bài toán này thì *x cũng là nghiệm

tối ưu toàn cục.

b) Nếu *x là nghiệm tối ưu địa phương chặt hoặc f là hàm lồi chặt thì *x là

nghiệm tối ưu toàn cục duy nhất của bài toán.

Chứng minh. a) Giả sử *x D là một nghiệm tối ưu địa phương của bài toán

min f x x D . Theo định nghĩa, tồn tại một lân cận U của điểm *x sao cho

* , f x f x x U D .

Với bất kỳ x D , ta có

* * *1 λx λx λ x x λ x x U D

khi 0 1λ và λ đủ nhỏ.

Do *x là nghiệm cực tiểu địa phương và f là hàm lồi nên

* *1 λf x f x λf x λ f x

* f x f x .

Điều đó chứng tỏ *x là nghiệm tối ưu toàn cục của bài toán đang xét.

b) Giả sử *x là nghiệm tối ưu địa phương chặt. Theo (i), *x cũng là nghiệm tối ưu

toàn cục. Bây giờ, ta giả thiết phản chứng rằng *x không phải là nghiệm tối ưu toàn

cục duy nhất của bài toán, tức là tồn tại x D , *x x và *f x f x . Kí hiệu

*1 λx λx λ x với 0 1λ . Vì D là tập lồi và f là hàm lồi trên D nên


22

λx D và * *1 λf x λf x λ f x f x , 0,1λ . (2.1)

Cho 0λ , ta có thể chọn được λx U , với U là một lân cận của *x . Điều này

và (2.1) mâu thuẫn với giả thiết *x là nghiệm tối ưu địa phương chặt. Vì vậy *x

phải là nghiệm tối ưu toàn cục duy nhất.

Cuối cùng, giả sử *x là nghiệm tối ưu địa phương và hàm mục tiêu f là lồi chặt.

Vì hàm lồi chặt là hàm lồi nên theo (i), *x là nghiệm tối ưu toàn cục. Ta cũng giả

thiết phản chứng rằng *x không phải là nghiệm tối ưu toàn cục duy nhất, tức là tồn

tại x D , *x x và *f x f x . Do f là hàm lồi chặt nên

* * *1 1 1 1

2 2 2 2

f x x f x f x f x .

Do D là tập lồi nên *1 1

2 2

x x D và bất đẳng thức trên mâu thuẫn với giả thiết

*x là nghiệm tối ưu toàn cục của bài toán, chứng tỏ *x là nghiệm tối ưu toàn cục

duy nhất.

(iii) Nếu bài toán P không có nghiệm tối ưu thì giá trị tối ưu của bài toán này, kí

hiệu là inf f D , là cận dưới lớn nhất (hay giá trị infimum) của hàm f trên D .

Giả sử 0 inft f D với 0 t . Khi đó

0, f x t x D và nx D sao cho 0lim

n

nf x t .

Ví dụ 2.1. (i) Cho cosf x x , D . Khi đó, bài toán P tương ứng có vô số

nghiệm tối ưu toàn cục,

*Argmin cos 2 1 , x x x k π k

và giá trị tối ưu là min cos 1

x

x .

(ii) Cho

2

khi 1

2 1 khi 1,

x xf x

x x D .


23

Dễ thấy 2x là nghiệm cực tiểu toàn cục duy nhất. Điểm 0x là nghiệm cực tiểu

địa phương của f trên D . Giá trị tối ưu là min 2 1

x

f x f .

(iii) Cho arctanf x x và D . Dễ thấy, trên hàm f không có một nghiệm

cực tiểu địa phương, cực tiểu toàn cục nào. Ta có inf2

πf D .

(iv) Cho 1f x x và 2 2 2 21 2 14, 1 D x x x x .

Hàm f có một nghiệm cực tiểu toàn cục trên D là 2,0 T

x và vô số nghiệm

cực tiểu địa phương, đó là cả đoạn thẳng nối 1, 3T

và 1, 3T

. Giá trị tối ưu

của bài toán P tương ứng là min 2

x D

f x .

(v) Cho 1f x x và 21 2 0 D x x x .

Khi đó bài toán P tương ứng có vô số nghiệm cực tiểu địa phương, đó là tập các

điểm 21 20, 0 x x x ; không có nghiệm cực tiểu toàn cục và

inf f D .

2.2. Sự tồn tại nghiệm tối ưu

Xét bài toán P . Khi đó, có một trong bốn khả năng sau có thể xảy ra:

(i) Bài toán P không có phương án chấp nhận được, tức là D .

(ii) Bài toán P có nghiệm tối ưu, tức là tồn tại *x D sao cho

* , f x f x x D

và giá trị tối ưu của bài toán là * min

x D

f x f x .

(iii) Bài toán không có nghiệm tối ưu và giá trị hàm mục tiêu f x giảm vô hạn

trên tập chấp nhận được D , tức là giá trị tối ưu inf

x D

f x .


24

(iv) Bài toán không có nghiệm tối ưu và giá trị tối ưu infx D

f x là hữu hạn.

Định lý 2.1. Điều kiện cần và đủ để bài toán P có nghiệm tối ưu là tập

: , F D t t f x x D

đóng và có một cận dưới hữu hạn.

Chứng minh. Giả sử *x là nghiệm tối ưu của bài toán P . Khi đó, ta có

* min

x D

f x f x và * ,

F D f x .

Hiển nhiên F D là tập đóng và nhận *f x là một cận dưới

Ngược lại, nếu tập F D có một cận dưới hữu hạn thì cận dưới lớn

nhất (hay infimum) của tập này là hữu hạn và ta kí hiệu nó là 0t . Theo định nghĩa

của infimum thì 0 , t t t F D và tồn tại dãy nt F D hội tụ đến 0t . Vì

F D là tập đóng nên 0t F D . Theo định nghĩa của tập F D , tồn tại

*x D sao cho *0 t f x . Hiển nhiên *f x cũng thuộc F D và vì 0t là cận

dưới lớn nhất của tập F D nên ta có *0f x t . Suy ra *

0 t f x . Điều đó

chứng tỏ *x là nghiệm tối ưu của bài toán P .

Định lý 2.2. (Định lý Weierstrass) Nếu D là tập compact và hàm f nửa liên tục

dưới trên D thì bài toán P có nghiệm tối ưu.

Chứng minh. Giả sử giá trị tối ưu của bài toán P là 0 inft f D . Theo định

nghĩa, ta có

0, f x t x D (2.2)

và

nx D sao cho 0lim

n

nf x t .


25

Do D là tập compact nên có một dãy con knx của dãy nx hội tụ đến một điểm

*x D , tức là

*lim

kn

kx x D .

Do f nửa liên tục dưới tại *x D nên *0lim

kn

kf x f x t . Kết hợp với (2.2)

ta có

*0 inf t f D f x ,

chứng tỏ *x là nghiệm tối ưu của bài toán P .

Hệ quả 2.1. Nếu hàm f là nửa liên tục dưới trên D và thỏa mãn điều kiện bức

trên D ,

f x khi x D và x

thì bài toán P có nghiệm tối ưu.

Chứng minh. Lấy một điểm bất kỳ 0x D . Trước hết, ta chứng minh rằng tập

0 0: D x x D f x f x

là tập compact. Thật vậy, do f là nửa liên tục dưới trên D nên với mỗi dãy

0nx D x , nx x mà dãy nf x hội tụ, ta có

0lim

n

nf x f x f x .

Suy ra 0x D x , chứng tỏ 0D x là tập đóng. Hơn nữa, nếu 0D x không bị

chặn thì phải tồn tại một dãy 0kx D x , tức là 0kf x f x sao cho

kx . Do điều kiện bức nên kf x , mâu thuẫn với 0kx D x .

Vậy 0D x là tập compact. Theo Định lý Weierstrass, hàm f đạt cực tiểu trên

0D x , tức là tồn tại * 0x D x sao cho * 0, f x f x x D x . Dễ thấy, *x

cũng chính là nghiệm cực tiểu của bài toán P .


26

2.3. Điều kiện tối ưu

Định lý 2.3. Giả sử D là tập lồi và f là hàm lồi, khả dưới vi phân trên D . Khi đó

*x D là nghiệm tối ưu của bài toán ( )P khi và chỉ khi

* *0 Df x N x

trong đó * *, 0, DN x w w x x x D là nón pháp tuyến ngoài của D tại

*x .

Chứng minh. Gọi Dδ là hàm chỉ của tập D , tức là

0 khi ,

khi .

D

x Dδ x

x D

Khi đó bài toán ( )P có thể viết dưới dạng

min nDf x δ x x . 1( )P

*x là nghiệm của bài toán 1( )P khi và chỉ khi

* * , nD Df x δ x f x δ x x

* * *0, , nD Dx x f x δ x f x δ x x

* *0 Df x δ x

* *0 Df x δ x .

Vì *x D nên

* * D Dδ x N x .

Vậy

* *0 Df x N x .

Hệ quả 2.2. Với các giả thiết như Định lý 2.3, nếu * intx D là nghiệm tối ưu của

bài toán ( )P thì *0f x . Hơn nữa, nếu f khả vi và nD thì *0 f x .


27

2.3.1. Bài toán với ràng buộc đẳng thức

1. Xét bài toán

min f x x C , 2P

trong đó C là tập affine và C M a với M là một không gian con của n và

a C , f là một hàm lồi trên n .

Định lý 2.4. a) Giả sử f liên tục tại một điểm của C , *x là một nghiệm của bài

toán 2P . Khi đó

* f x M (2.3)

với , 0, nM z z x x M .

b) Giả sử (2.3) đúng tại *x C . Khi đó *x là nghiệm của bài toán 2P .

Chứng minh. a) Ta có * *0 Cf x N x ,

* *C MN x N x vì C M a với M là một không gian con của n và

a C .

Mặt khác vì M là một không gian con của n nên * MN x M .

Do đó *0 f x M .

Suy ra * f x M .

b) Giả sử * f x M với *x C . Khi đó tồn tại * x f x M .

Vì * x x M với x C nên

* *0 , , x x x f x f x x C .

Do đó *x là nghiệm của bài toán 2P .

2. Xét bài toán

min f x x C , 3P


28

trong đó , , 1,2,..., n iiC x a x α i m với i na và iα , 1,2,...,i m

và f là hàm lồi trên n , liên tục tại một điểm của C .

Định lý 2.5. *x là nghiệm của bài toán 3P khi và chỉ khi tồn tại các số iλ với

1,2,...,i m sao cho

1 2 *1 2 ... m

mλ a λ a λ a f x .

Chứng minh. Để chứng minh định lý, chúng ta cần bổ đề sau:

Bổ đề 2.1. Đặt , 0, 1,2,..., n iM x a x i m . Khi đó

1 2, ,..., mM a a a .

Chứng minh. Không mất tính tổng quát, ta có thể xem 1 2, ,..., ma a a là độc lập

tuyến tính. Xét toán tử tuyến tính

1

:

, ,..., , .

n m

m

φ

x φ x a x a x

Khi đó Im mφ và *Ker Imφ φ

Ta lại có Ker φ M và * 1 2Im , ,..., mφ a a a .

Do đó 1 2, ,..., mM a a a

Bây giờ ta chứng minh định lý.

Vì C là tập affine nên C M a với M là một không gian con của n và

a C , trong đó

, 0, 1,2,..., n iM x a x i m .

Từ Định lý 2.4 suy ra *x là của bài toán 3P khi và chỉ khi tồn tại

* x f x M .

Theo Bổ đề 2.1, ta có


29

1 2, ,..., mx M a a a .

Do đó tồn tại các số 1 2, ,..., mλ λ λ sao cho

1 2 *1 2 ... m

mλ a λ a λ a f x .

2.3.2. Bài toán với ràng buộc bất đẳng thức

Xét bài toán

min f x x D , OP

trong đó 0, 1,..., iD x X g x i m với nX là một tập lồi đóng và

các hàm , 1,...,if g i m là các hàm lồi hữu hạn trên X .

Chúng ta xây dựng hàm sau, được gọi là hàm Lagrange

0 1 01

, , ,..., :

m

m i ii

L x λ λ λ λ f x λ g x .

Định lý 2.6. (Định lý Karush-Kuhn-Tucker)

a) Nếu *x là nghiệm của bài toán OP , thì tồn tại 0iλ 0,1,...,i m không

đồng thời bằng 0 sao cho

*0 0, ,..., min , ,...,

m m

x XL x λ λ L x λ λ , (2.4)

* 0i iλ g x 1,...,i m . (2.5)

Hơn nữa nếu int X và điều kiện Slater sau thỏa mãn

0 0: 0, 1,..., ix D g x i m

thì 0 0λ .

b) Nếu (2.4) và (2.5) thỏa mãn với 0 0λ thì điểm chấp nhận được *x là nghiệm

của bài toán OP .

Chứng minh. a) Giả sử *x là nghiệm của bài toán OP . Đặt

1 *0 1 0: , ,..., : , , 1,...,

T mm i iC μ μ μ x X f x f x μ g x μ i m .


30

Ta có 1int m C . Thật vậy:

Lấy 10 1, ,..., int

T m

mμ μ μ . Khi đó 0, 1,..., iμ i m .

Với *x x , ta có

* *00 f x f x μ ,

* 0 i ig x μ , 1,...,i m .

Suy ra 0 1, ,..., T

mμ μ μ C , do đó 1int m C .

Vậy C trong 1m .

Do 1, ,..., mf g g là hàm lồi, nên C là một tập lồi.

Hơn nữa, 0 C . Thật vậy:

Nếu 0 C thì

*: 0 x X f x f x , 0, 1,..., ig x i m .

Do đó *x không phải là nghiệm của bài toán OP . Điều này mâu thuẫn với giả

thiết. Vậy 0 C .

Theo định lý tách 1, có thể tách tập C và 0 , tức là tồn tại các số iλ , 1,...,i m

không đồng thời bằng 0 sao cho

0

0

m

i ii

λ μ , 0 1, ,..., T

mμ μ μ C . (2.6)

Do 1int m C , suy ra 0iλ , 0,1,...,i m .

Với mọi 0ε và x X , lấy

*0 ,

, 1,..., .

i i

μ f x f x ε

μ g x i m

thay vào (2.6) ta có

*0

1

0,

m

i ii

λ f x f x ε λ g x x X .

Cho 0ε ta được


31

*0 0

1

,

m

i ii

λ f x λ g x λ f x x X . (2.7)

Do *x là điểm chấp nhận được nên ta có * 0, 1,..., ig x i m . Vậy

* * *0 0

1

m

i ii

λ f x λ f x λ g x . (2.8)

Từ (2.7) và (2.8) ta có

* *0 0

1 1

,

m m

i i i ii i

λ f x λ g x λ f x λ g x x X

*0 1 0 1, , ,..., , , ,..., , m mL x λ λ λ L x λ λ λ x X .

Vậy ta có

*0 0, ,..., min , ,...,

m m

x XL x λ λ L x λ λ .

Do *x là điểm chấp nhận được nên * 0ig x , 1,...,i m .

Nếu tồn tại 1,...,i m sao cho * 0 ig x ξ thì 0ε ta có

* *

*

0 ,

0 , 1,..., 1, 1,..., .

j

f x f x ε

g x ε j i i m

Do đó

,..., , , ,..., T

ε ε ξ ε ε C (ξ ở vị trí thứ i).

Thay ,..., , , ,...,T

ε ε ξ ε ε vào (2.6) và cho 0ε , suy ra 0iλ ξ .

Từ đó ta có 0iλ . Mặt khác, do 0iλ nên 0iλ .

Như vậy, nếu * 0ig x thì 0iλ . Do đó

* 0, 1,..., i iλ g x i m .

Giả sử điều kiện Slater được thỏa mãn, tức là

0 0: 0, 1,..., ix D g x i m .

Khi đó, giả sử 0 0λ , ta có


32

* *0 0

1 1

0 ,

m m

i i i ii i

λ f x λ g x λ f x λ g x x X .

Do 0 0λ nên phải có ít nhất một 0iλ .

Thay 0x vào bất đẳng thức trên, ta được

* * 0 00 0

1 1

0 0

m m

i i i ii i

λ f x λ g x λ f x λ g x .

Mâu thuẫn. Vậy 0 0λ , tức là 0 0λ .

b) Giả sử *x là điểm chấp nhận được, thỏa mãn hai điều kiện (2.4) và (2.5) với

0 0, 0, 1,...,iλ λ i m .

Do 0 0λ , nên bằng cách chia cho 0λ , ta có thể coi hàm Lagrange là

11

, ,...,

m

m i ii

L x λ λ f x λ g x .

Từ điều kiện (3.1) và (3.2), ta có

* *

1 1

,

m m

i i i ii i

f x λ g x f x λ g x x X ,

* 0, 1,..., i iλ g x i m .

Suy ra

*

1

,

m

i ii

f x f x λ g x x X .

Do đó

* , f x f x x D .

Chứng tỏ *x là nghiệm của bài toán OP .

2.4. Đối ngẫu Lagrange

Đối ngẫu là một phần quan trọng của bài toán tối ưu. Có rất nhiều kiểu đối

ngẫu, nhưng đối ngẫu Lagrange được sử dụng rộng rãi hơn cả. Đối ngẫu Lagrange

dựa trên cơ sở hàm Lagrange. Ta xét bài toán

min , 0, 1,..., if x x X g x i m , P


33

trong đó nX là tập lồi khác rỗng. Từ bài toán tối ưu trên, ta định nghĩa bài toán

tối ưu khác có dạng

max d y y Y , D

Đúng hơn, viết là

sup d y y Y , D

trong đó mY .

Định nghĩa 2.7. Bài toán D được gọi là đối ngẫu của bài toán P nếu với mọi

điểm chấp nhận được x của P và mọi điểm chấp nhận được y của D , ta có

f x d y .

Bài toán D được gọi là đối ngẫu chính xác của bài toán P nếu D là

bài toán đối ngẫu của P và tồn tại nghiệm *x của P và *y của D sao cho

* *f x d y .

Từ Định nghĩa 2.7 ta thấy rằng, nếu bài toán D là đối ngẫu chính xác của

bài toán P thì * *f x d y và hiển nhiên P cũng là đối ngẫu chính xác của

D .

Xét bài toán P , ta định nghĩa hàm Lagrange

1

, :

m

i ii

L x y f x y g x .

Lấy hàm mục tiêu của bài toán đối ngẫu là

: inf ,

x X

d y L x y . LD

với miền ràng buộc của LD bằng m . Khi đó bài toán đối ngẫu trở thành

0 0

sup : sup inf ,

x Xy y

d y L x y .

Định lý 2.7. Bài toán LD là đối ngẫu của bài toán P .

Chứng minh. Ta có


34

1

inf , , ,

m

i ix X

i

d y L x y f x y g x f x x X y Y .

Chứng tỏ LD là đối ngẫu của bài toán P .

Nhận xét 2.1. Nhìn chung, một cặp đối ngẫu chưa chắc đã là cặp đối ngẫu chính

xác, chẳng hạn ta xét ví dụ sau:

Ví dụ 2.2. Xét bài toán

2min 0,2 , 1 0 f x x x X x .

Ta thấy

1 min 1f f .

Hàm Lagrange của bài toán là

2, 1 , 0, 0,2 L x y x y x y x X .

Ta thấy

0

max 0

y

d y .

Vậy cặp đối ngẫu là không chính xác.

Vậy cần thêm điều kiện gì để hai bài toán P và LD là cặp đối ngẫu

chính xác. Ta có định lý sau:

Định lý 2.8. (Định lý đối ngẫu chính xác) Giả sử

(i) P có một lời giải tối ưu.

(ii) Các hàm f và , 1,...,ig i m lồi và liên tục trên X .

(iii) Điều kiện Slater thỏa mãn, nghĩa là có 0x sao cho 0 0, 1,..., ig x i m . Khi

đó, P và LD là cặp đối ngẫu chính xác.

Chứng minh. Giả sử

1 2: , ,...,T

mg x g x g x g x .

Lấy

: , , , nA t z t f x z g x x X .


35

Do f và , 1,...,ig i m là lồi nên tập A là lồi. Giả sử *x là nghiệm tối ưu của bài

toán P thì * ,0 f x A . Theo định lý tách tồn tại , 0α y thuộc n sao

cho

* , , Tαt y z αf x t z A . (2.9)

Do các hàm f và , 1,...,ig i m liên tục, bất đẳng thức trên đúng với mọi ,t z A

A là bao đóng của tập A . Mà ,f x g x A ,

* , Tαf x y g x αf x x X . (2.10)

Ta chỉ ra rằng , 0α y . Thật vậy, giả sử có chỉ số i thỏa mãn 0iy . Lấy

00, t z A . Điểm 0

0 0, , it z t z ξe A với mọi 0ξ ie là vectơ đơn vị thứ

i . Thay 0, ,t z t z vào (2.9) và cho ξ . Ta có vế trái bằng mà vế

phải hữu hạn. Mâu thuẫn này chứng tỏ 0y .

Chứng minh tương tự ta chỉ ra được 0α . Hơn nữa, 0α vì nếu 0α thì

0y . Trong trường hợp này, từ (2.10) ta có

0, Ty g x x X .

Mâu thuẫn với điều kiện Slater.

Chia cả hai vế của (2.10) cho α và theo định nghĩa của d ta có

*

yd f x

α.

Do đó P và LD là cặp đối ngẫu chính xác.

2.5. Các phương pháp giải cơ bản

2.5.1. Phương pháp chiếu dưới đạo hàm

Chúng ta xét bài toán

min f x x D , P


36

trong đó : nf là hàm lồi, khả dưới vi phân và nD là tập lồi đóng.

Thuật toán.

Chọn điểm 0x D , và kβ là dãy các số dương thỏa mãn 2 jβ .

Tại mỗi Bước lặp k 0,1,...k ta có kx D .

Lấy k kg f x và tính

1 : k k kD kx P x α g ,

trong đó : kk

k

βα

γ với : max 1, k

kγ g .

a) Nếu 1 k kx x thì kx là nghiệm của bài toán P .

b) Ngược lại, thay kx bằng 1kx và tiếp tục Bước lặp k với : 1k k .

Định lý 2.9. Giả sử bài toán P có nghiệm tối ưu và f là khả dưới vi phân trong

D . Khi đó dãy kx được tạo ra bởi thuật toán hội tụ tới nghiệm của bài toán P .

Chứng minh. Để chứng minh định lý, chúng ta cần bổ đề sau:

Bổ đề 2.2. Chúng ta có:

(i) , kk kα g β k ;

(ii) 1 , k kkx x β k .

Chứng minh. (i) Từ kk

k

βα

γ và k

kg γ ta có

,

kkk

k kk

β gα g β k

γ.

(ii) Từ 1 k k kD kx P x α g , ta có

1 1, 0, k k k kkx α g x x x x D .

Thay kx x , theo bất đẳng thức Cauchy-Schwarz, ta có


37

21 1

1

1

,

.

.

k k k k kk

k k kk

k kk

x x α g x x

α g x x

β x x

Bây giờ ta chứng minh định lý.

Giả sử *x là nghiệm của bài toán P , khi đó với mọi k , ta có

2 2 21 * * 1 1 * 12 , k k k k k k kx x x x x x x x x x

2* 1 * 12 , . k k k kx x x x x x (2.11)

Từ 1 k k kD kx P x α g , ta có

1 * 1, 0 k k k kkx α g x x x .

Vì vậy

1 * 1 * 1, , k k k k kkx x x x α g x x .

Khi đó, từ (2.11) suy ra

2 21 * * * 12 , k k k kkx x x x α g x x .

Bằng cách viết

* 1 * 1, , k k k k k kg x x g x x x x ,

ta có

2 21 * * * 1

2* * 1

2* * 1

2 , 2 ,

2 , 2 .

2 , 2

k k k k k k kk k

k k k k k kk k

k k k k kk k

x x x x α g x x α g x x

x x α g x x α g x x

x x α g x x β x x

2* * 22 , 2 k k k

k kx x α g x x β . (2.12)

Chú ý rằng, từ *kg f x , chúng ta có


38

* *, 0 k k kg x x f x f x . (2.13)

Khi đó từ (2.12) suy ra

2 21 * * 22 , k k

kx x x x β k . (2.14)

Do giả thiết 2 jβ , từ (2.14) ta suy ra rằng *kx x hội tụ.

Từ (2.12) và (2.13) chúng ta suy ra

1 * * * 22 2 ,

k k kk kx x x x α f x f x β k ,

hay

2 2* * 1 * 2

2* 2

0 2 2

2 , .

k k kk k

kk

α f x f x x x x x β

x x β k

Tổng k từ 0 tới m , chúng ta có được

2* 0 * 2

0

0 2 2

mj

j kj

α f x f x x x β .

Điều này đúng với mọi m . Do đó

*

0

j

jj

α f x f x ,

nghĩa là * 0

jjα f x f x . Do lim 0jα , suy ra *lim 0

jf x f x .

Nhưng, từ * 0 jf x f x , chúng ta có *liminf 0

jf x f x . Do đó

*lim 0

jf x f x . Chú ý rằng *kx x hội tụ với mọi nghiệm *x . Vì vậy

dãy kx là bị chặn, và do đó nó có một dãy con có giới hạn hữu hạn, chẳng hạn *s ,

là nghiệm của bài toán. Khi đó dãy kx hội tụ đến *s .

2.5.2. Thuật toán Frank-Wolfe

Xét bài toán quy hoạch lồi với ràng buộc tuyến tính


39

min f x x D ,

trong đó f là hàm lồi khả vi trên n và nD là đa diện xác định bởi

nD x Ax b ,

với A là ma trận cấp m n và vectơ mb .

Một thuật toán cơ bản để giải bài toán quy hoạch lồi với ràng buộc tuyến tính

là thuật toán Frank-Wolfe. Ý tưởng cơ bản của phương pháp là xấp xỉ tuyến tính

hàm mục tiêu ở mỗi bước lặp.

Thuật toán. Tìm 0x D . Tại mỗi Bước lặp k 0,1,2,...k ta có kx .

Bước 1. Tính kf x . Nếu 0 kf x thì dừng thuật toán và kx là nghiệm tối ưu.

Trái lại, sử dụng phương pháp đơn hình để giải bài toán quy hoạch tuyến tính

min , kf x x x D , kLP

thu được nghiệm tối ưu ku . Ta xét hai trường hợp:

(i) Nếu

, 0 k k kf x u x ,

thì kết thúc: kx là nghiệm tối ưu.

(ii) Nếu

, 0 k k kf x u x ,

lấy : k k kd u x là một hướng giảm. Tìm độ dài bước lặp kt theo công thức

argmin 0 1 k kkt f x td t .

Bước 2. Tính 1 : k k kkx x t d . Thay : 1k k và quay lại Bước lặp k .

Định lý 2.10. (i) 1 , k kf x f x k .

(ii) Nếu thuật toán kết thúc ở bước lặp k , thì kx là nghiệm tối ưu. Nếu thuật toán

không kết thúc, thì mọi điểm tụ của dãy kx là nghiệm tối ưu.


40

(iii) Hơn nữa, dãy kf x hội tụ giảm về giá trị tối ưu *f và ta có

*0 , , k k k kf x f f x x u k .

Chứng minh. (i) Vì theo thuật toán, kd là hướng giảm.

(ii) Ta có, nếu thuật toán kết thúc ở Bước lặp k thì

, 0 k k kf x u x .

Do ku là một lời giải tối ưu của bài toán kLP , nên ta có

, , 0, k k k k kf x x x f x u x x D .

Vậy kx là một nghiệm tối ưu.

Tiếp theo, giả sử thuật toán không kết thúc. Lấy *x là một điểm tụ bất kỳ của

dãy kx , khi đó có một dãy con jkx dần đến *x khi j . Do D có hữu hạn

các đỉnh, ta có thể giả sử rằng *, jku u j . Từ 1 , k kf x f x k , theo định

nghĩa 1jk

x và *u ta có

1 1 * , 0 1 j j j jk k k k

f x f x f x t u x t .

Cho j , từ tính liên tục của hàm f ta được

* * * * , 0 1 f x f x t u x t .

Suy ra

* * * *

* * *

00 lim ,

t

f x t u x f xf x u x

t.

Mặt khác, từ jkx là một lời giải tối ưu của bài toán jkLP , ta có

*, , , j j j jk k k kf x u x f x x x x D .

Lấy giới hạn khi j , ta được

* *, 0, f x x x x D .


41

Vậy *x là một nghiệm tối ưu.

(iii) Ta có f là hàm lồi trên D . Do tính lồi nên

* * *0 , , f x x x f x f x x D .

Vậy *x là nghiệm tối ưu của bài toán (P). Hơn nữa, do ku là nghiệm tối ưu của bài

toán kLP và f lồi nên tại mỗi Bước lặp k ta có

* *, , k k k k k kf x u x f x x x f x f x ,

hay là

* , , k k k kf x f x f x x u k .


2 21 2

1 1min

2 2

f x x x x D ,

trong đó 21 2 1 2 11, 2 2, 3 D x x x x x x .

Lời giải. Ta có 1

2

xf x

x và 2 1 0

0 1

f x , suy ra f x là hàm lồi chặt.

Xuất phát từ 0 0,1T

x với 0 0,1 T

f x .

Đặt 0k .

Bước lặp 0k .

Giải bài toán 02min , f x x x x D được phương án cực biên tối ưu

là 0 13,

2

T

u .

Vì

0 0 0 0 0 0

33

, 0 1 032

2

T

f x u x f x u x

nên 0x chưa phải nghiệm tối ưu.


42

Đặt 0 0 0 3: 3,

2

T

d u x . Ta có 0d là hướng giảm chấp nhận được của

bài toán đang xét tại 0x .

Tìm điểm chấp nhận được 1x : Ta có

0 0

3 30

3 31 1

2 2

t

x td tt

;

Xét hàm lồi một biến

2

20 0 3 1 1 3: 3 ,1 3 1

2 2 2 2

t f x td f t t t t với 0 1t .

Ta có

45 3

'4 2

t t .

Suy ra

2

' 015

t t .

Vậy

0

2

15t và 1 0 0

0

2 4,

5 5

T

x x t d .

Vì 1 2 4, 0,0

5 5

TT

f x nên đặt : 1 1k k và chuyển Bước lặp 1k .

Bước lặp 1k .

Giải

11 2

2 4min ,

5 5

f x x x x x D .

Bài toán này có hai phương án cực biên tối ưu là 0,1T

và 1

3,2

T

. Giả sử ta

chọn 1 0,1T

u .

Khi đó


43

1 1 1 1 1 1

2

2 4 5, 0

15 5

5

T

f x u x f x u x .

Vậy nghiệm tối ưu là * 1 2 4,

5 5

T

x x .

44


Chương này trình bày bài toán cực đại hàm lồi trên tập lồi và một số tính

chất cơ bản. Trình bày hai phương pháp cơ bản giải bài toán cực đại hàm lồi trên

tập lồi đó là phương pháp xấp xỉ ngoài và thuật toán nhánh cận. Nội dung của

chương được tham khảo từ các tài liệu [3] - [6], [8], [10].

3.1. Phát biểu bài toán

Xét bài toán

max f x x D , P

trong đó : nf là hàm lồi, xác định trên n (do đó liên tục), và D là tập lồi

đóng của n . Thông thường, tập D được cho như là tập nghiệm của một hệ bất

đẳng thức có dạng

: 0, 1,..., niD x g x i m ,

với : , 1,..., nig i m là các hàm lồi, xác định trên n .

3.2. Tính chất cơ bản

Các tính chất cực đại của một hàm lồi khác hẳn các tính chất về cực tiểu của

nó. Cụ thể ta thấy rằng cực đại địa phương của một hàm lồi không nhất thiết là cực

đại tuyệt đối. Ví dụ, hàm 2f x x có điểm cực đại địa phương trên đoạn 1,2

là 1x , nhưng điểm cực đại tuyệt đối lại là 2x . Nếu xét hàm này trên đoạn

2,2 ta thấy tập các điểm cực đại tuyệt đối của nó trên đoạn này là không lồi vì

nó chỉ gồm hai điểm 2 và 2 . Dưới đây, nếu không nói gì thêm, ta luôn hiểu cực

đại là cực đại tuyệt đối.

Từ định nghĩa hàm lồi, ta thấy rằng, nếu f lồi, chính thường trên một tập lồi

C và ,a b C thì với mọi ;x a b , tức là 1x λa λ b với 0 1λ , ta có

1 max , f x λf a λ f b f a f b .


45

Từ đây suy ra, cực đại của một hàm lồi f trên một đoạn ;a b đạt tại đầu

mút của đoạn đó. Một cách tổng quát ta có:

Mệnh đề 3.1. (i) Giả sử f là một hàm lồi, chính thường trên n và nC là

một tập lồi. Khi đó nếu f đạt cực đại trên C tại một điểm trong tương đối của C

và tại đó f nhận giá trị hữu hạn thì f là hằng số trên C .

(ii) Nếu f là một hàm lồi, chính thường trên n và bị chặn trên trong một tập

affine thì nó là hằng số trên tập này.

Chứng minh. (i) Giả sử ria C là điểm tại đó f đạt cực đại trên C . Theo tính

chất của điểm trong tương đối, nên với mọi x C , đều tồn tại y C sao cho

,a x y . Suy ra 1a λx λ y với 0 1λ , do f là hàm lồi và f y f a

nên ta có

1 1 1 .f a f λx λ y λf x λ f y λf x λ f a

Suy ra λf a λf x hay f a f x .

Mặt khác ta có f x f a . Vậy f x f a .

(ii) Nếu f không là hằng số trên tập affine M , có nghĩa là tồn tại ,a b M sao cho

f a f b . Mọi điểm x thuộc nửa đường thẳng xuất phát từ a và có hướng

b a đều có dạng x a λ b a với 0λ . Khi đó

1 1λb x a

λ λ

.

Với mọi 1λ , theo tính lồi của f ta có

1 1λ

f b f x f aλ λ

.

Từ đây và do giả thiết f x m , x M ta suy ra

1 1 1

f b f a f x f a m f aλ λ λ

.


46

Điều này đúng với mọi 1λ , nên khi cho λ ở vế phải, do f a hữu hạn,

nên vế phải tiến tới 0, trong khi đó theo giả thiết, vế trái 0f b f a . Mâu

thuẫn. Vậy f phải là hằng số trên tập affine M .

Hệ quả 3.1. Nếu một hàm lồi đạt cực đại trên một tập lồi có điểm cực biên, thì cực

đại sẽ đạt tại một điểm cực biên của tập lồi đó.

Chứng minh. Giả sử *x là điểm cực đại của f trên tập lồi C . Nếu *x không phải

điểm cực biên của C thì tồn tại ,a b C và 0,1λ sao cho * 1 x λa λ b .

Theo (i) của Mệnh đề 3.1, ta có * f x f x , ,x a b .

Hệ quả 3.2. Cho Γ 0λd λ và Γ Γ a a với , na d . Giả sử f là một hàm

lồi, chính thường trên n và f bị chặn trên trên nửa đường thẳng Γa . Khi đó f

bị chặn trên trên mọi nửa đường thẳng song song với Γa . Ngoài ra cực đại của f

trên nửa đường thẳng Γa đạt tại đầu mút của nó.

Chứng minh. Do f bị chặn trên trên tia Γa , nên Γ doma f . Nếu Γb // Γa thì

Γ domb f .

Theo Hệ quả 3.2 tính bị chặn trên của một hàm lồi trên một nửa đường thẳng

không phụ thuộc vào đầu mút của nửa đường thẳng mà chỉ phụ thuộc vào hướng

của nó.

3.3. Các phương pháp giải cơ bản

3.3.1. Phương pháp xấp xỉ ngoài

Xét bài toán sau

max f x x D , P

trong đó : nf là hàm lồi, xác định trên n (do đó liên tục), và D là tập lồi

đóng của n . Thông thường, D được cho như là tập nghiệm của một hệ bất đẳng

thức có dạng


47

0, 1,..., ig x i m , (3.1)

với : , 1,..., nig i m là các hàm lồi, xác định trên n .

Trong phần này, chúng ta giả sử D bị chặn, vì vậy nó có thể được chứa

trong đa diện 1S D . Xét bài toán

1max f x x S , 1Q

nới lỏng hơn bài toán (P), bài toán này ít ràng buộc hơn bài toán (P). Vì 1S là đa

diện, 1Q có thể có nghiệm, chẳng hạn như tìm kiếm thông qua các đỉnh của 1S , và

tìm được đỉnh 1x ứng với giá trị lớn nhất của f (vấn đề sau không phải là khó

khăn, khi 1S được lựa chọn đúng). Nếu điều đó xảy ra mà 1x D (hay tổng quát

hơn, 1 1f x f y với 1y D ), thì 1x là một nghiệm tối ưu của bài toán P .

Ngược lại 1x D , chúng ta luôn tìm được một siêu phẳng 1H , tách chặt 1x từ D ,

tức là nếu 1 0h x là phương trình của nó thì

1 0h x , (3.2)

được thỏa mãn với mọi x D , nhưng không thỏa mãn với 1x . Vì vậy, bằng cách

thêm (3.2) vào hệ thống xác định 1S chúng ta “cắt” điểm 1x và xác định đa diện 2S

mới xấp xỉ D tốt hơn 1S . Quá trình này có thể được lặp lại bắt đầu với 2S thay vì

1S , cứ như vậy, cho đến khi nghiệm gần đúng kx thỏa mãn các hạn chế (3.1) với độ

xấp xỉ thích hợp.


48

x 3

x 2

x 1

h 2(x) = 0

h 1(x) = 0

g 2(x) = 0

g 1(x) = 0

Hình 3.1

Bất kỳ phương pháp nào để giải quyết bài toán P mà tiến hành theo hướng

này sẽ được gọi là phương pháp xấp xỉ ngoài. Chúng ta có thể xây dựng thuật toán

tổng thể các phương pháp xấp xỉ ngoài ở dạng chính xác sau:

Thuật toán 1 ( D bị chặn).

Bắt đầu từ đa diện 1 S D . Đặt 1k .

a) Giải quyết bài toán nới lỏng sau

max kf x x S . kQ

(Ví dụ lấy giá trị lớn nhất của f trên tập đỉnh của kS ).

Cho kx là một nghiệm tối ưu của kQ .

Nếu kx D (hay nếu kf x f y với y D ), kết thúc: kx (hay y ) là nghiệm

của P . Trái lại, đi đến b).


49

b) Xây dựng siêu phẳng kH tách chặt kx từ D , tức là nếu 0kh x là phương

trình của nó thì

0, 0, kk kh x h x x D . (3.3)

Tạo đa diện mới

1 : 0 nk k kS S x h x .

Thay : 1k k và quay trở về a).

Để thực thi thuật toán này ta phải xác định làm thế nào để xây dựng siêu

phẳng kH . Nhưng trước khi bàn về vấn đề này, đầu tiên cần chỉ ra các điều kiện

đảm bảo sự hội tụ của thuật toán, tức là những điều kiện đảm bảo rằng dãy kx có

ít nhất một điểm x sao cho

, maxx D f x f x x D (3.4)

Một siêu phẳng 0 nk kH x h x trong đó , k

k kh x p x η có giới hạn

là 0 nH x h x khi k , kí hiệu kH H k , nếu

,h x p x η , với

, k

kk

k

ηpp η

pp.

Định lý 3.1. Giả sử rằng có các điều kiện (a) sau đây:

(a) Khi một dãy con vkx hội tụ đến x D , và siêu phẳng vkH hội tụ đến H thì

H tách chặt x từ D .

Khi đó thuật toán trên hoặc kết thúc sau hữu hạn bước với một nghiệm tối ưu của

P hoặc tạo ra một dãy vô hạn giảm kS . Trong trường hợp sau, dãy kx có ít

nhất một điểm hội tụ và bất kỳ điểm hội tụ nào đều là nghiệm tối ưu của P .


50

Chứng minh. Giả sử quá trình này là vô hạn, và x là điểm của dãy kx , sao cho

lim

vk

vx x . (Điểm đó luôn tồn tại từ tính bị chặn dưới của dãy k

lx S ). Đặt

0 k kH x h x với , kk kh x p x η . Chúng ta có thể giả sử 1, kp k .

Do giả thiết

0 , k k kk kh x p x η ,

nên

, k kkη p x . (3.5)

Hơn nữa

, 0, kk kh x p x η x D ,

nên bất kỳ điểm 0x D :

0, kkη p x . (3.6)

Từ (3.5) và (3.6) dãy kη bị chặn. Vì vậy, bằng cách lấy dãy con , vv

kkp η

nếu cần thiết, chúng ta có thể giả sử rằng

, vv

kkp p η η ,

tức là vkH tiến tới 0 H h x với , h x p x η .

Chúng ta thấy rằng x D . Thật vậy, nếu không như vậy, từ điều kiện (a) chúng ta

có

0h x . (3.7)

Nhưng với mọi vl k , v

ll kx S S , suy ra 0

v

lkh x . Do đó cố định v và cho

μl k , μ , chúng ta có 0vkh x . Từ điều này, bằng cách cho v , có

0h x ,

mâu thuẫn (3.7). Vì vậy x D , và chúng ta có


51

maxf x f x x D .

Nhưng, từ kS D , max kf x f x x D , do đó

max kf x f x f x x D .

Thuật toán 2 (Ràng buộc tuyến tính).

Xét bài toán P , trong đó D là tập lồi đa diện được xác định như sau:

: , 0, 1,..., n ii iD x g x a x α i m .

Chọn một tập lồi đa diện 1S chứa D sao cho tập đỉnh và tập hướng cực biên của 1S

dễ tính.

Tìm tập đỉnh 11V và tập hướng cực biên 0

1V của 1S . Đặt 1k .

a) Với mọi hướng cực biên 0 ku V kiểm tra f x không bị chặn trên trên nửa

đường xuất phát từ 1x theo hướng u (trong đó 1x là một điểm tùy ý của kS ). Nếu

một hướng cực biên ku tồn tại, đi đến b). Nếu không, đi đến c).

b) Nếu , 0, 1,..., i ka u i m , kết thúc: bài toán không có lời giải tối ưu hữu hạn

và ku là một hướng tăng vô hạn của D mà f x không bị chặn trên. Trái lại, tính

arg min , i kk

ii a u .

c) Tìm

1argmax kkx f x x V .

Nếu , 0 i kia x α với mọi 1 1,..., ki i i , kết thúc: kx là một nghiệm tối ưu của

bài toán. Trái lại, tính

arg max , i kk ii a x α .

Đi đến d).

d) Tạo tập lồi đa diện mới


52

1 : , 0 kk

ink k iS S x a x α .

Tìm tập đỉnh 11kV và tập hướng cực biên 0

1kV của 1kS . Thay : 1k k và quay lại

a).

Định lý 3.2. Thuật toán trên kết thúc sau tối đa m bước lặp.

Chứng minh. Chúng ta có

0 , 1,..., 1 v

nk iS x g x v k .

Nhưng các hàm 1,..., ,...

vi ig g đều khác nhau, vì nếu vQ có nghiệm tối ưu vx thì

, 0, , 0 μvii v v

v μa x α a x α với v μ ,

trong khi đó nếu Q có một hướng tối ưu u thì

, 0, , 0 μvii v va u a u với v μ .

(bất đẳng thức sau chỉ đơn giản thể hiện vu là một hướng cực biên của vS , vì một

hướng tăng vô hạn của μS là v μ ). Vì vậy thuật toán phải kết thúc sau tối đa m

bước lặp.

3.3.2. Phân hoạch không gian và thuật toán nhánh cận

Trong các bài toán tối ưu toàn cục, vì phải tìm kiếm trên toàn bộ miền ràng

buộc nên thường phải dùng tổ hợp hai phép toán:

(i) Phân hoạch (chia nhỏ) không gian rồi loại bỏ dần các phần chắc chắn không

chứa nghiệm toàn cục.

(ii) Trong mỗi bước có một số lượng lớn các miền nhỏ (tập phân hoạch) cần khảo

sát, cần phải có một cách ước lượng nhanh để xác định những miền chắc chắn

không chứa nghiệm toàn cục cần loại bỏ và những miền có chứa nghiệm toàn cục,

cần chia nhỏ nữa để khảo sát.

Sau đây ta xét hai phương pháp phân hoạch không gian là chia hộp vét kiệt

và chia đơn hình vét kiệt, và xét một phương pháp ước lượng là phương pháp nhánh

cận.


53

1. Phép chia hộp vét kiệt

Một hộp (hay hộp hình chữ nhật) trong n là một tập có dạng

, , 1,..., nj j ja b x a x b j n ,

trong đó , na b và a b (nghĩa là j ja b , 1,...,j n ).

Khi có một hộp ,M a b ta có thể chia nó thành hai hộp con bằng một siêu

phẳng trực giao với một cạnh , j ja b 1,...,j n và đi qua một điểm trong v

của M . Vì chỉ số j và điểm v hoàn toàn xác định siêu phẳng chia, nên phép chia

được gọi là chia theo ,v j . Hai hộp con sinh ra bởi phép chia đó là

j jM x M x v , j jM x M x v .

Ta nói phép chia ,v j là phép chia chuẩn theo tỉ lệ 0 nếu cạnh , j ja b là

cạnh dài nhất của M và nếu

min , j j j j j jv a b v b a .

b ja j

v

Hình 3.2. Minh họa phép chia chuẩn ( , )v j .

Định nghĩa 3.1. Phép chia hộp được gọi là vét kiệt nếu mọi dãy vô hạn jkM của

các siêu hộp sinh ra từ phép chia chuẩn theo tỉ lệ và 1

,

j jk kM M j đều hội tụ

tại một điểm, có nghĩa là


54

*jkM x khi j ,

điều này tương đương với

diam 0 qkM q , hay là *

1

qkq

M x ,

(ở đây, diamM là độ dài cạnh dài nhất của hộp M ).

Dãy qkM thỏa mãn điều kiện trên được gọi là một lọc các hộp.

Định lý 3.3. Một quá trình chia hộp trong đó mọi phép chia đều là chuẩn theo tỉ lệ

không đổi 0 thì phải vét kiệt.

Chứng minh. Xuất phát từ hộp M , sau nhiều nhất n phép chia, cạnh dài nhất của

hộp đó có độ dài không quá .diamM . Như vậy, nếu quá trình chia vô hạn thì

diam 0 qkM q .

2. Phép chia đơn hình vét kiệt

Một p đơn hình M (đơn hình thứ nguyên p ) là bao lồi của 1p điểm

1 1,..., pu u độc lập affine trong n . Ký hiệu 1 1,..., pM u u . Các điểm

, 1,..., 1 iu i p gọi là các đỉnh của đơn hình. Nếu một điểm v thuộc một cạnh

,

i ku u nhưng iv u , kv u thì v xác định phép chia đơn hình M thành hai đơn

hình con: , i kM M mà tập đỉnh thu được từ tập 1 1,..., pu u bằng cách thay iu ( ku ,

tương ứng) bởi v .

Nếu cạnh ,

i ku u dài nhất trong M và

1min , , 0

2 i k i kv u v u u u

thì phép chia được gọi là một phép chia chuẩn theo tỉ lệ .


55

M

u ku j v

Hình 3.3. Minh họa phép chia đơn hình

Định nghĩa 3.2. Phép chia đơn hình được gọi là vét kiệt nếu mọi dãy vô hạn jkM

của các đơn hình sinh ra từ phép chia chuẩn theo tỉ lệ và 1

,

j jk kM M j đều

hội tụ tại một điểm, có nghĩa là

*jkM x khi j ,

điều này tương đương với

diam 0 qkM q , hay là *

1

qkq

M x ,

(ở đây, diamM là độ dài cạnh dài nhất của đơn hình M ).

Dãy qkM thỏa mãn điều kiện trên được gọi là một lọc các đơn hình.

Định lý 3.4. Phép chia chuẩn theo tỉ lệ 1

2 là vét kiệt.

Chứng minh. Giả sử qM là một dãy giảm các n đơn hình sinh bởi phép chia

chuẩn theo tỉ lệ 1

2. Đặt q là độ dài cạnh dài nhất của đơn hình qM . Ta sẽ chỉ ra

3

, 2

n q q q . (3.8)


56

Thật vậy, ta chỉ cần chứng minh (3.8) với 1q . Tô màu các đỉnh của 1M

bởi màu đen, tô màu trắng các đỉnh của rM với 1r mà không phải đỉnh màu đen.

Ký hiệu rd là cạnh dài nhất của rM , đó là cạnh được chia. Đặt p là chỉ số nhỏ

nhất sao cho pd có ít nhất một điểm đầu mút màu trắng. Vì mỗi đỉnh màu đen được

thay bởi một đỉnh màu trắng tại mỗi bước chia trước p , ta có 1p n .

Đặt ,pd u v với u màu trắng. Khi đó u là trung điểm của kd nào đó với k p .

Đặt ,kd a b . Nếu a hoặc b trùng với v thì rõ ràng 1

1

2 p k và do đó (3.8)

đúng.

Ngược lại, xét tam giác co , ,a b v (bao lồi của các điểm , ,a b v ). Vì pv M và

k kd nên ta có , k kv a v b . Vì u là trung điểm của ,a b , ta suy

ra từ quy tắc hình bình hành

2 2 2 22 2 b u u v v a v b

và từ

2 21

4 b u a b

rằng

2 2 2 2 2 2 21 1 32 2

2 2 2 k k ku v v a v b a b ,

và do đó 3

2p k . Vì 1 n p và 1k nên ta có (3.8).

Từ (3.8) suy ra 0 q q . Do đó phép chia chuẩn tỉ lệ 1

2 là vét kiệt.

3. Thuật toán nhánh cận

Xét bài toán P , trong đó D là một tập lồi đóng, bị chặn.

Ý tưởng của phương pháp nhánh cận là thay vì việc giải bài toán, ta tìm cận

trên và cận dưới cho giá trị tối ưu của bài toán. Để làm cho cận chính xác người ta

chia nhỏ dần miền tìm kiếm (tập chấp nhận).


57

Khởi tạo. Chọn một hộp (hoặc một đơn hình) 0P , tùy theo phương pháp phân hoạch

không gian sao cho 0D P . Tính tập hợp đỉnh 0V P .

Đặt 0 0: P .

Tính 0 0: max f x x V P .

Giả sử Q là tập hợp các điểm chấp nhận được đã biết (nếu có).

Tìm 0 arg max x f x x Q , nếu Q .

Đặt 00 : f x , nếu Q và 0 : , nếu Q .

Bước lặp k . Tại thời điểm bắt đầu Bước lặp k 0,1,2...k , ta có một họ k và

với mỗi hộp (hoặc mỗi đơn hình) k kP đều có một cận trên k . Đồng thời, nếu

qua việc tính k hay bằng cách nào khác có thể biết được một số điểm chấp nhận

được tốt nhất kx sao cho cận dưới : kk f x .

Bước 1. Nếu k k thì dừng: kx là nghiệm tối ưu và k là giá trị tối ưu của bài

toán (P).

Nếu trái lại, chuyển sang Bước 2.

Bước 2. Chia kP theo cách đã chọn (chia hộp hoặc chia đơn hình vét kiệt).

Đặt 1 2

: k k kP P P .

Bước 3. Tìm cận trên ikP của f trên ikD P thỏa mãn

ik kP P ( 1,2)i .

Bổ sung các điểm chấp nhận mới tìm thấy được trong khi tính cận trên ikP

( 1,2)i vào tập Q .

Bước 4. Tính max k f x x Q , kx Q sao cho kkf x .

Bước 5. Đặt 1 21 : \ , k k k k kP P P .

Xóa tất cả 1k kP thỏa mãn


58

k kP hoặc kP D .

Đặt k là tập còn lại.

Đặt

khi (khi ®ã thuËt to¸n dõng), :

max khi .

k k

kk k k kP P

Chọn k kP sao cho k kα P α .

Bước 6. Đặt 1Γ : k k và chuyển sang Bước 2 của Bước lặp 1k .

Sự hội tụ của thuật toán

Nếu thuật toán dừng lại tại Bước lặp k thì k kα β . Do đó, ta có k kβ α ,

mà kkβ f x nên kx là nghiệm tối ưu và kβ là giá trị tối ưu của bài toán P .

Định lý sau cho ta thấy sự hội tụ của thuật toán khi thuật toán kéo dài vô hạn:

Định lý 3.5. (i) Nếu thuật toán kéo dài vô hạn và không tìm được điểm chấp nhận

được (tức là kβ với mọi 1,2,...k ) thì * :kα f .

(ii) Nếu thuật toán kéo dài vô hạn và tồn tại điểm chấp nhận được kx thì mọi điểm

tụ của dãy kx là nghiệm tối ưu toàn cục của bài toán P . Hơn nữa, *kα f và

*kβ f .

Chứng minh. Khi thuật toán kéo dài vô hạn, nó sẽ tạo ra một dãy vô hạn các tập

chia giảm dần (lồng nhau) jkP thỏa mãn jkP D , 1,2,...j

Để đơn giản ký hiệu, thay vì viết jk ta viết k .

Do tính vét kiệt, nên *kP x khi k . Vì , 1,2,... kP D k nên

ta có *x D .

(i) Ta có

max kk k kα α P f x x V P f v .

Mặt khác, với mọi kkx P ta suy ra *kx x . Do hàm f liên tục nên


59

* * kkα f v f x f .

Theo định nghĩa của cận trên kα , ta có *kα f . Do đó * *f x f . Vậy *kα f .

(ii) Giả sử k

x là một điểm chấp nhận được trong kP D . Ta có

lim 0

k

kk

α f x .

Vì k

kβ f x và hàm f liên tục nên ta có lim 0

k kk

α β . Mặt khác, theo

cách tính cận k kα α P nên ta có

lim lim 0

k k k kk k

α β α P β . (3.9)

Do D bị chặn nên kx có một điểm tụ. Giả sử *x là một điểm tụ bất kỳ của kx .

Không giảm tổng quát ta giả sử dãy jkx là dãy con của kx , *jk

x x (để đơn

giản ký hiệu, ta viết *kx x ). Do hàm f liên tục nên suy ra *lim

k

kf x f x .

Dãy kα là dãy không tăng và bị chặn dưới bởi *f nên tồn tại lim

kk

α α . Hơn

nữa, dãy kβ là dãy số thực không giảm và bị chặn trên bởi *f nên tồn tại

lim

kk

β β . Do đó, ta có * β f α . Từ (3.9), ta có

* *lim lim lim

kk k

k k kβ β f x f x f α α .

Vậy điểm tụ *x của dãy kx là nghiệm tối ưu của bài toán P . Hơn nữa,

*kα f và *kβ f .


21 2 1 2max , f x f x x x x x D ,

trong đó 2 221 22 1 1 D x x x .

Lời giải. Ta thấy 21 2 f x x x là hàm lồi trên 2 .


60

Lấy hình hộp 0 P D với tập đỉnh 0 1,0 , 1,2 , 3,0 , 3,2T T T T

V P .

Ta có

0 0max 3,2 11 f x x V P f .

Lấy 5 3

,2 4

T

là điểm chấp nhận trong D . Ta có 0

5 3, 7

2 4

f .

Suy ra 0 0 . Do đó, ta thực hiện chia hộp 0P thành hai hộp 11P và 12P thỏa mãn

0 11 12 P P P và 11 12int int P P .

Hình hộp 11P với tập đỉnh 11 1,0 , 1,2 , 2,0 , 2,2T T T T

V P . Ta có

11 11 0max 2,2 6 f x x V P f (loại).


V P . Ta có

12 12 0max 3,2 11 f x x V P f .

Do đó, ta thực hiện chia hộp 12P thành hai hộp 21P và 22P thỏa mãn 12 21 22 P P P

và 21 22int int P P .


V P . Ta có

21 21 0max 3,1 10 f x x V P f .



Mặt khác, ta nhận thấy rằng 3,1 T

D mà 03,1 10 f nên 3,1T

là điểm

chấp nhận được mới và ta đặt

1

5 3: max , , 3,1 3,1 10

4 4

f f f .


V P . Ta có

22 22 0max 3,2 11 f x x V P f .


61



Tiếp tục, ta thực hiện tính cận trên trên các hình hộp 31P , 32P , 33P , 34P trong đó

31

5 52,0 , 2,1 , ,0 , ,1

2 2

T TT T

V P ;

32

5 5,0 , ,1 , 3,0 , 3,1

2 2

T TT T

V P ;

33

5 52,1 , 2,2 , ,1 , ,2

2 2

T TT T

V P ;

34

5 5,1 , ,2 , 3,1 , 3,2

2 2

T TT T

V P .

Ta có

31 31 1

5max ,1 7,25

2

f x x V P f (loại);

32 32 1max 3,1 10 f x x V P f ;

33 33 1

5max ,2 8,25

2

f x x V P f (loại);

34 34 1max 3,2 11 f x x V P f .

Do đó nghiệm của bài toán là * 3,1T

x .

62

KẾT LUẬN

Sau thời gian học tập tại Khoa Toán - Cơ - Tin học, Trường Đại học Khoa

học Tự nhiên - Đại học Quốc gia Hà Nội, được các thầy cô trực tiếp giảng dạy và

hướng dẫn, đặc biệt là GS. TSKH. Lê Dũng Mưu, tôi đã hoàn thành luận văn với đề

tài “Về cực trị hàm lồi”. Luận văn đã đạt được một số kết quả sau:

1. Giới thiệu bài toán cực tiểu hàm lồi trên tập lồi, sự tồn tại nghiệm của bài

toán. Điều kiện tối ưu cho bài toán cho bài toán với ràng buộc đẳng thức và bài toán

với ràng buộc bất đẳng thức. Đối ngẫu Lagrange. Trình bày hai phương pháp cơ bản

giải bài toán cực tiểu hàm lồi trên tập lồi đó là phương pháp chiếu dưới đạo hàm và

thuật toán Frank-Wolfe.

2. Giới thiệu bài toán cực đại hàm lồi trên tập lồi, các tính chất cơ bản. Giới

thiệu phép chia hộp và phép chia đơn hình vét kiệt. Trình bày hai phương pháp cơ

bản để giải bài toán cực đại hàm lồi trên tập lồi đó là phương pháp xấp xỉ ngoài và

thuật toán nhánh cận.

Có thể xem luận văn như bước tìm hiểu ban đầu về bài toán cực đại, cực tiểu

hàm lồi trên tập lồi. Tác giả luận văn hy vọng sẽ có dịp tìm hiểu sâu hơn về lớp bài

toán quan trọng này của tối ưu toàn cục.

63

TÀI LIỆU THAM KHẢO

Tài liệu Tiếng Việt

[1] Nguyễn Thị Bạch Kim (2008), Giáo trình các phương pháp tối ưu: Lý thuyết

và thuật toán, NXB Bách khoa - Hà Nội.

[2] Đỗ Văn Lưu và Phan Huy Khải (2011), Giải tích lồi, NXB Khoa học Kĩ

thuật Hà Nội.

[3] Lê Dũng Mưu (1998), Nhập môn các phương pháp tối ưu, NXB Khoa học

Kĩ thuật Hà Nội.

[4] Lê Dũng Mưu, Nguyễn Văn Hiền và Nguyễn Hữu Điển (sẽ ra), Nhập môn

giải tích lồi ứng dụng, NXB Đại học Quốc gia Hà Nội.

[5] Trần Vũ Thiệu và Nguyễn Thị Thu Thủy (2011), Nhập môn tối ưu phi tuyến,

NXB Đại học Quốc gia Hà Nội.

[6] Hoàng Tụy (2003), Lý thuyết tối ưu, Bài giảng lớp cao học, Viện Toán học.

Tài liệu Tiếng Anh

[7] Stephn Boyd and Lieven Vandenberghe (2004), Convex Optimization,

Cambridge University Press.

[8] P.M. Pardalos and J.B. Rosen (1987), Constrained Global Optimization:

Algorithms and Applications, Springer-Verlag Berlin Heidelberg New York.

[9] Hoang Tuy (1998), Convex Analysis and Global Optimization, Kluwer

Academic Publishers.

[10] Hoang Tuy (1983), “On outer approximation methods for solving concave

minimization problems”, Acta Mathematica Vietnamica, 8, pp. 3-34.

vỀ cỰc trỊ hÀm lỒi

Documents