MỤC LỤC

Trang BẢNG KÝ HIỆU .........................……………………………….…..... 2

MỞ ĐẦU ……………………….……………………………….…..... 3 Chương 1. MỘT SỐ KIẾN THỨC VỀ GI ẢI TÍCH LỒI ................ 5 1.1 Tập afin......................................................................................... 5 1.2 Tập lồi................................................................................................ 6

1.3 Hàm lồi và dưới vi phân..................................................................... 8

1.4 Phép chiếu vuông góc........................................................................ 10

1.5 Xấp xỉ tập lồi................................................................................... 12 Chương 2. BÀI TOÁN QUI HOẠCH LỒI ......................................... 13 2.1 Bài toán cơ bản của quy hoạch lồi..................................................... 13

2.2 Điều kiện chính quy........................................................................... 14

2.3 Hàm Lagrange và điều kiện tối ưu..................................................... 14

2.4 Định lý Karush-Kuhn-Tucker............................................................ 16

2.5 Trường hợp khả vi.............................................................................. 21 2.6 Ràng buộc đẳng thức.......................................................................... 25

2.7 Bài toán với ràng buộc tuyến tính...................................................... 26 Chương 3. PHƯƠNG PHÁP HƯỚNG CHẤP NHẬN ĐƯỢC.......... 29 3.1 Hướng chấp nhận được và hướng giảm............................................. 29

3.2 Điều kiện tồn tại hướng chấp nhận được........................................... 30

3.3 Bài toán chọn hướng giảm ................................................................ 32

3.4 Thuật toán Zoutendijk........................................................................ 37

3.5 Sự hội tụ của phương pháp hướng có thể.......................................... 41

3.6 Ràng buộc tuyến tính......................................................................... 42

KẾT LUẬN …………………………………………………………... 49 TÀI LIỆU THAM KHẢO ………………………………………..…. 50

2

BẢNG KÝ HIỆU

f(x): Gradient của f(x) tại x

f(x): Dưới vi phân của f tại x

riX: Phần trong tương đối của tập X

clX: Bao đóng của tập X

PX(y): Hình chiếu của điểm y trên tập X

DX(y): Khoảng cách từ điểm y đến tập X

KKT: Karush-Kuhn-Tucker

dom f: Miền hữu hiệu của f

epi f: Tập trên đồ thị của hàm f

conv M: Bao lồi của tập M

cone M: Nón sinh bởi tập M

NM(x0): Nón pháp tuyến của tập M tại x0

n: Không gian Euclide n chiếu

aff(E): Bao afin của tập E

dim M: Số chiều (thứ nguyên) của tập M

int X: Tập hợp các điểm trong của X

[x,y]: Đoạn thẳng đóng nối x và y

3

MỞ ĐẦU

Tối ưu hóa là một ngành toán học ứng dụng, đã và đang được nhiều người

quan tâm nghiên cứu, tìm hiểu và ứng dụng. Các bài toán tối ưu (tuyến tính và phi

tuyến tính) rất phong phú và đa dạng. Chúng có nhiều ứng dụng rộng rãi trong

thực tiễn. Trong tối ưu phi tuyến thì qui hoạch lồi được nghiên cứu khá hoàn

chỉnh, cả về lý thuyết và phương pháp giải.

Đó là lớp bài toán tìm cực tiểu của một hàm lồi trên một tập hợp lồi đóng,

xác định bởi các bất đẳng thức (tuyến tính hoặc lồi) và các đẳng thức tuyến tính.

Lớp bài toán này có tính chất đẹp, rất đáng chú ý là mọi điểm cực tiểu địa phương

đều là điểm cực tiểu toàn cục. Khai thác tính đặc thù của lớp bài toán này, đặc biệt

là cấu trúc lồi, người ta đã nghiên cứu đề ra nhiều phương pháp giải khác nhau,

khá hiệu quả và độc đáo, cho các bài toán lồi tổng quát và riêng lẻ. Nhiều chương

trình máy tính giải qui hoạch lồi cũng đã được chuẩn hóa.

Bài toán qui hoạch lồi phổ biến và có tầm quan trọng đến mức, nếu có bài

toán nào đó (lý thuyết hay thực tiễn) hễ đưa được về mô hình bài toán qui hoạch

lồi thì xem như về nguyên tắc bài toán đó đã được giải quyết. Vì thế, có thể nói

qui hoạch lồi chiếm một vị trí trung tâm trong lý thuyết tối ưu hóa.

Chính vì những lý do đó, luận văn này tập trung tìm hiểu chủ đề: lý thuyết và

phương pháp giải bài toán qui hoạch lồi. Luận văn nhằm trình bày một cách ngắn

gọn những khái niệm và kết quả cơ bản về bài toán qui hoạch lồi, đặc biệt các

điều kiện tối ưu (cần và đủ) và giới thiệu một trong những phương pháp chính giải

qui hoạch lồi, đó là phương pháp hướng có thể. Nêu chứng minh sự hội tụ của

phương pháp và đưa ra các ví dụ số để minh họa cho các thuật toán giải bài toán.

Luận văn gồm Mở đầu, 3 chương, Kết luận và danh mục tài liệu tham khảo.

4

Chương 1 "Một số kiến thức chuẩn bị" trình bày tóm tắt một số kiến thức

cơ bản cần thiết về giải tích lồi, trong đó quan trọng nhất là các khái niệm về tập

afin, tập lồi, nón lồi và tính chất; hàm lồi, quan hệ giữa hàm lồi và tập lồi, tính

chất cực trị của hàm lồi …

Chương 2 "Bài toán qui hoạch lồi" trình bày khái quát các khái niệm cơ bản

và các kết quả chính về bài toán qui hoạch lồi, điều kiện chính qui, điều kiện tối

ưu cần và đủ của nghiệm tối ưu (Định lý KKT), hàm Lagrange và điểm yên ngựa,

quan hệ giữa nghiệm tối ưu và điểm yên ngựa. Xét bài toán qui hoạch lồi với các

ràng buộc tuyến tính.

Chương 3 "Phương pháp hướng chấp nhận được" trình bày phương pháp

hướng chấp nhận được giải bài toán qui hoạch lồi với ràng buộc tuyến tính và phi

tuyến. Đề cập tới vấn đề chọn hướng giảm và xét sự hội tụ của các thuật toán giải.

Xét trường hợp bài toán với các ràng buộc tuyến tính. Sau mỗi thuật toán đưa ra ví

dụ số để minh họa. Nhân dịp này, tác giả xin bày tỏ lòng biết ơn sâu sắc đến thầy hướng dẫn

GS.TS.Trần Vũ Thiệu đã tận tình giúp đỡ trong quá trình làm luận văn.

Tác giả xin trân trọng cảm ơn các thầy, cô giáo trong Viện toán học - Viện

Khoa học và Công nghệ Việt Nam, đã giảng dạy và tạo mọi điều kiện thuận lợi

trong quá trình tác giả học tập và nghiên cứu.

Tác giả cũng xin chân thành cảm ơn bạn bè học tập cùng lớp K17 - Viện

toán học, đã động viên, tham gia, góp ý để tác giả hoàn thành tốt luận văn này. Hà Nội, ngày 04 tháng 09 năm 2011

Người thực hiện

Nguyễn Văn Sáng

5

Chương 1 MỘT SỐ KIẾN THỨC VỀ GIẢI TÍCH LỒI

Giải tích lồi có ứng dụng quan trọng trong nhiều lĩnh vực khác nhau của toán

học, đặc biệt trong tối ưu hóa. Chương này trình bày một số kết quả cơ bản của

giải tích lồi thường hay được sử dụng trong lý thuyết tối ưu. Nội dung chính của

chương chủ yếu dựa trên các tài liệu [2], [3] và [6].

1.1. Tập afin

Định nghĩa 1.1. Một tập M n được gọi là tập afin nếu

a, b M, λ n λ a + (1 - λ)b M,

tức là hễ M chứa hai điểm nào đó thì M chứa cả đường thẳng qua hai điểm ấy.

Một số tính chất cơ bản của các tập afin:

* Nếu M là tập afin thì a + M = {a + x : x M} cũng là tập afin a n.

* M là tập afin chứa gốc khi và chỉ khi M là một không gian con cuả n.

* Giao của một họ bất kỳ các tập afin cũng là một tập afin.

* Nếu x1,..., xk thuộc tập afin M thì mọi tổ hợp afin của các điểm này cũng

thuộc M, nghĩa là

xi M (i = 1, ..., k), λ1 + ... + λk = 1 λ1x1 + ... + λkxk M.

* Một tập afin bất kỳ có dạng M = {x : Ax = b} với A mxn, b m.

Ngược lại, mọi tập có dạng trên đều là tập afin. (Đó là tập nghiệm của một hệ

phương trình tuyến tính).

Định nghĩa 1.2. Bao afin của một tập E là giao của tất cả các tập afin chứa

E, ký hiệu aff(E). Đó là tập afin nhỏ nhất chứa E.

Từ các tính chất của tập afin suy ra:

6

x aff(E) x = 1,Ex,xk

1i

k

1ii

iii

.

Có thể thấy: một tập M ≠ là afin khi và chỉ khi M = x0 + L với x0 M

và L là một khoảng không gian con. L được xác định một cách duy nhất và

được gọi là không gian con song song với M. (M nhận được bằng cách tịnh tiến

L tới x0).

Thứ nguyên (hay số chiều) của một tập afin M, ký hiệu dim M, được định

nghĩa là số chiều của không gian con song song với nó.

1.2 Tập lồi

Định nghĩa 1.3. Tập M n được gọi là tập lồi nếu nó chứa trọn đoạn thẳng

nối hai điểm bất kì của M, nghĩa là

x1, x2 M, λ , 0 λ 1 λx1 + (1 - λ)x2 M.

Điểm x n có dạng

x =

m

1k

kk ,x ,0k

m

1kk 1,

được gọi là một tổ hợp lồi của x1, x2,..., xm n.

Mệnh đề 1.1. (i) Tập M n là lồi khi và chỉ khi M chứa mọi tổ hợp lồi các

phần tử của nó.

(ii) Giao của một họ bất kỳ các tập lồi là tập lồi. Tổng, hiệu của hai tập lồi

là tập lồi.

Mệnh đề 1.2. Cho A n, B m là các tập lồi. Khi đó:

(i) Tích Descartes A B = {(x, y): x A, y B} n × m là tập lồi.

(ii) Nếu F: n m là một ánh xạ tuyến tính thì F (A) m và

F-1(B) n là các tập lồi (với giả thiết ánh xạ F -1 tồn tại).

Tập lồi đa diện là giao của một số hữu hạn các nửa không gian đóng. Một

tập lồi đa diện bị chặn được gọi là một đa diện lồi.

7

Mệnh đề 1.3. Cho F: n m là một ánh xạ tuyến tính. Nếu A n là tập lồi đa diện thì F(A) m cũng là tập lồi đa diện.

Tập M n được gọi là một nón nếu với mọi x M, λ 0 thì λx M. Tập M là nón lồi nếu M vừa là nón, vừa là tập lồi. Nón M không chứa đường thẳng nào được gọi là nón nhọn.

Mệnh đề 1.4. Cho tập khác rỗng M n. Khi đó:

(i) Tập M là nón lồi có đỉnh tại gốc khi và chỉ khi

λM M, λ 0 và M + M M.

(ii) Tập M là nón nhọn khi và chỉ khi

M ∩ (-M) = {0}.

Hệ quả 1.1. (i) Tập M n là nón lồi khi và chỉ khi M chứa mọi tổ hợp tuyến tính không âm các phần tử của nó.

(ii) Cho M n là một tập lồi. Tập {λx : x M, λ ≥ 0} là nón lồi nhỏ nhất chứa M.

Ta gọi {λx : x M, λ ≥ 0} là nón sinh bởi M và ký hiệu cone M.

Cho M n , và điểm x0 M. Nón pháp tuyến (ngoài) của M tại x0, kí hiệu là NM(x0) được định nghĩa bởi

NM(x0) = {v n : 0xx,v ≤ 0, x M }

Cho tập M n. Giao của tất cả các tập lồi chứa M được gọi là bao lồi của tập M, kí hiệu conv M. Rõ ràng, M n là tập lồi khi và chỉ khi M = conv M.

M

0x

Hình 1.1 Nón pháp tuyến của tập M tại điểm xo

NM (xo)

8

Mệnh đề 1.5. Bao lồi của tập M n gồm mọi tổ hợp lồi các phần tử của M. Định lý 1.1. (Carathéodory) Cho M là một tập chứa trong tập afin k chiều. Khi đó bất kỳ x conv M có thể biểu diễn dưới dạng tổ hợp lồi của không quá k + 1 phần tử thuộc M.

Trong lý thuyết tối ưu bổ đề sau đây có một vai trò quan trọng.

Bổ đề 1.1. (Bổ đề Farkas) Cho trước véctơ p n và ma trận B cấp m × n. Muốn cho 0x,p với mọi x nghiệm đúng Bx ≤ 0 điều kiện cần và đủ là tồn tại

véctơ u m sao cho u ≥ 0 và p = BTu (p biểu diễn được dưới dạng tổ hợp tuyến tính không âm các véctơ hãng của B).

Định lý 1.2 (Định lý tách). Nếu tập lồi X có phần trong X0 = int X ≠ và nếu X0 không cắt tập lồi Y, tức là X0 ∩ Y = , thì tồn tại siêu phẳng H tách X và Y , nghĩa là tồn tại véctơ t ≠ 0 sao cho y,tx,t với mọi x X và mọi

y Y.

1.3. Hàm lồi và dưới vi phân

Cho S n và f : S = [-∞, +∞]. Ta kí hiệu

dom f = {x S : f(x) < +∞}.

Tập dom f được gọi là miền hữu hiệu của f. Tập

epi f = {(x, µ) S × : f(x) ≤ µ}

gọi là tập trên đồ thị của hàm f

9

Hàm f gọi là chính thường nếu dom f ≠ và f(x) > - với mọi x dom f.

Định nghĩa 1.4. Hàm f được gọi là hàm lồi nếu epi f n +1 là một tập lồi. Hàm f là hàm lõm nếu -f là hàm lồi.

Mệnh đề 1.6. Giả sử S n là tập lồi. Hàm f trên S lồi khi và chỉ khi với mọi x1, x2 S và mọi λ [0, 1] ta có

f[λx1 + (1-λ )x2] λf(x1) + (1-λ )f(x2).

Cho tập lồi S n và hàm f : S → [-∞, +∞]. Hàm f gọi là lồi chặt trên S nếu với mọi x1, x2 S, x1 ≠ x2 và mọi λ (0, 1) ta có

f[λx1 + (1 – λ)x2] < λf(x1) + (1 – λ)f(x2).

Hiển nhiên một hàm lồi chặt là lồi, nhưng điều ngược lại không đúng.

Một tính chất quan trọng của hàm lồi khả vi hay được sử dụng tới được nêu trong bổ đề sau đây.

Bổ đề 1.2. Một hàm f(x) khả vi trên tập lồi đóng S là lồi trên S khi và chỉ khi với mọi x S và mọi y S ta có

)x(f)y(fxy),x(f

0

( )Epi f

Hình 1.2 Hàm lồi

10

Định lý sau đây nêu lên một tính chất đặc trưng cơ bản của các hàm lồi.

Định lý 1.3. Cho S là một tập hợp lồi khác rỗng trong n và hàm f : n → là

một hàm lồi. Mọi điểm cực tiểu địa phương của f trên S đều là điểm cực tiểu toàn cục. Tập các điểm cực tiểu của f trên S là tập con lồi của S.

Định lý 1.4. Một hàm lồi chặt f(x) trên một tập lồi S có nhiều nhất một điểm cực tiểu trên S.

Ví dụ. Hàm lồi chặt một biến f(x) = x2 có duy nhất một điểm cực tiểu x* = 0. Còn hàm lồi chặt f(x) = ex (x ) không có điểm cực tiểu nào.

Định lý 1.5. Muốn cho điểm x* của tập hợp lồi D là điểm cực tiểu địa phương của hàm khả vi f(x) trên D điều kiện cần và đủ là đối với mọi x D thuộc lân cận đủ nhỏ của điểm x* ta có bất đẳng thức

0xx),x(f **

Định nghĩa 1.5. Cho hàm lồi chính thường f xác định trên n, véc tơ p n được gọi là dưới gradient của f tại điểm x0 nếu

)x(f)x(fxx,p 00 , x n.

Tập tất cả các dưới gradient của hàm f tại x0 được gọi là dưới vi phân của hàm f tại x0, kí hiệu ∂f(x0). Hàm f được gọi là khả dưới vi phân tại x0 nếu ∂f(x0) ≠ .

Nói chung, tập f(x0) thường chứa nhiều phần tử. Trường hợp hàm lồi f khả vi tại x0 thì ∂f(x0) chỉ chứa duy nhất một phân tử f(x0) (Gradient của hàm f tại x0).

Mệnh đề 1.7. Giả sử f là hàm lồi chính thường và x0 dom f. Nếu f khả vi tại x0 thì ∂f(x0) = {f(x0)}.

Phần tiếp theo đề cập đến một trong những vấn đề cơ bản trong giải tích lồi, đó là phép chiếu vuông góc (còn gọi là phép chiếu Ecuclid) xuống tập lồi đóng.

1.4. Phép chiếu vuông góc

Cho X n là một tập bất kì (không nhất thiết lồi) và điểm yn . Đặt

11

dX(y) : = yxinfXx

Ta nói dX(y) là khoảng cách từ điểm y đến tập X. Nếu tồn tại z X sao cho dX(y) : = yz thì ta nói z là hình chiếu vuông góc của y trên X và kí hiệu z = PX(y).

(xem minh họa ở hình 1.3).

Hình 1.3. z = PX(y) là hình chiếu của y trên X.

Theo định nghĩa, hình chiếu PX(y) của y trên X là nghiệm của bài toán tối ưu

Xx

min

{ 2yx)x(f } (1.1)

Nói cách khác, việc tìm hình chiếu của y trên X có thể đưa về tìm cực tiểu

hàm toàn phương 2yx trên X. Nếu tồn tại z X sao cho z = PX(y) thì z là

nghiệm tối ưu của Bài toán (1.1). Do đó 0 ≤ dX(y) < + .

Mệnh đề 1.8. Cho X là tập lồi đóng khác rỗng. Khi đó:

(i) Với mọi y n , z X, hai tính chất sau tương đương

(i1) z = PX(y);

(i2) y – z NX(y).

(ii) Với mỗi y n, luôn tồn tại duy nhất hình chiếu PX(y) cuả y trên X.

(iii) Giả sử y X. Kí hiệu z = PX(y). Khi đó

H = {x n : 0zx,yz }

X

( )Xz P y

y

12

là siêu phẳng tựa của X tại z.

1.5 Xấp xỉ tập lồi

Như đã biết, kỹ thuật chính của phương pháp xấp xỉ ngoài giải bài toán tối ưu có tập chấp nhận được lồi, khác rỗng X n là xấp xỉ dần tập chấp nhận được X bởi một dãy các đa diện xác định bởi các siêu phẳng tựa của X. Cơ sở lý thuyết của kỹ thuật này là các kết quả dưới đây. Theo đó một tập lồi có thể xấp xỉ với độ chính xác tùy ý bởi các tập lồi đa diện được xác định bởi các siêu phẳng tựa của nó.

Định nghĩa 1.6. Một siêu phẳng H = {x n : x,t } gọi là một siêu phẳng

tựa của tập lồi C n nếu ít nhất có một điểm x0 C nằm trong H, tức là 0x,t

và mọi điểm thuộc C cùng nằm trong một nửa không gian xác định bởi H, chẳng hạn x,t với mọi x C. Khi đó nửa không gian x,t gọi là nửa không

gian tựa của C.

Mệnh đề 1.9. Cho C là tập lồi đóng khác rỗng và y0 C. Khi đó tồn tại siêu phẳng tựa của C tại hình chiếu của y0 trên C.

Định lý 1.6 (Xấp xỉ tuyến tính tập lồi). Mọi tập lồi đóng khác rỗng không trùng với toàn bộ không gian đều là giao của họ các nửa không gian tựa của nó.

Tóm lại, Chương 1 đã trình bày một số khái niệm cơ bản về tập lồi, nón lồi,

hàm lồi, ... Ngoài ra, còn đề cập tới phép chiếu vuông góc xuống tập lồi đóng và

xấp xỉ tuyến tính của một tập lồi. Các kết quả ở chương này là cơ sở cho việc trình

bày các định lý trong lý thuyết tối ưu lồi ở chương sau.

Chương 2 BÀI TOÁN QUI HOẠCH LỒI

13

Quy hoạch lồi là bài toán tìm cực tiểu của một hàm lồi trên một tập hợp lồi

đóng. Chương này trình bày lý thuyết cơ bản về bài toán quy hoạch lồi : điều kiện

tối ưu cần và đủ, quan hệ giữa nghiệm tối ưu và điểm yên ngựa của hàm Lag-

range, điều kiện chính quy đối với các ràng buộc phi tuyến. Nội dung chính của

chương dựa chủ yếu trên các tài liệu [3] - [6].

2.1. Bài toán cơ bản của qui hoạch lồi

Xét tập hợp

D = {x X : g(x) ≤ b} (2.1)

trong đó gT(x) = (g1(x), g2(x), ..., gm(x)), gi(x), (i = m,1 ) là các hàm lồi liên tục

trên X, còn X là tập lồi đóng cho trước.

Nói riêng, tập hợp X có thể trùng với toàn bộ không gian n , dĩ nhiên X là một

tập hợp lồi. Tập hợp (2.1) lồi vì đó là tương giao của tập hợp X và {x n : g(x) ≤ b}.

Do gi(x) liên tục và tập hợp X đóng suy ra tập hợp D đóng.

Bài toán

)x(fminDx

(2.2)

trong đó f(x) lồi, còn D thỏa mãn các điều kiện vừa nêu trên, được gọi là bài toán cơ bản của quy hoạch lồi.

Ta quy ước rằng kí hiệu )x(fmin

Dx

có nghĩa là bài toán

1) Hoặc tìm được điểm tối ưu x* D sao cho f(x*) ≤ f(x) với mọi x D

2) Hoặc nếu không tồn tại điểm x* như thế thì tìm

f* = inf {f(x) : x D}

3) Hoặc khẳng định rằng f(x) không bị chặn dưới trên tập hợp D

14

4) Hoặc khẳng định rằng D = .

2.2. Điều kiện chính quy

Dưới đây cần đến một điều kiện buộc tập hợp D phải thỏa mãn:

Nếu với mỗi i = 1, 2, ..., m tìm được điểm xi D sao cho

gi(x) < bi (2.3)

thì ta nói rằng tập hợp D thỏa mãn điều kiện chính quy.

Điều kiện đó tương ứng với điều kiện sau đây, thường gọi là điều kiện chính quy Slater: tồn tại điểm x D sao cho g(x) < b.

Để chứng minh sự tương đương này ta chỉ cần chọn

x =

m

1iii ,x

m

1ii 1, 0i , (i = m,1 )

Từ đó suy ra điều cần chứng minh.

Sau này ở những chỗ nào cần đến điều kiện chính quy sẽ nói rõ.

2.3. Hàm Lagrange và điều kiện tối ưu

Xét véctơ m chiều

h(x) = g(x) - b. (2.4)

Định nghiã 2.1. Hàm

L(x, y) = f(x) + )x(h,y (2.5)

trong đó x X, y ≥ 0, được gọi là hàm Lagrange của bài toán qui hoạch lồi.

Trong các bài toán giải tích cổ điển về cực trị có điều kiện thì phương pháp nhân tử Lagrange giữ một vai trò quan trọng: lời giải của bài toán ban đầu được tìm trong số các điểm dừng của hàm L(x, y). Trong các bài toán quy hoạch lồi (nói riêng là quy hoạch tuyến tính) hàm Lagrange cũng chiếm một vai trò quan trọng: với những điều kiện nhất định bài toán qui hoạch lồi quy về việc tìm điểm yên ngựa của hàm Lagrange.

15

Định nghiã 2.2. Cặp (x*, y*) được gọi là điểm yên ngựa của hàm L(x, y) trên tập hợp x X, y ≥ 0 nếu

x* X, y* ≥ 0 và L(x*, y) ≤ L(x*, y*) ≤ L(x, y*) (2.6)

đối với mọi x X, y ≥ 0 Công thức (2.6) còn có thể viết lại như sau

L(x*, y*) = Xx

min

Xx0y0y)y,x(Lminmax)y,x(Lmax (2.7)

Định lý 2.1. Nếu cặp (x*, y*) là điểm yên ngựa của hàm Lagrange L(x, y) trên tập hợp x X, y ≥ 0 thì x* là điểm tối ưu của bài toán qui hoạch lồi (2.1).

Chứng minh. Từ (2.5) và (2.6) ta có

f(x*) + )x(h,y * ≤ f(x*) + )x(h,y ** ≤ f(x) + )x(h,y ** (2.8)

Từ bất đẳng thức ở bên trái suy ra

)x(h,y * ≤ )x(h,y ** . (2.9)

Vì y* ≥ 0 và bất đẳng thức này đúng với mọi y ≥ 0, nên h(x*) ≤ 0.

Nói riêng, (2.9) đúng với mọi y = 0, nghĩa là

h(x*) ≤ 0, )x(h,y ** ≥ 0

Vì y* ≥ 0 và h(x*) ≤ 0 nên )x(h,y ** ≤ 0

Do đó

)x(h,y ** = 0 (2.10)

Nếu x D thì từ (2.1) và (2.4) suy ra h(x) ≤ 0, vì thế với x D ta có

)x(h,y* ≤ 0 (2.11)

Vì (2.8) đúng với mọi x X, nói riêng với mọi x D, nên từ bất đẳng thức bên phải (2.8) và từ (2.10), (2.11) ta được bất đẳng thức

16

f(x*) ≤ f(x) + )x(h,y* ≤ f(x)

với mọi x D. Nhưng x* D (vì x* X và h(x*) ≤ 0. Do đó x* là điểm tối ưu. □

2.4. Định lý Karush-Kuhn-Tucker

Định lý sau đây có vai trò quan trọng trong qui hoạch toán học.

Định lý 2.2 (Karush-Kuhn-Tucker). Giả sử trong bài toán (2.2) tập hợp D = {x X : g(x) ≤ b} thỏa mãn điều kiện chính quy (2.3).

Để điểm x* là điểm tối ưu, điều kiện cần và đủ là tồn tại y* ≥ 0 sao cho cặp (x* , y* ) là điểm yên ngựa của hàm Lagrange L(x, y) trên tập hợp x X, y ≥ 0.

Chứng minh. Điều kiện đủ đã được chứng minh trong Định lý 2.1.

Điều kiện cần. Giả sử x* tối ưu. Xét các tập hợp trong không gian (m+1) chiều n + 1

P =

0 z f(x*), z:

zz

00

và

S = Xx

)x(S

,

trong đó

S(x) =

b - g(x) z f(x), z :

zz

00

Ta sẽ chứng tỏ rằng các tập hợp P và S lồi.

Rõ ràng ta thấy tập hợp P là lồi. Ta xét tập hợp S.

Giả sử

'

'0

z

z S và

''

''0

z

z S

ta sẽ chỉ ra rằng

17

zz0 = α

'

'0

z

z + (1 – α)

''

''0

z

z S,

với mọi α 1,0 .

Vì

'

'0

z

z S nên tìm được 'x X sao cho

'

'0

z

z S( 'x )

và tương tự tìm được ''x X sao cho

''

''0

z

z S( ''x ).

Ta chỉ cần chứng minh rằng

zz0 S(x)

trong đó x = α 'x + (1 - α) ''x .

Do f(x) và g(x) lồi suy ra

f(x) = f ''' x)1(ax ≤ αf( 'x ) + (1 - α)f( ''x ) ≤ α '0z + (1 - α) ''

0z ;

g(x) – b = g ''' x)1(ax - b ≤ αg( 'x ) + (1 - α)g( ''x ) – b

= α b)x(g ' + (1 - α) b)x(g '' ≤ α 'z + (1 - α) ''z = z.

Như vậy

zz0 S(x) S.

Bây giờ ta chứng minh rằng các tập hợp P0 và S không có điểm chung.

Ở đây

18

P0 =

0z),x(fz:

zz *

00 .

Với mọi x D, do x* là điểm tối ưu nên (trong S) ta có

z0 ≥ f(x) ≥ f(x*).

Nhưng trong P0 : z0 < f(x*) với mỗi x X mà Dx tìm được ít nhất một chỉ số i sao cho zi ≥ gi(x) – bi > 0 trong S. Song trong P0 thì zi < 0.

Vậy các tập hợp S và P0 lồi và không có điểm chung. Theo định lý tách (Định lý 1.2.) tồn tại siêu phẳng tách hai tập hợp đó, nghĩa là tồn tại véctơ

0uu0

, (2.12)

sao cho

u0z0 + z,u ≥ u0w0 + w,u (2.13)

với mọi

zz0 S và

ww0 P0.

Vì những điểm với các thành phần âm có môđun lớn tùy ý thuộc tập hợp P0, nên theo (2.13) ta phải có

0uu0

. (2.14)

Bất đẳng thức (2.13) vẫn còn đúng khi

ww0 thuộc biên của P; vì thế bằng

cách chọn

z0 = f(x), z = g(x) – b

w0 = f(x*), w = 0,

ta có với mọi x X

19

u0f(x) + b)x(g,u ≥ u0f(x*). (2.15)

Bây giờ ta khẳng định rằng u0 > 0. Giả sử u0 = 0, khi đó (2.15) có dạng

b)x(g,u ≥ 0, với Xx .

Vì u ≥ 0 (xem (2.14)) và u ≠ 0 (xem (2.12)) còn do với mọi x D có g(x) – b ≤ 0, nên với ui > 0 đẳng thức

gi(x) – bi = 0

sẽ thỏa mãn với mọi x D, trái với giả thiết chính quy (2.3).

Nghĩa là, từ giả thiết u0 = 0 suy ra u = 0, điều này trái với (2.12). Vậy u0 > 0.

Đặt

y* = 0u

u ≥ 0

Khi đó (2.15) có dạng

f(x*) ≤ f(x) + b)x(g,y*

với mọi x X, còn với x = x* thì từ đây suy ra

b)x(g,y ** ≥ 0 (2.16)

Do y* ≥ 0 nên

g(x*) – b ≥ 0.

Nhưng vì x* D nên

g(x*) – b ≤ 0.

Từ đó suy ra

b)x(g,y ** = 0 (2.17)

Với mọi y ≥ 0 ta có

20

b)x(g,y * ≤ 0. (2.18)

Từ (2.16), (2.17) và (2.18) ta nhận được

f(x*) + b)x(g,y * ≤ f(x*) + b)x(g,y **

≤ f(x) + b)x(g,y* ,

với mọi x X, y ≥ 0. Tức là ta có

L(x*,y ) ≤ L(x*,y* ) ≤ L(x,y*), x X, y ≥ 0.

Đó là điều cần chứng minh của định lý. ڤ

Chú ý 2.1. Có thể giảm nhẹ điều kiện chính quy (2.3) trong phát biểu định lý, tuy nhiên đối với các ràng buộc phi tuyến thì không thể gạt bỏ hoàn toàn điều kiện chính quy dù ở dạng nào, điều này được thấy rõ qua ví dụ đơn giản sau đây.

Giả sử trong 1 cho

f(x) = -x, g(x) = x2, b = 0, X = 0x:x

Như vậy, bài toán qui hoạch lồi

min(-x)

với điều kiện

x2 ≤ 0, x ≥ 0.

Đối với tập hợp D (ở đây chỉ gồm duy nhất một điểm x = 0) không thỏa mãn điều kiện Sleiter. Rõ ràng rằng x* = 0 và f(x*) = 0, nhưng hàm Lagrange

L(x,y) = -x + yx2,

với x ≥ 0, y ≥ 0 nói chung không có điểm yên ngựa.

Chú ý 2.2. Nếu tập hợp D được xác định chỉ bởi các bất đẳng thức tuyến tính, thì Định lý 2.2 đúng mà không cần đặt thêm bất cứ điều kiện gì đối với D (xem Định lý 2.6).

2.5. Trường hợp khả vi

21

Các bất đẳng thức xác định điều kiện tồn tại điểm yên ngựa là rất quan trọng trong sử dụng thực tiễn. Dưới đây sẽ viết các bất đẳng thức đó đối với bài toán cơ bản của qui hoạch lồi khi tập hợp chấp nhận được có dạng

D = {x : g(x) ≤ b, x ≥ 0},

nghĩa là khi

X = {x : x ≥ 0}.

Định lý 2.3. Nếu các hàm f(x) và g(x) của bài toán qui hoạch lồi (2.2) khả vi, liên tục trên tập hợp X = {x : x ≥ 0} thì để cho cặp (x*, y*) là điểm yên ngựa của hàm Lagrange trong miền x ≥ 0, y ≥ 0 điều kiện cần và đủ là

xL*

≥ 0, (2.19)

xL,x

**

= 0, (2.20)

x* ≥ 0, (2.21)

yL*

≤ 0, (2.22)

yL,y

**

= 0, (2.23)

y* ≥ 0, (2.24)

trong đó

xL*

=

****yy,xx

*

yy,xx y)y,x(L

yL

x)y,x(L

Chứng minh. Ta viết lại điều kiện (2.19)-(2.24) dưới dạng tương đương

i

*

xL ≥ 0, (i = n,1 ), (2.19’)

22

xi, i

*

xL = 0, (i = n,1 ), (2.20’)

xi ≥ 0, (2.21’)

j

*

yL ≤ 0, (j = m,1 ), (2.22’)

yi, j

*

yL = 0, (j = m,1 ), (i = n,1 ), (2.23’)

yj ≥ 0, (j = m,1 ), (2.24’)

Cần. Giả sử tồn tại x* ≥ 0, y* ≥ 0 sao cho

L(x*,y) ≤ L(x*,y*) ≤ L(x,y*), x* ≥ 0, y* ≥ 0. (2.6)

Từ đây, nói riêng từ bất đẳng thức bên phải, suy ra

L(xi,y*)def L( *

1x ,..., *1ix , xi, *

1ix , ..., *nx , y*) ≥ L(x*,y*)

với xi ≥ 0. Điều đó cho thấy điểm x* là điểm cực tiểu của hàm một biến L(xi,y*) với xi ≥ 0 (nói riêng là điểm cực tiểu địa phương). Điều kiện (2.19’)- (2.21’) thực chất là điều kiện cần của cực tiểu địa phương khi xi ≥ 0 đối với hàm một biến (bởi

vì hoặc *ix là điểm trong của nửa trục xi ≥ 0 thì

i

*

xL = 0 hoặc *

ix = 0 thì i

*

xL > 0).

Đủ. Giả sử có điều kiện (2.19’)- (2.24’). Vì f(x) và h(x) (xem (2.4)) lồi, nên L(xi,y*) lồi theo x đối với x ≥ 0, và do đó có bất đẳng thức (xem Bổ đề 1.2)

L(x,y*) ≥ L(x*,y*) + xL,xx

**

Từ đây và từ (2.18)- (2.20) ta có

L(x*,y*) ≤ L(x,y*), x ≥ 0

Bất đẳng thức bên trái trong (2.6) nhận được là do L(x*,y) tuyến tính theo y và từ (2.22)- (2.24). □

23

Chú ý 2.3. Nếu tập hợp D thỏa mãn điều kiện chính quy thì (2.19)- (2.24) sẽ là điều kiện cần để tồn tại điểm tối ưu x*.

Chú ý 2.4. Nếu trong bài toán (2.2) X = n thì bằng lập luận tương tự dễ

dàng thấy rằng, điểm yên ngựa sẽ được xác định bởi điều kiện xL*

= 0 và bởi hệ

thức (2.22) - (2.24).

Các điều kiện (2.19)- (2.24) có thể viết dưới dạng có hình ảnh hình học hơn. Ta kí hiệu

f(x) = T

n1 x)x(f,...,

x)x(f

, gi(x) =

T

n

i

1

i

x)x(g,...,

x)x(g

Các véctơ f(x) và gi(x) gọi là građiên của các hàm f(x) và gi(x) tương ứng.

Để ý rằng véctơ -ei là pháp tuyến ngoài đối với D của siêu phẳng biên xi = 0, còn véctơ gi(x) là pháp tuyến ngoài tại điểm x của mặt biên gi(x) = bi.

Xét điểm x D. Nếu điểm này thuộc biên của tập hợp D, thì hiển nhiên là một số bất đẳng thức xác định D trở thành đẳng thức.

Giả sử

I(x) = {i : gi(x) = bi} (2.25)

J(x) = {j : xj = 0} (2.26)

Định lý 2.4. Giả sử tập hợp D của bài toán qui hoạch lồi (2.2) thỏa mãn điều kiện chính quy (2.3) còn các hàm f(x) và g(x) khả vi, liên tục trên tập hợp

X = {x : x ≥ 0}.

Khi đó để cho x* D là tối ưu, cần và đủ là đối građiên của hàm mục tiêu có thể biểu diễn được dưới dạng tổ hợp tuyến tính không âm của các pháp tuyến ngoài của các ràng buộc thỏa mãn chặt tại điểm x*.

-f(x*) =

)x(Ii

ii*

)x(gy - )x(Jj

jj*

ev (2.27)

24

Chứng minh. Ta sẽ chỉ ra rằng các điều kiện (2.19)- (2.22) có thể viết lại dưới dạng (2.27). Điều này sẽ chứng minh định lý.

Các điều kiện (2.21) và (2.22) có nghĩa là x* D.

Ký hiệu

xL*

def v =

n

1jjjev .

Khi đó (2.19) có dạng

f(x*) +

m

1i

n

1jjj

*ii ev)x(gy , vj ≥ 0, (j = n,1 ),

Từ điều kiện (2.24) suy ra yi ≥ 0 (i = m,1 ), còn các điều kiện (2.20’) và (2.23’) có dạng

vj*jx = 0 (j = p,1 ), yi (gi(x*) - bi) = 0 (i = m,1 ).

Và vì x* D nên theo (2.25) và (2.26) ta được (2.27). Từ điều đã nêu trong Chú ý 2.3 suy ra rằng, các điều kiện (2.27) là điều kiện cần và đủ để tồn tại điểm tối ưu x*. □ Chú ý 2.5. Nếu trong bài toán (2.2) X = n thì dựa theo Chú ý 2.4, dễ dàng thấy rằng hệ thức (2.27) có dạng

-f(x*) =

)x(Ii

*ii

*)x(gy , yi ≥ 0, i I(x*).

2.6. Ràng buộc đẳng thức

Giả sử bài toán qui hoạch lồi (2.2) có thêm các ràng buộc đẳng thức:

min{f(x) : gi(x) ≤ 0, i = 1, ..., m; hj(x) = 0, j = 1, ..., p, x X},

trong đó f, gi : n → là các hàm lồi cho trước, hj : n → là các hàm afin và X n là tập hợp lồi đóng cho trước. Thông thường X = n

+ hoặc X = n . Kí hiệu D là miền chấp nhận được của bài toán:

25

D = {x X : gi(x) ≤ 0, i = 1, ..., m; hj(x) = 0, j = 1,..., p}

(D là một tập hợp lồi đóng).

Điều kiện chính quy. Có thể chứng minh rằng x0 D là điểm chính quy nếu một trong các điều kiện sau đuợc thỏa mãn:

a) Các ràng buộc gi(x), i I(x0) và hj(x), j = 1,..., p đều là hàm afin.

b) Các véctơ gi(x0), i I(x0), hj(x0), j = 1,..., p là độc lập tuyến tính.

c) hj (j = 1,..., p) là hàm afin và gi (i = 1,..., m) là hàm lồi và tồn tại u0 D sao cho gi(u0) < 0 với mọi i mà gi không phải là hàm afin (điều kiện chính quy Slater).

Hàm Lagrange:

L(x,λ,μ) = f(x) +

m

1iii )x(g +

p

1jjj )x(h với x X, λi ≥ 0, µj tùy ý.

Tương tự như Định lý 2.4 trong trường hợp này ta có

Định lý 2.5. Giả sử các hàm f, gi (i = 1,..., m), hj (j = 1,..., p) khả vi liên tục trên tập mở chứa D, X = n, x* D là một điểm cực tiểu địa phương của bài toán min{f(x) : x D} và x* là một điểm chính quy. Khi đó, tồn tại véctơ λ* = ( *

m*1,..., )T, µ* = ( *

p*1 ,..., )T thỏa mãn:

0)x(h)x(g)x(fm

1i

p

1j

*j

*i

*i

*i

*

m,...,1i,0,0)x(g *i

*i

*i

(2.28)

p,...,1j,0)x(h;m,...,1i,0)x(g *j

*i

Ngược lại. Giả sử f, gi (i = 1, ..., m) là các hàm lồi khả vi liên tục và hj (j = 1, ..., p) là các hàm afin. Giả sử x* D. Khi đó, nếu tồn tại các véctơ λ* , µ* thỏa mãn điều kiện (2.28) thì x* là một nghiệm cực tiểu của bài toán qui hoạch lồi min {f(x) : x D}.

2.7. Bài toán với ràng buộc tuyến tính

26

Cuối cùng ta xét trường hợp khi tập hợp D được cho bởi các ràng buộc tuyến tính và sẽ chứng tỏ rằng Định lý Karush-Kuhn-Tucker đúng mà không cần đến bất kỳ điều kiện chính quy nào.

Giả sử tập hợp chấp nhận được có dạng

D = {x : Ax ≤ b, x ≥ 0}, (2.29)

trong đó A mxn và b m.

Ta xét bài toán qui hoạch lồi sau đây

)x(fminDx

(2.30)

(hàm f(x) lồi).

Tương tự (2.25) và (2.26) đối với điểm x ta kí hiệu

I(x) = {i : (Ax)i = bi} (2.31)

J(x) = {j : xi = 0} (2.32)

Ta nhớ rằng véctơ d ≠ 0, (d n) là hướng chấp nhận được tại x D nếu tìm được λ0 > 0 sao cho với mọi λ [0, λ0] điểm x + λd thuộc D.

Dễ dàng thấy rằng các bất đẳng thức sau đây là điều kiện cần và đủ để hướng d là chấp nhận được tại x:

(As) ≤ 0, với mọi i I(x); (2.33)

di ≥ 0, với mọi j J(x); (2.34)

Bây giờ có thể phát biểu và chứng minh định lý sau đây:

Định lý 2.6. Đối với hàm lồi khả vi liên tục f(x) để cho có tồn tại trên D điểm tối ưu x*, nghĩa là

f(x*) = )x(fminDx

,

điều kiện cần và đủ là tồn tại y* ≥ 0 sao cho cặp (x*, y*) là điểm yên ngựa của hàm Lagrange L(x,y) trong miền x ≥ 0, y ≥ 0.

Chứng minh. Điều kiện đủ được chứng minh trong Định lý 2.1.

27

Cần. Giả sử x* là điểm tối ưu. Vì hàm f(x) lồi nên theo Định lý 1.5 suy ra

*xxs

)x(fs

= s),x(f * ≥ 0, (2.35)

với mọi s sao cho

(As)i ≤ 0 với mọi i I(x*); (2.36)

-sj ≤ 0 với mọi j J(x*); (2.37)

Để đơn giản, giả sử rằng

I(x) = {1, 2, ..., k ≤ m} và J(x) = {1, 2, ..., l ≤ n}

(điều này không làm giảm tính tổng quát). Tiếp đó ta dùng Bổ đề Farkas. Muốn vậy ta đưa vào ma trận

BT = {a1, a2, ..., ak, -e1, -e2, ..., -el},

trong đó ai là hàng thứ i của ma trận A, còn ej là véctơ đơn vị thứ j.

Bây giờ các điều kiện (2.36) và (2.37) có thể viết lại như sau

Bs ≤ 0. (2.38)

Đối với ma trận B và các véctơ p = -f(x*), các điều kiện của Bổ đề Farkas được thỏa mãn vì thế tồn tại véctơ

uT = (y1, y2, ..., yk, v1, v2, ..., vl) ≥ 0

sao cho

- f(x*) = BTu,

nghĩa là

-f(x*) =

)x(Jj

jj)x(Ii

ii**

evay . (2.39)

Trong Định lý 2.4 đã chứng minh rằng biểu thức đó tương đuơng với các bất đẳng thức Karush-Kuhn-Tucker (2.19)- (2.24) và do đó theo Định lý 2.3 tồn tại y* ≥ 0 sao cho (x*, y*) là đểm yên ngựa của hàm L(x, y) trong miền x ≥ 0, y ≥ 0. □

28

Chú ý 2.6. Trong Định lý 2.6 tập D không đặt điều kiện chính quy như trong các Định lý 2.2, 2.4 và 2.5.

Trong Định lý Karush-Kuhn-Tucker, để chứng minh rằng x* là điểm tối ưu, suy ra cặp (x*, y*) là điểm yên ngựa của hàm Lagrange L(x,y) thì phải dùng đến điều kiện chính quy Sleiter. Còn ở đây, từ x* là tối ưu ta suy ngay ra hệ thức (2.39), nghĩa là (theo Định lý 2.4) suy ra bất đẳng thức (2.19)-(2.24), còn theo Định lý 2.3, các bất đẳng thức này xác định điểm yên ngựa của hàm Lagrange L(x,y).

Tóm lại, chương này đã trình bày khái quát về bài toán qui hoạch lồi với

các ràng buộc bất đẳng thức (tuyến tính và phi tuyến) và ràng buộc đẳng thức

tuyến tính. Nêu các điều kiện cần và đủ để tồn tại nghiệm tối ưu và quan hệ giữa

nghiệm tối ưu và điểm yên ngựa của hàm Lagrange.

Chương 3

PHƯƠNG PHÁP HƯỚNG CHẤP NHẬN ĐƯỢC

29

Phương pháp hướng chấp nhận được (method of feasible directions) còn có

tên gọi khác là phương pháp hướng có thể hay phương pháp Zoutendifk (gọi theo

tên của người đã đề xuất ra nó, năm 1960).

Chương này trình bày phương pháp hướng chấp nhận được áp dụng cho bài

toán qui hoạch lồi với ràng buộc phi tuyến và ràng buộc tuyến tính. Nội dung của

chương được tham khảo từ các tài liêụ [2], [3] và [7].

3.1. Hướng chấp nhận được và hướng giảm

Xét bài toán )x(fmin

Dx

trong đó

D = {x : gi(x) ≤ bi, i = 1, ..., m},

các hàm gi(x) lồi và thuộc lớp C1,1(D). Trong trường hợp tổng quát người ta phân

các ràng buộc xác định tập D thành hai nhóm: tuyến tính và phi tuyến.

Nhưng để cho các tính toán bớt cồng kềnh, ở đây ta sẽ không phân biệt rõ

như thế. Khi đó sẽ xuất hiện một số đòi hỏi thừa đối với tập hợp D mà dễ dàng có

thể loại trừ.

Ta nhắc lại định nghĩa hướng chấp nhận được và hướng giảm.

Định nghĩa 3.1. Cho một tập D ℝn và một điểm x0 D. Một véctơ

d ℝn, d 0 gọi là một hướng chấp nhận được của D tại x0 nếu có một số t0 > 0

sao cho x0 + td D với mọi t [0, t0]. Về mặt hình học, điều này có nghĩa là xuất

phát từ x0 đi dọc theo hướng d có ít nhất một đoạn ở trong D.

Như vậy, nếu D là một tập lồi và x0, y D thì véctơ d = y - x0 là một hướng

chấp nhận được của D tại x0 (vì có thể lấy t0 = 1 và đoạn [x0, y] D).

30

Định nghĩa 3.2. Hướng chấp nhận được d tại x0 gọi là một hướng giảm nếu

dT f(x0) < 0, nghĩa là hướng chấp nhận được có khả năng làm giảm giá trị hàm

mục tiêu f(x).

3.2. Điều kiện tồn tại hướng chấp nhận được

Giả sử ≥ 0 là một số tùy ý, nói chung đủ nhỏ. Ta xác định đối với x D

tập hợp các chỉ số

I(x, ) = {i : 0 ≤ bi - gi(x) ≤ }.

Chú ý rằng khi = 0 sẽ có

I(x,0) = I(x) = {i : gi(x) = bi}.

Tại điểm x D xét tập hợp

S(x, ) = {d : dTgi(x) ≤ 0, i I(x, )}

và

S’(x, ) = {d, : dTgi(x) + ≤ 0, i I(x, ), > 0}.

Ta sẽ xác lập điều kiện tồn tại hướng có thể tại điểm x D. Trường hợp x là điểm trong của tập hợp D, tức là I(x,0) = 0 , thì một hướng bất kỳ d tại điểm x đều là hướng chấp nhận được. Giả sử I(x,0) = 0 .

Định lý 3.1. Để cho hướng d là hướng chấp nhận được tại điểm x D thì điều kiện cần là d S(x,0) còn điều kiện đủ là d, S’(x, ) với một ≥ 0.

Chứng minh. Cần. Giả sử hướng d là hướng chấp nhận được tại điểm x. Ta sẽ chứng tỏ d S(x,0). Nếu không phải như vậy thì tìm được chỉ số i I(x,0), sao cho Do dTgi(x) > 0 hàm gi(x) lồi nên suy ra bất đẳng thức

gi(x + d) - bi = gi(x + d) - gi(x) ≥ dTgi(x) > 0

đối với mọi > 0 tức là x + d D, điều này trái với giả thiết d là hướng chấp nhận được.

Đủ. Giả sử d, S’(x, ). Ta sẽ chứng minh rằng d là hướng chấp nhận được. Nếu i I(x, ), tức là bi - gi(x) > ≥ 0, thì việc dịch chuyển nhỏ từ điểm x

31

theo một hướng bất kỳ, nói riêng theo hướng d, sẽ không vi phạm bất đẳng thức bi - gi(x) > 0. Giả thiết rằng đối với bất kỳ > 0 nhỏ bao nhiêu tùy ý sẽ

có gi(x + d) < bi, tức là hướng d không phải là hướng chấp nhận được. Khi đó do gi(x) < bi nên đối với bất kỳ > 0 ta có

1 [ gi(x) - gi(x + d)] >

1 ( bi - bi) = 0,

nghĩa là

0lim

1 [ gi(x) - gi(x + d)] = dTgi(x) ≥ 0,

điều này trái với điều kiện d, S’(x, ), (vì > 0 và i I(x, )).

Định lý được chứng minh. □

Vì phương pháp đang xét hướng giảm được chọn từ tập hợp S’(x, ), nên điều kiện để cho tập hợp này khác rỗng có một ý nghĩa quan trọng. Lại vì số ràng buộc của bài toán ban đầu là hữu hạn (bằng m), nên đối với điểm bất kỳ x D tìm được I(x, ) = I(x,0). Do đó ta chỉ cần xét để cho tập hợp S’(x,0) khác rỗng là đủ.

Định lý 3.2. Để cho tại điểm biên bất kỳ x D có S’(x,0) ≠ 0 ,điều kiện cần và đủ là tập D chính quy .Khi đó tồn tại 0>0 sao cho S’(x,0) ≠ 0 với [0, 0].

Chứng minh. Cần. Giả sử điều kiện chính quy bị vi phạm: với mọi y X tìm được chỉ số i sao cho fi(y) = bi. Khi đó với bất kỳ x X sẽ có i I(x,0) và fi(x - (x – y)) = bi, với mọi (0,1] (bởi vì x - (x – y) X). Do đó

0 = 0

lim

1 [ gi(x) - gi(x - (x – y))] = yx),x(f 'i .

Vì hướng –s = y – x là hướng có thể tại điểm x, còn điểm y là điểm bất kỳ trong X, nên ta đi đến s),x(f i đối với hướng có thể bất kỳ tại điểm x và vì vậy S’(x,0) ≠ 0 (do

s),x(f ' + > 0 với > 0, i I(x,0)). Trái với giả thiết.

32

Đủ. Giả sử x là điểm biên của tập hợp X, tức là f i(x) = bi, với i I(x,0) nào đó. Từ giả thiết tập hợp X là chính quy suy ra tồn tại y X sao cho fi(y) > bi với mọi i = 1, 2, ..., m. Vì các hàm fi(x) lõm nên

yx),x(f 'i ≤ fi(x) - fi(y) = bi - fi(x)

đối với i I(x,0). Kí hiệu

ii)0,x(Ii

0 b)y(fmin)y(

> 0.

Khi đó

)y(fb ii ≤ - )y(0 , với i I(x,0)

Vì –s = y – x là hướng có thể tại điểm x nên với mọi i I(x,0) sẽ có

s),x(f 'i ≤ - )y(0 .

Giả sử là số bất kỳ sao cho 0 < ≤ )y(0 . Khi đó

s),x(f 'i + ≤ s),x(f '

i + 0(y) ≤ 0, i I(x,0)

nghĩa là S’(x,0) ≠ 0 , với [0, 0 ], trong đó

= ii)0,x(IiXyb)y(fminsup

.

Từ đây ta có thể kết luận của định lý. □

3.3. Bài toán chọn hướng giảm

Giả sử cuối bước lặp thứ k đã tính được xk D và k > 0.

Xét bài toán

max

với điều kiện

s),x(g ki + ≤ 0, i I(xk, k) (3.1)

33

- s),x(f k + ≤ 0,

N(s) ≤ 1,

trong đó hoặc

N(s) = N1(s) = s,s = 2s (3.2)

hoặc

N(s) = N2(s) = jn,1j

smax

(3.3)

Kí hiệu )x(~~kk và )x(s~s~ kk là nghiệm của bài toán (2.1) và ta sẽ giải

thích bài toán này. Điều kiện thứ nhất đảm bảo cho ks~ là hướng có thể. Điều

kiện thứ hai đảm bảo cho đại lượng s),x(f k là lớn nhất tức là hướng ks~ (với

)x(~k > 0) đảm bảo cho hàm f(x) giảm nhanh trong số tất cả các hướng có thể -s

sao cho ),x(S,s kk' . Cuối cùng điều kiện thứ ba đảm bảo cho nghiệm bài toán

(3.1) là bị chặn như đã nói, ưu điểm của bài toán (3.1) là nó tương đối đơn giản so với bài toán chọn hướng trong các phương pháp khác.

Việc nghiên cứu sự hội tụ của phương pháp hướng có thể dựa trên định lý quan trọng sau đây.

Định lý 3.3. Để điểm x thuộc tập hợp chính quy D là tối ưu, điều kiện cần và đủ là với mọi s và thỏa mãn các điều kiện sau

s),x(g i + ≤ 0, i I(x, 0) (3.4)

- s),x(f + ≤ 0, (3.5)

ta có ≤ 0.

Chứng minh. Cần. Giả sử x là điểm cực tiểu. Nếu tìm được cặp s, thỏa mãn các

điều kiện (3.4) và (3.5) sao cho > 0 thì )0,x(Ss ' , nghĩa là hướng -s là hướng có

thể, ngoài ra s),x(f ≥ > 0. Nhưng nếu x là điểm cực tiểu thì s),x(f ≤ 0,

với mọi hướng có thể. Mâu thuẫn.

34

Đủ. Giả sử với mọi s và thỏa mãn các điều kiện của định lý, ta có ≤ 0. Điều kiện đó có thể viết một cách hình thức như sau:

0.s + 1. ≤ 0. (3.6)

Ta áp dụng Bổ đề Farkas đối với hệ (3.4) - (3.6), tìm được ui ≥ 0, i I(x, 0) và u0 > 0 sao cho

0 = )x(fu)x(gu 0)0,x(Ii

ii

, (3.7)

1 = 0)0,x(Iii uu

. (3.8)

Ta sẽ chứng minh rằng, giả thiết u0 = 0 dẫn đến mâu thuẫn.

Thật vậy, trong trường hợp có (3.8) suy ra ít nhất có một uj > 0 với j I(x, 0). Từ tính chính quy của D suy ra với mọi j I(x, 0), tồn tại z D sao cho gi(x) < bi. Khi đó -s = z - x sẽ là hướng có thể. Do hàm fj(x) lõm ta nhận được

s),x(g i ≥ gi(z) - gi(x) = bi - gi(x) > 0

Bây giờ ta nhân vô hướng đẳng thức (3.7) với s thì

0 = )0,x(Ii

iu s),x(g i .

Vì -s là hướng có thể, )0,x(Ss ' , do đó tất cả các số hạng ở vế phải có cùng một

dấu và một trong các số hạng đó cụ thể là số hạng thứ j dĩ nhiên khác không

s),x(g i > 0,

điều này trái với toàn bộ tổng bằng không, chỉ còn lại một khả năng duy nhất u0 > 0. Trong trường hợp đó điều kiện (3.7) có thể viết như sau

0 1k

do đó theo chú ý của định lý 3.2 điểm x là tối ưu. □

35

Các lược đồ của phương pháp. Để làm xấp xỉ ban đầu x0 ta chọn một phần tử bất kỳ của tập hợp D, còn 0 chọn từ nửa khoảng (0,1]. Giả sử ở kết quả

của bước lặp thứ k ta tính được xk, k .Ta mô tả bước lặp thứ k + 1

Lược đồ 1.

A. Bằng cách giải bài toán (3.1) ta tính k và sk chấp nhận được sao cho

k ≥ kk~ trong đó 0 < 1k .

B. Nếu kk , thì bằng cách giải bài toán tìm cực tiểu hàm một biến ta tính k . Khi đó k cần thỏa mãn điều kiện

f( xk- k sk) (1- λk) f(xk) + λkwk ,0 < λ ≤ λk≤ 1, (3.9)

k kB

min

f( xk - sk )

Bk= { 0 : xk - sk D}

Sau đó tính xk +1 = xk - k sk và đặt 1k = k .

C. Nếu k < k thì đặt 1k = k k , trong đó các số k cần thỏa mãn điều kiện 0 < k < 1 . Cuối cùng ta đặt xk+1: = xk .

Thông thường sự hội tụ của phương pháp hướng có thể được nghiên cứu

với giả thiết =21 , λk = 1 , k = 1 . Nhưng khi giải bài toán (3.1) tất nhiên sẽ xuất

hiện các sai số tính toán, kết quả là thay cho đại lượng k~ ,ta nhận được k và

vectơ sk tương ứng. Cũng như trong các phương pháp đã xét trước đây, các bất đẳng thức ở điểm B mà đại lượng k cần phải thỏa mãn cho phép có sai số trong việc xác định cực tiểu theo của hàm f(xk- sk) .

Thật vậy, nếu trong quá trình tìm cực tiểu xuất hiện tình huống ở điểm C, tức là k < k , thì xk+1: = xk . Hoàn toàn có thể xảy ra trong trường hợp là: việc giảm chậm đại lượng k dẫn đến đối với một số p nào đó sẽ có

I =( xk+i, ik ) = I ( xk, k ) ,( i = 1, ..., p).

Vì vậy

36

ik < ik ; xk+i = xk , (i = 1, ..., p)

Mặt khác như đã biết, việc giảm nhanh đại lượng k , đặc biệt nếu điểm kx nằm

ngoài lân cận đủ nhỏ của điểm cực tiểu, có thể dẫn đến chuyển động zigzac gần biên của tập hợp D, chuyển động đó làm chậm đáng kể sự hội tụ của quá trình tìm cực tiểu. Như vậy, trong khi tích lũy thông tin về sự hội tụ của quá trình có thể nảy ra nhu cầu tự nhiên là phải thay đổi đại lượng k .

Lược đồ 2.

A. Bằng cách giải bài toán (3.1) ta tính k và sk chấp nhận được sao cho

kkk~ , trong đó 0 < 1k .

B. Nếu k k thì chọn k là số lớn nhất trong các số thỏa mãn điều kiện

f(xk) - f(xk - k sk) p k k , k kB (3.10)

đối với

21,0p nào đó. sau đó tính xk+1= xk - k sk và đặt 1k : = k .

C. Nếu k < k thì đặt 1k = k k , trong đó 0< k < 1 . Cuối cùng

đặt xk+1: = xk .

Lược đồ 3.

A. Bằng cách giải bài toán (3.1) ta tính k và sk chấp nhận được sao cho

k kk~ , trong đó 0< 1k .

B. Nếu k ≥ k thì ta chọn

kk L

1,min , nếu N(sk) = N1(sk)

k = (3.11)

kk nL

1,min , nếu N(sk) = N2(sk)

37

trong đó supk , còn L là hằng số Lipschitz trong điều kiện f(x) )x(C 1,1 và

N(sk) xác định từ (3.2), (3.3). Sau đó tính xk+1= xk - k sk và đặt 1k : = k .

C. Nếu k < k thì đặt 1k = k k , trong đó 0< k < 1 . Cuối cùng đặt

xk+1: = xk.

3.4. Thuật toán Zoutendijk

1) Chọn điểm xuất phát x1 D, chọn các số và 0; 1). Đặt k = 1.

2) Nếu gi(xk) < 0 với mọi i thì chọn dk = f(xk). Dừng khi ||dk|| và

chuyển tới Bước 4) khi ||dk|| > . Còn nếu gi(xk) = 0 với i nào đó thì chuyển sang

Bước 3).

3) Giải qui hoạch tuyến tính. Giả sử (d*, *) là nghiệm tối ưu. Nếu *

thì dừng thuật toán và xk là điểm cực tiểu của bài toán. Trái lại (* < ), chọn

dk = d* và thực hiện Bước 4).

4) Tìm độ dài bước k sao cho xk+1 = xk + kdk D và f(xk+1) < f(xk).

Muốn vậy, trước hết ta tìm khoảng [0, ] từ điều kiện = max { : xk + dk D}

nhờ giải hệ bất phương trình:

gi(xk + dk) 0, i = 1, 2, ... , m.

Sau đó, xác định k nhờ giải bài toán cực tiểu hàm một biến số (biến ):

f(xk + dk) = min{f(xk + dk) : [0, ]}.

5) Tính f(xk+1) và kiểm tra điều kiện dừng: Nếu ||xk+1 xk|| hoặc [f(xk) -

f(xk+1)]/ |f(xk)| < thì dừng thuật toán: xk+1 là điểm cực tiểu xấp xỉ. Trái lại, đặt k

k + 1 và lặp lại Bước 2.

38

1. Nhập x1, , . Đặt k = 1

Đặt dk = f(xk) 2. i : gi(xk) = 0?

|| dk || ? Xuất: x* xk, 3. Tìm nghiệm (*, d*) của

fmin f(xk). bài toán (10.3) - (10.7)

* - ?

4. Tìm = max{ : xk + dk D} 5. K.tra điều và k đạt min{f(xk + dk) : 0 . kiện dừng?

Hình 3.1. Phương pháp hướng chấp nhận được

Ví dụ 3.1. Xét bài toán tối ưu lồi:

min {f(x) = 2x1 + x2 : g1(x) = - x1 - 4 0, g2(x) = 21x + 2

2x - 25 0}.

Với bài toán này, miền chấp nhận được

D = {x 2 : x1 - 4, 21x + 2

2x 25}.

f(x) (2, 1)T, g1(x) (- 1, 0)T và g2(x) = (2x1, 2x2)T, x = (x1, x2)T.

Miền chấp nhận được D = {x 2 : 21x + 2

2x 25, x2 - 4} vẽ ở Hình 3.1

Bằng hình học có thể thấy ngay x* = (- 4, - 3)T là nghiệm cực tiểu của bài toán. Bây giờ ta giải bài toán đã cho bằng phương pháp Zoutendijk.

Bước lặp 1. Ta chọn x1 = (0, 0)T làm điểm xuất phát. Dễ thấy rằng x1 D, f(x1) = 0. Do g1(x1) = - 4 < 0, g2(x1) = - 25 < 0 nên I(x1) = . Vì thế tại x1 hướng d 0 bất kỳ đều là hướng chấp nhận được, ta chọn d1 = - f(x1) = (- 2, - 1)T. Hệ bất phương trình xác định có dạng:

g2(x1 + d1) = 2 + 2 - 25 0 2

S

Đ Đ

Đ

S

Xuất: x* xk+1, fmin f(xk+1)

k k + 1

S

Đ

S

39

g1(x1 + d1) = 2 - 4 0 2 5 0 2.

0 0

Khi đó, bài toán tìm 1 là

20min

f(x1 + d1) =

20min

(2( 1

1x + 11d ) + ( 1

2x + 12d )) =

20min

(2(0 - 2) + (0 - )) =

20min

(- 5) = - 10

đạt tại = 2. Từ đây ta nhận được điểm lặp tiếp theo

x2 = x1 + 1d1 =

120220

=

24

.

Bước lặp 2. Do g1(x2) = 0, g2(x2) = - 5 < 0 nên I(x2) = {1}. Ta vẫn có f(x2) (2, 1)T và g1(x2) (- 1, 0)T. Để tìm hướng cải tiến d2 tại x2 ta giải qui hoạch tuyến tính:

min,

<d, f(x2)> - = 2d1 + d2 - 0

<d, g1(x2)> = - d1 + 0d2 0 (nhớ là g1 tuyến tính)

- 1 d1 1, - 1 d2 1.

Bài toán này có thể giải dễ dàng và nghiệm tối ưu là (d1, d2, )T = (0, - 1, - 1)T. Bỏ biến phụ ta nhận được véctơ d2 = (0, - 1)T và điểm lặp tiếp theo tính theo công thức:

x3 = x2 + d2 =

)1(204

=

2

4.

Tương tự như ở bước lặp trước, hệ bất phương trình xác định có dạng:

g1(x2 + d2) = 4 - 4 0 g1(x2 + d2) = 4 - 4 0

40

g2(x2 + d2) = 16 + (2 + )2 - 25 0 (2 + 2 9,

0 0,

0 1.

Khi đó, bài toán tìm 2 là

10min

f(x2 + d2) =

10min

(2(x 2

1 + d 21 ) + (x 2

2 + d 22 )) =

10

min

(- 24 + (-2 - ) = 10

min

(- 10 - ) = - 11

đạt được khi = 1. Từ đây ta nhận được điểm lặp tiếp theo

x3 = x2 + 2d2 =

)1(12014

=

34

.

Bước lặp 3. Tại điểm x3 cả hai ràng buộc đều thoả mãn chặt nên I(x3) = {1, 2}. Các véctơ gradient tại x3: f(x3) = (2; 1)T, g1(x3) = (- 1, 0)T và g2(x3) = (2x 3

1 , 2x 32 )T = (- 8, - 6)T.

Bài toán xác định hướng cải tiến d3 tại điểm x3 = (- 4, - 3)T có dạng:

min,

<d, f(x2)> - = 2d1 + d2 - 0

<d, g1(x2)> = - d1 + 0d2 0 (g1 tuyến tính)

<d, g2(x2)> - = - 8d1 - 6d2 - 0

- 1 d1 1, - 1 d2 1.

Giải bài toán này ta nhận được nghiệm tối ưu d* = (0, 0)T. Như vậy, tại x3 không tồn tại hướng chấp nhận được làm giảm hàm mục tiêu. Vì thế, x* = x3 = (- 4, - 3)T là nghiệm cực tiểu của bài toán đã cho và giá trị mục tiêu nhỏ nhất là

fmin = f(x3) = 2x 31 + x 3

2 = - 24 - 3 = - 11.

Quá trình giải được minh hoạ ở Hình 3.2

41

Hình 3.2. Thuật toán Zoutendijk

3.5. Sự hội tụ của phương pháp hướng có thể

Giả sử s là hướng có thể tại điểm x D. Xét tập hợp

B = Dsx:0

và xác định đại lượng B

sup . Như vậy, đặt trưng cho khoảng cách lớn nhất từ

điểm x theo hướng s đến biên của tập D. Ta giả thiết rằng tất cả các gi(x) thuộc các lớp

C1,1(x) tức là tồn tại hằng số L1 > 0 sao cho với mọi i = m,1 và bất kỳ x, y D ta có bất đẳng thức

)y(g)x(g 'i

'i ≤ L1 yx .

Kí hiệu

0Dx1 max

)x(fmax 'i

m,1i,

trong đó tập hợp

D0 = {x D : f(x) ≤ f(x0)}

được giả thiết là bị chặn.

Bổ đề 3.1. Đối với mọi s sao cho s, S’(x, ) với x D0, > 0 và N(s) ≤ 1 ta có bất đẳng thức

x1

x2 x1 = - 4

2x1 + x2 = fmin

x3 2x1 + x2 = const

min

- 2

0

- 3

- 4 x2 x1

x 21 + x 2

2 = 25

42

11 L

,minn

1 (3.12)

Ta có định lý hội tụ sau.

Định lý 3.4 (Định lý hội tụ). Nếu có các điều kiện sau:

1) Hàm lồi f(x) C1,1(D)

2) Các hàm lồi gi(x),i = m,1 1,m thuộc lớp C1,1(D);

3) Tập hợp D là chính quy;

4) diam D0=, ;

5) Dãy {xk} xây dựng theo một trong ba lược đồ trên.

thì

f)x(flim kk

(x*)

ngoài ra nếu các điểm x* là duy nhất thì

*kk

xxlim

Chú ý 3.1. Tất cả ba lược đồ đều được xây dựng sao cho từ định lý vừa nêu suy ra tính ổn định của phương pháp hướng có thể đối với sai số tính toán cho phép khi thực hiện các điểm A, B và C của tất cả 3 lược đồ.

Chú ý 3.2. Vấn đề đánh giá tốc độ hội tụ của phương pháp hướng có thể với các giả thiết rất tổng quát về bài toán qui hoạch lồi cho tới nay vẫn chưa được giải quyết.

3.6. Ràng buộc tuyến tính

3.6.1 Bài toán. Xét bài toán tối ưu với ràng buộc tuyến tính:

(P) min {f(x) : Ax b, Ex = c},

43

trong đó f : n → là hàm khả vi liên tục cho trước (phi tuyến), A là ma trận cấp

pn, E - ma trận cấp qn, b p, c q . Ta nhắc lại, điểm x thoả mãn Ax b và Ex = c gọi là một điểm chấp nhận được hay một phương án chấp nhận được của bài toán (P). Tập các phương án chấp nhận được

D = {x n : Ax b, Ex = c}

gọi là miền chấp nhận được của bài toán. Đó là một tập lồi đa diện. Giả thiết D khác rỗng. Một phương án đạt cực tiểu của hàm f được gọi là một phương án tối ưu hay một nghiệm tối ưu.

Do mọi ràng buộc là tuyến tính nên điều kiện chính qui được thoả mãn và ta có thể áp dụng định lý Karush - Kuhn - Tucker nêu ở Chương 2, cụ thể là nếu x*

là một nghiệm cực tiểu thì tìm được các véctơ λ p và q thoả mãn:

f(x*) + AT + ET = 0,

0, T(Ax* - b) = 0,

Ax* b, Ex* = c.

Điều ngược lại sẽ đúng khi hàm mục tiêu f là hàm lồi (điều kiện đủ tối ưu).

Phương pháp hướng chấp nhận được sẽ tạo ra một dãy điểm chấp nhận được, hội tụ đến x* là một điểm KKT của (P) và nếu f(x) là một hàm lồi thì điểm x* này chính là điểm cực tiểu toàn cục của bài toán.

Phương pháp này rất được quan tâm, đặc biệt khi hàm mục tiêu f chỉ xác định trên miền ràng buộc của bài toán. Hơn nữa, nếu dừng thuật toán trước khi đạt đến nghiệm cực tiểu thì điểm cuối cùng của dãy lặp là một điểm chấp nhận được (thoả mãn mọi ràng buộc của bài toán).

Trường hợp miền chấp nhận được D cho bởi các ràng buộc đẳng thức và bất đẳng thức tuyến tính, ta dễ dàng tìm được biểu diễn của các hướng chấp nhận được của D tại một điểm bất kỳ x D. Cụ thể, ta có

44

Định lý 3.5. Giả sử x thoả mãn A x b và E x = c. Khi đó, d là một hướng

chấp được tại x đối với hệ ràng buộc Ax b, Ex = c khi và chỉ khi <ai, d> 0,

i I( x ) và Ed = 0. ( I( x ) ={i : (A x )i =bi} ).

Nhớ rằng d gọi là một hướng giảm của f tại x nếu có <f( x ), d> < 0. Vì thế, theo Định lý 3.5 để tìm hướng giảm chấp nhận được dk tại điểm xk ta giải qui hoạch tuyến tính:

(LPk) <f(xk), d> min,

với điều kiện

<ai, d> 0, i I(xk),

Ed = 0,

- 1 dj 1, j = 1, 2, ... , n.

Nếu giá trị tối ưu của (LPk) là một số âm thì nghiệm tối ưu dk tìm được là một hướng giảm. Trái lại (giá trị tối ưu bằng 0), xk là một điểm KKT của bài toán (P), bởi vì không tồn tại hướng giảm tại xk (nếu có thêm f là một hàm lồi thì xk là một điểm cực tiểu toàn cục của (P)).

3.6.2 Thuật toán giải bài toán tối ưu với ràng buộc tuyến tính

Bước chuẩn bị. Chọn tuỳ ý một điểm x1 D (Có thể tìm x1 theo thuật toán đơn hình). Chọn một số > 0 đủ nhỏ (chẳng hạn, = 10-3). Đặt k = 1.

Bước lặp k (k = 1, 2, ...)

a) Xác định hướng cải tiến dk tại xk:

+ I(xk) = : chọn dk = - f(xk). Dừng nếu ||dk|| , chuyển tới b) nếu ||dk|| > .

+ I(xk) : giải qui hoạch tuyến tính (LPk) và được nghiệm tối ưu dk. Nếu <fxk), dk> = 0 thì dừng thuật toán: xk là điểm KKT của (P). Trái lại, thực hiện b).

b) Tính độ dài bước tk > 0: Tìm tmax theo công thức

45

di

ii Ii:

d,a

x,abmin , nếu Id ≠

Tmax = , nếu Id = trong đó Id = {i I \ I( x ) : d,a i > 0} và giải bài toán cực tiểu hàm một biến min {f(xk + tdk) : 0 t t,max}.

c) Xây dựng điểm lặp mới xk+1 = xk + tkdk.

d) Đặt k k + 1 và thực hiện Bước lặp k mới.

Ví dụ 3.2. Tìm cực tiểu của hàm số

f(x) = (x1 - 1)2 + (x2 - 5)2

với các ràng buộc tuyến tính:

x2 4,

x1 + 2x2 10,

3x1 - 2x2 6,

x1 0, x2 0.

Với ví dụ này, miền chấp nhận được

D = {x R2 : x2 4, x1 + 2x2 10, 3x1 - 2x2 6, x1 0, x2 0}.

Bằng hình học có thể thấy ngay x* = (1, 4)T là nghiệm cực tiểu của bài toán. Bây giờ ta sẽ giải bài toán theo phương pháp hướng chấp nhận được.

Ta có f(x) = (2x1 - 2, 2x2 - 10)T.

Bước lặp 1. Ta chọn x1 = (0, 0)T D làm điểm xuất phát với f(x1) = 26. Ta có f(x1) = (- 2, - 10)T.

46

Hình 3.3. Ràng buộc tuyến tính

a) Xác định hướng d1: Thế x1 vào các ràng buộc của bài toán, ta thấy x1 thoả mãn chặt hai ràng buộc x1 0, x2 0. Vì thế, để tìm hướng giảm chấp nhận được d1, ta giải qui hoạch tuyến tính:

(LP1) <f(x1), d> = - 2d1 - 10d2 min

với các điều kiện

d1 0, d2 0,

- 1 d1 1, - 1 d2 1

(điều kiện đầu giữ cho x1 = 0 + td1 0, x2 = 0 + td2 0, t 0, điều kiện sau là điều kiện chuẩn hoá).

Có thể thấy nghiệm tối ưu của bài toán (LP1) là d1 = (1, 1)T.

b) Tìm độ bước t1 > 0: Để tìm tmax ta thế x1 = x11 + td1

1 = t, x2 = x12 + td1

2 = t vào các ràng buộc của bài toán và nhận được hệ bất phương trình:

t 4, t + 2t 10, 3t - 2t 6, t 0 0 t 10/3 tmax = 10/3.

Giải bài toán cực tiểu hàm một biến

(t) = f(x1 + td1) = (t - 1)2 + (t - 5)2 = 2t2 - 12t + 26

với 0 t 10/3. Bằng cách cho ’(t) = 4t - 12 = 0, ta suy ra nghiệm t1 = 3.

c) Điểm lặp mới x2 = x1 + 3d1 =

00

+ 3

11

=

33

= (3, 3)T.

d) Đặt k k + 1 = 2 và chuyển sang Bước lặp 2.

x1

x2

1 2

x1 + 2x2 = 10

0

3

5

1

4

3x1 - 2x2 = 6

x2 = 4

x1

d2

d1

x2

x3 x4 d4

47

Bước lặp 2. Ta có x2 = (3, 3)T D với f(x2) = 8 và f(x2) = (4, - 4)T.

a) Xác định hướng d2: Thế x2 vào các ràng buộc, ta thấy x2 là một điểm trong của D (I(x2) = ). Vì thế, ta chọn d2 = - f(x2) = (- 4, 4)T.

b) Tìm độ bước t2 > 0: Để tìm tmax ta thế x1 = x21 + td 2

1 = 3 - 4t, x2 = x22 + td 2

2 = 3 + 4t vào các ràng buộc của bài toán và nhận được hệ bất phương trình:

(3 + 4t) 4 t 41 ,

(3 - 4t) + 2 (3 + 4t) 10 4t 1,

3 (3 - 4t) - 2 (3 + 4t) 6 - 20t 3,

(3 - 4t) 0; (3 + 4t) 0 43_ t 4

3

Hệ bất phương trình này cho nghiệm t lớn nhất là tmax = 0,25.

Giải bài toán cực tiểu hàm một biến

(t) = f(x2 + td2) = (2 - 4t)2 + (4t - 2)2 = 2(4t - 2)2

với 0 t 0,25. Dễ thấy nghiệm tối ưu t2 = 0,25.

c) Điểm lặp mới x3 = x2 + 0,25d2 =

33

+ 0,25

44

=

42

= (2, 4)T.

d) Đặt k = k + 1 = 3 và chuyển sang Bước lặp 3.

Bước lặp 3. Ta có x3 = (2, 4)T D với f(x3) = 2 và f(x3) = (2, - 2)T.

a) Xác định hướng d3: Thế x3 vào các ràng buộc, ta thấy x3 thoả mãn chặt hai ràng buộc đầu: I(x3) = {1, 2}. Vì thế, bài toán tìm hướng giảm chấp nhận được d3:

(LP3) <f(x3), d> = 2d1 - 2d2 min

với các điều kiện

d2 0, d1 + 2d2 0,

- 1 d1 1, - 1 d2 1

(điều kiện đầu giữ cho (4 + td2) 4 và (2 + td1) + 2(4 + td2) 10, t 0).

Có thể thấy nghiệm tối ưu của bài toán (LP3) là d3 = (- 1; 0)T.

48

b) Tìm độ bước t3 > 0: Để tìm tmax ta thế x1 = x 31 + td 3

1 = 2 - t, x2 = x 32 + td 3

2= 4 + 0t = 4 vào các ràng buộc của bài toán và nhận được hệ bất phương trình:

(4 + 0t) 4,

(2 - t) + 2 (4 + 0t) 10 - t 0,

3 (2 - t) - 2 (4 + 0t) 6 - 3t 8

(2 - t) 0; 4 + 0 t 0 t 2.

Hệ bất phương trình này cho nghiệm t lớn nhất là tmax = 2.

Giải bài toán cực tiểu hàm một biến

(t) = f(x3 + td3) = (1 - t)2 + (4 - 5)2 = t2 - 2t +2

với 0 t 2. Dễ thấy nghiệm tối ưu t3 = 1 (’(t3) = 2t3 - 2 = 0).

c) Điểm lặp mới x4 = x3 + 1 d3 =

42

+

01

=

41

= (1, 4)T.

d) Đặt k = k + 1 = 4 và chuyển sang Bước lặp 4.

Bước lặp 4. Ta có x4 = (1, 4)T D với f(x4) = 1 và f(x4) = (0, - 2)T.

a) Xác định hướng d4: Thế x4 vào các ràng buộc, ta thấy x4 thoả mãn chặt ràng buộc đầu: I(x4) = {1}. Vì thế, bài toán tìm hướng giảm chấp nhận được d4 là

(LP4) <f(x4), d> = - 2d2 min

với các điều kiện

d2 0, - 1 d1 1, - 1 d2 1

(điều kiện đầu giữ cho x2 = 4 + td2 4, t 0).

Có thể thấy giá trị tối ưu của bài toán (LP4) bằng 0, đạt tại d* = (d1; 0)T với bất kỳ d1 [- 1; 1]. Đến đây thuật toán kết thúc và ta thu được điểm cực tiểu x* = x4 = (1, 4)T, fmin = f(x4) = 1. Dễ dàng kiểm tra lại rằng ma trận Hessian của hàm f xác định dương với mọi x, vì thế f(x) = (x1 - 1)2 + (x2 - 5)2 là một hàm lồi (chặt) và do đó x* chính là nghiệm cực tiểu toàn cục của hàm f với các điều kiện đã cho.

Tuy nhiên, với các bài toán tối ưu không có giả thiết về tính lồi của hàm mục tiêu và các hàm ràng buộc thì nói chung sự hội tụ của các thuật toán hướng chấp nhận được sẽ không được đảm bảo.

49

KẾT LUẬN

Các bài toán tối ưu nói chung và các bài toán qui hoạch lồi nói riêng có tầm

quan trọng đặc biệt, cả về mặt lý thuyết cũng như trong ứng dụng thực tiễn.

Bài toán qui hoạch lồi rất đa dạng và phong phú. Nó bao quát được nhiều bài

toán tối ưu quen thuộc: qui hoạch tuyến tính, qui hoạch lồi toàn phương, qui

hoạch hình học, bài toán xấp xỉ, … Có thể nói qui hoạch lồi là lớp bài toán qui

hoạch phi tuyến được nghiên cứu khá toàn diện và sâu sắc. Lý thuyết qui hoạch

lồi rất đẹp và hoàn chỉnh, bao gồm các điều kiện tối ưu cần và đủ (Định lý KKT),

lý thuyết đối ngẫu Lagrange …

Luận văn này đã trình bày các nội dung chính sau đây:

1. Các kiến thức cơ sở về giải tích lồi hay được sử dụng trong tối ưu hóa, chủ

yếu là các khái niệm về tập lồi, hàm lồi và các tính chất của chúng, đặc biệt là tính

chất cực trị của hàm lồi. Vấn đề về phép chiếu một điểm xuống, một tập lồi và xấp

xỉ tập lồi cũng được đề cập tới.

2. Các khái niệm và kết quả cơ bản về bài toán qui hoạch lồi, chủ yếu là lý

thuyết điều kiện tối ưu (cần và đủ), mối liên hệ giữa nghiệm tối ưu và điểm yên

ngựa của hàm Lagrange. Trường hợp bài toán với ràng buộc tuyến tính cũng được

xem xét.

3. Phương pháp hướng chấp nhận được giải bài toán qui hoạch lồi với ràng

buộc tuyến tính và phi tuyến. Vấn đề chọn hướng giảm và xét sự hội tụ của các

thuật toán giải. Trường hợp ràng buộc tuyến tính cũng được xét tới.

50

TÀI LIỆU THAM KHẢO

[1] Nguyễn Thị Bạch Kim, Giáo trình các phương pháp tối ưu - Lý

thuyết và thuật toán. Nxb Bách Khoa, Hà Nội, 2008.

[2] Trần Vũ Thiệu, Nguyễn Thị Thu Thủy, Nhập môn tối ưu phi

tuyến. Nxb Đại học Quốc gia Hà Nội, 2011.

[3] V. G. Karmanov, Quy hoạch toán học. Nxb Khoa học.1975. Mátxcơva,

209-269 (Tiếng Nga).

[4] S. Boyd and L. Vandenberghe. Convex Optimization. Cambridge Univ.

Press. 2004

[5] K. Langer, Optimization, Springerr, 2004. Ch. 11, 207 - 232.

[6] R. J. Vanderbei, Linearr Programming – Foundations and Extensions.

Springer, 2008.

[7] G. Zoutendijk, Methods of Feasible Directions, Elsevier Publishing

Company, Amsterrdam - London - NewYork - Princeton, 1960.