Điều kiện tối ưu điểm karush kuhn tucker cho bài toán tối ưu vectơ

Lời cảm ơnLuận văn thạc sĩ “Điều kiện tối ưu kiểu Karush–Kuhn–Tucker chobài toán tối ưu véctơ” là kết quả của quá trình cố gắng không ngừng củabản thân tác giả và được sự giúp đỡ, động v

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

NGUYỄN THỊ CHÂU

ĐIỀU KIỆN TỐI ƯU ĐIỂM KARUSH-KUHN-TUCKER

CHO BÀI TOÁN TỐI ƯU VÉCTƠ

LUẬN VĂN THẠC SĨ TOÁN HỌC

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

NGUYỄN THỊ CHÂU

ĐIỀU KIỆN TỐI ƯU ĐIỂM KARUSH-KUHN-TUCKER

CHO BÀI TOÁN TỐI ƯU VÉCTƠ

Chuyên ngành: Toán giải tích

Mã số: 8 46 01 02

LUẬN VĂN THẠC SĨ TOÁN HỌC

Người hướng dẫn khoa học: TS Nguyễn Văn Tuyên

HÀ NỘI, 2018

Lời cảm ơn

Luận văn thạc sĩ “Điều kiện tối ưu kiểu Karush–Kuhn–Tucker chobài toán tối ưu véctơ” là kết quả của quá trình cố gắng không ngừng củabản thân tác giả và được sự giúp đỡ, động viên khích lệ của các thầy cô,bạn bè đồng nghiệp và người thân

Tác giả xin cảm ơn T.S Nguyễn Văn Tuyên đã trực tiếp tận tìnhhướng dẫn, cũng như cung cấp tài liệu thông tin khoa học cần thiết choluận văn này

Tác giả xin chân thành cảm ơn toàn thể các thầy cô giáo giảng viênKhoa Toán, các thầy cô phòng Sau Đại học và các thầy cô của TrườngĐại Học Sư Phạm Hà Nội 2 đã giảng dạy cũng như đã tạo điều kiện đểcho tác giả hoàn thành tốt công việc nghiên cứu khoa học của mình

Cuối cùng tác giả xin chân thành cảm ơn đồng nghiệp, đơn vị côngtác, gia đình và bạn bè đã động viên, tạo điều kiện giúp đỡ tôi trong quátrình học tập và thực hiện luận văn

Lời cam đoan

Tôi xin cam đoan rằng số liệu và kết quả nghiên cứu trong luậnvăn này là trung thực và không trùng lặp với các đề tài khác Tôi cũngxin cam đoan rằng mọi sự giúp đỡ cho việc thực hiện luận văn này đãđược cảm ơn và các thông tin trích dẫn trong luận văn đã được chỉ rõnguồn gốc

Tác giả luận văn

Nguyễn Thị Châu

Mục lục

1.1 Nón tiếp tuyến 8

1.2 Dưới vi phân 11

1.3 Khái niệm nghiệm 16

1.4 Điều kiện chính quy 18

2 Điều kiện tối ưu 24 2.1 Bài toán trơn 24

2.1.1 Điều kiện Karush–Kuhn–Tucker yếu 24

2.1.2 Điều kiện Karush–Kuhn–Tucker mạnh 28

2.2 Bài toán không trơn 34

Một số ký hiệu

R := R ∪ {±∞} tập các số thực mở rộng

Rn không gian Euclide n-chiều

Rn+ tập các véctơ không âm của Rn

Rn− tập các véctơ không dương của Rn

hx∗, xi tích vô hướng trong Rn

{xn}, (xn) dãy số thực, hoặc dãy véctơ

Bρ(x), B(x, ρ) hình cầu đóng tâm x, bán kính ρ

Bρ(x), B(x, ρ) hình cầu mở tâm x, bán kính ρ

N (x) tập tất cả các lân cận của điểm x

NB(x) tập tất cả các lân cận cân của điểm x

Lim sup giới hạn trên theo nghĩa Painlevé - Kuratowski

N (¯x; Ω) nón pháp tuyến Mordukhovich của Ω tại ¯xb

N (¯x; Ω) nón pháp tuyến Fréchet của Ω tại ¯x

∇f (x) đạo hàm Fréchet của f tại x

∂f (x) dưới vi phân Mordukhovich của f tại x

conv (A) bao lồi của tập hợp A

cone (A) bao nón của tập hợp A

Mở đầu

1 Lý do chọn đề tài

Một trong các vấn đề quan trọng nhất trong lý thuyết tối ưu đó

là nghiên cứu các điều kiện cần và điều kiện đủ tối ưu Các điều kiện tối

ưu không những hữu ích trong việc xác định nghiệm của một bài toántối ưu mà còn đóng vai trò cốt yếu trong việc xây dựng các thuật toán

để tìm nghiệm xấp xỉ của bài toán này

Trong luận văn này, chúng tôi sẽ tập trung nghiên cứu các điềukiện tối ưu bậc nhất cho các bài toán tối ưu véctơ (VP) có dạng sau

minRl + f (x)với ràng buộc x ∈ Q0 := {x ∈ Rn : g(x) 5 0},

ở đó f := (fi), i ∈ I := {1, , l}, và g := (gj), j ∈ J := {1, , m} làcác hàm véctơ xác định trên không gian Euclide Rn

Như chúng ta biết rằng nếu fi, gj là các hàm khả vi Fréchet tại

xem [11, Theorem 7.4] Các điều kiện (0.1)–(0.3) được gọi là điều kiệncần bậc nhất kiểu F.-John Tính dương của một nhân tử ứng với mộthàm mục tiêu nào đó cho ta thấy ảnh hưởng của mục tiêu này trongviệc xác định nghiệm tối ưu của bài toán Nếu có ít nhất một nhân tửLagrange λi dương, thì ta nói bài toán thỏa mãn điều kiện cần bậc nhấtkiểu Karush–Kuhn–Tucker (KKT ) yếu (W KKT ) Khi mà tất cả cácnhân tử Lagrange của các hàm mục tiêu đều dương, thì ta nói bài toánthỏa mãn điều kiện (KKT ) mạnh (SKKT ) Điều kiện (KKT ) mạnhchỉ ra rằng tất cả các hàm mục tiêu đều có vai trò nhất định trong việcxác định nghiệm tối ưu.

Để đạt được các điều kiện tối ưu kiểu (KKT ) thì bài toán phảithỏa mãn một số điều kiện chính quy Trong lý thuyết tối ưu, có haikiểu giả thiết chính quy đặt lên các ràng buộc và mục tiêu của bài toán.Các giả thiết được gọi là các điều kiện chuẩn hóa ràng buộc (constraintqualifications (CQ)) nếu nó chỉ đặt lên các phiếm hàm ràng buộc củabài toán này Chúng sẽ được gọi là các điều kiện chính quy (regularityconditions (RC)) khi mà chúng đặt lên cả các phiếm hàm ràng buộc vàhàm mục tiêu

Trong [18, 20], các tác giả đã sử dụng các điều kiện CQ tương tựnhư trong tối ưu một mục tiêu để đưa ra các điều kiện tối kiểu KKTcho bài toán (VP) Tuy nhiên, các điều kiện này không đủ để nhận đượcđiều kiện tối ưu kiểu SKKT Năm 1994, Maeda [16] là người đầu tiên

đề xuất một điều kiện chính quy kiểu Guignard suy rộng và đã thiết lậpcác điều kiện cần SKKT cho các bài toán tối ưu trơn Sau đó, điều kiệnchính quy kiểu Guignard suy rộng đã được sử dụng để thiết lập các điềukiện tối ưu bậc nhất và bậc hai kiểu KKT cho các bài toán tối ưu véctơtrơn (xem [3, 4]) và không trơn (xem [10, 13, 19])

Burachik và Rizvi [5, 6] đã đề xuất một số điều kiện chính quy mới

(điều kiện chính quy Guignard (GRC) và điều kiện chính quy Abadiesuy rộng (GARC)) yếu hơn các điều kiện chính quy được đề xuất bởiMaeda [16] Sau đó, các tác giả đã nhận được một số điều kiện cần bậcnhất W KKT cho các nghiệm hữu hiệu yếu và điều kiện SKKT cho cácnghiệm hữu hiệu chính thường theo nghĩa của Geoffrion và của Borweincủa các bài toán tối ưu véctơ trơn.

Gần đây, các kết quả trong bài báo [5] đã được mở rộng cho lớpcác bài toán tối ưu véctơ không trơn sử dụng dưới vi phân Clarke [21]

và dưới vi phân Mordukhovich [14]

Trên cơ sở các tài liệu tham khảo được trích dẫn ở trên, trong luậnvăn này chúng tôi sẽ khảo sát các điều kiện tối ưu bậc nhất kiểu W KKT

và SKKT cho các bài toán tối ưu véctơ với cả hai trường hợp dữ liệutrơn và dữ liệu không trơn

2 Mục đích nghiên cứu

Nghiên cứu các điều kiện tối ưu bậc nhất cho các bài toán tốivéctơ

3 Nhiệm vụ nghiên cứu

Nghiên cứu các điều kiện chính quy và các điều kiện cần tối ưubậc nhất kiểu Karush–Kuhn–Tucker cho các bài toán tối ưu véctơ với cảtrường hợp dữ liệu trơn và dữ liệu Lipschitz

4 Đối tượng và phạm vi nghiên cứu

• Đối tượng nghiên cứu: Điều kiện tối ưu bậc nhất

6

• Phạm vi nghiên cứu: Lý thuyết tối ưu véctơ

5 Phương pháp nghiên cứu

Tham khảo và cập nhật những nghiên cứu của các tác giả trongnước cũng như ngoài nước liên quan đến đề tài

6 Dự kiến đóng góp mới

Luận văn sẽ trình bày một cách hệ thống các kết quả gần đây vềcác điều kiện tối ưu bậc nhất kiểu Karush–Kuhn–Tucker cho các bàitoán tối ưu véctơ

Chương 1

Một số kiến thức chuẩn bị

1.1 Nón tiếp tuyến

Định nghĩa 1.1 Một véctơ d được gọi là véctơ tiếp tuyến của tập

X ⊂ Rn tại điểm x ∈ X nếu tồn tại một dãy các điểm xk ∈ X và mộtdãy số thực τk > 0, k = 1, 2, , sao cho τk ↓ 0 và

Chứng minh Giả sử d ∈ T (X; x) Với mọi β > 0 ta có

βd = lim

k→0

xk − x(τk/β),

vì vậy dãy xk và τk/β thỏa mãn Định nghĩa 1.1 với phương βd Do đó

T (X; x) là một nón

Lấy dj là một véctơ tiếp tuyến của X tại x và các dãy xj,k và τj,k,

k = 1, 2, , thỏa mãn Định nghĩa 1.1, và limj→∞dj = d Vì dj là một

véctơ tiếp tuyến của X, nên với mọi j, tồn tại k(j) sao cho

Nếu X là một tập lồi, thì nón tiếp tuyến là một nón lồi đóng và ta

có công thức sau Chúng ta nhắc lại ở đây rằng, một tập X ⊂ Rn được gọi

là lồi nếu với mọi x1, x2 ∈ X và α ∈ [0, 1], ta có (1 − α)x1+ αx2 ∈ X.Tập

X được gọi là một nón nếu αx ∈ X với mọi α > 0 và x ∈ X Tập Xđược gọi là một nón lồi đóng nếu nó là một tập lồi đóng và là một nón.Mệnh đề 1.2 Cho X ⊂ Rn là tập lồi và x ∈ X Khi đó

Nếu bao hàm thức trên là thực sự, thì tồn tại h ∈ T (X; x)\cl cone (X−x).Theo Định lí tách [26, Theorem 2.14], tồn tại y 6= 0 sao cho hy, hi > 0

và hy, di ≤ 0 với mọi d ∈ cl cone (X − x) Từ h là một véctơ tiếp tuyếncủa X tại x, ta suy ra tồn tại một dãy xk ⊂ X và một dãy τk ↓ 0 thỏamãn Định nghĩa 1.1 với véctơ h Do đó, ta được

Mỗi vectơ xk − x là phần tử của cone (X − x) và vì thế hy, xk − xi ≤ 0

Từ điều này và (1.1), ta có hy, hi ≤ 0, mâu thuẫn với giả thiết về tínhchất tách của y

Trong trường hợp tổng quát, nón tiếp tuyến của một tập có thểkhông lồi và việc tính toán các nón tiếp tuyến là một vấn đề rất khó.Tuy nhiên trong một số trường hợp tập X thỏa mãn một số điều kiệnchính quy thì chúng ta có thể đưa ra công thức hiển cho các nón này.Mệnh đề sau cho ta công thức tính nón tiếp tuyến của tập nghiệm của

hệ bất đẳng thức cho bởi các hàm khả vi Fréchet

Mệnh đề 1.3 Giả sử gj: Rn → R, j = 1, , m, là các hàm số thựcliên tục Đặt

(iii) Nếu J (x) 6= ∅, các hàm gj(·), j = 1, , m, khả vi Fréchet tại x vàđiều kiện chính quy sau được thỏa mãn

∃d0 ∈ Rn để h∇gj(x), d0i < 0, ∀j ∈ J(x),thì

là tập các chân hình chiếu của x lên Ω tương ứng với khoảng cách Euclide

Cho F : Rn ⇒ Rn là một ánh xạ đa trị Giới hạn trên theo dãytheo nghĩa Painlevé-Kuratowski tại ¯x của F được xác định bởi

Lim sup

x→¯ x

F (x) := {x∗ ∈ Rn | ∃xk → ¯x, x∗k → x∗, x∗k ∈ F (xk), ∀k ∈ N}.Định nghĩa 1.2 Cho ¯x ∈ cl Ω, nón đóng sau đây

N (¯x, Ω) := Lim sup

x→¯ x

[cone(x − Π(x, Ω))] (1.2)được gọi là nón pháp tuyến cơ bản/nón pháp tuyến Mordukhovich củatập Ω tại ¯x Nếu ¯x /∈ cl Ω, ta đặt N (¯x, Ω) = ∅

Từ định nghĩa, ta có thể suy ra nón pháp tuyến cơ bản (1.2) cótính vững với nhiễu của ¯x, tức là ánh xạ đa trị N (., Ω) luôn có đồ thịđóng

Nếu Ω là một tập lồi, thì nón pháp tuyến cơ bản trùng với nónpháp tuyến cổ điển theo nghĩa giải tích lồi Tuy nhiên, trong trường hợptổng quát nón pháp tuyến cơ bản có thể không lồi.

Chúng ta biết rằng, nón pháp tuyến Clarke của Ω tại ¯x là bao lồiđóng của nón pháp tuyến cơ bản, tức là

NC(¯x, Ω) = cl conv N (¯x, Ω) (1.3)Như vậy việc qua việc lấy bao lồi đóng trong (1.3) ta thấy nón pháptuyến Clarke có thể lớn hơn thực sự nón pháp tuyến cơ bản Để minhhọa chúng ta xét ví dụ sau

Ví dụ 1.1 Cho tập Ω = {(x1, x2) ∈ R2 | x2 ≥ −|x1|} và ¯x = (0, 0) ∈ Ω.Khi đó, dễ dàng tính được

ở đó kí hiệu x −→ ¯Ω x có nghĩa là x → ¯x và x ∈ Ω

Theo định nghĩa, dễ thấy ˆN (¯x; Ω) là một nón lồi đóng

Mệnh đề 1.4 (Xem [23, Proposition 2.2]) Với bất kì Ω ⊂ Rn và bất kìđiểm ¯x ∈ cl Ω, ta có

Phần còn lại của mục này, chúng ta xét một hàm số thực mở rộng

ϕ : Rn → R và một số khái niệm dưới vi phân cho hàm này Tập trên đồthị của ϕ được kí hiệu bởi

epi ϕ := {(x, α) ∈ Rn × R | ϕ(x) ≤ α}

Định nghĩa 1.4 Cho ¯x ∈ dom ϕ := {x ∈ Rn | |ϕ(x)| < +∞} Tậphợp

∂ϕ(¯x) := {x∗ ∈ Rn | (x∗, −1) ∈ N ((¯x, ϕ(¯x)), epi ϕ)} (1.4)được gọi là dưới vi phân hoặc dưới vi phân qua giới hạn của ϕ tại ¯x Nếu

∂(λϕ)(¯x) = λ∂ϕ(¯x)

Mệnh đề 1.6 (xem [24, Corollary 1.81]) Nếu ϕ : Rn → R là Lipschitzđịa phương tại ¯x với hệ số Lipschitz L > 0, thì ∂ϕ(¯x) là một tập compactkhác rỗng và được chứa trong LBn.

Mệnh đề 1.7 (xem [24, Theorem 3.36]) Cho ϕl: Rn → R, l = 1, , p,

p = 2, là các hàm nửa liên tục dưới tại ¯x và có ít nhất p − 1 hàm làLipschitz địa phương tại ¯x Khi đó, ta có bao hàm thức sau

∂(ϕ1 + + ϕp)(¯x) ⊂ ∂ϕ1(¯x) + + ∂ϕp(¯x)

Mệnh đề 1.8 (xem [24, Theorem 3.46]) Cho ϕl: Rn → R, l = 1, , p,

là các hàm Lipschitz địa phương tại ¯x Khi đó, hàm φ(·) := max{ϕl(·) :

l = 1, , p} cũng là Lipschitz địa phương tại ¯x và ta có

,

ở đó Λ(¯x) := (λ1, , λp) : λl = 0,Pp

l=1λl = 1, λl[ϕl(¯x) − φ(¯x)] = 0 Mệnh đề 1.9 (xem [24, Theorem 3.41]) Cho g : Rn → Rm là Lipschitzđịa phương tại ¯x và ϕ : Rm → R là Lipschitz địa phương tại g(¯x) Khi

ϕ(y) − ϕ(x) ≤ hξ, y − xi

14

với c ∈ [x, y), ξ ∈ ∂ϕ(c).

Bổ đề sau sẽ được sử dụng trong các phần tiếp theo

Bổ đề 1.1 Cho h : Rn → R là hàm Lipschitz địa phương Giả sử rằng(i) xn → ¯x,

Chứng minh Theo định lý giá trị trung bình, tồn tại các un ∈ [¯x, xn) và

ξn ∈ ∂h(un) sao cho

h(xn) − h(¯x) 5 hξn, xn − ¯xi

Do vậy, ta có

0 5 h(xn) − h(¯x) 5 hξn, xn − ¯xi

Đặt un = ¯x + λn(xn − ¯x) với λn ∈ (0, 1) Do vậy, un → ¯x Từ h là hàmLipschitz địa phương, dãy {ξn} có giới hạn Suy ra, tồn tại một dãy conhội tụ trong {ξn} Không mất tính tổng quát, kí hiệu chúng là {ξn} Dovậy, ta có {ξn} → ξ0 Nhờ Mệnh đề 1.11, ta thu được ξ0 ∈ ∂h(¯x) Từlim

n→∞sn(xn − ¯x) = v, ta có

0 5 lim

n→∞hξn, sn(xn − ¯x)i = hξ0, vi,với ξ0 ∈ ∂h(¯x)

1.3 Khái niệm nghiệm

Trong luận văn này, chúng tôi nghiên cứu về các điều kiện tối ưukiểu Karush–Kuhn–Tucker cho bài toán tối ưu véctơ có dạng sau

minRl

với ràng buộc x ∈ S := {x ∈ Rn : g(x) 5 0},trong đó f := (fi), i ∈ I := {1, , l}, và g := (gj), j ∈ J := {1, , m}

là các hàm véctơ xác định trên Rn Nhắc lại rằng nón orthant không âm

Định nghĩa 1.5 Cho ¯x ∈ S Ta nói:

(i) ¯x là một nghiệm hữu hiệu (tương ứng, một nghiệm hữu hiệu yếu)của bài toán (VP) nếu không có x ∈ S thỏa mãn f (x) ≤ f (¯x).(tương ứng, f (x) < f (¯x))

(ii) ¯x là một nghiệm hữu hiệu thực sự Geoffrion (Geoffrion-properlyefficient) (GPE) của bài toán (VP) nếu nó là nghiệm hữu hiệu vàtồn tại M > 0 sao cho, với mỗi i,

fi(x) − fi(¯

fj(¯x) − fj(x) ≤ M,cho một số j thỏa mãn fj(¯x) < fj(x) với mọi x ∈ S và fi(¯x) > fi(x)

16

Từ định nghĩa, ta thấy rằng mọi nghiệm hữu hiệu thực sự Geoffrion

là một nghiệm hữu hiệu và mọi nghiệm hữu hiệu cũng là một nghiệmhữu hiệu yếu

Một nghiệm hữu hiệu không phải là hữu hiệu thực sự được gọi làmột nghiệm hữu hiệu không thực sự (theo nghĩa của Geoffrion) (improp-erly efficient) Như vậy, một điểm ¯x ∈ S là nghiệm hữu hiệu không thực

sự của bài toán (VP), nếu với mọi M > 0, tồn tại x ∈ S và i ∈ I saocho fi(¯x) > fi(x) và

fi(x) − fi(¯

fj(¯x) − fj(x) > Mvới tất cả j thỏa mãn fj(¯x) < fj(x)

Khái niệm của nghiệm hữu hiệu thực sự theo nghĩa của Borweindựa vào định nghĩa của nón tiếp tuyến được trình bày trong Định nghĩa1.1

Định nghĩa 1.6 (Xem [1]) Một điểm ¯x ∈ S được gọi là nghiệm hữuhiệu thực sự theo nghĩa của Borwein (Borwein-properly efficient) (BPE)của bài toán (VP) nếu nó là hữu hiệu và

T f (S) + Rl+, f (¯x)
∩ −Rl

+
= {0} Nhận xét 1.2 Trong trường hợp tổng quát, ta luôn có

Ví dụ 1.2 (Xem [8, Exercise 2.13]) Cho hàm f : R2 → R2 xác định bởi

f (x) := x, và xét bài toán minx∈Sf (x), ở đó

1.4 Điều kiện chính quy

Trước hết, ta nhắc lại một vài kí hiệu được giới thiệu bởi Maeda[16], và Burachik và Rizvi [5] Trong mục này, ta giả thiết rằng các hàm

f và g có các hàm thành phần là Lipschitz địa phương trên Rn Lấy điểm

Định nghĩa 1.7 Cho ¯x ∈ S Nón tuyến tính hóa của Mi(¯x) và M (¯x)tại điểm ¯x tương ứng là các tập hợp được định nghĩa bởi

(ARC) Điều kiện chính quy kiểu Abadie:

(i) (ARC) kéo theo (EARC);

(ii) (CRC) kéo theo (GRC);

(iii) (CRC) kéo theo (ARC)

Chứng minh (i) Từ định nghĩa của các tập Mi(¯x) và Qi(¯x) và tính đơnđiệu của nón tiếp tuyến ta có

Do đó, (ARC) kéo theo (EARC);

(ii) Từ (CRC) đúng, khi đó với i cố định bất kì, i ∈ I, tồn tại di ∈ Rn

sao cho

(h∂fk(¯x), dii < 0, k ∈ I\ {i} ,h∂gj(¯x), dii < 0, j ∈ J(¯x)

20

Khi đó, lấy bất kì k ∈ I\ {i} và với mọi vk ∈ L(Mk, ¯x), ta có

h∂fk(¯x), vki 5 0,và

h∂gj(¯x), vki 5 0, j ∈ J(¯x)

Cho bất kì tn ↓ 0(n −→ ∞), ta đặt dk

n = vk + tndi Khi đó,h∂fk(¯x), dkni = h∂fk(¯x), vk + tndii = h∂fk(¯x), vki + tnh∂fk(¯x), dii < 0,

(1.6)h∂gj(¯x), dkni = h∂gj(¯x), vk + tndii = h∂gj(¯x), vki + tnh∂gj(¯x), dii < 0,

ở đó, k ∈ I\ {i} , j ∈ J (¯x) Với mỗi dkn và dãy dương {sknm}∞m=1 → 0,

nm} −→ ξ0 Theo Mệnh đề 1.11,

ta có ξ0 ∈ ∂fk(¯x) Vì vậy, ta được

1

sk nm

(fk(xknm) − fk(¯x)) 5 hξnmk , 1

sk nm

(xknm− ¯x)i = hξ0, dkni < 0

Vì vậy, tồn tại N0 > 0, khi m > N0, ta có fk(xknm) < fk(¯x)

Tương tự, tồn tại N1 > 0, khi m > N1, ta có gj(xknm) < gj(¯x) = 0, j ∈

J (¯x) Khi j /∈ J(¯x), nhờ tính liên tục của gj(x) nên tồn tại N2 ∈ N sao