một số phương pháp chiếu giải bài toán tối ưu và bất đẳng thức biến phân

TRƯỜNG ĐẠI HỌC KHOA HỌCNGUYỄN THANH HẰNG MỘT SỐ PHƯƠNG PHÁP CHIẾU GIẢI BÀI TOÁN TỐI ƯU VÀ BẤT ĐẲNG THỨC BIẾN PHÂN Chuyên ngành: TOÁN ỨNG DỤNG Mã số: 60.46.36 LUẬN VĂN THẠC SĨ TOÁN HỌC Ng

TRƯỜNG ĐẠI HỌC KHOA HỌC

NGUYỄN THANH HẰNG

MỘT SỐ PHƯƠNG PHÁP CHIẾU GIẢI BÀI TOÁN TỐI

ƯU VÀ BẤT ĐẲNG THỨC BIẾN PHÂN

Chuyên ngành: TOÁN ỨNG DỤNG

Mã số: 60.46.36

LUẬN VĂN THẠC SĨ TOÁN HỌC

Người hướng dẫn khoa học:

GS.TSKH LÊ DŨNG MƯU

THÁI NGUYÊN - NĂM 2012

Mục lục

1.1 Một số khái niệm và tính chất cơ bản 3

1.1.1 Tập lồi và hàm lồi 3

1.1.2 Dưới vi phân 6

1.1.3 Tính đơn điệu 7

1.2 Phép chiếu lên tập lồi 8

2 Phương pháp chiếu giải quy hoạch lồi 14 2.1 Bài toán quy hoạch lồi 14

2.1.1 Mô tả bài toán 14

2.1.2 Sự tồn tại nghiệm tối ưu 16

2.1.3 Điều kiện tối ưu 17

2.2 Phương pháp chiếu dưới gradient xấp xỉ 26

3 Phương pháp chiếu giải bài toán bất đẳng thức biến phân (VIP) 33 3.1 Bài toán bất đẳng thức biến phân 33

3.1.1 Mô tả bài toán 33

3.1.2 Sự tồn tại nghiệm 34

3.1.3 Các bài toán liên quan 39

3.2 Phương pháp chiếu giải bài toán (VIP) 42

3.2.1 Phương pháp chiếu cơ bản 42

3.2.2 Phương pháp đạo hàm tăng cường 48

Lời cảm ơn

Trong suốt quá trình làm luận văn, tôi luôn nhận được sự hướng dẫn

và giúp đỡ của GS.TSKH Lê Dũng Mưu (Viện Toán học Việt Nam) Tôixin chân thành bày tỏ lòng biết ơn sâu sắc đến thầy

Tôi xin cảm ơn quý thầy, cô giảng dạy lớp cao học khóa 4 (2010 - 2012)

đã mang đến cho tôi nhiều kiến thức bổ ích trong khoa học và cuộc sống.Mặc dù đã có nhiều cố gắng nhưng luận văn khó tránh khỏi những thiếusót Tác giả mong nhận được những ý kiến đóng góp của quý thầy, cô vàbạn đọc để luận văn được hoàn thiện hơn

Xin trân trọng cảm ơn!

Hải Phòng, tháng 05 năm 2012.Người viết Luận văn

Nguyễn Thanh Hằng

Mở đầu

Giải tích lồi là bộ môn cơ bản của giải tích hiện đại, nghiên cứu về tậplồi và hàm lồi cùng những vấn đề liên quan Bộ môn này có vai trò quantrọng trong nhiều lĩnh vực khác nhau của toán học ứng dụng, đặc biệt làtrong tối ưu hoá, bất đẳng thức biến phân, các bài toán cân bằng Mộttrong những vấn đề quan trọng của giải tích lồi đó là phép chiếu Đây làmột công cụ sắc bén và khá đơn giản để chứng minh nhiều định lý quantrọng như Định lý tách, Định lý xấp xỉ tập lồi, Định lý về tồn tại nghiệmcủa Bất đẳng thức biến phân Hơn nữa phép chiếu còn được dùng để xâydựng các phương pháp giải nhiều lớp bài toán quan trọng như bài toánquy hoạch lồi, bất đẳng thức biến phân

Bài toán bất đẳng thức biến phân được ứng dụng rộng rãi trong nhiềulĩnh vực khác nhau như kinh tế, kỹ thuật, vật lý toán, vận trù học Bàitoán bất đẳng thức biến phân được giới thiệu bởi Hartman và Stampacchia

việc giải các bài toán điều khiển tối ưu và các bài toán biên của phươngtrình đạo hàm riêng Bài toán bất đẳng thức biến phân trong không gian

vô hạn chiều và các ứng dụng của nó được giới thiệu trong cuốn sách

"An Introduction to Variational Inequalities and Their Applications" của

D Kinderlehrer và G Stampacchia , xuất bản năm 1980 và trong cuốnsách "Variational and Quasivariational Inequalities: Application to FreeBoundary Problems" của C Baiocci và A Capelo , xuất bản năm 1984.Bài toán bất đẳng thức biến phân trong không gian hữu hạn chiều được giớithiệu khá đầy đủ trong cuốn Finite-Dimensional Variational-Inequalitiesand Complementarity Problems của S Facchinei and J Pang (2003)

Những năm gần đây, bài toán bất đẳng thức biến phân đã có nhữngbước phát triển rất mạnh và thu hút được sự quan tâm của nhiều nhànghiên cứu Một trong các hướng nghiên cứu quan trọng của bài toán bấtđẳng thức biến phân là việc xây dựng các phương pháp giải Có rất nhiềuphương pháp giải, trong đó có phương pháp dựa vào cách tiếp cận điểmbất động Ý tưởng chính của phương pháp này là chuyển việc giải bất đẳngthức biến phân về bài toán tìm điểm bất động của một ánh xạ thích hợp.Một trong những cách tiếp cận điểm bất động là dựa trên phương phápchiếu.

Một lớp bài toán quan trọng của bất đẳng thức biến phân là bài toánQuy hoạch lồi là một lớp bài toán cơ bản của tối ưu hóa Một đặc điểm

cơ bản nhất của bài toán này là mọi điểm cực tiểu địa phương đều làcực tiểu tuyệt đối Hơn nữa lý thuyết về bài toán quy hoạch lồi đã đượcquan tâm nghiên cứu và đã thu được nhiều kết quả quan trọng dựa trên

lý thuyết của giải tích lồi và tối ưu hóa Có nhiều phương pháp hữu hiệucho bài toán này, các phương pháp đó được giới thiệu trong cuốn sáchTối ưu lồi (Convex Optimization) của tác giả Stephen Boyd and LievenVandenberghe do nhà xuất bản Cambridge University Press in năm 2004.Mục đích của luận văn này chủ yếu trình bày về ứng dụng của phépchiếu vuông góc vào bài toán bất đẳng thức biến phân và bài toán tôí ưu.Luận văn bao gồm 3 chương: Chương 1 nhắc lại các kiến thức cơ bảncủa tập lồi và hàm lồi, dưới vi phân, tính đơn điệu, phép chiếu lên tập lồi.Chương 2 giới thiệu về bài toán quy hoạch lồi và trình bày phương phápchiếu dưới gradient xấp xỉ Chương 3 giới thiệu bài toán bất đẳng thứcbiến phân và trình bày một số phương pháp chiếu để giải bài toán bấtđẳng thức biến phân

Chương 1

Toán tử chiếu lên tập lồi đóng

Dưới đây, ta nhắc lại một số khái niệm và tính chất cơ bản của giải tíchlồi như: Tập lồi, hàm lồi, dưới vi phân, Các kiến thức trong chương nàyđược lấy chủ yếu từ các tài liệu ([1]), ([2]), ([3]) và sẽ được sử dụng ở cácchương sau

1.1 Một số khái niệm và tính chất cơ bản

mọi đoạn thẳng đi qua hai điểm bất kỳ của nó Tức là C lồi khi và chỉ khi

Giả sử {Aα}α∈I là họ các tập lồi Cần chứng minh A = T

α∈I

Aα là một tậplồi

• Với mọi x1, x2 ∈ A suy ra x1, x2 ∈ Aα (∀α ∈ I)

• Với mọi α ∈ I Do Aα lồi nên với mọi λ ∈ [0; 1] ta có

Một nón được gọi là nón lồi nếu nó là nón và là một tập lồi

(i) Tập NC x0
:= w : wt(x − x0) ≤ 0; ∀x ∈ C được gọi là nón pháp

trong của C tại x0

(ii) Tập NCε x0
:= w : wt(x − x0) ≤ ε; ∀x ∈ C được gọi là nón ε pháp tuyến ngoài của C tại x0

Khi đó:

(a) f được gọi là hàm lồi trên C nếu

f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y), ∀x, y ∈ C, λ ∈ [0, 1]

(b) f được gọi là lồi chặt trên C nếu với mọi x, y ∈ C sao cho x 6= y vớimọi λ ∈ (0, 1), ta có

f (λx + (1 − λ)y) < λf (x) + (1 − λ)f (y)

(c) f được gọi là tựa lồi tại y ∈ C nếu với mọi x ∈ C sao cho f (x) ≤ f (y)

với mọi λ ∈ [0, 1], ta có

f (λx + (1 − λ)y) ≤ f (y)

Hàm f được gọi là lồi trên C, nếu nó tựa lồi tại mọi điểm của C

(d) f được gọi là tựa lồi chặt tại y ∈ C nếu với mọi x ∈ C sao cho

f (x) < f (y) với mọi λ ∈ (0, 1), ta có

f (λx + (1 − λ)y) < f (y)

(e) f được gọi là lồi mạnh trên C với hệ số β > 0 nếu với mọi x, y ∈

C, λ ∈ (0, 1), ta có

f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y) − λ(1 − λ)β||x − y||2

là lồi mạnh, do đó lồi chặt và lồi Điều ngược lại nói chung không đúng

Ví dụ hàm affine y = ax + b lồi nhưng không lồi chặt, hàm y = 1x lồi chặt

δC(x) :=

( 0 khi x ∈ C+∞ khi x /∈ C

δC(x) là hàm lồi khi và chỉ khi C là tập lồi

Khi đó, miền hữu hiệu của f, kí hiệu là domf, được xác định bởi

domf := {x ∈ C : f (x) < +∞}

Hàm f được gọi là chính thường nếu:

quanh x0 nếu có L > 0 và lân cận U của x0 sao cho

phân của f tại x0 và kí hiệu là ∂f (x0) Vậy

∂f (x0) := {w ∈ Rn : hw, x − x0i ≤ f (x) − f (x0), ∀x ∈ Rn}

• Hàm f được gọi là khả dưới vi phân tại x0 nếu ∂f (x0) 6= ∅

chỉ trên tập lồi C có dạng

δC(x) :=



0 nếu x ∈ C,+∞ nếu x /∈ C

Trong mục này ta luôn giả sử C là tập lồi trong Rn

Thật vậy, ta giả sử x, y ∈ C Do f là hàm lồi ta có

f (x) ≥ f (y) + h∇f (y) , x − yi

f (y) ≥ f (x) + h∇f (x) , y − xi

Cộng vế của hai bất đẳng thức trên ta được

h∇f (y) − ∇f (x) , y − xi ≥ 0, ∀x, y ∈ C

1.2 Phép chiếu lên tập lồi

tơ bất kỳ, đặt

dC := inf

x∈Ckx − yk

dC(y) = kπ − yk, thì ta nói π là hình chiếu (khoảng cách) của y trên C

Ký hiệu: π = pC(y) là hình chiếu của y trên C

Theo định nghĩa, ta thấy rằng hình chiếu pC(y) của y trên C sẽ là nghiệmcủa bài toán tối ưu

Nói cách khác việc tìm hình chiếu của y trên C có thể đưa về việc tìm cực

hạn vì

0 ≤ dC(y) ≤ kx − yk , ∀x ∈ D

(i) Với y ∈ Rn, π ∈ C hai tính chất sau là tương đương

a) π = pC(y),

b) y − π ∈ NC(π)

(ii) Với mọi y ∈ Rn, hình chiếu pC(y) của y trên C luôn tồn tại và duynhất

(iii) Nếu y /∈ C thì hpC(y) − y, x − pC (y)i = 0 là siêu phẳng tựa của C

tại pC(y) và tách hẳn y khỏi C, tức là

hpC(y) − y, x − pC(y)i ≥ 0, ∀x ∈ C,

và

hpC(y) − y, y − pC (y)i < 0

(iv) Ánh xạ y → pC(y) có các tính chất sau:

a) kpC(x) − pC(y)k ≤ kx − yk , ∀x, ∀y (tính không giãn),

b) hpC(x) − pC(y) , x − yi ≥ kpC(x) − pC (y)k2 (tính đồng bức).Chứng minh

(i) • Giả sử có π = pC(y) cần chứng minh y − π ∈ NC(π)

Do y − π ∈ NC(π) nên với mọi x ∈ C ta có

Nếu y /∈ C, ta có dC(y) = kπ − yk nên theo định nghĩa cận dưới đúng,

Suy ra π là hình chiếu của y trên C

Ta chứng minh tính duy nhất Giả sử tồn tại hai điểm π1 và π2 là hìnhchiếu của y trên C thì y − π1 ∈ NC π1
; y − π2 ∈ NC π2

Vậy hπ − y, xi = hπ − y, πilà một siêu phẳng tựa củaC tại π Siêu phẳng

b) Theo tính chất (ii) áp dụng lần lượt với p(x) và p(y), ta có:

Chú ý Phép chiếu còn một tính chất mạnh hơn tính không giãn là

kp (x) − p (y)k2 ≤ kx − yk2 − kp (x) − p (y) − x + yk2 ∀x, y (1.1)

Thật vậy, do hp (x) − p (y) , x − yi ≥ kp (x) − p (y)k2 xét vế phải của bấtphương trình (1.1) ta có

Trong chương 2 ta sẽ sử dụng kiến thức sau

ε ≥ 0 Một điểm px ∈ C được gọi là ε - chiếu của x trên C nếu px là một

Mệnh đề 1.6 Cho C là tập lồi đóng khác rỗng Khi đó px là ε - chiếucủa x trên C khi và chỉ khi

hx − px, px− yi ≥ −ε, ∀y ∈ C (1.2)Chứng minh

Giả sử px là ε - chiếu của x trên C, ta có

Chương 2

Phương pháp chiếu

giải quy hoạch lồi.

Trong chương này chúng ta sẽ trình bày phương pháp cơ bản nhất dùng

để giải bài toán quy hoạch lồi đó là phương pháp chiếu dưới gradient xấp

xỉ Các kiến thức trong chương này chủ yếu được lấy từ tài liệu ([1]), ([7])

2.1 Bài toán quy hoạch lồi.

2.1.1 Mô tả bài toán

trên C Bài toán quy hoạch lồi là bài toán

mọi x ∈ C Mỗi điểm x ∈ C được gọi là một phương án chấp nhận đượccủa bài toán (P ) Tập C được gọi là miền (tập) chấp nhận được, f gọi là

nghiệm của một hệ bất đẳng thức và đẳng thức có dạng:

C := {x ∈ X : gj(x) ≤ 0, hi(x) = 0, j = 1 , m; i = 1 , k} (2.1)Trong đó X là tập lồi khác rỗng trong Rn và gj, hi : Rn → R, gj lồi, hi là

các ràng buộc đều trơn (khả vi)

Bài toán (P ) có rất nhiều ứng dụng trong các lĩnh vực khác nhau, ví

dụ trong kinh tế nó là bài toán xác định phương án sản xuất sao cho chi

số lượng sản phẩm loại j cần sản xuất, còn f (x) là chi phí ứng vơi phương

ứng với phương án này là thấp nhất

f (x∗) ≤ f (x) , ∀x ∈ U ∩ C

Và x∗ được gọi là lời giải tối ưu toàn cục của (P) nếu

f (x∗) ≤ f (x) , ∀x ∈ C

phương đều là tối ưu toàn cục Hơn nữa tập nghiệm tối ưu là một tập lồi

đó tồn tại lân cận U của x∗ sao cho

Giả sử x∗, y∗ ∈ C là điểm tối ưu của f trên C vậy

f (x∗) = f (y∗) ≤ f (x) , ∀x ∈ C

Lấy z∗ = λx∗+ (1 − λ) y∗ với 0 < λ < 1 Do C lồi nên z∗ ∈ C và do f lồinên:

f (z∗) ≤ λf (x∗) + (1 − λ) f (y∗) ≤ f (x)

⇒ f (z∗) ≤ f (x) , ∀x ∈ C

2.1.2 Sự tồn tại nghiệm tối ưu

Xét bài toán tối ưu toàn cục (P ) Có 4 trường hợp:

• C = ∅ (không có nghiệm)

x∈Cf (x) = −∞)

• inf

x∈Cf (x) < ∞ nhưng giá trị cực tiểu không đạt được trên C

• Tồn tại x∗ ∈ C sao cho f (x∗) = min

x∈C f (x).Định lí 2.1 Điều kiện cần và đủ để tồn tại nghiệm tối ưu toàn cục củabài toán (P ) là

F+(C) := {t ∈Rn : f (x) ≤ t, x ∈ C} ,

đóng và bị chặn dưới

(là phần bù của một tập mở) và bị chặn dưới

Ngược lại, giả sử F+(C) bị chặn dưới Đặt t∗ = infF+(C) thì t > −∞

Do F+(C) đóng, t∗ ∈ F+(C) nên tồn tại x∗ ∈ C sao cho f (x∗) = t∗

dưới trên C thì bài toán (P ) có nghiệm tối ưu

x∈Cf (x) Theo định nghĩa có một dãyxk ⊂ C

x0 ∈ C, không giảm tính tổng quát có thể coi xk → x0.

sau

f (x) → +∞ khi x ∈ C, kxk → +∞

thì f có điểm cực tiểu trên C

C (a) đóng và bị chặn nên f có điểm cực tiểu trên C (a) và điểm đó cũng

2.1.3 Điều kiện tối ưu

Trong phần này, ta sẽ sử dụng các định lý tách của tập lồi và bổ đềFarkas, đây cũng là định lý cơ bản của giải tích lồi và là công cụ sắc bén

để chứng minh các điều kiện tối ưu Các kiến thức chủ yếu được lấy từ tàiliệu ([1])

sử x0 ∈ C/ Khi đó tồn tại t ∈ Rn, t 6= 0 thỏa mãn:

ht, xi ≥ t, x0 ∀x ∈ C

Chứng minh Áp dụng (iii) của mệnh đề 1.4 với pC (y) = x0, t =

pC(y) − y ta có

t, x − x0 ≥ 0, ∀x ∈ C

Định lý tách 1 có thể suy ra ngay từ bổ đề trên, chính là định lý táchmột tập lồi và một phần tử không thuộc nó

Khi đó tồn tại một véc-tơ t ∈ Rn, t 6= 0 và α > 0 sao cho

ht, xi ≥ α > 0, ∀x ∈ C

Theo bổ đề này, thì C và điểm gốc tọa độ có thể tách mạnh, ví dụ bởi siêuphẳng ht, xi = α2

tập C và B, ta có t ∈ Rn\ {0} và α ∈ R, sao cho

ht, xi ≥ α ≥ ht, yi ∀x ∈ C, ∀y ∈ B

Bằng cách chuẩn hóa ta có thể xem ktk = 1 và do đó khoảng cách từ gốcđến siêu phẳng ít nhất là bằng α ≥ r Vậy thì

ht, xi ≥ α ≥ r > 0

2

C − D đóng Thật vậy, giả sử zk ∈ C − D và zk → z Ta có zk = xk − ykvới xk ∈ C, yk ∈ D Vì C compact, nên có một dãy con xkj → x khi

j → + ∞ Vậy z = x − y ∈ C − D Chứng tỏ C − D là tập đóng

Do0 /∈ C−D, nên theo bổ đề trên, tồn tạit 6= 0, sao choht, x − yi ≥ α > 0

với mọi x ∈ C, y ∈ D Vậy

ATx ≥ 0 ⇒ aTx ≥ 0 khi và chỉ khi ATy = a, y ≥ 0

Chứng minh Giả sử ATy = a, y ≥ 0 với một y ∈ Rm có một nghiệm y

nào đó Nếu như Ax ≥ 0, thì từ ATy = a, nhân tích vô hướng với x, và

do Ax ≥ 0, y ≥ 0, ta cóaTx = yTAx ≥ 0 Vậy Ax ≥ 0, aTx < 0 với một

tập C = x| ∃y ≥ 0 : ATy = x Hiển nhiên C là tập lồi đóng và 0 ∈ C

Do ATy = a, y ≥ 0 với một y ∈ Rm không có nghiệm , nên a /∈ C Theođịnh lý tách mạnh, tồn tại p 6= 0 và một số α ∈ R sao cho pTa < α < pTx

với mọi x ∈ C Do 0 ∈ C nên α < 0 Thay x = ATy, với y ≥ 0, ta viếtđược α ≤ pTATy = yTAp

ζx = ATζy Vậy các tọa độ của y có thể lớn tùy ý, nên từ bất đẳng thức

α ≤ pTATy = yTAp, suy ra Ap ≥ 0 Vậy ta đã chỉ ra sự tồn tại của mộtvéc-tơ p sao cho Ap ≥ 0 và aTp < 0 Chứng tỏ hệ Ax ≥ 0, aTx < 0 với

Định lí 2.5 Giả sử C là tập lồi và f là hàm lồi, khả vi phân trên C.Khi

đó x∗ là nghiệm tối ưu của bái toán (P ) khi và chỉ khi

0 ∈ ∂f (x∗) + NC(x∗) , (2.2)trong đó NC(x∗) ký hiệu nón pháp tuyến của C tại x∗

Kết hợp với (¯t, ¯x) ∈ E ⇒ t > f (x) − f (x∗) Nên

0 > f (x) − f (x∗) ⇒ f (x∗) > f (x)

Mâu thuẫn với giả thiết x∗ là nghiệm tối ưu, vậy E ∩ G = ∅

Áp dụng định lý siêu phẳng tách tồn tại a = (u0, u) 6= 0 ∈ R×Rn sao cho

ha, yi ≤ ha, zi , ∀y ∈ E, ∀z ∈ G (2.3)

hu, xi ≤ hu, vi

⇔ hu, v − xi ≥ 0, ∀v, x ∈ C (2.5)Đặt D = C − C = {z : z = a − b; a, b ∈ C} Theo (2.5) suy ra

Do tập C lồi nên D lồi hay intD 6= ∅

Theo (2.6) ta có u = 0, mâu thuẫn với giả thiết a = (u0, u) 6= 0 Do đó

u0 < 0 Chia cả hai vế của (2.4) cho −u0 > 0, ta có

Hệ quả 2.2 Với các giả thiết như định lý 2.5, nếu x∗ ∈ intC là nghiệmtối ưu của bài toán (P ) thì 0 ∈ ∂f (x∗) Hơn nữa nếu f khả vi và C = Rn

thì 0 = ∇f (x∗)

của tập C tại điểm x0 ∈ C nếu tồn tại λ0 > 0:

x0 + λd ∈ C, ∀0 ≤ λ ≤ λ0

là hướng chấp nhận được của C tại x0

và C (x0) là bao đóng của nó

cực tiểu địa phương của f trên C Khi đó

dT∇f (x∗) ≥ 0, ∀d ∈ C (x∗) (2.8)Chứng minh

Khai triển Taylor của f tại x∗ là

toán (P ) với điền kiện

C := {x ∈ X : gj(x) ≤ 0, hi(x) = 0, j = 1, , m; i = 1, , k}

∇f (x∗) +

mX

j=1

λ∗j∇gj (x∗) +

kX

i=1

µ∗j∇hi(x∗) = 0, (2.10)

λ∗jgj(x∗) = 0, ∀j = 1, , m (2.11)

Nếu (P ) là bài toán quy hoạch lồi thì (2.10), (2.11) là điều kiện đủ để x∗

là nghiệm tối ưu của (P )

(2.11) là điều kiện đủ để x∗ là nghiệm tối ưu toàn cục của (P )

Giả sử x∗ không là nghiệm tối ưu, thì sẽ tồn tại x ∈ C : f (x) < f (x∗)

µ∗h∇hi(x∗) , di = 0 (2.14)