Các quy tắc tổng tính dưới vi phân và dưới vi phân xấp xỉ

Song song với việc đưa ra các điều kiện đủ để hàm giá trị tối ưu là liên tục Lipschitz địa phương tại một tham sốcho trước, trong khoảng 50 năm trở lại đây, người ta quan tâm nghiêncứu t

ĐẠI HỌC THÁI NGUYÊN

TRƯỜNG ĐẠI HỌC KHOA HỌC

- -

NGUYỄN TRƯỜNG GIANG

CÁC QUY TẮC TỔNG TÍNH DƯỚI VI PHÂN

VÀ DƯỚI VI PHÂN XẤP XỈ

Chuyên ngành: Toán ứng dụng

Mã số : 8 46 01 12

NGƯỜI HƯỚNG DẪN KHOA HỌC

TS Dương Thị Việt An

THÁI NGUYÊN - 2020

2.3 Áp dụng 21

3.2 Áp dụng 30

||x|| chuẩn của véctơ x

inf

x ∈Kf (x) infimum của tập số thực {f(x) | x ∈ K}

sup

x ∈Kf (x) supremum của tập số thực {f(x) | x ∈ K}

N (¯x; Ω) nón pháp tuyến theo nghĩa giải tích lồi của Ω tại x¯

Nε(¯x; Ω) tập ε- pháp tuyến của Ω tại x¯

f∗ hàm liên hợp của hàm f

epi f trên đồ thị của hàm f

dom f miền hữu hiệu của hàm f

∂f (x) dưới vi phân của hàm lồi f tại x

∂εf (x) dưới vi phân xấp xỉ của hàm lồi f tại x

A : X → Y toán tử tuyến tính liên tục từ X vào Y

A∗ : Y∗ → X∗ toán tử liên hợp của toán tử A

Mở đầu

Giải tích lồi là một bộ môn cơ bản của giải tích hiện đại, nghiên cứu

về tập lồi và hàm lồi cùng với những vấn đề liên quan Bộ môn này cóvai trò quan trọng trong nhiều lĩnh vực khác nhau của toán ứng dụng,đặc biệt là trong tối ưu hóa, bất đẳng thức biến phân, các bài toán cânbằng,

Các hàm giá trị tối ưu đóng vai trò quan trọng trong giải tích biếnphân, tối ưu có ràng buộc, lý thuyết điều khiển, và nhiều ứng dụng khácnhau của các lý thuyết đó Song song với việc đưa ra các điều kiện đủ

để hàm giá trị tối ưu là liên tục Lipschitz địa phương tại một tham sốcho trước, trong khoảng 50 năm trở lại đây, người ta quan tâm nghiêncứu tính ổn định vi phân của các bài toán tối ưu theo nghĩa nghiên cứucác tính chất khả vi và khả vi theo hướng của hàm giá trị tối ưu củabài toán đó Vai trò của tính lồi khi nghiên cứu tính ổn định vi phânkhó có thể đánh giá thấp được Vào những thập niên sáu mươi của thế

kỷ trước, một công thức tiên phong dùng để tính toán dưới vi phâncủa tổng hai hàm lồi được đưa ra bởi J.-J Moreau và R.T Rockafellar.Cùng với những nghiên cứu trước đó, các kết quả này dẫn đến một lýthuyết đẹp đẽ về giải tích lồi [5] Các quy tắc tính toán dưới vi phân cóvai trò cực kì quan trọng trong giải tích lồi và quy hoạch lồi Năm 1965,

Brøndsted và Rockafellar [4] đã đưa ra khái niệm ε-dưới vi phân (haycòn gọi là dưới vi phân xấp xỉ) của hàm lồi, đây là khái niệm mở rộngcho khái niệm đạo hàm khi hàm không khả vi Điều này cho thấy vaitrò của dưới vi phân nói chung và dưới vi phân xấp xỉ nói riêng tronggiải tích hiện đại cũng có tầm quan trọng như vai trò của đạo hàm tronggiải tích cổ điển.

Luận văn gồm phần mở đầu, phần kết luận, danh mục tài liệu thamkhảo, và ba chương có nội dung như sau:

Chương 1: Kiến thức chuẩn bị nhắc lại định nghĩa và các tínhchất về tập lồi, hàm lồi, dưới vi phân và dưới vi phân xấp xỉ của hàmlồi Cuối chương chúng tôi cũng trình bày một số kết quả về hàm liênhợp và định lý tách để phục vụ cho việc chứng minh các kết quả ở haichương sau

Chương 2: Quy tắc tổng tính dưới vi phân của các hàm lồinghiên cứu hai phiên bản khác nhau của Định lý Moreau-Rockafellar,một kết quả nổi tiếng của Giải tích lồi trong việc tính toán dưới vi phâncủa tổng hai hàm lồi, chính thường Nội dung cuối chương là phần ápdụng các quy tắc tổng trong việc nghiên cứu điều kiện cần và đủ tối ưucủa bài toán tối ưu lồi có ràng buộc tập Các kết quả của chương đượctổng hợp từ các tài liệu [1], [2] và [6]

Chương 3: Quy tắc tổng tính dưới vi phân xấp xỉ của cáchàm lồi trình bày một quy tắc tổng để tính toán dưới vi phân xấp xỉcủa hai hàm lồi, chính thường Nội dung của chương được dịch và sắpxếp lại từ Mục 3 của bài báo [3] Các kết quả về điều kiện cần và đủ tối

ưu sử dụng dưới vi phân xấp xỉ cũng được nghiên cứu ở cuối chương này

em học tập và hoàn thiện luận văn này.

Em cũng xin chân thành cảm ơn các thầy cô trong Khoa Toán Tin, trường Đại học Khoa học, Đại học Thái Nguyên đã giảng dạy vàtạo điều kiện thuận lợi cho em trong suốt quá trình em học tập ở trường

-Luận văn này chắc chắn sẽ không tránh khỏi những khuyết điểm,

vì vậy em rất mong được sự góp ý của các quý thầy cô để luận văn nàyđược hoàn chỉnh hơn

Thái Nguyên, ngày 16 tháng 8 năm 2020

Học viên

Nguyễn Trường Giang

Chương 1

Kiến thức chuẩn bị

Chương này chúng tôi nhắc lại các kiến thức cơ bản về tập lồi, hàm lồi,dưới vi phân và dưới vi phân xấp xỉ của hàm lồi Nội dung của chươngđược tham khảo từ các tài liệu [1], [2], và [6]

1.1 Tập lồi và hàm lồi

Cho X là không gian tuyến tính trên trường số thực Đoạn thẳng nốihai điểm a, b trong X là tập hợp các véctơ x có dạng

[a, b] := {x ∈ X | x = λa + (1 − λ)b, λ ∈ [0, 1]}

là, C lồi khi và chỉ khi

∀x, y ∈ C, ∀λ ∈ [0, 1] ⇒ λx + (1 − λ)y ∈ C

Ví dụ 1.1 Đoạn thẳng, tam giác, hình tròn là các ví dụ đơn giảnnhất về tập lồi trong mặt phẳng

hàm f : C → R = R∪ {±∞} Ta ký hiệu miền hữu hiệu của hàm f là

y

Hình 1: Ví dụ về tập lồi và tập không lồi

dom f, được định nghĩa như sau:

domf := {x ∈ C | f(x) < +∞}

Tập

epif := {(x, µ) ∈ C ×R | f(x) ≤ µ}

x /∈ C, ta có thể coi f xác định trên toàn không gian và khi đó

domf = {x ∈ X | f(x) < +∞},

epif = {(x, µ) ∈ X ×R | f(x) ≤ µ}

thường lệ ta sẽ quy ước nếu λ = 0 thì λf (x) = 0 với mọi x

Ta nói f là hàm lồi trên C nếu epif là một tập lồi trong X ×R

trường hợp này, ta có kết quả sau:

f : C → (−∞, +∞] Khi đó, f là hàm lồi trên C khi và chỉ khi với mọi

λ ∈ [0, 1], ta có

f (λx + (1− λ)y) ≤ λf(x) + (1 − λ)f(y), ∀x, y ∈ C

Ví dụ 1.2 Cho C là một tập con lồi của X Hàm chỉ của tập C đượcđịnh nghĩa bởi

1.2 Dưới vi phân và Dưới vi phân xấp xỉ

Trong chương trình giải tích ở phổ thông, ta đã biết rằng hàm lồikhả vi tại một điểm nào đó thì tiếp tuyến tại điểm đó luôn nằm dưới

đồ thị Tuy nhiên, một hàm lồi có thể không khả vi, ví dụ hàm lồi mộtbiến f (x) = |x| không khả vi tại x = 0 Trong trường hợp này, người

ta mở rộng khái niệm đạo hàm bằng dưới vi phân, sao cho vẫn có đượccác tính chất cơ bản của đạo hàm khi hàm đó khả vi

Cho X là không gian vectơ tôpô lồi địa phương Hausdorff với cáckhông gian đối ngẫu được ký hiệu là X∗ Cho tập lồi C ⊂ X, nón pháptuyến của C tại x¯ ∈ C được cho bởi

N (¯x; C) = {x∗ ∈ X∗ | hx∗, x− ¯xi ≤ 0, ∀x ∈ C}

dưới gradient của f tại x¯ nếu

có đồ thị là một siêu phẳng tựa của epif tại điểm (¯x, f (¯x))

Từ định nghĩa của dưới vi phân, ta dễ dàng chỉ ra được

x∗ ∈ ∂f(¯x) ⇔ (x∗,−1) ∈ N (¯x, f(¯x)); epi f

Ví dụ 1.3 Sau đây, ta đưa ra một số ví dụ về dưới vi phân

không khả vi nhưng nó khả dưới vi phân và

∂f (x) ={x∗ ∈ X∗ | hx∗, xi ≤ kxk, ∀x}

(b) f = δC là hàm chỉ của một tập lồi C khác rỗng Khi đó, với x ∈ X,

∂δC(x) = {x∗ ∈ X∗ | hx∗, u− xi ≤ δC(u), ∀u}

Với u /∈ C thì δC(u) = +∞ nên bất đẳng thức này luôn đúng Vậy

∂δC(x) = {x∗ ∈ X∗ | hx∗, u− xi ≤ 0, ∀u ∈ C} = N(x; C),

ở đó N (x; C) là nón pháp tuyến của C tại x

ε ≥ 0 Tập ε-dưới vi phân (dưới vi phân xấp xỉ) của f tại x¯ là tập

vi phân xấp xỉ luôn tồn tại Thứ hai, trong ứng dụng người ta thườngchỉ cần tính dưới vi phân một cách xấp xỉ Ta xét ví dụ sau đây

Trong khi đó, dễ dàng kiểm tra được ∂f (¯x) =∅.

Định nghĩa 1.5 Tập ε- pháp tuyến (normal directions) Nε(¯x; C) của

C tại x¯ ∈ C được định nghĩa bởi

Nε(¯x; C) = {x∗ ∈ X∗ | hx∗, x− ¯xi ≤ ε, ∀x ∈ C}

Từ định nghĩa trên, với x¯ ∈ C, ta có

∂εδC(¯x) = {x∗ ∈ X∗ | hx∗, x− ¯xi ≤ ε, ∀x ∈ C} = Nε(¯x; C),

với mọi ε ≥ 0 Khi ε = 0, Nε(¯x; C) trùng với tập nón pháp tuyến của

C tại x¯ Trong trường hợp tổng quát, Nε(¯x; C) có thể không là nón với

ε > 0

1.3 Một số kết quả bổ trợ

được cho bởi

Rõ ràng, hàm f∗∗ là lồi và đóng (theo nghĩa tập epi f∗∗ là đóng theo

tr 175]), nếu f là hàm xác định trên X không nhận giá trị −∞, khi đó

f = f∗∗ nếu và chỉ nếu f là lồi và đóng

không gian liên hợp của X, tức là không gian các phiếm hàm tuyến tínhliên tục trên X

Định nghĩa 1.6 (Xem [1, trang 63]) Tập hợp M ⊂ X thỏa mãn: bất

được gọi là một đa tạp tuyến tính trong X

Chú ý rằng khái niệm đa tạp tuyến tính chính là khái niệm tậpaffine trong không gian hữu hạn chiều

Lấy x∗ ∈ X∗, x∗ 6= 0, β ∈ R và ký hiệu

H(x∗, β) = {x ∈ X | hx∗, xi = β},

H+(x∗, β) = {x ∈ X | hx∗, xi ≤ β},

H−(x∗, β) = {x ∈ X | hx∗, xi ≥ β}

H(x∗, β) được gọi là một siêu phẳng trong X Các tập H+(x∗, β) và

H−(x∗, β)được gọi là các nửa không gian sinh bởi siêu phẳng H(x∗, β)

là hai tập lồi trong không gian lồi địa phương X, A∩ B = ∅, int A6= ∅.Khi đó, tồn tại x∗ ∈ X∗, x∗ 6= 0 tách A và B

H(x , β)

A

B

Hình 2: Minh họa siêu phẳng tách

là tập con lồi đóng trong không gian lồi địa phương X và x¯6∈ A Khi đótồn tại x∗ 6= 0 thuộc X∗ tách ngặt A và x¯

2.1 Định lý Moreau-Rockafellar phiên bản cổ điển

Định lý sau đây là một kết quả đẹp về tính toán dưới vi phân của tổngcác hàm lồi Định lý này có nhiều phiên bản chứng minh, trong luậnvăn này chúng tôi trình bày chi tiết lại chứng minh theo cuốn tài liệu[6, trang 48-50]

Định lý 2.1 (Moreau-Rockafellar) Giả sửf1, , fm là các hàm lồi chínhthường trên X Khi đó với ∀x ∈ X,

∂(f1 + + fm)(x)⊇ ∂f1(x) + + ∂fm(x)

Hơn nữa, nếu tại điểm x¯ ∈ Tm

Điều này mâu thuẫn với x∗ ∈ ∂(f1 + f2)(x).

Vậy theo Định lý 1.2 tồn tại x∗1 ∈ X∗, β ∈ R, (x∗1, β) 6= (0, 0) sao cho

Điều này mâu thuẫn với (3.4).

Vì vậy β < 0 Không giảm tổng quát ta có thể xem β = −1 Như vậy

ta đã chứng minh được C1 và C2 được tách bởi siêu phẳng:

2.2 Định lý Moreau-Rockafellar phiên bản hình học

và g : Y →R là các hàm lồi, đóng, chính thường, A : X → Y là toán tửtuyến tính liên tục Đặt F (x) := f (x) + g(Ax) Giả sử rằng điều kiệnchính quy

0 ∈ int(A(dom f) − dom g) (2.2)

∂F (x) = ∂f (x) + A∗(∂g(Ax)), (2.3)

ở đó A∗ : Y∗ → X∗ là toán tử liên hợp của toán tử A

Chúng ta hãy xét một ví dụ để thấy sự cần thiết của điều kiệnchính quy (2.2) cho khẳng định (2.3)

được cho bởi f (x) = 0nếu x = 0 vàf (x) = +∞nếu x 6= 0 Chog đượcxác định bởi g(y) = −√y nếu y ≥ 0 và g(y) = +∞ nếu y < 0 Khi đó

Với x = 0¯ , ta có ∂F (¯x) =R trong khi đó ∂f (¯x) + A∗(∂g(A¯x)) =∅

Đặt X = Y, A = I, từ Định lý 2.2 ta thu được một phiên bảnhình học của Định lý Moreau–Rockafellar như sau:

thường và điều kiện chính quy

đó ta có thể xây dựng được một phiếm hàm tuyến tính không liên tục

f : X → R Đặt g := −f, ta có dom f = dom g = X, vậy điều kiện

với bất kìx ∈ X Mặt khác, vì f (x)+g(x) ≡ 0, ta có∂(f +g)(x) = {0}

Vì vậy, (2.5) không đúng Như vậy ta thấy điều kiện chính quy (2.4) một

2.3 Áp dụng

Trong mục này, chúng tôi áp dụng các kết quả ở hai mục trước để nghiêncứu điều kiện cần và đủ cực trị cho bài toán tối ưu lồi (cả trường hợpkhông ràng buộc và trường hợp ràng buộc tập)

không gian đối ngẫu là X∗, hàm ϕ : X → R là hàm lồi trên X Xét bài

toán tối ưu không có ràng buộc:

Ta có quy tắc Fermat cho bài toán tối ưu lồi (2.6) như sau

Định lý 2.4 (Xem [6, Mệnh đề 1, tr 81]) Điểm x¯ ∈ X là cực tiểu củahàm lồi ϕ khi và chỉ khi

ϕ(x) → inf,

x ∈ C,

(2.7)

ở đó C là tập con lồi khác rỗng của X

Định lý 2.5 Cho x¯ ∈ X Nếu ít nhất một trong các điều kiện sau đâyđược thỏa mãn

(a) int C ∩ dom ϕ 6= ∅,

(b) ϕ liên tục tại một điểm thuộc miền trong của tập C

Khi đó x¯ là nghiệm của bài toán (2.7) nếu và chỉ nếu

Chứng minh Xét hàm Φ(x) = ϕ(x) + δC(x), ở đó δC(·) là hàm chỉcủa tập lồi C Khi đó ta thấy, x¯ là nghiệm của bài toán (2.7) nếu và chỉnếu Φ(·) đạt cực tiểu tại x¯ Khi đó theo Định lý 2.4, x¯ là nghiệm củabài toán (2.7) khi và chỉ khi

liên tục tại một điểm thuộcdom δC(·) nên cũng theo Định lý 2.1 ta cũng

là hàm lồi, đóng, chính thường Xét x¯ ∈ X sao cho

Chương 3

Quy tắc tổng tính dưới vi phân

xấp xỉ của các hàm lồi

Trong chương này chúng tôi trình bày một quy tắc để tính toán dưới

vi phân xấp xỉ của tổng hai hàm lồi, chính thường Phần cuối chươngchúng tôi có nghiên cứu điều kiện cần và đủ cực trị cho bài toán tối ưulồi tổng quát và bài toán tối ưu lồi có ràng buộc tập Nội dung chínhcủa chương được tham khảo từ Mục 3 của bài báo [3]

3.1 Quy tắc tổng cho dưới vi phân xấp xỉ

Trong Giải tích lồi, Định lý Moreau–Rockafellar là một kết quả quenthuộc cho ta quy tắc tính toán dưới vi phân của tổng hai hàm lồi, chínhthường Bằng cách sử dụng kết quả về tổng chập (infimal convolution)của hai hàm lồi, chúng ta thu được quy tắc tính tổng dưới vi phân xấp

xỉ như sau

Định lý 3.1 Giả sử f1, f2 : X → R là các hàm lồi, chính thường trên

không gian tôpô lồi địa phương Hausdorff X và điều kiện chính quy

(f1 + f2)∗(x∗)

= min

f1∗(x∗1)+f2∗(x∗2)| x∗1, x∗2 ∈ X∗, x∗1 + x∗2 = x∗} (∀x∗ ∈ X∗)

(3.1)được thỏa mãn Khi đó, với mọi x¯ ∈ dom f1 ∩ dom f2 và ε > 0, ta có

(f1 + f2)∗(x∗) ≤ (f1∗ ⊕ f2∗)(x∗); (3.5)xem [6, tr 181] Vì (3.2) có thể được viết lại như sau

(f1 + f2)∗(x∗) = (f1∗ ⊕ f2∗)(x∗), (3.6)điều kiện (3.1) thỏa mãn khi với các hàm f1 và f2 như trong giả thiết,

thay, yêu cầu này có thể được thỏa mãn dưới một số điều kiện Sau đây,chúng tôi tổng hợp được một số điều kiện như vậy

Định lý 3.2 Giả sử rằng f1, f2 là các hàm lồi chính thường Nếu

i , i = 1, 2,sao cho x¯∗1 + ¯x∗2 = x∗ và

f1∗(¯x∗1) + f2∗(¯x∗2) = (f1 + f2)∗(x∗)

Nhận xét 3.1 Dưới những điều kiện của Định lý 3.2, điều kiện chínhquy (3.1) được thỏa mãn Thật vậy, giả sử rằng một trong hai hàm lồichính thường f1, f2 liên tục tại một điểm x0 thuộc vào miền hữu hiệucủa hàm còn lại Khi đó, ta có x0 ∈ dom (f1 + f2) Điều đó suy ra

(f1 + f2)∗(x∗) lớn hơn −∞ với mọi x∗ ∈ X∗ Nếu x∗ ∈ dom (f/ 1 + f2)∗,thì (f1 + f2)∗(x∗) = +∞ Chọn x¯∗1, ¯x∗2 ∈ X∗ sao cho x∗ = ¯x∗1 + ¯x∗2 Từ(3.4),

+∞ = (f1 + f2)∗(x∗) ≤ f1∗(¯x∗1) + f2∗(¯x∗2)

Chú ý rằng f1∗(¯x∗1) > −∞ và f2∗(¯x∗2) > −∞ vì f1, f2 là hai hàm chínhthường, từ đó ta thấy rằng ít nhất một trong các giá trịf1∗(¯x∗1) vàf2∗(¯x∗2)

phải bằng +∞ Kết hợp điều này với (3.4) ta được (3.3) Vì (3.2) tươngđương với (3.6), và đẳng thức cuối nghiệm đúng Theo Định lý 3.2, tachứng minh được rằng (3.1) thỏa mãn với mọi x∗ ∈ dom (f/ 1+ f2)∗ Nếu

x∗ ∈ dom (f1 + f2)∗, khi đó đẳng thức trong (3.1) được suy ra ngay từĐịnh lý 3.2

Định lý 3.2, ở đó f1 và f2 được giả thiết là đóng Nhắc lại rằng

R+(A) := {ta ∈ X | t ∈ R+, a ∈ A}

là nón sinh bởi tập A

Định lý 3.3 Giả sử các hàm f1, f2 : X → R là lồi, chính thường xác

R+(dom f1 − dom f2) là không gian con đóng khác rỗng của X (3.8)Khi đó, với mọi x∗ ∈ X∗, ta có (f1+ f2)∗(x∗) = (f1∗⊕f2∗)(x∗) Hơn nữa,với mọi x∗ ∈ dom (f1 + f2)∗ tồn tại x∗1, x∗2 ∈ X∗ sao cho x∗ = x∗1 + x∗2

và

(f1 + f2)∗(x∗) = f1∗(x∗1) + f2∗(x∗2)

Sau đây là một phiên bản khác của Định lý 3.2, ở đó dùng điềukiện chính quy hình học

Định lý 3.4 Cho f1, f2 : X → R là các hàm lồi, đóng, chính thường

0∈ int (dom f1 − dom f2) (3.9)được thỏa mãn, khi đó (f1 + f2)∗(x∗) = (f1∗ ⊕ f2∗)(x∗) đúng với mọi

x∗ ∈ X∗ Hơn nữa, nếu x∗ là điểm sao cho (f1 + f2)∗(x∗) hữu hạn, khi

0∈ dom f1 − dom f2 Vì vậy, tồn tại x0 ∈ X mà x0 ∈ dom f1∩ dom f2.Khi đóx0

∈ dom (f1+f2) Áp dụng Định lý 3.3 (tương ứng, Định lý 3.4)

và các lập luận như ở Nhận xét 3.1, ta được (3.1)

Bây giờ, chúng ta nghiên cứu mối quan hệ giữa các điều kiện chínhquy (3.7), (3.8) và (3.9)

Mệnh đề 3.1 Cho f1, f2 : X →R là các hàm lồi, đóng, chính thườngxác định trên không gian tôpô lồi địa phương Hausdorff X Khi đó, (3.7)suy ra (3.8) và (3.9)

điểm x¯ ∈ dom f2 Khi đó, tồn tại lân cận U của 0 sao cho x + U¯ ⊂dom f1 Vì vậy, U = (¯x + U ) − ¯x ⊂ dom f1 − dom f2 Điều này suy ra(3.9) và đẳng thức

R+(dom f1 − dom f2) = X,

Điều kiện (3.9) ⇒ (3.8) là hiển nhiên Sau đây, chúng tôi đưa rahai ví dụ đơn giản để chỉ ra rằng (3.8) ⇒ (3.9) và (3.9) ⇒ (3.7) có thểkhông đúng

Ví dụ 3.1 Cho X = R2, f1(x) = x2

1 với mọi x = (x1, 0), f1(x) = +∞

với mọi x = (x1, x2) mà x1 6= 0, và lấy f2 ≡ f1 Khi đó,

R+(dom f1 − dom f2) = dom f1 − dom f2 = R× {0}

là không gian con đóng củaX Tuy nhiên, cả hai điều kiện (3.7) và (3.9)đều bị vi phạm

Ví dụ 3.2 Cho X và f1 tương tự như trong Ví dụ 3.1 Đặt f2(x) = x2

2