Luận văn phép toán gần kề trong không gian hilbert và ứng dụng

BỘ GIÁO DỤC VÀ ĐÀO TẠOTRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2NGUYỄN CÔNG NGUYÊN PHÉP TOÁN GẦN KỀ TRONG KHÔNG GIAN HILBERT VÀ ỨNG DỤNG LUẬN VĂN THẠC SĨ TOÁN HỌC Hà Nội, 2018... BỘ GIÁO DỤC VÀ ĐÀO

BỘ GIÁO DỤC VÀ ĐÀO TẠOTRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

NGUYỄN CÔNG NGUYÊN

PHÉP TOÁN GẦN KỀ TRONG

KHÔNG GIAN HILBERT VÀ ỨNG DỤNG

LUẬN VĂN THẠC SĨ TOÁN HỌC

Hà Nội, 2018

BỘ GIÁO DỤC VÀ ĐÀO TẠOTRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

NGUYỄN CÔNG NGUYÊN

PHÉP TOÁN GẦN KỀ TRONG

KHÔNG GIAN HILBERT VÀ ỨNG DỤNG

LUẬN VĂN THẠC SĨ TOÁN HỌC

Chuyên ngành: Toán giải tích

Mã số: 8 46 01 02

Người hướng dẫn khoa học

PGS.TS Nguyễn Năng Tâm

Hà Nội, 2018

Lời cảm ơn

Tác giả xin chân thành cảm ơn PGS.TS Nguyễn Năng Tâm, thầy

đã hướng dẫn tận tình, chu đáo để tác giả có thể hoàn thành bản luậnvăn này một cách tốt nhất

Tác giả cũng xin chân thành cảm ơn các thầy cô giáo ở Khoa Toán,trường Đại học Sư phạm Hà Nội 2, đã tận tình trang bị kiến thức, giúp

đỡ tác giả trong quá trình học tập và nghiên cứu, giúp tác giả hoànthành luận văn một cách thuận lợi

Nhân dịp này tôi xin được gửi lời cảm ơn chân thành tới gia đình, bạn

bè, đồng nghiệp đã luôn động viên, cổ vũ, và tạo mọi điều kiện tốt nhất

để tác giả hoàn thành khóa học của mình

Hà Nội, tháng 8 năm 2018

Tác giả

Nguyễn Công Nguyên

Lời cam đoan

Tôi xin cam đoan, luận văn thạc sĩ chuyên ngành Toán giải tích với đềtài "Phép toán gần kề trong không gian Hilbert và ứng dụng"được hoàn thành dưới sự hướng dẫn của PGS.TS Nguyễn Năng Tâm vàbởi chính nhận thức của bản thân tác giả

Trong suốt quá trình nghiên cứu thực hiện luận văn, tác giả đã kế thừanhững thành tựu của các nhà khoa học với sự trân trọng và biết ơn

Hà Nội, tháng 8 năm 2018

Tác giả

Nguyễn Công Nguyên

Mục lục

Lời cảm ơn i

Lời cam đoan ii

Một số kí hiệu thường dùng 1

Mở đầu 2

Chương 1 Kiến thức chuẩn bị 4

1.1 Không gian Hilbert 4

1.2 Tập lồi, hàm lồi 7

1.3 Một số đạo hàm cổ điển 12

Chương 2 Phép toán gần kề 17

2.1 Điểm gần nhất và nón pháp gần kề 17

2.2 Dưới gradient gần kề 21

2.3 Định lý trù mật và nguyên lý cực tiểu 27

2.3.1 Định lý trù mật 27

2.3.2 Nguyên lý cực tiểu 32

2.4 Hàm chập toàn phương, hàm khoảng cách và hàm Lipschitz

33 2.4.1 Hàm chập toàn phương 33

2.4.2 Hàm khoảng cách 38

2.4.3 Hàm Lipschitz 42

2.5 Quy tắc cộng và dưới gradient giới hạn gần kề 47

2.5.1 Quy tắc cộng 47

2.5.2 Dưới gradient giới hạn gần kề 53

Chương 3 Ứng dụng 56

3.1 Bài toán tối ưu với ràng buộc là tập đóng 56

3.2 Bài toán tối ưu với ràng buộc đẳng thức 59

3.3 Bài toán tối ưu với ràng buộc bất đẳng thức 65

Kết luận 68

Tài liệu tham khảo 69

Một số kí hiệu thường dùng

projS(x) phép chiếu của điểm x lên trên tập S;

dS(x) khoảng cách từ điểm x tới tập S;

NSP(x) nón pháp tuyến gần kề tại x của S;

∂Pf (x) dưới gradient gần kề của f tại x;

domf miền xác định của hàm f ;

epif tập trên đồ thị của hàm f ;

F (U ) tập tất cả các hàm f : U → (−∞, ∞]

nửa liên tục dưới và không đồng nhất bằng +∞;

∂Lf (x) dưới gradient giới hạn gần kề;

NS(x) nón pháp tuyến của S tại điểm x;

NSL(x) nón pháp tuyến giới hạn của f tại x;

f0(x; v) đạo hàm theo hướng v của hàm f tại điểm x;

fG0 (x) đạo hàm Gâteaux của f tại điểm x;

f0(x) đạo hàm Fréchet của f tại x;

IS(·) hàm chỉ của tập S;

∇f (x) vectơ gradient của f tại x;

L(X, Y ) tập tất cả các toán tử tuyến tính liên tục từ X vào Y ;

Mở đầu

1 Lý do chọn đề tài

Giải tích biến phân là một bộ phận của toán học, được hình thành

và phát triển nhằm trang bị các công cụ để nghiên cứu các bài toán tối

ưu và những vấn đề có liên quan Một mặt, các bài toán tối ưu thườngxuyên xuất hiện trong các khoa học ứng dụng Mặt khác, giải quyết vấn

đề dựa vào tối ưu là một phương pháp hiệu quả trong toán học Điềunày làm cho giải tích biến phân trở thành một lĩnh vực đáng quan tâmxét theo cả góc độ lý thuyết lẫn góc độ ứng dụng

Phép toán gần kề là một bộ phận của Giải tích biến phân có nhiều ứngdụng trong lý thuyết cũng như trong thực tiễn Việc nghiên cứu Phéptoán gần kề cùng những ứng dụng của nó là một chủ đề đã và đang đượcnhiều tác giả trong và ngoài nước quan tâm Vì vậy, sau khi được học

và nghiên cứu những kiến thức về Toán giải tích, với mong muốn tìmhiểu sâu hơn về những kiến thức đã học và ứng dụng của chúng, dưới sựđịnh hướng của thầy hướng dẫn, tôi đã chọn đề tài nghiên cứu: “Phéptoán gần kề trong không gian Hilbert và ứng dụng” để thực hiệnluận văn tốt nghiệp chương trình đào tạo Thạc sĩ chuyên ngành Toángiải tích

2 Mục đích nghiên cứu

Nghiên cứu Phép toán gần kề và ứng dụng của nó Qua đó thấy đượctầm quan trọng của những kiến thức đã học và những ứng dụng củachúng

3 Nhiệm vụ nghiên cứu

Tìm hiểu và nghiên cứu Phép toán gần kề và ứng dụng của nó

4 Đối tượng và phạm vi nghiên cứu

Đối tượng nghiên cứu: Phép toán gần kề và ứng dụng của nó

Phạm vi nghiên cứu: Trong không gian Hilbert

5 Phương pháp nghiên cứu

Sử dụng các phương pháp của Giải tích hàm, Giải tích không trơn và

Lý thuyết tối ưu Thu thập tài liệu để nghiên cứu, phân tích tổng hợp

để giải quyết vấn đề luận văn đề cập tới

6 Dự kiến đóng góp của luận văn

Dựa trên tài liệu [5], luận văn trình bày một cách có hệ thống về phéptoán gần kề trong không gian Hilbert và một số ứng dụng của nó trongbài toán tối ưu có ràng buộc

Chương 1 Kiến thức chuẩn bị

Trong chương này, chúng tôi nhắc lại một số kết quả sẽ được dùng chocác chương sau Cụ thể, phần đầu chương nhắc lại một số kiến thức cơbản về không gian Hilbert và giải tích lồi Phần sau đó, chúng tôi nhắclại một số khái niệm về đạo hàm và các kết quả liên quan Nội dungtrong chương được trích dẫn chủ yếu từ các tài liệu tham khảo [1, 2, 3]

1.1 Không gian Hilbert

Định nghĩa 1.1 ([3]) Cho H là không gian vectơ trên trường R Ta gọimột tích vô hướng xác định trên H là một ánh xạ xác định như sau:

h·, ·i : H × H −→ R

(x, y) 7−→ hx, yithỏa mãn các điều kiện sau đây:

a) hx, yi = hy, xi với mọi x, y ∈ H;

b) hx + y, zi = hx, zi + hy, zi với mọi x, y, z ∈ H;

c) hλx, yi = λhx, yi với mọi x, y ∈ H, λ ∈ R;

d) hx, xi ≥ 0 với mọi x ∈ H và hx, xi = 0 khi và chỉ khi x = 0

Số hx, yi được gọi là tích vô hướng của hai vectơ x và y Cặp (H, h·, ·i)được gọi là không gian tiền Hilbert

Từ định nghĩa ta thấy rằng tích vô hướng h·, ·i chính là một dạngsong tuyến tính xác định dương trên H Khi đó H được gọi là khônggian tiền Hilbert thực.

Định lí 1.1 ([3]) Cho H là không gian tiền Hilbert với x, y ∈ H, khi đó

ta luôn có bất đẳng thức sau

|hx, yi|2 ≤ hx, xihy, yi

Bất đẳng thức ở Định lí 1.1 được gọi là bất đẳng thức Schwarz, trongbất đẳng thức Schwarz dấu bằng xảy ra khi và chỉ khi x, y phụ thuộctuyến tính

Định lí 1.2 ([3]) Cho H là không gian tiền Hilbert Khi đó

kxk = hx, xi1/2, x ∈ Hxác định một chuẩn trên H

Nhờ định lí trên ta thấy rằng, một không gian tiền Hilbert được xemnhư là một không gian định chuẩn, có thể đầy đủ hoặc không đầy đủ.Định nghĩa 1.2 ([3]) Nếu H là một không gian tiền Hilbert và đầy đủđối với chuẩn cảm sinh từ tích vô hướng thì H được gọi là không gianHilbert

Cũng tương tự như trường hợp không gian tiền Hibert, với trường Rthì ta có không gian Hilbert thực

Ví dụ 1.1 1 Rn là không gian Hilbert thực với tích vô hướng

Ta đã biết l2 là không gian Banach với chuẩn

kxk =

vuut

3 Cho (X, A, µ) là một không gian độ đo và E ∈ A Xét không gian

xác định một tích vô hướng trong L2(E, µ) và L2(E, µ) là khônggian Hilbert thực.

Định nghĩa 1.3 ([3]) Cho H là một không gian Hilbert Dãy {xn}trong H được gọi là hội tụ yếu đến phần tử x trong H nếu với mọi

Định lí 1.3 ([3]) Giả sử H là không gian Hilbert

i) Nếu dãy {xn} hội tụ yếu đến x ∈ H và dãy {yn} hội tụ mạnh đến

y ∈ H thì dãy số {hxn, yni} hội tụ đến hx, yi

ii) Nếu dãy {xn} hội tụ yếu đến x ∈ H và dãy {kxnk} hội tụ mạnhđến kxk thì dãy {xn} hội tụ mạnh đến x ∈ H

1.2 Tập lồi, hàm lồi

Định nghĩa 1.4 ([1]) Cho hai điểm a, b ∈ H

i) Một đường thẳng đi qua hai điểm a, b là tập hợp có dạng

{x ∈ H : x = αa + βb, α, β ∈ R, α + β = 1} ii) Đoạn thẳng nối hai điểm a, b trong H là tập hợp

{x ∈ H : x = αa + βb, α ≥ 0, β ≥ 0, α + β = 1} Định nghĩa 1.5 ([1]) Một tập D được gọi là tập affine nếu D chứamọi đường thẳng đi qua hai điểm bất kì x, y ∈ D, tức là

∀x, y ∈ D, ∀λ ∈ R =⇒ λx + (1 − λ)y ∈ D

Định nghĩa 1.6 ([1]) Cho a ∈ H là một vectơ khác 0 và α ∈ R Tập hợp

x : aTx ≥ α được gọi là nửa không gian đóng và tập {x : aTx > α}gọi là nửa không gian mở

Định nghĩa 1.7 ([1]) Một tập D được gọi là tập lồi nếu với mọi a, b ∈ D

Định nghĩa 1.10 ([2]) Cho D ⊆ H là một tập lồi và x0 ∈ D Tập

ND(x0) := w ∈ H : hw, x − x0i ≤ 0, ∀x ∈ D ,được gọi là nón pháp tuyến ngoài của D tại x0 và tập −ND(x0) được gọi

là nón pháp tuyến trong của D tại x0

Hiển nhiên 0 ∈ ND(x0) và dùng định nghĩa ta có ND(x0) là một nónlồi đóng

Định nghĩa 1.11 ([2]) Cho D là một tập lồi và f : D → R ∪ {+∞}.Hàm f được gọi là:

• lồi trên D nếu

f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y), ∀x, y ∈ D, 0 < λ < 1;

• lồi chặt nếu

f (λx + (1 − λ)y) < λf (x) + (1 − λ)f (y), ∀x, y ∈ D, x 6= y, 0 < λ < 1.Hàm f được gọi là lõm (lõm chặt) nếu hàm −f là lồi (lồi chặt)

Hàm f : X → (−∞, +∞] được gọi là hàm có giá trị thực mở rộng.Tập

domf := {x ∈ X : f (x) < ∞}

gọi là miền xác định của f Đồ thị và trên đồ thị trên của f được xácđịnh bởi

grf := {(x, f (x)) : x ∈ domf },epif := {(x, r) ∈ domf × R : r ≥ f (x)}

Các tập này đóng nếu hàm f là nửa liên tục dưới Nhắc lại rằng f :

X → (−∞, +∞] nửa liên tục dưới tại x nếu

lim inf

x 0 →xf (x0) ≥ f (x)

Tương đương với mọi  > 0, tồn tại δ > 0 sao cho y ∈ B(x; δ) nghĩa là

f (y) ≥ f (x) − , trong đó ∞ − r là ∞ khi r ∈ R

Hàm f là nửa liên tục trên tại x nếu −f là nửa liên tục dưới tại x.Hơn nữa, một hàm f liên tục tại x ∈ X, x hữu hạn và với mọi  > 0,tồn tại δ > 0 sao cho y ∈ B(x; δ) hay |f (x) − f (y)| ≤  Với f có giá trịhữu hạn, thì f là nửa liên tục trên và nửa liên tục dưới tại x

Nếu f là nửa liên tục dưới (tương ứng, nửa liên tục trên, liên tục) tạimọi x thuộc U ⊂ X mở, thì f được gọi là nửa liên tục dưới (tương ứng,nửa liên tục trên, liên tục) trên U

Ví dụ 1.2 Hàm a-phin f (x) := aTx + α, trong đó a ∈ H, α ∈ R Dễdàng kiểm tra được f là một hàm vừa lồi vừa lõm trên toàn không gian.Khi α = 0, thì hàm này được gọi là hàm tuyến tính

Định lí 1.4 ([2]) Cho f và g là hai hàm lồi trên tập lồi và D tương ứng.Khi đó các hàm số αf + βg với α, β là các hằng số dương và max{f, g}cũng lồi trên D

Một hàm lồi có thể không liên tục tại một điểm trên biên miền xácđịnh của nó, tuy nhiên nó liên tục tại mọi điểm trong của tập đó theođịnh lí sau

Định lí 1.5 ([2]) Một hàm lồi f xác định trên tập lồi D thì f liên tụctại mọi điểm trong của D

Ta ký hiệu F (D), trong đó S ⊆ X là mở, là lớp các hàm f : X →(−∞, ∞] nửa liên tục dưới trên tập D và domf ∩ D 6= ∅ Nếu D = X,

ký hiệu F thay cho F (X)

Gọi S là tập con của X Hàm chỉ của S, được cho bởi IS(·) hoặcI(·; S), là hàm được xác định bởi

Mệnh đề sau đây cho ta một số tính chất cơ bản khác của hàm lồi Chú

ý rằng X × R, là không gian trong đó có epif , luôn luôn được xem như làmột không gian Hilbert với tích vô hướng h(x, r), (x0, r0)i := hx, x0i + rr0.Mệnh đề 1.3 Giả sử f : X → (−∞, +∞]

(a) Hàm f là nửa liên tục trên trong X nếu và chỉ nếu epif là đóngtrong X × R, hoặc nếu và chỉ nếu mỗi tập {x : f (x) ≤ r}, đóng,

r ∈ R Lưu ý rằng grf không nhất thiết đóng khi f là nửa liên tụcdưới

(b) Hàm f là lồi trên X nếu và chỉ nếu epif là tập con lồi của X × R.(c) Khi f là một hàm chỉ, f = IS, f ∈ F (X) nếu S khác rỗng và đóng,thì f lồi nếu S lồi

(d) Giả sử rằng (ζ, −λ) ∈ X × R thuộc NepifP (x, r) với (x, r) ∈ epif ,trong đó f ∈ F Khi đó λ ≥ 0, r = f (x) nếu λ > 0, và λ = 0 nếu

r > f (x) Trong trường hợp này, ta có (ζ, 0) ∈ NepifP (x, f (x))

(e) Tồn tại f ∈ F (R) liên tục sao cho với mỗi x chúng ta có (1, 0) ∈

NepifP (x, f (x))

(f) Nếu S = epif , trong đó f ∈ F , với mọi x, thì dS(x, r) là hàm khôngtăng của r.

trong đó giới hạn tồn tại

Định nghĩa 1.13 Ta nói rằng f khả vi Gâteaux tại x, nếu giới hạn (1.2)tồn tại với mọi v ∈ X, và tồn tại duy nhất phần tử duy nhất fG0 (x) ∈ Xthỏa mãn

f0(x; v) := hfG0 (x), vi ∀v ∈ X (1.3)Khi đó, ta gọi fG0 (x) ∈ X là đạo hàm Gâteaux của f tại x

Một phiếm hàm có thể có đạo hàm theo hướng tại x theo mọi hướngnhưng không tồn tại đạo hàm Gâteaux, chẳng hạn f (x) = kxk tại x = 0.Khi đó, đạo hàm theo hướng v bất kì tại 0 là f0(0; v) = kvk Ngoài ra,các hàm nửa liên tục dưới có thể có đạo hàm Gâteaux tại x nhưng chưachắc liên tục tại điểm này

Định nghĩa 1.14 Giả sử (1.3) đúng tại điểm x, và giới hạn trong (1.2)hội tụ đều theo v trên các tập con bị chặn của X Khi đó ta nói f khả

vi Fréchet tại x, ký hiệu f0(x) là đạo hàm Fréchet thay cho fG0 (x) Điềunày có nghĩa là, với mọi r > 0 và  > 0, tồn tại δ > 0 sao cho

f (x + tv) − f (x)

t − hf0(x), vi

< thỏa mãn với mọi |t| < δ và kvk ≤ r

Từ các định nghĩa trên ta thấy rằng, nếu f khả vi Fréchet tại x thì

f cũng khả vi Gâteaux tại x Hơn nữa, nếu f khả vi Fréchet tại x thì fcũng liên tục tại điểm này, tuy nhiên điều này có thể không còn đúngcho tính khả vi Gâteaux

Mệnh đề 1.4 Giả sử f, g : X → R có đạo hàm Fréchet tại x ∈ X Khi

đó, f ± g, f g và f /g (g(x) 6= 0) có đạo hàm Fréchet tại x và khi đó:a) (f ± g)0(x) = f0(x) ± g0(x);

Định lí 1.6 Giả sử f ∈ F (X) là khả vi Gâteaux trên một tập mở chứađoạn thẳng [x, y] := {tx + (1 − t)y : 0 ≤ t ≤ 1}, ở đó x, y ∈ X Tức là,tồn tại tập U mở chứa [x, y] sao cho f khả vi tại mọi điểm của U Khi

đó tồn tại z := tx + (1 − t)y, 0 < t < 1, sao cho

f (y) − f (x) = hfG0 (z), y − xi

Tiếp theo, ta mở rộng các khái niệm đạo hàm cho các ánh xạ giữahai không gian Hilbert Giả sử X1, X2 là không gian Hilbert với chuẩntương ứng là k · k1, k · k2, và ánh xạ F : X1 → X2 Ký hiệu L(X1, X2)

là ánh xạ tuyến tính bị chặn từ X1 đến X2 với chuẩn của toán tử thôngthường Trường hợp X2 = R, thì L(X1, R) đồng nhất với X1

Định nghĩa 1.15 Cho x ∈ X1 Đạo hàm Gâteaux của F tại x là phần

Nếu giới hạn trên là đều theo v trên các tập bị chặn của X1, thì Fkhả vi Fréchet và ký hiệu F0(x) thay cho FG0(x)

Tương tự như trường hợp vô hướng, đạo hàm của tổng hai ánh xạ từ

X1 đến X2 là tổng của các đạo hàm

Chúng ta có quy tắc đạo hàm của hàm hợp sau đây

Định lí 1.7 Giả sử X1, X2 và X3 là các không gian Hilbert, và F :

X1 → X2, G : X2 → X3 Giả sử rằng F , G tương ứng khả vi Fréchet tại

x ∈ X1 và F (x) ∈ X2 Khi đó, G ◦ F : X1 → X3 khả vi Fréchet tại x và

(G ◦ F )0(x) = G0(F (x))F0(x),trong đó G0(F (x))F0(x) ∈ L(X1, X3) là hợp thành của F0(x) với G0(F (x)).Giả sử U ⊂ X mở và f : U → R khả vi Fréchet trên U Nếu f0(·) :

U → X liên tục trên U , ta nói rằng f là C1 trên U , và viết f ∈ C1(U )

Định lí 1.8 Giả sử ánh xạ f0(·) : U → X khả vi Fréchet trên U, có đạohàm tại x ∈ U ký hiệu là f00(x) ∈ L(X, X) Khi đó, với mỗi x ∈ U , thì

f có khai triển Taylor bậc hai địa phương tại x, nghĩa là tồn tại lân cậnB(x; η) của x sao cho mỗi y ∈ B(x; η) ta có

f (y) = f (x) + hf0(x), y − xi + 1

2hf00(z)(y − x), y − xi,trong đó z ∈ [x, y]

Nếu chuẩn f00(y) bị chặn với y ∈ B(x; η) bởi hằng số 2σ > 0, thì

f (y) ≥ f (x) + hf0(x), y − xi − σky − xk2 (1.4)với mọi y ∈ B(x; η)

Nếu f00 : X → L(X, X) liên tục trên U , khi đó f khả vi liên tục cấphai trên U , và ký hiệu f ∈ C2(U ), hoặc f ∈ C2 nếu U = X

Chú ý rằng nếu f ∈ C2(U ), thì với mỗi x ∈ U tồn tại lân cận B(x; η)

và hằng số σ để (1.4) đúng, vì f00 liên tục tại x nên chuẩn của f00 bị chặntrong lân cận của x

Kết luận chương 1

Trong chương này chúng tôi nhắc lại các khái niệm cơ bản về giải tíchlồi trong không gian Hilbert Các nội dung chính của chương này baogồm:

• Các khái niệm cơ bản của không gian Hilbert;

• Các khái niệm về tập lồi, hàm lồi và một số tính chất của tập lồi,hàm lồi;

• Các khái niệm đạo hàm cổ điển và các phép toán về đạo hàm.

Chương 2 Phép toán gần kề

Trong chương này, chúng tôi trình bày về phép toán gần kề trongkhông gian Hilbert Các nội dung trình bày trong chương này chủ yếudựa trên chương 1 của tài liệu [5]

Hình 2.1: Tập S và một số điểm biên của S.

b) Tập hợp tất cả các pháp tuyến gần kề ζ có thể có của S tại s đượcgọi là nón pháp tuyến gần kề của S tại s, và được ký hiệu NSP(s)

Ta thấy, NSP(s) thực sự là một nón vì nó đóng với phép nhân với vôhướng không âm

Giả sử s ∈ S sao cho s /∈ projS(x) với mọi x /∈ S Khi đó ta đặt

NSP(s) = {0} Ta không xét NSP(s) nếu s /∈ S

Trong Hình 2.1, tại các điểm s3 và s5 có các nón pháp tuyến gần kềbằng {0}, và các điểm s1, s2, s7, s8 có ít nhất hai vectơ độc lập trongcác nón pháp tuyến gần kề của chúng Các điểm biên còn lại của S cónón pháp tuyến gần kề là một véctơ khác không duy nhất

Ví dụ 2.1 Cho X là không gian Hilbert với cơ sở trực giao, đếm được

{ei}∞i=1, và tập hợp

S :=  i + 1

i ei : i ≥ 1

.Khi đó S đóng, và projS(0) = ∅

Bây giờ giả sử rằng s ∈ projS(x), theo định nghĩa ta thấy điều nàytương đương với

Từ các đánh giá trên, ta có mệnh đề sau

Mệnh đề 2.1 ([5, tr 24]) Gọi S là tập con khác rỗng của X, và cho

x ∈ X, s ∈ S Các phát biểu sau đây là tương đương:

nghĩa là, nếu x có điểm gần nhất s trong S, thì s + t(x − s) có duy nhấtmột điểm gần nhất trong S.

Chứng minh Bất đẳng thức trong a) đúng khi và chỉ khi bất đẳng thứcpháp tuyến gần kề (2.1) đúng với σ = 0 Do đó chứng minh phần thuậnđược trực tiếp suy ra từ Mệnh đề 2.2 a).

Ngược lại, lấy ζ ∈ NSP(s) và chọn σ > 0 như trong bất đẳng thứcpháp tuyến gần kề Cho s0 bất kỳ trong S Vì S lồi, nên

˜

s := s + t(s0− s) = ts0+ (1 − t)s ∈ Svới mỗi t ∈ (0, 1) Áp dụng bất đẳng thức pháp tuyến gần kề (2.1) cho

˜

s, ta được

hζ, t(s0− s)i ≤ σt2|s0 − s|2.Chia cả hai vế cho t và cho t → 0 ta có bất đẳng thức cần chứng minh

Để chứng minh b), lấy {si} là dãy trong S hội tụ về s sao cho NP

S(si) 6={0} với mọi i Từ Mệnh đề 2.1(d) suy ra dãy như thế tồn tại Gọi

(ζ, −1) ∈ NepifP (x, f (x))

Tập hợp tất cả các dưới gradient gần kề ζ được ký hiệu là ∂Pf (x), vàđược gọi là dưới gradient gần kề hoặc dưới vi phân gần kề, hoặc P-dướigradient của f

Lưu ý rằng, nếu α > 0 và (ζ, −α) ∈ Nepi f(x, f (x)), thì ζ/α ∈ ∂Pf (x),suy ra ∂Pf (x) là lồi, tuy nhiên tập này không nhất thiết là mở, đóng,hoặc khác rỗng Chẳng hạn, hàm f : R → R xác định bởi f (x) = −|x|

là hàm có ∂Pf (0) = ∅

Ví dụ 2.2 Lấy f = IS Khi đó, đối với x ∈ S ta có

∂Pf (x) = ∂PIS(x) = NSP(x)

Tiếp theo, tương tự như các phép toán và tính chất đối với đạo hàm

cổ điển, ta trình bày các kết quả đó cũng được mở rộng cho dưới vi phângần kề ∂Pf (x)

Mệnh đề 2.4 ([5, tr 30]) Giả sử f ∈ F Khi đó:

(a) Nếu f cực tiểu địa phương tại x, thì 0 ∈ ∂Pf (x)

(b) Nếu S ⊂ X compact và S ∩ domf 6= ∅, thì f bị chặn dưới trên S,

và f đạt cực tiểu trên S

Một tính chất quan trọng của dưới vi phân gần kề được sử dụng rấtrộng rãi trong các áp dụng, đó là bất đẳng thức dưới gradient gần kề,bất đẳng thức này được thiết lập qua định lí dưới đây

Định lí 2.1 ([5, tr 33]) Cho f ∈ F và cho x ∈ dom(f ) Khi đó

ζ ∈ ∂Pf (x) nếu và chỉ nếu tồn tại các số σ, η > 0 sao cho

f (y) ≥ f (x) + hζ, y − xi − σky − xk2, ∀y ∈ B(x; η) (2.2)Chứng minh Trước tiên, chứng minh phần thuận Từ bất đẳng thức(2.2), suy ra

α − f (x) + σky − xk2 + (α − f (x))2 ≥ hζ, y − xi

với mọi y ∈ B(x; η) và mới mọi α ≥ f (y) Điều này kéo theo

h(ζ, −1), [(y, α) − (x, f (x))]i ≤ σ k(y, α) − (x, f (x))k2

với mọi (y, α) ∈ epi(f ) gần (x, f (x)) Theo Mệnh đề 2.2, ta suy ra(ζ, −1) ∈ Nepi fP (x, f (x))

Ngược lại, giả sử rằng (ζ, −1) ∈ Nepi fP (x, f (x)) Khi đó, theo Mệnh

đề 2.1, ta có tồn tại δ > 0 sao cho

(x, f (x)) ∈ projepif((x, f (x)) + δ(ζ, −1))

Suy ra

kδ(ζ, −1)k2 ≤ k [(x, f (x)) + δ(ζ, −1)] − (y, α)k2

với mọi (y, α) ∈ epif ; (xem hình 2.2) Lấy α = f (y), từ bất đẳng thứctrên ta có

δ2kζk2 + δ2 ≤ kx − y + δζk2 + (f (x) − f (y) − δ)2,hay

|g00| ≤ 2σ,trong lân cận của x Nếu η nhỏ hơn nữa, ta có

g(y) ≥ g(x) + hζ, y − xi − σky − xk2∀y ∈ B(x; η)

Từ (2.4) và do f (x) = g(x), ta có

f (y) ≥ f (x) + hζ, y − xi − σky − xk2∀y ∈ B(x; η)

Điều này suy ra (2.2)

Từ Định lý 2.1, ta thấy rằng cách tiếp cận dưới vi phân gần kề bởitính nửa liên tục dưới của hàm hữu ích hơn bằng cách sử dụng địnhnghĩa Hệ quả sau minh họa phát biểu này và cho ta mối liên hệ giữadưới vi phân gần kề ∂Pf và tính khả vi cổ điển

Hình 2.2: ζ phụ thuộc ∂Pf (x)

Hệ quả 2.1 ([5, tr 35]) Cho f ∈ F và U ⊂ X mở

(a) Giả sử f khả vi Gateaux tại x ∈ U Thì ∂Pf (x) ⊆ {fG0 (x)}

(b) Nếu f ∈ C2(U ), thì ∂Pf (x) = {f0(x)} với mọi x ∈ U

(c) Nếu f lồi, thì ζ ∈ ∂Pf (x) nếu và chỉ nếu

f (y) ≥ f (x) + hζ, y − xi ∀y ∈ X (2.5)Chứng minh (a) Giả sử f có đạo hàm Gâteaux tại x và ζ ∈ ∂P f (x).Với v ∈ X, đặt y = x + tv, từ bất đẳng thức dưới gradient gần kề(2.2), suy ra tồn tại σ > 0 sao cho

f (x + tv) − f (x)

t − hζ, vi ≥ −tσkvk2với t dương đủ nhỏ Cho t → 0 ta có

hfG0 (x) − ζ, vi ≥ 0

f (y) ≥ f (x) + kζ, y − xk − tσky − zk2.Cho t → 0 suy ra (2.5).

Hệ quả 2.2 ([5, tr 37]) Giả sử f ∈ F

(a) Nếu f cực tiểu địa phương tại x, thì 0 ∈ ∂Pf (x)

(b) Ngược lại, nếu f lồi và 0 ∈ ∂Pf (x), thì x là cực tiểu toàn cục củaf

Chứng minh (a) Từ định nghĩa về cực tiểu địa phương, tồn tại η > 0sao cho

f (y) ≥ f (x) ∀y ∈ B(x; η)

Đây là bất đẳng thức dưới gradient với ζ = 0 và σ = 0 Do đó từĐịnh lý 2.1 suy ra 0 ∈ ∂Pf (x).

(b) Vì giả thiết (2.5) đúng với ζ = 0, nên f (y) ≥ f (x) với mọi y ∈ X,hay x là cực tiểu toàn cục của f

Đối với các hàm nửa liên tục trên f , ta có trên vi phân gần kề ∂Pf (x)được định nghĩa là −∂P(−f )(x) Khi đó ta có kết quả sau

Mệnh đề 2.5 ([5, tr 37])

(a) Giả sử −f ∈ F và x ∈ dom(−f ) Khi đó ζ ∈ ∂Pf (x) nếu tồn tạicác số dương σ và η sao cho

f (y) − hζ, y − xi − σky − xk2 ≤ f (x) , ∀y ∈ B(x; η)

(b) Giả sử U ⊂ X mở, x ∈ U , f : U → R liên tục trên U , ∂Pf (x) và

∂Pf (x) là khác rỗng Khi đó, f khả vi Fréchet tại x, và ∂Pf (x) ={f0(x)} = ∂Pf (x)

(c) Giả sử f ∈ F là lồi, liên tục tại x ∈ intdomf Khi đó, ∂Pf (x) 6= ∅,

và nếu ∂Pf (x) 6= ∅, thì f khả vi Fréchet tại x

2.3 Định lý trù mật và nguyên lý cực tiểu

2.3.1 Định lý trù mật

Trong mục này ta chỉ ra rằng tập dom(∂Pf ) là tập gồm tất cả các điểmtrong domf mà tại đó tồn tại ít nhất một dưới gradient gần kề là trùmật trong domf

Định lí 2.2 ([5, tr 39]) Giả sử f ∈ F Cho x0 ∈ domf và ε > 0 Khi

đó tồn tại y ∈ x0+εB thỏa mãn ∂Pf (y) 6= ∅ và f (x0)−ε 6 f (y) 6 f (x0).Hay, dom(∂Pf (y)) trù mật trong domf

Chứng minh Do f nửa liên tục dưới, tồn tại δ, 0 < δ <  sao cho

Theo (2.6), ta chứng minh f (y) ≤ f (x0) Ta có y là cực tiểu của f + g

và g(x0) ≤ g(y), do đó

f (y) ≤ f (x0) + (g(x0) − g(y)) ≤ f (x0)

Định lý được chứng minh trong trường hợp X là hữu hạn chiều

Trong trường hợp X vô hạn chiều, việc chứng minh sẽ phức tạp hơn

vì điểm cực tiểu có thể không tồn tại Tuy nhiên, phương pháp lặp sẽdẫn đến sự tồn tại cực tiểu

Chọn δ sao cho (2.6) thỏa mãn, ta lấy σ > 2/δ2 Ta chỉ ra rằng tồntại một điểm z ∈ x0 + δB sao cho hàm x 7→ f (x) + σkx − zk2 có cựctiểu trên x0 + δB tại điểm y ∈ x0 + δB thỏa mãn f (y) ≤ f (x0) Cácđiểm y và z như thế là tồn tại, và chứng minh do đó được hoàn thành.

Vì y cực tiểu, ta có 0 ∈ ∂P(f + k(·) − zk2)(y), theo Mệnh đề 2.10 ta có

−2σ(y − z) ∈ ∂Pf (y) Ngoài ra, f (x0) −  ≤ f (y) ≤ f (x0) được suy ra

suy ra (2.7) Vì f nửa liên tục dưới nên S0 đóng (xem Ví dụ 1.3(a)) Nếu

S0 chỉ chứa một điểm y, thì y = x0, khi đó x0 là cực tiểu của

x 7→ f (x) + σkx − x0k2trên x ∈ x0 + δB, ta có điều phải chứng minh

Vì đây không phải là trường hợp tổng quát, ta sử dụng phương pháplặp để tạo ra các tập nhỏ hơn và đến y

Cho x1 ∈ S0 sao cho

Vì x1 ∈ S1, nên S1 khác rỗng Lặp lại, và nếu x1 là điểm duy nhất trong

4j+1,(2.8)

Ta chỉ cần chỉ ra rằng sup{kx − x0k : x, x0 ∈ Sj} =: diam(Sj) → 0 khi

j → ∞, khi đó theo Định lý Cantor suy ra {Sj} có một điểm chung duynhất

Để kết thúc chứng minh, lấy x ∈ Sj+1 Khi đó, với mỗi j ≥ 0, theo(2.9) và (2.8) ta có

σ2

sup

x∈Sj+1

kx − xj+1k ≤ 2−j/2,

và limj→∞diam(Sj) = 0 Vì không gian Hilbert X là đầy đủ, nên tồn tại

Ta chứng minh y cực tiểu x 7→ f (x) + σkx − zk2 trên x0 + δB Vì

xj+1 ∈ Sj với mọi j, nên

Ví dụ 2.1 Cho X không gian Hilbert với sở trực giao, đếm... ta mở rộng khái niệm đạo hàm cho ánh xạ giữahai không gian Hilbert Giả sử X1, X2 không gian Hilbert với chuẩntương ứng k · k1, k · k2, ánh xạ... NepifP (x, f (x))

Tập hợp tất gradient gần kề ζ ký hiệu ∂Pf (x), và? ?ược gọi gradient gần kề vi phân gần kề, P-dướigradient f

Lưu ý rằng, α > (ζ, −α) ∈ Nepi