Các đặc trưng bậc hai của hàm lồi và hàm giả lồi

LỜI CẢM ƠNEm xin được gửi lời cảm ơn tới các thầy cô giáo trường Đại học Sưphạm Hà Nội 2, các thầy cô giáo khoa Toán đã giúp đỡ em trong quá trìnhhọc tập tại trường và tạo điều kiện cho

TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

LỜI CẢM ƠN

Em xin được gửi lời cảm ơn tới các thầy cô giáo trường Đại học Sưphạm Hà Nội 2, các thầy cô giáo khoa Toán đã giúp đỡ em trong quá trìnhhọc tập tại trường và tạo điều kiện cho em hoàn thành đề tài khóa luận tốtnghiệp

Đặc biệt em xin bày tỏ lòng biết ơn sâu sắc tới thầy Nguyễn VănTuyên, người thầy đã truyền thụ kiến thức, tận tình giúp đỡ, hướng dẫn emtrong suốt quá trình học tập, nghiên cứu và hoàn thiện khóa luận này

Trong quá trình nghiên cứu, không tránh khỏi nhưng sai sót và hạn chế

Em kính mong nhận được sự đóng góp ý kiến của các thầy giáo, cô giáo vàtoàn thể bạn đọc để khóa luận được hoàn thiện hơn

Em xin chân thành cảm ơn!

Hà Nội, tháng 5 năm 2019Sinh viên

Khổng Thị Tươi

LỜI CAM ĐOAN

Em xin cam đoan dưới sự hướng dẫn của thầy giáo Nguyễn VănTuyên khóa luận của em được hoàn thành không trùng với bất kì đề tài nàokhác

Trong khi làm khóa luận này, em đã kế thừa thành quả khoa học củacác nhà khoa học với sự trân trọng và biết ơn

Hà Nội, tháng 5 năm 2019Sinh viên

Khổng Thị Tươi

Mục lục

1.1 Tập lồi 41.2 Hàm lồi 7

2 Các đặc trưng bậc hai của hàm lồi và hàm giả lồi 132.1 Các đặc trưng bậc hai của hàm lồi 142.2 Các đặc trưng của hàm giả lồi 18

Mở đầu

Hàm lồi là một lớp hàm cơ bản và quan trọng trong lý thuyết tối ưu cũngnhư trong các ứng dụng Như chúng ta biết rằng, đối với trường hợp các hàmlồi khả vi thì ta có thể đưa ra các đặc trưng hình học cần và đủ cho tính lồi.Đối với các hàm khả vi liên tục đến cấp hai thì tính lồi có thể được đặc trưngthông qua tính nửa xác định dương của ma trận Hess của các hàm số này

Với các hàm không khả vi, chúng ta biết rằng tính lồi của hàm số cóthể được đặc trưng thông qua tính đơn điệu cực đại của toán tử dưới vi phâncủa hàm số này Một cách tiếp cận khác trong trường hợp không trơn để đặctrưng tính lồi đó là sử dụng các đạo hàm suy rộng theo hướng theo nghĩa củaDini

Trong khóa luận này, chúng tôi sẽ trình bày một số đặc trưng của tínhlồi qua các đạo hàm bậc nhất và bậc hai theo hướng của Dini của các hàmnửa liên tục trên theo tia Một số đặc trưng của tính giả lồi qua các đạo hàmnày cũng được chúng tôi khảo sát trong khóa luận này Các kết quả chínhcủa khóa luận được dựa trên bài báo của Ginchev và Ivanov [4]

Ngoài phần mở đầu, kết luận và tài liệu tham khảo, khóa luận gồm haichương

Chương 1 trình bày một số kiến thức chuẩn bị Nội dung chính củachương này là trình bày một số kiến thức cơ bản của giải tích lồi như tập lồi

Định nghĩa 1.1 Một tập X ⊂ Rn được gọi là lồi nếu với mọi x1 ∈ X và

x2 ∈ X nó chứa mọi điểm

αx1 + (1 − α)x2, 0 < α < 1

Tính lồi được bảo toàn qua phép toán giao

Bổ đề 1.1 Cho I là một tập chỉ số tùy ý Nếu các tập Xi ∈ Rn, i ∈ I, là cáctập lồi, thì tập X = T

i∈I

Xi 6= ∅ Khi đó, ∀x, y ∈ T

i∈I

Xi, ∀t ∈ (0; 1), ta suy ra x, y ∈ Xi, ∀i ∈ I Vìvậy, (1 − t)x + ty ∈ Xi, ∀i ∈ I và (1 − t)x + ty ∈ T

i∈I

Xi, ∀i ∈ I Vây X là tậplồi

Tính lồi còn được bảo toàn qua một số phép toán sau.

Phép nhân một tập X ⊂ Rn với một vô hướng c được định nghĩa bởi:

cX := {y ∈ Rn : y = cx, x ∈ X}

Tổng Minkowski của hai tập được định nghĩa như sau:

X + Y := {z ∈ Rn : z = x + y, x ∈ X, y ∈ Y } Các phép toán trên bảo toàn bằng tính lồi

Bổ đề 1.2 Cho X và Y là tập lồi trong Rn và cho c và d là các số thực Khi

đó tập Z = cX + dY là lồi

Chứng minh Nếu z1 ∈ Z thì z1 = cx1 + dy1 với x1 ∈ X và y1 ∈ Y Tương

tự, z2 ∈ Z có dạng z2 = cx2 + dy2 với x2 ∈ X và y2 ∈ Y Khi đó, với mỗi

α ∈ [0, 1],

αz1 + (1 − α)z2 = c(αx1 + (1 − α)x2) + d(αy1 + (1 − α)y2) ∈ Z,

thỏa mãn yêu cầu

Định nghĩa 1.2 Một điểm x được gọi là tổ hợp lồi của các điểm x1, , xmnếu tồn tại α1 ≥ 0, , αm ≥ 0 sao cho

x = α1x1 + α2x2 + · · · + αmxm

và

α1 + α2 + · · · + αm = 1

Định nghĩa 1.3 Bao lồi của tập X kí hiệu là conv X là giao của tất cả cáctập lồi chứa X

Mối quan hệ của hai khái niệm này là nội dung của bổ đề tiếp theo

Bổ đề 1.3 Tập conv X là tập hợp tất cả các tổ hợp lồi của các điểm thuộcX

Chứng minh Xét tập Y của tất cả các tổ hợp lồi của các phần tử thuộc XNếu y1 ∈ Y và y2 ∈ Y , thì

được chứa trong mỗi tập lồi chứa X Do đó, conv X ⊃ Y , điều phải chứngminh.

Bổ đề 1.4 Nếu X ⊂ Rn, thì mọi phần tử của conv X là tổ hợp lồi của khôngquá n + 1 điểm thuộc X

Chứng minh Cho x là một tổ hợp lồi của m > n + 1 điểm thuộc X Ta chỉ

ra rằng m có thể bị giảm đi một đơn vị Nếu αj = 0 với một vài j, thì ta cóthể xóa đi điểm thứ j đó và hoàn thành Vì vậy giả sử tất cả αi dương Vì

m > n + 1, tồn tại các số γ1, γ2, , γm, không đồng thời bằng 0, do đó

γ1





x11

γj > 0 do tổng của chúng bằng không Đặt ¯αi = αi − τ γj, i = 1, 2, , m.Theo (1.1), ta có Pm

Định nghĩa 1.4 Một hàm số f được gọi là lồi nếu epif là một tập lồi.Định nghĩa 1.5 Một hàm f được gọi là lõm nếu −f lồi.

Định nghĩa 1.6 Một hàm f được gọi là chính thường nếu f (x) > −∞ vớimọi x và f (x) < +∞ với ít nhất một x

Bổ đề 1.5 Một hàm f là lồi khi và chỉ khi với mọi x1, x2 và 0 ≤ α ≤ 1 tacó

f (αx1 + (1 − α)x2) ≤ αf (x1) + (1 − α)f (x2) (1.2)Định nghĩa 1.7 Một hàm f được gọi là lồi chặt nếu bất đẳng thức (1.2) làchặt với mọi x1 6= x2 và 0 < α < 1

Cho f : Rn → R là một hàm lồi và cho x ∈ domf Khi đó với mỗi

được gọi là đạo hàm theo hướng d của f tại x

Bổ đề 1.6 Với mỗi x ∈ domf và mỗi d ∈ Rn giới hạn trong (1.3) tồn tại(hữu hạn hoặc vô hạn) Nếu x ∈ int domf , thì f0(x; d) là hữu hạn với mọi d

Bây giờ ta giả sử hàm f : Rn → R là khả vi Kí hiệu ∇f(x) cho gradientcủa hàm f tại x,

ở đây x1, x2, , xn biểu thị tọa độ của vectơ x

Định lý sau cho ta một đặc trưng của hàm lồi khả vi

8

Định lý 1.1 Giả sử rằng hàm f khả vi liên tục Khi đó

(i) f lồi nếu và chỉ nếu với mọi x và y

f (y) ≥ f (x) + h∇f (x), y − xi; (1.4)

(ii) f lồi chặt nếu và chỉ nếu với mọi x 6= y

f (y) > f (x) + h∇f (x), y − xi (1.5)Chứng minh (i) Giả sử f là lồi nhưng tồn tại x và y sao cho

Cho α ↓ 0 Từ z = x + αd với d = y − x, vế trái của (1.6) hội tụ đến đạo hàm

có hướng của f tại x theo hướng d

f0(x; d) = h∇f (x), di,mâu thuẫn với (1.6)

Để chứng minh điều ngược lại, giả sử có (1.4) Lấy y và z là điểm tùy

ý, y 6= z, và x = αy + (1 − α)z với α ∈ (0, 1) Theo (1.4), ta có

f (v) < βf (x) + (1 − β)f (z) < f (x) + 1

2(1 − β)h∇f (x), y − xi

Vì v − x = (1 − β)(z − x) = 1

2(1 − β)(y − x), bất đẳng thức cuối cùng cónghĩa là

f (v) < f (x) + h∇f (x), v − xi,mâu thẫu với (1.4)

Để chứng minh (1.5) suy ra tính lồi chặt, ta sử dụng các lập luận tương

tự như chứng minh (i) với bất đẳng thức chặt

Nếu f khả vi liên tục đến cấp hai, thì ∇2f (x) được gọi là ma trận Hess

10

Định lý sau cho ta các đặc trưng bậc hai của tính lồi và lồi chặt.

Định lý 1.2 Giả sử f : Rn → R khả vi liên tục đến cấp hai Khi đó,

(i) f là lồi nếu và chỉ nếu ma trận Hess của nó ∇2f (x) là nửa xác địnhdương với mọi x ∈ Rn

(ii) Nếu ma trận Hess ∇2f (x) là xác định dương với mọi x ∈ Rn, thì f lồichặt

Chứng minh Nếu f khả vi liên tục đến cấp hai, thì ∀x và ∀y ta có

Lấy y = x + d với  > 0 Nếu  đủ bé, khi đó y và xθ sẽ gần với x Do tínhliên tục của ∇2f , nên

hd, ∇2f (xθ)di < 0,với  đủ bé Tuy nhiên số hạng bậc hai ở (1.8) âm và ta nhận được mâu thuẫnvới (1.4)

12

Cho E là một không gian tuyến tính thực và X ⊂ E là một tập lồi.Nhắc lại rằng, một hàm số f : X → R được gọi là nửa liên tục trên theo tianếu hàm ϕ(t) = f (x + t(y − x)), t ∈ [0, 1] là nửa trên liên tục với mọi x, y ∈ X.

Gọi f : E → R là mở rộng của f sao cho f (x) = +∞ với x ∈ E \ X.Trên đạo hàm theo hướng Dini trên của f tại x ∈ X = conv f theo hướng

u ∈ E được định nghĩa là một phần tử của R bởi:

mà ở đó f+0 (x; u) hữu hạn, được xác định bởi:

f+00(x; u) := lim sup

t↓0

2t−2(f (x + tu) − t.f+0 (x; u))

Trong trường hợp f+0 (x; u) vô hạn thì f+00(x; u) không được xét ở đây

Cho một tập lồi X ⊂ E Hàm số f : X → R được gọi là hàm lồi mạnh nếutồn tại một hằng số κ > 0 sao cho với mọi x, y ∈ X, λ ∈ [0, 1], ta có:

f (λ.y + (1 − λ)x) ≤ λ.f (y) + (1 − λ)f (x) − κλ(1 − λ)||y − x||2

Ta xét các điều kiện sau đây:

(C1) : f+0 (x; u) + f+0 (x; −u) ≤ 0 nếu vế trái của biểu thức có nghĩa;

(C2) : f+0 (x; u) + f+0 (x; −u) = 0 kéo theo f+00(x, u) ≤ 0;

(C3) : f+0 (x; u) + f+0 (x; −u) = 0 kéo theo f+00(x; u) ≤ 2κ||u||2;

(C4) : f+0 (x; u) + f+0 (x; −u) = 0 kéo theo f+00(x; u) > 0

Định lí sau đây đưa ra các đặc trưng khác nhau của các hàm lồi

Định lý 2.1 Cho hàm số f : X → R là nửa liên tục trên theo tia trên tậplồi X ⊂ E Khi đó:

(i) f lồi trên X khi và chỉ khi điều kiện (C1) và (C2) đúng với mọi x ∈ X

và u ∈ E

(ii) f lồi mạnh trên X với hằng số κ > 0 khi và chỉ khi điều kiện (C1) vàđiều kiện (C3) đúng với mọi x ∈ X và u ∈ E

14

(iii) Nếu điều kiện (C1) và (C4) đúng với mọi x ∈ X và u ∈ E \ {0}, thì f làlồi chặt trên X.

Chứng minh (i) Giả sử f là hàm lồi Khi đó hàm mở rộng f cũng là hàm lồi

Bây giờ chúng ta đi kiểm tra điều kiện (C2) Nếu f+0 (x; u) là hữu hạn,thì với mọi t > 0 đủ nhỏ, x + tu ∈ X và f+0 (x; u) trùng với đạo hàm theohướng f0(x; u) Từ bất đẳng thức:

f (x + tu) − f (x) − t.f0(x; u) ≥ 0

ta có f00(x; u) ≤ 0 Nếu f+0 (x; u) là vô hạn, thì f+0 (x; u) + f+0 (x; −u) không thểbằng 0

Ngược lại, giả sử rằng điều kiện (C1) và (C2) đúng với mọi x ∈ X và

u ∈ E Lấy x, y ∈ X và ε > 0 Định nghĩa hàm số: ψ : [0, 1] → R bởi

ψ(t) = f (x + t(y − x)) − εt(1 − t) − f (x)(1 − t) − f (y)t, 0 ≤ t ≤ 1

Rõ ràng hàm ϕ là hữu hạn và ϕ(0) = ϕ(1) = 0 Do hàm số ϕ cũng là hàmnửa liên tục trên, nên theo định lí Weierstrass nó đạt giá trị lớn nhất trên

đoạn [0, 1] tại một điểm ξ nào đó Chúng ta sẽ chỉ ra rằng ξ ∈ {0, 1} Thậtvậy, giả sử ngược lại rằng 0 < ξ < 1 Bằng các tính toán và sử dụng tính chấtcực trị của ξ ta có các bất đẳng thức sau:

ψ0+(ξ; 1) = f+0 (x + ξ(y − x); y − x) − ε(1 − 2ξ) + f (x) − f (y) ≤ 0,

ψ+0 (ξ; −1) = f+0 (x + ξ(y − x); x − y) − ε(1 − 2ξ) − f (x) + f (y) ≤ 0

Những bất đẳng thức trên cho thấy rằng nếu f+0 (x + ξ(y − x); y − x) hoặc

f+0 (x + ξ(y − x); x − y) lấy giá trị là vô hạn, thì giá trị đó chỉ có thể là −∞,

do đó, f+0 (x + ξ(y − x); y − x) + f+0 (x + ξ(y − x); x − y) có nghĩa và kết hợpvới điều kiện (C1), chúng ta có:

ψ+0 (ξ; 1) + ψ+0 (ξ; −1) = f+0 (x + ξ(y − x); y − x) + f+0 (x + ξ(y − x); x − y) ≤ 0

Bất đẳng thức thu được cùng với bất đẳng thức ψ+0 (ξ; 1) ≤ 0 và ψ+0 (ξ; −1) ≤ 0kéo theo ψ0+(ξ; 1) = ψ0+(ξ; −1) = 0 Do đó,

f+0 (x + ξ(y − x)y − x) + f+0 (x + ξ(y − x); x − y) = 0

Từ ψ+0 (ξ; 1) = 0 và điểm ξ là điểm cực đại của ψ, nên ta có:

Do đó, ψ không đạt giá trị lớn nhất trên khoảng (0, 1), điều đó có nghĩalà:

ψ(t) ≤ max{ψ(0), ψ(1)} = 0 với mọi t ∈ (0, 1)

Bất đẳng thức này có thể được viết dưới dạng

f ((1 − t)x + ty) ≤ εt(1 − t)f (x) + tf (y)

và chuyển qua giới hạn khi ε → 0 ta suy ra rằng f là một hàm lồi

(ii) Để điều chỉnh chứng minh trên cho trường hợp một hàm lồi mạnh,chúng ta chỉ áp dụng chứng minh trên bằng cách thay hàm ψ bởi hàm:

ψ1(t) = f (x + t(y − x)) − (ε − κ||y − x||2)t(1 − t) − f (x)(1 − t) − f (y)t

(iii) Chúng ta áp dụng lập luận tương tự như ở phần (i) cho hàm số:

tia không thể bỏ trong Định lí 2.1

Trong phần này chúng ta sẽ trình bày các đặc trưng của tính giả lồi Nhắclại rằng một hàm số f được xác định trên tập lồi X ⊂ E được gọi là giả lồi(chặt) Dini trên trên X nếu bất đẳng thức sau được thỏa mãn:

x, y ∈ X, f (y) < f (x) kéo theo f+0 (x; y − x) < 0(x, y ∈ X, f (y) ≤ f (x), x 6= y kéo theo f+0 (x; y − x) < 0.)

Để cho ngắn gọn chúng ta có thể bỏ từ “Dini trên” và nói đơn giản là “hàmgiả lồi” hoặc là “hàm giả lồi chặt”

Điểm x ∈ X được gọi là điểm dừng của hàm số f : X → R tương ứngvới trên đạo hàm theo hướng Dini nếu f+0 (x; u) ≤ 0, ∀u ∈ E

Hàm số f được gọi là hàm tựa lồi trên X nếu:

f ((1 − t)x + ty) ≤ max f (x), f (y), ∀t ∈ [0, 1]

Mệnh đề sau đây được giới thiệu bởi Komlosi [5] là một đặc trưng nổi tiếng

18

của các hàm giả lồi.

Mệnh đề 2.1 Cho f là một hàm tựa lồi nửa liên tục trên theo tia được xácđịnh trên một tập lồi mở X ⊂ Rn Nếu f đạt giá trị nhỏ nhất toàn cục tạibất kì một điểm dừng x của f , thì f là hàm giả lồi trên X

Để đặc trưng tính giả lồi, chúng tôi xét các điều kiện dưới đây:

(C5) : f+0 (x; u) = 0 kéo theo ∃δ > 0 : ∀t ∈ (0, δ), f (x) ≤ f (x + tu);

(C6) : f+0 (x; u) = 0 kéo theo ∃δ > 0 : ∀t ∈ (0, δ), f (x) < f (x + tu);

(ii1) Nếu điều kiện (C1) và điều kiện (C6) thỏa mãn ∀ ∈ X và u ∈ E \ {0},thì f là hàm giả lồi hoàn toàn

(Các điều kiện bậc hai)

(i2) Nếu f là hàm giả lồi, thì điều kiện (C7) và (C8) thỏa mãn với mọi x ∈ X

và u ∈ E Ngược lại, nếu các điều kiện (C1), (C7) và (C8) thỏa mãn với mọi

x ∈ X và u ∈ E, thì f là hàm giả lồi

(ii2) Nếu các điều kiện (C1) và (C9) thỏa mãn với mọi x ∈ X và u ∈ E \ {0},thì f là giả lồi chặt

Chứng minh Chúng ta chỉ chứng minh các điều kiện bậc hai, vì các điều kiệnthứ nhất có thể thu được một cách đơn giản từ các điều kiện này

(i2) Giả sử f là hàm giả lồi trên X Cố định x ∈ X và u ∈ E sao cho

f+0 (x; u) = 0 Khi đó f (x) ≤ f (x + tu) với mọi t ≤ 0 Thật vậy, giả sử ngượclại rằng tồn tại t > 0 sao cho f (x + tu) < f (x) Theo định nghĩa của hàm

f , x + tu ∈ X Do đó, tính thuần nhất dương của f+0 (x; ) mâu thuẫn với

f+0 (x; u) = 0 Do đó, điều kiện (C8) là thỏa mãn Bây giờ, điều kiện (C7) nhậnđược từ

ta sẽ có:

ϕ(ξ) = f ((1 − ξ)x + ξy) = max

0≤t≤1ϕ(t)

> max{ϕ(0); ϕ(1)} = max{f (x); f (y)} (2.1)

(Giá trị lớn nhất đạt được theo Định lí Weierstrass tổng quát từ f là hàmnửa liên tục trên theo tia) Từ tính cực đại của ξ, ta có:

f+0 (x + ξ(y − x); y − x) ≤ 0, f+0 (x + ξ(y − x); x − y) ≤ 0

Các bất đẳng thức đó và điều kiện (C1) kéo theo:

f+0 (x + ξ(y − x); y − x) = f+0 (x + ξ(y − x); x − y) = 0 (2.2)

20

Bây giờ tính cực đại của ξ và điều kiện (C7) kéo theo

ϕ(ξ∗) ≥ lim sup

ξ↑ξ ∗

ϕ(ξ) = ϕ(ξ) ≥ ϕ(ξ∗),

ở đó, ξ ↑ ξ∗ biểu thị ξ → ξ∗, ξ < ξ∗ Tương tự ϕ(ξ∗) = ϕ(ξ) Điều đó kéo theo

ξ∗ = 0 và ξ∗ = 1 Thật vậy, ξ∗ là một điểm cực đại của ϕ Nếu ξ∗ < 1, thì,

từ tính chất đã được chứng minh, tồn tại α, β, sao cho ξ∗ ∈ (α, β) ⊃ [0, 1]

và ϕ là hằng trên khoảng (α, β) Bây giờ ϕ là không đổi trên khoảng [ξ∗, β)điều này mâu thuẫn với cách chọn ξ∗ Vì vậy, ξ∗ = 1 Tương tự, ta có ξ∗ = 0

Do đó, ϕ là không đổi trên đoạn [ξ∗, ξ∗] = [0, 1] Tính ϕ không đổi trên đoạn[0, 1] mâu thuẫn với bất đẳng thức chặt (2.1) Do đó, f là tựa lồi

Bây giờ, chúng ta sẽ chứng minh rằng f là hàm giả lồi trên X Giả sửphản chứng tồn tại x, y ∈ X sao cho f (y) < f (x) và f+0 (x; y − x) ≥ 0 Dotính tựa lồi f+0 (x; y − x) = 0 Từ điều kiện (C7) và tính tựa lồi ta suy ra

f+00(x; y − x) = 0 Điều kiện (C8) và tính tựa lồi suy ra tồn tại δ > 0 sao cho:

f+00(x∗; y − x∗) = f (x + t(y − x)), ∀t ∈ [0, δ]

Đặt x∗ = (1 − t∗)x + t∗y, ở đó

t∗ = sup{t ∈ [0, 1] | ϕ là không đổi trên [0, t)}

Từ tính nửa liên tục trên và tính tựa lồi của hàm ϕ ta có

(ii2) Chứng minh của điều này có thể đơn giản nhận được tương tự nhưchứng minh (i1) Để chỉ ra tính chất tựa lồi chúng ta thấy rằng tính cực đạicủa ξ và đẳng thức (2.2) mâu thuẫn với điều kiện (C9) Để chứng minh tínhgiả lồi chặt, đẳng thức f+(x; y − x) = 0 và tính chất tựa lồi lại một lần nữamâu thuẫn với điều kiện (C9)

Định lí 2.1 tổng quát hóa một số kết quả nổi tiếng của Diewert, Avriel,Zang [3, Định lí 10,11 và Hệ quả 10.1, 11.1], của Crouzeix [2, Mệnh đề 3, 4

và Định lí 2] cho một hàm số khả vi theo hướng hoặc khả vi cấp hai liên tục

22