Tính dưới khả vi của hàm lồi suy rộng và ứng dụng

E Không gian BanachE∗ Không gian liên hợp của E E∗∗ Không gian liên hợp thứ hai của E hx∗, xi Giá trị x∗ của tại x hx, yi Tích vô hướng của hai vectơ x và y k.k Chuẩn trong không gian Ba

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

NGUYỄN ANH VĂN

TÍNH DƯỚI KHẢ VI CỦA HÀM LỒI

SUY RỘNG VÀ ỨNG DỤNG

Chuyên ngành: Toán giải tích

Mã số: 60 46 01 02

LUẬN VĂN THẠC SĨ TOÁN HỌC

Người hướng dẫn khoa học: PGS.TS Nguyễn Năng Tâm

Hà Nội - 2016

Tác giả xin trân trọng cảm ơn Ban giám hiệu trường Đại học Sưphạm Hà Nội 2, phòng Sau đại học, các thầy cô giáo trong nhà trường

và các thầy cô giáo dạy cao học chuyên ngành Toán giải tích đã giúp đỡ,tạo điều kiện thuận lợi cho tác giả trong suốt quá trình học tập

Tác giả xin chân thành cảm ơn

Hà Nội, ngày 5 tháng 7 năm 2016

Tác giả

Nguyễn Anh Văn

LỜI CAM ĐOAN

Luận văn được hoàn thành tại trường Đại Học Sư phạm Hà Nội 2dưới sự hướng dẫn của PGS TS Nguyễn Năng Tâm

Tôi xin cam đoan luận văn là công trình nghiên cứu của riêng tôi.Trong quá trình nghiên cứu và hoàn thành luận văn tôi đã kếthừa những thành quả khoa học của các nhà khoa học và đồng nghiệpvới sự trân trọng và biết ơn Tôi xin cam đoan rằng các thông tin tríchdẫn trong luận văn đã được chỉ rõ nguồn gốc

Hà Nội, ngày 5 tháng 7 năm 2016

Tác giả

Nguyễn Anh Văn

Mục lục

1.1 Không gian Banach 3

1.2 Tập lồi và hàm lồi 5

1.2.1 Tập lồi 5

1.2.2 Hàm lồi 10

1.3 Hàm lồi suy rộng 13

1.3.1 Hàm tựa lồi 13

1.3.2 Hàm giả lồi 22

2 Tính dưới khả vi của hàm lồi suy rộng 26 2.1 Tính dưới khả vi của hàm lồi 26

2.2 Tính dưới khả vi của hàm lồi suy rộng 32

2.2.1 Tính dưới khả vi của hàm tựa lồi 32

2.2.2 Tính dưới khả vi của hàm giả lồi 40

3 Ứng dụng của hàm lồi suy rộng dưới khả vi 453.1 Bài toán tối ưu lồi suy rộng 453.2 Bất đẳng thức biến phân với hàm lồi suy rộng 48Kết luận 51

E Không gian Banach

E∗ Không gian liên hợp của E

E∗∗ Không gian liên hợp thứ hai của E

hx∗, xi Giá trị x∗ của tại x

hx, yi Tích vô hướng của hai vectơ x và y

k.k Chuẩn trong không gian Banach

¯

f Hàm bao đóng của f

domf Tập hữu dụng của hàm f

epi(f ) Trên đồ thị của hàm f

∂f (x) Dưới khả vi của f tại x

coX Bao lồi của X

KX Nón lồi sinh bởi X

∇f (x) Vectơ gradient của f tại x

 Kết thúc chứng minh

hệ giữa các khái niệm này trong [4], [5] A Daniilidis và N Hadjisavvasnghiên cứu các hàm tựa lồi chặt và tựa lồi bán chặt không trơn [6] và [7]

Sau khi được học những kiến thức về Toán giải tích, với mongmuốn được tìm hiểu một cách có hệ thống và sâu sắc hơn về các tínhchất cũng như một số ứng dụng của giải tích lồi nói chung và hàm lồisuy rộng nói riêng, tôi đã chọn nghiên cứu đề tài: “Tính dưới khả vicủa hàm lồi suy rộng và ứng dụng”

2 Mục đích nghiên cứu

- Nghiên cứu các tính chất dưới khả vi của hàm lồi suy rộng

- Một số bài toán ứng dụng của hàm lồi suy rộng dưới khả vi

3 Nhiệm vụ nghiên cứu

Nghiên cứu một cách có hệ thống các tính chất của hàm lồi suyrộng dưới khả vi và một số bài toán ứng dụng

4 Đối tượng và phạm vi nghiên cứu

- Một số tính chất của hàm lồi suy rộng trong không gian Banach

- Tính dưới khả vi của hàm lồi suy rộng

- Một số bài toán ứng dụng

5 Phương pháp nghiên cứu

- Nghiên cứu lý luận, tài liệu chuyên khảo

- Tổng hợp kiến thức, vận dụng cho mục đích nghiên cứu đề tàitheo phương pháp của Giải tích

6 Đóng góp mới của luận văn

Đề tài góp phần làm rõ và chi tiết về những tính chất của hàm lồisuy rộng và ứng dụng trong một số bài toán cụ thể

Chương 1

Kiến thức chuẩn bị

Trong phần này chúng tôi trình bày một số khái niệm cơ bản liênquan đến không gian Banach, tập lồi, hàm lồi, hàm lồi suy rộng trongkhông gian Banach Đây là những kiến thức cơ bản làm nền tảng choviệc nghiên cứu tính dưới khả vi của hàm lồi suy rộng và ứng dụng.Nội dung của chương này được tham khảo dựa trên các tài liệu [1], [3],[4], [5], [6], [8], [10]

Cho E là một không gian vectơ trên trường số R

Định nghĩa 1.1 Một chuẩn, kí hiệu k.k trong E là một ánh xạ đi từ Evào R thỏa mãn các điều kiện:

a) kxk ≥ 0 với mọi x ∈ E;

b) kxk = 0 khi và chỉ khi x = ∅ (∅ là kí hiệu phần tử không);c) kλxk = |λ| kxk với mọi số λ ∈ R và x ∈ E;

d) kx + yk = kxk + kyk với x, y ∈ E;

Số kxk được gọi là chuẩn (hay độ dài) của vectơ x ∈ E Một khônggian vectơ E cùng với một chuẩn xác định trong không gian ấy, được gọi

là một không gian định chuẩn

Mệnh đề 1.1 Giả sử E là một không gian định chuẩn Với mọi x, y ∈ Eđặt,

ρ(x, y) = kx − yk Khi đó, ρ là một metric trên E

Định nghĩa 1.2 Cho E là một không gian định chuẩn với chuẩn k.k.Nếu E với khoảng cách sinh bởi chuẩn của E : ρ(x, y) = kx − yk, là mộtkhông gian metric đầy đủ thì E gọi là không gian Banach

Nếu không có giả thiết gì thêm, trong suốt luận văn này, khônggian Banach được kí hiệu là E Chuẩn trong các không gian Banach luônđược kí hiệu bởi k.k

Định nghĩa 1.3 Cho E là một không gian định chuẩn với chuẩn k.k

Ta gọi mỗi ánh xạ tuyến tính x∗ : E → R là một phiếm hàm tuyến tínhxác định trên E

Nếu x∗ ∈ E và x ∈ E thì giá trị của x∗ tại x sẽ được kí hiệu là

hx∗, xi nghĩa là hx∗, xi = x∗(x)

Tập hợp tất cả các phiếm hàm tuyến tính liên tục trên E với phépcộng ánh xạ tuyến tính và phép nhân ánh xạ tuyến tính với số thực lậpthành một không gian tuyến tính thực Ta gọi không gian này là khônggian liên hợp của E và được kí hiệu là E∗ Không gian liên hợp của E∗gọi là không gian liên hợp thứ hai của E và kí hiệu là E∗∗

Định lí 1.1 Không gian liên hợp E∗ của E với chuẩn xác định bởi

kx∗k = sup {hx∗, yi : y ∈ E, kyk 6= 0}

là một không gian Banach.

Tôpô τM sinh bởi metric của không gian định chuẩn E∗ nêu trongđịnh lý vừa nêu gọi là tôpô mạnh trong E∗

Định nghĩa 1.4 Tôpô τM trong E∗ gọi là tôpô yếu nếu hệ thống cáclân cận của 0 của E∗ là các tập có dạng

{x∗ ∈ E∗ : hx∗∗i , x∗i < ε, i = 1, , k} ,trong đó x∗∗i ∈ E∗∗ với i = 1, , k và ε > 0

Định nghĩa 1.5 Tôpô τ∗ trong E∗ gọi là tôpô yếu * nếu hệ thống cáclân cận của 0 của E∗ là các tập có dạng

{x∗ ∈ E∗ : hx∗, xii < ε, i = 1, , k} ,trong đó xi ∈ E với i = 1, , k

Định nghĩa 1.6 Tập X ⊂ E mà là đóng (compact, bị chặn) theo tô

pô yếu trong E gọi là tập đóng (compact, bị chặn) yếu Tập X đóng(compact, bị chặn) theo tô pô yếu* trong không gian liên hợp E∗ của Ethì gọi là tập đóng yếu* (compact yếu*, bị chặn yếu*)

1.2.1 Tập lồi

Giả sử E là một không gian Banach, R là tập số thực

Định nghĩa 1.7 Tập X ⊂ E được gọi là tập lồi, nếu

∀x, y ∈ X thì λx + (1 − λ)y ∈ X với ∀λ ∈ [0, 1]

Ví dụ 1.2.1 Cả không gian E là tập lồi Tập X = ∅ là tập lồi

Mệnh đề 1.2 Giả Xα ⊂ E (α ∈ I) là các tập lồi, với I là tập chỉ sốbất kì Khi đó X = T

α∈I

Xα cũng lồi

Mệnh đề 1.3 Tập Xi ⊂ E lồi, λi ∈ R (i = 1, 2, , , m) Khi đó

λ1X1 + + λmXm cũng lồi

Mệnh đề 1.4 Giả sử Ei là không gian Banach, tập Xi ⊂ Ei lồi

(i = 1, 2, , , m) Khi đó tích Đề các X1 × × Xm là tập lồi trong

E1 × × Em

Mệnh đề 1.5 Giả sử E1, E2 là các không gian Banach, T : E1 → E2

là toán tử tuyến tính Khi đó,

1) X ⊂ E1 lồi thì T (X) lồi;

2) Y ⊂ E2 lồi thì nghịch ảnh T−1(Y ) của Y là tập lồi

Định nghĩa 1.8 Véc tơ x ∈ E được gọi là tổ hợp lồi của các véctơ

Định lí 1.3 coX trùng với tập tất cả các tổ hợp lồi của X

Hệ quả 1.1 Tập X lồi khi và chỉ khi X chứa tất cả các tổ hợp lồi củaX

Mệnh đề 1.6 ([3], tr7) Giả sử X ⊂ E lồi Khi đó,

1) Phần trong intX và bao đóng X của X là các tập lồi;

2) Nếu x ∈ intX, y ∈ X, thì

{x, y} = {λx + (1 − λ)y : 0 < λ ≤ 1} ⊂ intX

Định nghĩa 1.10 Tập K ⊂ E được gọi là nón có đỉnh 0, nếu

∀x ∈ K, ∀λ > 0 ⇒ λx ∈ K

K được gọi là nón đỉnh x0 nếu K − x0 là nón có đỉnh 0

Định nghĩa 1.11 Nón K có đỉnh 0 được gọi là nón lồi, nếu K là mộttập lồi, vậy

Định nghĩa 1.12 Giao của tất cả các nón lồi (có đỉnh tại 0) chứa tập

X và điểm 0 là một nón lồi và được gọi là nón lồi sinh bởi tập X Kíhiệu là KX

Định lí 1.5 Giả sử X ⊂ E khác rỗng, KX là nón lồi sinh bởi tập X.Khi đó, mỗi điểm x khác 0 thuộc KX có thể biểu diễn dưới dạng

(1 − λ)x + λy ∈ X (∀x, y ∈ X, ∀λ ∈ R)

Dễ thấy, tập affine là một trường hợp riêng của tập lồi

Ví dụ 1.2.2 Tập X = E là tập affine, không gian véc tơ con X của E

là tập affine

Định nghĩa 1.15 Tập H trong không gian E được gọi là siêu phẳngnếu tồn tại phiếm hàm tuyến tính khác không x∗ từ E vào R và số α ∈ Rsao cho H = {x ∈ E : hx∗, xi = α} Khi đó ta nói H xác định bởi x∗ và

α, và viết là H(x∗, α)

Định nghĩa 1.16 Cho các tập hợp X, Y ⊂ E Ta nói phiếm hàm tuyếntính liên tục x∗ 6= 0 tách X và Y , nếu tồn tại số α sao cho

hx∗, yi ≤ α ≤ hx∗, xi (∀x ∈ X, ∀y ∈ Y ),Nếu như có hx∗, yi < α < hx∗, xi (∀x ∈ X, ∀y ∈ Y ), thì ta nói x∗ táchngặt X và Y

Khi đó siêu phẳng H(x∗, α) = {x ∈ E : hx∗, xi = α} được gọi làsiêu phẳng tách X và Y , các tập X và Y được gọi là tách được.

Định lí 1.7 (Định lý Hahn-Banach, Định lý tách, xem [1])

Cho X và Y là hai tập lồi trong không gian Banach E, có tính chất

X ∩ Y = ∅ và intX 6= ∅ Khi đó, X và Y có thể tách được bằng mộtphiếm hàm tuyến tính khác 0, tức

Định nghĩa 1.20 Phần trong tương đối của X ⊂ E là phần trong của

X trong affX; kí hiệu là riX

Các điểm thuộc riX được gọi là điểm trong tương đối của tập X.Định nghĩa 1.21 Tập X\riX được gọi là biên tương đối của X

Tập X được gọi là mở tương đối, nếu riX = X

1.2.2 Hàm lồi

Cho E là không gian Banach, X ⊂ E, f : X → R

Định nghĩa 1.22 Cho hàm f : X → R, X ⊂ E, R = R ∪ {−∞, +∞},các tập dom f = {x ∈ X |f (x) < +∞} , epi f = {(x, α) ∈ X × R |f (x) ≤ α},

α ∈ R, lần lượt được gọi là miền hữu hiệu và epi đồ thị của f

Định nghĩa 1.23 Hàm f được gọi là lồi trên X nếu epif là tập lồi trongkhông gian E × R

Hàm f được gọi là chính thường nếu dom f 6= ∅ và −∞ < f (x) vớimọi x ∈ X

Hàm f được gọi là lõm trên X nếu −f là hàm lồi trên X

Định nghĩa 1.24 Giả sử X là tập lồi trong không gian E, hàm

f : X → (−∞, +∞] Khi đó, f là tập lồi trên X khi và chỉ khi

Định lí 1.10 Giả sử f là hàm lồi trên E, µ ∈ [−∞, +∞] Khi đó, cáctập mức {x : f (x) < µ} và {x : f (x) ≤ µ} lồi.

Hệ quả 1.4 Giả sử fα là hàm lồi trên E, λα ∈ R, (∀α ∈ I), I là tậpchỉ số bất kì Khi đó, tập X = {x ∈ E : fα(x) ≤ λα, ∀α ∈ I} lồi

Định nghĩa 1.25 Hàm f xác định trên E được gọi là hàm thuần nhấtdương, nếu ∀x ∈ E, ∀λ ∈ (0, +∞), f (λx) = λf (x)

Định lí 1.11 Hàm thuần nhất dương f : E → (−∞, +∞] Ba phát biểusau đây là tương đương

∀x, y ∈ X, f (x) ≤ f (y) ⇒ f (λx + (1 − λ)y) ≤ f (y), ∀λ ∈ [0, 1]

Nhận xét 1.1 Mọi hàm lồi f : X → R đều là hàm tựa lồi Thật vậy,giả sử f lồi Khi đó

a) f là hàm tựa lồi trên X, nghĩa là

f (λx + (1 − λ)y) ≤ max {f (x), f (y)} , ∀x, y ∈ X, ∀λ ∈ [0, 1] b)Với ∀x ∈ X và với mọi y ∈ E hàm số gx,y(t) = f (x + ty) là tựalồi trên đoạn Tx,y = {t ∈ R|x + ty ∈ X} }

c) Với ∀x, y ∈ X hàm hx,y(λ) = f (λx + (1 − λ)y) là tựa lồi [0, 1].d) Với mọi α ∈ R tập mức dưới

Chứng minh a) ⇒ b): Dễ dàng kiểm tra được rằng, Tx,y là tập lồi Lấy

t1, t2 ∈ Tx,y và λ ∈ [0, 1] Ta có λt1 + (1 − λ)t2 ∈ Tx,y Vì f tựa lồi trên

hx,y = f (λx + (1 − λ)y)

= f (y + λ(x − y))

= gy,x−y(λ)

Vì gy,x−y(λ) lồi, ta có hx,y(λ) lồi

c) ⇒ d): Lấy tùy ý x, y ∈ X và λ ∈ [0, 1] Từ tính chất tựa lồi của hx,y

ta có

hx,y(λ) ≤ max {hx,y(1), hx,y(0)}

nghĩa là

f (λx + (1 − λ)y) ≤ max {f (x), f (y)} ≤ α

và do đó, λx + (1 − λ)y ∈ L(f, α), nghĩa là L(f, α) lồi

d) ⇒ a): Lấy tùy ý x, y ∈ X và λ ∈ [0, 1] và đặt α = max {f (x), f (y)}

Vì x, y ∈ L(f, α) và L(f, α) lồi, ta có λx + (1 − λ)y ∈ L(f, α), nghĩa là

f (λx + (1 − λ)y ≤ α và như vậy f tựa lồi trên X

d) ⇒ e): Lấy tùy ý x, y ∈ SL(f, α), λ ∈ [0, 1] và đặt

x, y ∈ X, f (x) ≤ f (y) ⇒ h(x − y) , ∇f (y)i ≤ 0

Chứng minh Giả sử f tựa lồi và f (x) ≤ f (y) Khi đó,

f (y + λ(x − y)) = f (λx + (1 − λ)y ≤ f (y) ∀λ ∈ [0, 1]

Ngược lại, giả sử điều kiện nêu trong định lý thỏa mãn và f (x) ≤ f (y)

Ta giả sử phản chứng là ¯λ ∈ (0, 1) và f (¯λx + (1 − ¯λ)y) > f (y) Điều nàynghĩa là với hàm

hx,y = f (y + λ(x − y))

ta có

hx,y(¯λ) > hx,y(0) ≥ hx,y(1)

Khi đó, từ tính khả vi của h suy ra h liên tục và tập

λ ∈ 0, ¯λ |h(λ) = h(0)

là đóng và có phần tử lớn nhất Do đó, tồn tại ˆλ ∈ 0, ¯λ sao choh(ˆλ) = h(0) và h(λ) > h(0) với mọi λ ∈ (ˆλ, ¯λ] Theo định lý giá trịtrung bình ta có

h0x,y(¯λ0) > 0, ¯λ0 ∈ (ˆλ, ¯λ)

và

hx,y(0) < hx,y(λ0) < hx,y(¯λ)

Điều đó có nghĩa là tồn tại điểm x0 = λx + (1 − λ)y nằm giữa x và y với

f(x0) = hx,y(λ0) > hx,y(1) = f (x)

Từ giả thiết của định lý và f (x) < f (y) suy ra

h(x − y) , ∇f (x0)i ≤ 0,nghĩa là

(1 − λ0) h(x − y) , ∇f (x0)i ≤ 0,hay h0x,y(λ0) ≤ 0, mâu thuẫn với h0x,y(λ0) > 0 ở trên

Định lí 1.15 a) Cho f : X → R là một hàm liên tục trên tập lồi

X ⊂ E Khi đó f tựa lồi trên X khi và chỉ khi

x, y ∈ X, f (x) < f (y) ⇒ f (λx + (1 − λ)y) ≤ f (y), ∀λ [0, 1] b) Cho f : X → R là một hàm khả vi trên tập lồi mở X ⊂ E Khi đó ftựa lồi trên X khi và chỉ khi

x, y ∈ X, f (x) < f (y) ⇒ h(x − y), ∇f (y)i ≤ 0

Chứng minh Dễ thấy a) và b) là những điều kiện cần cho tính tựa lồi,hơn nữa, dưới điều kiện khả vi a) và b) là tương đương Bây giờ ta chứngminh a) là một điều kiện đủ cho tính tựa lồi của f , nghĩa là "sự kéo theo"trong a) vẫn đúng cả trong trường hợp f (x) = f (y) Giả sử rằng tồn tại

¯

λ ∈ (0, 1) với (¯λx + (1 − ¯λ)y) > f (x) = f (y)

Do f liên tục, tồn tại z = λ0x+(1−λ0)y trong đoạn nối x và ¯λx+(1−¯λ)y,nghĩa là λ0 ∈ (¯λ, 1), sao cho

f (¯λx + (1 − ¯λ)y) > f (z) > f (x) > f (y),nhưng điều nay mâu thuẫn với a) Đúng ra là, vì ¯λx + (1 − ¯λ)y ở giữa z

và y,

¯

λx + (1 − ¯λ)y =

¯λ

λ0z +



1 −

¯λ

λ0

y,

¯λ

λ0 ∈ [0, 1]

và f (y) < f (z), ta phải có f (¯λx + (1 − ¯λ)y) ≤ f (z)

Định lí 1.16 Cho f : X → R là một hàm hai lần khả vi liên tục trêntập lồi mở X ⊂ E Điều kiện cần để f tựa lồi trên X là:

y ∈ E, x ∈ X, hy, ∇f (x)i = 0 ⇒ 2f (x)y ≥ 0

Chứng minh Giả sử f tựa lồi và tồn tại x0 ∈ X, y0 ∈ E với ∇f (x0) = 0

và 0, ∇2f (x0)y0 < 0 Không giảm tổng quát, ta có thể xem kyk = 1

Do các thành phần của Hessian đều liên tục, tồn tại hình cầu mở B(x0, δ)sao cho 0, ∇2f (x0)y0 < 0 với mọi x ∈ B(x0, δ) Nói riêng ra,

0, ∇2f (x0 ± λy0)y0 < 0với mọi λ ∈ [0, δ] Sử dụng công thức khai triển Taylor, ta chọn được

f (x0 + δy0) − f (x0) = 1

2 0, ∇

2f (x0 + µδy0)y0 < 0và

f (x0 − δy0) − f (x0) = 1

2 0, ∇

2f (x0 − νδy0)y0 < 0,

trong đó µν ∈ (0, 1) Từ đó suy ra f (x0 ± δy0) < f (x0) Thế nhưng, vì

Định nghĩa 1.28 Ta nói hàm f : X → R là tựa tuyến tính trên tập lồi

X ⊂ E nếu f và −f đều là tựa lồi trên X, nghĩa là với bất kì

x, y ∈ X, λ ∈ (0, 1) ta có

min {f (x), f (y)} ≤ f (λx + (1 − λ)y) ≤ max {f (x), f (y)}

Dễ dàng thấy rằng, f : X → R là tựa tuyến tính trên tập lồi X ⊂ Ekhi và chỉ khi các tập mức dưới L(f, α) và các tập mức trên

U (f, α) := {x ∈ X|f (x) ≥ α} lồi với mọi x ∈ R Từ đây suy ra rằng, nếu

f tựa lồi trên X thì các tập mức

Ta có Y (f, α) = ∅ với α 6= 1, 2, 3 và Y (f, 1) = [1, 2] , Y (f, 2) = (3, 4],

Y (f, 3) = (2, 3] Như vậy, Y (f, α) lồi với mọi α ∈ R, nhưng f không tựalồi và do đó f không tựa tuyến tính Lưu ý rằng f không liên tục.Định lí 1.17 Nếu các tập mức Y (f, α) = {x ∈ X|f (x) = α} lồi với mọi

α ∈ R và f liên tục trên tập lồi X ⊂ E thì f tựa tuyến tính trên X.Chứng minh Ta chỉ ra f tựa lồi Cho f (x) ≤ f (y) và giả sử phản chứngrằng tồn tại ¯λ ∈ (0, 1) sao cho

f (¯λ + (1 − ¯λ)y) > f (y)

Vì f liên tục nên ta có thể tìm được x0 = λ0x + (1 − λ0)y nằm giữa x

và ¯λ + (1 − ¯λ)y, nghĩa là λ0 ∈ (¯λ, 1] sao cho

λ0x

0

+ (1 −

¯λ

λ0)y,

¯λ

Chứng minh Giả sử f tựa tuyến tính và f (x) = f (y) Khi đó theo định

lý 1.3.3 ta có h(x − y), ∇f (y)i = 0 Bây giờ ta chỉ ra f tựa lồi Cho

f (x) ≤ f (y) và giả sử h(x − y), ∇f (y)i > 0 Ngay cả khi f (x) < f (y),

áp dụng định lý Darboux cho hàm h(λ) = f (λx + (1 − λ)y) trên đoạn[0, 1] ta có thể tìm được x0 ∈ [x, y) sao cho f (x0) = f (y) Theo giả thiếtcủa định lý, ta có h(x − y), ∇f (y)i = 0 và suy ra, với λ0 ∈ (0, 1] :

0 = h[λ0x + (1 − λ0)y − y] , ∇f (y)i

= h[x + (1 − λ0)x + (1 − λ0)y − y] , ∇f (y)i

= λ0h(x − y), ∇f (y)imâu thuẫn với giả thiết Điều đó chứng tỏ f tựa lồi và cả −f cũng tựalồi Vậy f tựa tuyến tính

Định nghĩa 1.29 Hàm f : X → R xác định trên tập lồi f : X ⊂ Eđược gọi là tựa lồi chặt trên X nếu và chỉ nếu f : x, y ∈ X, x 6= y,

λ ∈ (0, 1) tùy ý:

f (λx + (1 − λ)y < max {f (x), f (y)} Định lí 1.19 Cho f khả vi trên tập lồi mở f : X ∈ E Khi đó, f tựa lồichặt trên X khi và chỉ khi

x ∈ X, y ∈ E, y 6= 0, hy, ∇f (x)i = 0 ⇒ gx,y(t) = f (x + ty)

xác định với t ≥ 0, không đạt cực đại địa phương tại t = 0

Chứng minh Giả sử f tựa lồi chặt, y 6= 0 và hy, ∇f (x)i Ta giả sử rằngđiều kiện nêu trong định lý không đúng Khi đó với t đủ nhỏ ta có

x ± 2ty ∈ X, f (x ± 2ty) ≤ f (x) và theo định nghĩa của tính tựa lồi chặt

ta có f (x ± ty) < f (x) Thế nhưng,

f (x) < max {f (x − ty), f (x + ty)} < f (x),

vô lý.

Lấy x, y ∈ X, x 6= y và giả sử điều kiện của định lý được thỏa mãn,

f (x) ≤ f (y) Giả sử có ¯λ ∈ (0, 1) với f (¯λx + (1 − ¯λ)y ≥ f (y) Khi

đó, theo định lý Weierstrass, ta có thể tìm được λ0 ∈ (0, 1) để hàmg(λ) = f (λx + (1 − λ)y) = f (y + λ(x − y)) đạt cực đại trên [0, 1] và do

đó g0(λ0) = hx − y, ∇f (y + λ0(x − y))i = 0 và ta đi đến mâu thuẫn vớigiả thiết

Định nghĩa 1.30 Hàm f : X → R xác định trên tập lồi X ⊂ E đượcgọi là tựa lồi nửa-chặt (strictly quasiconvex) trên X nếu với x, y ∈ X,

f (x) < f (y), λ ∈ (0, 1) ⇒ f (λx + (1 − λ)y) < f (y)

hay một cách tương đương

f (x) 6= f (y), λ ∈ (0, 1) : f (λx + (1 − λ)y) < max {f (x)f (y)}

Ví dụ 1.3.2 Hàm số f : R → R, f (0) = 1, f (x) = 0 với mọi x 6= 0, làtựa lồi nửa-chặt, nhưng không tựa lồi

Định nghĩa 1.31 Hàm f : X → R được gọi là nửa liên tục dưới tại

x ∈ X ⊂ E nếu

lim

x n →xint f (xn) ≥ f (x)với mọi dãy {xn} ⊂ E hội tụ đến x Điều này tương đương với mọi ε > 0tồn tại δ > 0 sao cho f (x) > f (x0) − ε đúng với mọi x ∈ B(x0, δ) ∩ X.Nếu f nửa liên tục dưới tại mọi điểm x ∈ X thì ta nói f là hàm nửaliên tục dưới trên X

Định lí 1.20 Cho f nửa liên tục dưới trên tập lồi X ⊂ E Khi đó, nếu

f tựa lồi nửa-chặt trên X thì f tựa lồi

Chứng minh Giả sử rằng ta có

x, y ∈ X, f (x) < f (y), λ ∈ (0, 1) ⇒ f (λx + (1 − λ)y) < f (y)

Lấy x, y ∈ X Nếu như f (x) < f (y) thì có ngay điều mong muốn Tagiả sử rằng, f (x) = f (y) và sẽ chỉ ra bằng phản chứng không tồn tại

f (x) < f (ˆx) ⇒ f (¯x) < f (ˆx),mâu thuẫn Do đó, không tồn tại ¯x như thế và ta có f tựa lồi trên X

Ví dụ sau chỉ ra rằng điều ngược lại trong định lý không đúng Lấy

Ta có f là tựa lồi trên R, nhưng với x = −1/2, y = 1/2, λ = 1/10 ta có

f (x) < f (y) và f (λx + (1 − λ)y) = f (y)

1.3.2 Hàm giả lồi

Trong phần này chúng ta hạn chế chỉ xét những hàm giả lồi khả

vi Do đó ta dùng định nghĩa sau:

Định nghĩa 1.32 Ta nói hàm f : X → R là giả lồi trên tập lồi X ⊂ Enếu ta có: với x, y ∈ X, λ ∈ (0, 1)

f (x) < f (y) ⇒ f (λx + (1 − λ)y ≤ f (y) − λ(1 − λ)β(x, y),

trong đó β(x, y) là một số dương phụ thuộc vào x và y.

Định nghĩa 1.33 Cho f : X → R là khả vi trên tập mở X ⊂ E Tanói f giả lồi trên X nếu

∀x, y ∈ X, h(x − y), ∇f (y)i ≥ 0 ⇒ f (x) ≥ f (y),hoặc, một cách tương đương

∀x, y ∈ X, f (x) < f (y) ⇒ h(x − y), ∇f (y)i < 0

Hàm f được gọi là giả lõm nếu −f là hàm giả lồi

Ví dụ 1.3.3 Hàm f : R → R, f (x) = x3− x giả lồi trên R, nhưng khônglồi

Định lí 1.21 Cho f : X → R là hàm khả vi trên tập lồi mở X ⊂ E.Khi đó, f giả lồi trên X khi và chỉ khi

x ∈ X, y 6= 0, hy, ∇f (x)i = 0 ⇒ g(t) = f (x + ty),xác định với t ≥ 0, đạt cực tiểu địa phương t = 0

Chứng minh Giả sử f giả lồi và t∇f (x) ≥ 0, với mọi t ≥ 0 Khi đó, ta

có f (x + ty) ≥ f (x), nghĩa là g(t) = f (x + ty) đạt cực tiểu tại t = 0.Ngược lại, giả sử điều kiện của định lý được thỏa mãn và

h(x − y), ∇f (y)i ≥ 0

Ta sẽ chỉ ra rằng, f (y) ≤ f (x) Xét hàm số g(t) = f (y +t(x−y), t ∈ [0, 1]

và giả sử phản chứng minh rằng, f (x) < f (y), nghĩa là g(1) < g(0).Nếu g0(0) > 0, nghĩa là h(x − y), ∇f (y)i > 0, thì g đạt cực đại tại mộtđiểm t0 ∈ (0, 1) nào đó, và vì vậy g0(t0) = 0, nghĩa là

h(x − y), ∇f (y + t0(x − y))i = 0