Luận văn hàm toàn phương lồi suy rộng và ứng dụng

Các tiêu chuẩn được nêu trongchương gồm: tiêu chuẩn kiểm tra theo giá trị riêng và véc tơ riêng, tiêuchuẩn kiểm tra theo ma trận Hessian tăng cường, tiêu chuẩn kiểm tra theođịnh thức biê

ĐẠI HỌC QUỐC GIA HÀ NỘI

TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

-

TRẦN VĂN THIỆN

HÀM TOÀN PHƯƠNG LỒI SUY RỘNG VÀ ỨNG DỤNG

LUẬN VĂN THẠC SĨ KHOA HỌC

Hà Nội – 2015

ĐẠI HỌC QUỐC GIA HÀ NỘI

TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

-

TRẦN VĂN THIỆN

HÀM TOÀN PHƯƠNG LỒI SUY RỘNG VÀ ỨNG DỤNG

Chuyên ngành: TOÁN GIẢI TÍCH

Mã số: 60460102

LUẬN VĂN THẠC SĨ KHOA HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS NGUYỄN NĂNG TÂM

Hà Nội – 2015

Mục lục

1.1 Không gian Ơclit 5

1.2 Tập lồi 6

1.3 Hàm lồi 7

1.4 Hàm tựa lồi 10

1.5 Hàm giả lồi 14

1.6 Mối quan hệ giữa những hàm lồi suy rộng 16

2 Hàm toàn phương lồi suy rộng 18 2.1 Nhắc lại một số định nghĩa 18

2.2 Một số tính chất của hàm toàn phương lồi suy rộng 19

2.3 Tiêu chuẩn kiểm tra theo giá trị riêng và véctơ riêng 23

2.4 Tiêu chuẩn kiểm tra theo ma trận Hessian tăng cường 32

2.5 Tiêu chuẩn kiểm tra theo định thức biên 33

2.6 Tiêu chuẩn xác định cho oc-tan không âm 34

2.7 Tính giả lồi trên oc - tan nửa dương và oc - tan không âm 51 3 Ứng dụng vào lý thuyết tối ưu 54 3.1 Ứng dụng vào bài toán tối ưu với ràng buộc hình học 54 3.2 Ứng dụng vào bài toán tối ưu có ràng buộc bất đẳng thức 57

ϕ00(x) đạo hàm bậc hai của ϕ tại x

∇2f (x) ma trận Hessian của f tại xh., i tích vô hướng trong Rn

||.|| chuẩn trong không gian Rn

af f (A) bao lồi affine của A

(x, y) = {λx + (1 − λ)y | λ ∈ (0, 1)} đoạn thẳng mở nối x và y(x, y] = {λx + (1 − λ)y | λ ∈ (0, 1]} đoạn thẳng mở nối x và y[x, y] = {λx + (1 − λ)y | λ ∈ [0, 1]} đoạn thẳng đóng nối x và yL(f, α) = {x ∈ X | f (x) 6 α} tập mức dưới

Mở đầu

Trong quy hoạch phi tuyến và kinh tế lượng, tính tựa lồi và giả lồiđược xem như là sự mở rộng quan trọng của tính lồi Một trở ngại khilàm việc với những khái niệm lồi suy rộng là chúng không dễ kiểm tra Vìvậy, người ta mong muốn đưa ra những tiêu chuẩn thực tiễn hơn để kiểmtra tính lồi suy rộng

Luận văn này trình bày một cách có hệ thống những nội dung cơ bảnnhất về lớp hàm toàn phương lồi suy rộng và một số ứng dụng của nó vào

lý thuyết tối ưu

Luận văn được trình bày gồm 3 chương

Chương 1: Kiến thức cơ bản Tác giả trình bày các kiến thức cơ bản

về tập lồi, hàm lồi, hàm tựa lồi, hàm giả lồi và mối quan hệ giữa các hàmlồi suy rộng Các kiến thức cơ bản được sử dụng để nghiên cứu các vấn đềtrong chương 2

Chương 2: Hàm toàn phương tựa lồi và hàm toàn phương giả lồi Nộidung chính của chương tập trung trình bày các tiêu chuẩn kiểm tra tínhlồi suy rộng của các hàm toàn phương Các tiêu chuẩn được nêu trongchương gồm: tiêu chuẩn kiểm tra theo giá trị riêng và véc tơ riêng, tiêuchuẩn kiểm tra theo ma trận Hessian tăng cường, tiêu chuẩn kiểm tra theođịnh thức biên, tiêu chuẩn kiểm tra cho Oc-tan không âm và xét tính giảlồi của một hàm toàn phương trên oc-tan nửa dương và oc - tan khôngâm

Chương 3: Ứng dụng vào bài toán tối ưu Luận văn trình bày về ứngdụng của hàm toàn phương lồi suy rộng vào nghiên cứu bài toán tối ưu

toàn phương với ràng buộc hình học và bài toán tối ưu với ràng buộc bấtđẳng thức.

Nhân dịp này, tác giả luận văn xin bày tỏ lòng kính trọng và biết ơnsâu sắc tới PGS.TS Nguyễn Năng Tâm đã hướng dẫn tận tình tác giảhoàn thành luận văn này Tác giả cũng xin bày tỏ lòng biết ơn chân thànhđến các thầy phản biện đã dành thời gian đọc và đóng góp nhiều ý kiếnquý báu cho tác giả Tác giả xin trân trọng cảm ơn ban lãnh đạo khoaToán – Cơ – Tin học, khoa Sau đại học và các thầy cô giáo trường Đạihọc Khoa học Tự nhiên, Đại học Quốc gia Hà Nội đã trang bị kiến thức,tạo điều kiện thuận lợi cho tác giả trong suốt thời gian tác giả học tập tạitrường Cuối cùng, tác giả xin cảm ơn gia đình, bạn bè và đồng nghiệp

đã quan tâm, động viên và chia sẻ để tác giả hoàn thành luận văn của mình

Hà Nội, ngày 02 tháng 10 năm 2015

Tác giả luận văn

Trần Văn Thiện

Chương 1

Kiến thức chuẩn bị

Chương này trình bày một số nội dung kiến thức cơ bản về tập lồi,hàm lồi, hàm tựa lồi, hàm giả lồi và mối quan hệ giữa các hàm lồi suyrộng Những nội dung được trình bày trong chương này chủ yếu chọn từtài liệu Mathematics of Optimization: Smooth and Nonsmooth Case của

G Giorgi, A Guerraggio and J Thierfelder [17] và những tài liệu tríchdẫn trong đó

1.1 Không gian Ơclit

Tập hợp

Rn := {x = (x1, , xn) | x1, , xn ∈ R}

với hai phép toán

(x1, , xn) + (y1, , yn) := (x1+ y1, , xn + yn)λ(x1, , xn) := (λx1, , λxn), λ ∈ Rlập thành một không gian véc tơ Ơclit n−chiều

Nếu x = (x1, , xn) ∈ R thì xi gọi là thành phần hoặc tọa độ thứ i của

x Véc tơ không của không gian này gọi là gốc của Rn và được kí hiệu đơngiản là 0, vậy 0 = (0, , 0)

Trong Rn ta định nghĩa tích vô hướng chính tắc h., i như sau: với

x = (x1, , xn), y = (y1, , yn) ∈ Rn,

hx, yi =

nX

nX

i=1(xi)2

và gọi là chuẩn Euclid của véc tơ x

λi = 1 sao cho

x =

mX

i=1

λixi

Định lý 1.6 Cho tập C ⊂ Rn lồi; x1, , xm ∈ C Khi đó C chứa tất cảcác tổ hợp lồi của x1, , xm

Định nghĩa 1.7 Cho C ⊂ Rn Giao của tất cả các tập lồi chứa C đượcgọi là bao lồi của tập C, kí hiệu là coC.

Định nghĩa 1.8 Giả sử C ⊂ Rn Giao của tất cả các tập lồi đóng chứa

C được gọi là bao lồi đóng của tập C và kí hiệu là coC

Mệnh đề 1.9 Cho C ⊂ Rn lồi Khi đó,

i) Phần trong intC và bao đóng C của C là các tập lồi;

ii) Nếu x1 ∈ intC, x2 ∈ C, thì

{λx1 + (1 − λ)x2 : 0 < λ ≤ 1} ⊂ intC

1.3 Hàm lồi

Định nghĩa 1.10 Cho hàm f : C → R, trong đó C ⊂ Rn, tập

epi(f ) = {(x, α) ∈ C × R | f (x) ≤ α} ,được gọi là trên đồ thị của f

Định nghĩa 1.11 Cho C ⊂ Rn là một tập lồi, f : C → R

Hàm f được gọi là lồi trên C nếu trên đồ thị epi(f ) của nó là một tậplồi trong Rn × R

Hàm f được gọi là lõm trên C nếu −f là hàm lồi trên C

Ta nhắc lại một số đặc trưng và tính chất của hàm lồi một biến khả vi.Định lý 1.12 Cho ϕ : (a, b) → R

i) Nếu ϕ khả vi trên (a, b) thì ϕ lồi trên (a, b) khi và chỉ khi ϕ0 khônggiảm trên (a, b)

ii) Nếu ϕ có đạo hàm bậc hai trên (a, b) thì ϕ lồi trên (a, b) khi và chỉkhi ϕ00(t) > 0 với mọi t ∈ (a, b)

iii) Nếu ϕ lồi trên [a, b] thì ϕ liên tục trên (a, b)

Định lý 1.13 Cho C là tập lồi trong không gian Rn và f : C → R Khi

đó, các điều kiện sau là tương đương:

a) f (λx + (1 − λ) y) ≤ λf (x) + (1 − λ) f (y) , ∀λ ∈ [0, 1] , ∀x, y ∈ C

b) f (λx + (1 − λ) y)> λf (x) + (1 − λ) f (y) , ∀λ > 1, ∀x, y ∈ C sao cho

λi = 1 bất đẳng thức sau đúng:

f (λ1x1+ + λmxm) ≤ λ1f (x1) + + λmf (xm) e) Với mọi x ∈ C, với mọi y ∈ Rn, hàm ϕx,y(t) = f (x + ty) là hàm lồitrên đoạn Tx,y = {t ∈ R | x + ty ∈ C}

f) Với mọi x, y ∈ C, hàm ψx,y(λ) = f (λx + (1 − λ)y) lồi trên đoạn [0, 1].g) Trên đồ thị của f là tập lồi trong Rn+1

Định lý 1.14 Giả sử C ⊂ Rn là một tập lồi mở, f : C → R Khi đó, flồi trên C khi và chỉ khi với mọi x0 ∈ C, tồn tại x∗ ∈ Rn sao cho

Định lý 1.16 Cho C ⊂ Rn là một tập mở và f : C → R khả vi trên C.Khi đó các khẳng định sau tương đương:

a) f lồi trên C

b) Với mọi x ∈ C và với mọi y ∈ Rn hàm

ϕ0x,y(t) = hy, ∇f (x + ty)i,biến t, không giảm trên đoạn Tx,y = {t ∈ R | x + ty ∈ C}

c) Với mọi x, y ∈ C, hàm

ψx,y0 (λ) = h(x − y), ∇f (λx + (1 − λ)y)i,biến λ, không giảm trên đoạn [0, 1]

d) Với mọi x, y ∈ C, f (x) − f (y) > h(x − y), ∇f (y)i

e) Với mọi x, y ∈ C, f (x) − f (y) 6 h(x − y), ∇f (x)i

f) Với mọi x, y ∈ C, h(x − y), [∇f (x) − ∇f (y)]i> 0

Định lý 1.17 Cho f : C → R là hàm số khả vi liên tục hai lần trêntập lồi mở C ⊂ Rn Khi đó, f lồi trên C khi và chỉ khi ma trận Hessian

∇2f (x) nửa xác định dương với mọi x ∈ C

Định nghĩa 1.18 Cho C là tập lồi trong không gian Rn, f : C → R Tanói f lồi chặt trên C nếu

f (λx + (1 − λ) y) < λf (x)+(1 − λ) f (y) ∀λ ∈ (0, 1), ∀x, y ∈ C, x 6= y.Định lý 1.19 Cho C là tập lồi trong không gian Rn và f : C → R Khi

đó, các điều kiện sau là tương đương:

a) f lồi chặt trên C

b) Với mọi x, y ∈ C, x 6= y, f (x) − f (y) > h(x − y), ∇f (y)i

c) Với mọi x, y ∈ C, x 6= y, f (x) − f (y) < h(x − y), ∇f (x)i

d) Với mọi x, y ∈ C, h(x − y), [∇f (x) − ∇f (y)]i > 0

Định lý 1.21 Cho f : C → R là hàm số khả vi liên tục hai lần trên tập lồi

mở C ⊂ Rn Khi đó, nếu ma trận Hessian ∇2f (x) xác định dương với mọi

x ∈ C, nghĩa là với mọi x ∈ C, hy, ∇2f (x)yi > 0 với mọi y ∈ Rn, y 6= 0,thì f lồi chặt trên C

Điều kiện nêu trên chỉ đủ chứ không cần để f lồi chặt Ví dụ như,

f (x) = x4 lồi chặt trên R, nhưng ∇2f (x) = 12x2 không xác định dươngtrên R, vì ∇2f (0) = 0

Định nghĩa 1.22 Hàm f : C → R xác định trên tập lồi C ⊂ Rn đượcgọi là hàm aphin trên C nếu có vừa lồi vừa lõm trên C, nghĩa là

i) f bị chặn trong một lân cận của x ;

ii) f liên tục tại x ;

x, y ∈ C, f (x) 6 f (y) =⇒ f (λx + (1 − λ)y) 6 f (y), ∀λ ∈ [0, 1]

Nhận xét 1.27 Mọi hàm lồi f : C → R đều là hàm tựa lồi Thật vậy,giả sử f lồi Khi đó

a) f là hàm tựa lồi trên C, nghĩa là

f (λx + (1 − λ)y) 6 max{f (x), f (y)}, ∀x, y ∈ C, ∀λ ∈ [0, 1].b) Với mọi x ∈ C và với mọi y ∈ Rn hàm số gx,y(t) = f (x + ty) là tựa lồitrên đoạn Tx,y = {t ∈ R | x + ty ∈ C}

c) Với mọi x, y ∈ C hàm hx,y(λ) = f (λx + (1 − λ)y) là tựa lồi trên đoạn[0, 1]

d)Với mọi α ∈ R tập mức dưới

x, y ∈ C, f (x) 6 f (y) ⇒ h(x − y), ∇f (y)i 6 0

Định lý 1.30 a) Cho f : C → R là một hàm liên tục trên tập lồi C ⊂ Rn.Khi đó f tựa lồi trên C khi và chỉ khi

x, y ∈ C, f (x) < f (y) =⇒ f (λx + (1 − λ)y) 6 f (y), ∀λ ∈ [0, 1]

b) Cho f : C → R là một hàm khả vi trên tập lồi mở C ⊂ Rn Khi đó ftựa lồi trên C khi và chỉ khi

x, y ∈ C, f (x) < f (y) =⇒ h(x − y), ∇f (y)i 6 0

Định lý 1.31 Cho f : C → R là một hàm hai lần khả vi liên tục trêntập lồi mở C ⊂ Rn Điều kiện cần để f tựa lồi trên C là:

y ∈ Rn, x ∈ C, y∇f (x) = 0 =⇒ hy, ∇2f (x)yi > 0

Lưu ý rằng, các điều kiện nêu trong định lý trên không đủ để f tựa lồi.Với hàm f : R → R; f (x) = x4, các điều kiện nêu trong định lý trên đềuthỏa mãn, nhưng f không tựa lồi trên R

Định lý 1.32 Cho f : C → R là một hàm hai lần khả vi liên tục trêntập lồi mở C ⊂ Rn Giả sử rằng, ∇f (x) 6= 0 với mọi x ∈ C Nếu

y ∈ Rn, x ∈ C, y∇f (x) = 0 =⇒ hy, ∇2f (x)yi > 0thì f tựa lồi trên C

Định lý 1.33 Cho f : C → R là một hàm hai lần khả vi liên tục trêntập lồi mở C ⊂ Rn Khi đó, nếu

y ∈ Rn, y 6= 0, x ∈ C, y∇f (x) = 0 =⇒ hy, ∇2f (x)yi > 0

thì f tựa lồi trên C

Định nghĩa 1.34 Ta nói hàm f : C → R là tựa tuyến tính trên tập lồi

C ⊂ Rn nếu f và −f đều là tựa lồi trên C, nghĩa là với bất kì x, y ∈ C,

λ ∈ [0, 1] ta có

min{f (x), f (y)} ≤ f (λx + (1 − λ)y) ≤ max{f (x), f (y)}

Dễ dàng thấy rằng, f : C → R là tựa tuyến tính trên tập lồi C ⊂ Rnkhi và chỉ khi các tập mức dưới L(f, α) và các tập mức trên U (f, α) :={x ∈ C | f (x) > α} lồi với mọi α ∈ R Từ đây suy ra rằng, nếu f tựa lồitrên C thì các tập mức

Y (f, α) = {x ∈ C | f (x) = α}

lồi với mọi α ∈ R Tuy nhiên, điều ngược lại không đúng.

Định lý 1.36 Cho f khả vi trên tập lồi mở C ⊂ Rn Khi đó, f tựa tuyếntính trên C khi và chỉ khi

x, y ∈ C, f (x) = f (y) =⇒ h(x − y), ∇f (y)i = 0

Định nghĩa 1.37 Hàm f : C → R xác định trên tập lồi X ⊂ Rn đượcgọi là tựa lồi chặt trên C nếu với x, y ∈ C, x 6= y, λ ∈ (0, 1) tùy ý:

f (λx + (1 − λ)y) < max{f (x) f (y)}

Định lý 1.38 Cho f khả vi trên tập lồi mở C ⊂ Rn Khi đó, f tựa lồichặt trên C khi và chỉ khi

x ∈ C, y ∈ Rn, y 6= 0, hy, ∇f (x)i = 0 =⇒ gx,y(t) = f (x + ty),

xác định với t > 0, không đạt cực đại địa phương tại t = 0

Định nghĩa 1.39 Hàm f : C → R xác định trên tập lồi C ⊂ Rn đượcgọi là tựa lồi nửa chặt trên C nếu với x, y ∈ C,

f (x) < f (y), λ ∈ (0, 1) =⇒ f (λx + (1 − λ)y) < f (y)

hay một cách tương đương

f (x) 6= f (y), λ ∈ (0, 1), : f (λx + (1 − λ)y) < max{f (x) f (y)}

Ví dụ: Hàm số f : R → R, f (0) = 1, f (x) = 0 với mọi x 6= 0, là tựa lồinửa chặt, nhưng không tựa lồi.

Định lý 1.40 Cho f nửa liên tục dưới trên tập lồi C ⊂ Rn Khi đó, nếu

f tựa lồi nửa chặt trên C thì f tựa lồi

Ví dụ sau chỉ ra rằng điều ngược lại trong định lý không đúng Lấy

Ta có f tựa lồi trên R, nhưng với x = −1/2, y = 1/2, λ = 1/10 ta có

f (x) < f (y) và f (λx + (1 − λ)y) = f (y)

1.5 Hàm giả lồi

Trong phần này chúng ta hạn chế chỉ xét những hàm giả lồi khả vi Do

đó ta dùng định nghĩa sau:

Định nghĩa 1.41 Cho f : X → R là hàm khả vi trên tập mở X ⊂ Rn

Ta nói f giả lồi trên X nếu

x, y ∈ X, h(x − y), ∇f (y)i > 0 =⇒ f (x) > f (y),hoặc, một cách tương đương

x, y ∈ X, f (x) < f (y) =⇒ h(x − y), ∇f (y)i < 0

Hàm f gọi là giả lõm nếu −f giả lồi

Ví dụ Hàm f : R → R, f (x) = x3− x giả lồi trên R, nhưng không lồi.Lưu ý rằng, định nghĩa hàm giả lồi trong trường hợp tổng quát nhưsau (và tương đương với định nghĩa trên trong trường hợp hàm khả vi,xem [11]):

Định nghĩa 1.42 Ta nói hàm f : C → R là giả lồi trên tập lồi C ⊂ Rnnếu ta có: với x, y ∈ C, λ ∈ (0, 1)

f (x) < f (y) =⇒ f (λx + (1 − λ)y) ≤ f (y) − λ(1 − λ)β(x, y),

trong đó β(x, y) là một số dương phụ thuộc vào x và y

Định lý 1.43 Cho f : C → R là hàm khả vi trên tập lồi mở C ⊂ Rn.Khi đó, f giả lồi trên C khi và chỉ khi

x ∈ C, y 6= 0, hy, ∇f (x)i = 0 =⇒ g(t) = f (x + ty),

xác định với t > 0, đạt cực tiểu địa phương tại t = 0

Định lý 1.44 Cho f : C → R là hàm khả vi liên tục hai lần trên tập lồi

mở C ⊂ Rn Khi đó, f giả lồi trên C khi và chỉ khi với mọi x ∈ C:

i) h∇f (x)i = 0 =⇒ hy, ∇2f (x)yi > 0, và

ii) nếu như ∇f (x) = 0 thì f có cực tiểu địa phương tại x

Chứng minh Xem [31]

Định nghĩa 1.45 Cho f : C → R xác định trên tập lồi mở C ⊂ Rn Nếu

f và −f đều giả lồi thì ta nói f là hàm giả tuyến tính

Định lý 1.46 Cho f : C → R, trong đó C ⊂ Rn là một tập lồi mở Khi

đó các mệnh đề sau tương đương:

i) f là giả tuyến tính

ii) Với tùy ý x, y ∈ C, h(x − y), ∇f (y)i = 0 khi và chỉ khi f (x) = f (y)Định nghĩa 1.47 Cho f : C → R là hàm khả vi trên tập mở C ⊂ Rn

Ta nói f giả lồi chặt trên C nếu

x, y ∈ C, x 6= y f (x) > f (y) =⇒ h(x − y), ∇f (y)i < 0 ,

hoặc, một cách tương đương

x, y ∈ C, x 6= y h(x − y), ∇f (y)i > 0 =⇒ f (x) > f (y)

Dễ thấy tính giả lồi chặt suy ra tính giả lồi

Định lý 1.48 Cho f : C → R là hàm khả vi trên tập lồi mở C ⊂ Rn.Khi đó f giả lồi chặt trên C khi và chỉ khi

x ∈ C y 6= 0, hy, ∇f (x)i = 0 =⇒ g(t) = f (x + ty),xác định với t > 0, đạt cực tiểu địa phương chặt tại t = 0

Định lý 1.49 Cho f : C → R là hàm khả vi liên tục hai lần trên tập lồi

mở C ⊂ Rn Khi đó, f giả lồi chặt trên X khi và chỉ khi

x ∈ C y 6= 0, hy, ∇f (x)i = 0 =⇒ hy, ∇2f (x)yi > 0 hoặc hy, ∇2f (x)yi = 0

và g(t) = f (x + ty), xác định với t > 0, đạt cực tiểu địa phương chặt tại

Ta có: f1 giả lồi nhưng không lồi, f2 tựa lồi nửa-chặt nhưng không giả lồi,

f3 tựa lồi nửa-chặt nhưng không tựa lồi chặt, f4 tựa lồi nhưng không tựalồi nửa chặt

Kết luận

Nội dung chính của chương đã trình bày khái niệm và một số tính chấtcủa một số lớp hàm lồi suy rộng, mối quan hệ giữa các hàm lồi suy rộng

Chương 2

Hàm toàn phương lồi suy rộng

Chương này trình bày tập trung trên tính tựa lồi và giả lồi của hàmtoàn phương với ba khái niệm khác nhau của tính lồi suy rộng, bao gồm:tính tựa lồi, tính giả lồi, tính giả lồi chặt

C ⊂ Rn xác định một tập lồi đặc, tức là miền trong của C khác rỗng.Chúng ta sẽ xem xét các hàm Q(x) tựa lồi, giả lồi hoặc giả lồi chặt trên

C Ta nhắc lại một số định nghĩa

Định nghĩa 2.1 Q(x) được gọi là hàm tựa lồi trên C nếu, với mọi

x, y ∈ C,

Q(y) ≤ Q(x) suy ra (y − x)∇Q(x) ≤ 0 (2.1)Một cách tương đương, điều này nghĩa là các tập mức dưới

{x ∈ C : Q(x) ≤ α} là tập lồi với ∀α ∈ R (2.2)Định nghĩa 2.2 Q(x) được gọi là giả lồi trên C nếu, với mọi x, y ∈ C,

y − x ≥ 0 suy ra Q(y) ≥ Q(x) (2.3)

Định nghĩa 2.3 Q(x) được gọi là giả lồi chặt trên C nếu với mọi x, y ∈

C, x 6= y,

y − x ≥ 0 suy ra Q(y) > Q(x) (2.4)Định nghĩa 2.4 Cho A = [aij] là ma trận cấp m × n, Khi đó:

a) A được gọi là xác định không âm nếu aij ≥ 0, ∀i = 1, , m; j =

1, 2, , n

b) A được gọi là nửa xác định dương nếu aij ≥ 0 và ít nhất một phần tử aij >

0, i = 1, , m; j = 1, 2, , n

c) A được gọi là xác định dương nếu aij > 0, ∀i = 1, , m; j = 1, 2, , n

Định nghĩa 2.5 Xét các tập con của Rn Khi đó:

a) Rn+ = {x ∈ Rn | xj ≥ 0, j = 1, · · · , n}, được gọi là oc-tan không âm

của Rn

b) Rn+\{0} = {x = (x1, x2, , xn) | xi ∈ R, ∃xj > 0, xi ≥ 0, i = 1, 2 , n}

được gọi là oc-tan nửa dương của Rn

c) Rn+ = {x ∈ Rn | xj > 0, j = 1, · · · , n}, được gọi là oc-tan dương của

Rn

Hàm giả lồi chặt Q(x) là giả lồi và các hàm giả lồi là tựa lồi Tuy nhiên

điều ngược lại chưa chắc đúng

Một hàm tựa lồi (giả lồi, giả lồi chặt) mà không lồi thì được gọi là hàm

chỉ tựa lồi (tương ứng, chỉ giả lồi, chỉ giả lồi chặt)

2.2 Một số tính chất của hàm toàn phương lồi suy

Chứng minh Vì x 7→ cTx + α là một hàm lồi và tổng của hai hàm lồi là

một hàm lồi, ta chỉ cần chứng minh Q1(x) := xTAx là một hàm lồi Khi

A là một ma trận nửa xác định dương, với mỗi u ∈ Rn, v ∈ Rn ta có

0 ≤ (u − v)TA (u − v) = uTAu − 2vTAu + vTAv

Điều này suy ra rằng

vTAv ≤ uTAu − 2vTA (u − v) (2.5)Cho bất kì x ∈ Rn, y ∈ Rn và t ∈ (0, 1), ta đặt z = tx + (1 − t) y Theo(2.5) ta có

zTAz ≤ yTAy − 2zTA (y − z) ,

zTAz ≤ xTAx − 2zTA (x − z)

Vì y − z = t (y − x) và x − z = (1 − t) (x − y), từ hai bất đẳng thứccuối ta suy ra rằng

(1 − t) zTAz + tzTAz ≤ (1 − t) yTAy + txTAx,

vì thế

Q1(tx + (1 − t) y) = Q1(z) ≤ tQ1(x) + (1 − t) Q1(y)

Như vậy Q1 là một hàm lồi

Kết quả sau của Cottle [17]

Định lý 2.7 Cho C ⊂ Rn là một tập lồi khác rỗng Khi đó Q(x) lồi trên

C khi và chỉ khi Q(x) lồi trên mỗi tịnh tiến C + α của X

Kết quả sau của Martos [17]

Định lý 2.8 Hàm toàn phương Q(x) tựa lồi trên Rn khi và chỉ khi nó lồitrên Rn

Chứng minh Lấy y là véc tơ tùy ý của Rn và α > 0 sao cho:

nghĩa là 2αbTy 6 0.

Song, nếu như điều này đúng với một α > 0 thì nó sẽ đúng với mọi

α > 0 Vậy (2.6) đúng với mọi α > 0 Bây giờ, nếu Q(x) tựa lồi trên Rnthì từ (2.6) suy ra với mọi α > 0 ta có

[αy − (−αy)]T[A(−αy) + b] = −2α2yTAy + 2αbTy 6 0,

nghĩa là bTy 6 αyTAy

Bất đẳng thức trên đúng với mọi α > 0 chỉ khi yTAy > 0 hoặc(−y)TA(−y) > 0 nếu như dấu của y bị đổi Vì y được lấy tùy ý, ta

có Q(x) lồi trên Rn Chiều ngược lại là hiển nhiên

Định lý trên chỉ ra rằng, không có lý do gì để nghiên cứu tính lồi suyrộng của hàm toàn phương trên cả Rn Tuy nhiên, có thể hàm toàn phươnghoặc dạng toàn phương là giả lồi hoặc tựa lồi trên một tập con lồi của

Rn, chẳng hạn như Rn+, nhưng không lồi trên tập con đó Ví dụ như hàm

f (x, y) = −xy tựa lồi trên R2+, nhưng không lồi trên đó

Định nghĩa 2.9 Ma trận vuông đối xứng A cấp n và dạng toàn phươngtương ứng với nó xTAx được gọi là dưới xác định dương nếu với mọi

Một hàm số f được gọi là chỉ tựa lồi (chỉ giả lồi) trên một tập lồi, nếu

nó tựa lồi (tương ứng, giả lồi) nhưng nó không lồi trên tập đó

Định lý 2.11 Ma trận đối xứng A là chỉ dưới xác định dương khi và chỉkhi

i) A có một giá trị riêng (đơn) âm, và

là chỉ dưới xác định dương Nếu Q(x) là tựa lồi trên Rn+

và b 6= 0 thì Q(x) là giả lồi trên Rn+

Chứng minh Xem [6],[7]

Với dạng toàn phương F (x) = xTAx ta có kết quả sau của Martos [12].Định lý 2.14 Dạng toàn phương xTAx là tựa lồi trên Rn+ khi và chỉ khi

nó là dưới xác định dương Dạng toàn phương xTAx là giả lồi trên Rn+ khi

và chỉ khi nó là dưới xác định dương chặt

Chứng minh Xem [6],[7]

Một cách đơn giản để kiểm tra có hay không một dạng toàn phươngchỉ tựa lồi, tựa lồi trên Rn+ thì cũng giả lồi trên Rn+ là kết quả được xácđịnh sau đây ([22]):

Định lý 2.15 Một dạng toàn phương xTAx chỉ tựa lồi trên Rn+ là chỉ giảlồi khi và chỉ khi A không chứa một dòng bằng 0

Sự suy rộng của kết quả trên với tập lồi đặc tùy ý được cho bởi kết quảsau đây([5]):

Giả sử A là ma trận thực đối xứng có đúng một giá trị riêng âm; giả sử

v là một trong hai lựa chọn của chuẩn hóa véc tơ đặc trưng kết hợp cùnggiá trị riêng âm duy nhất Ta xét 2 tập sau:

T1A = y ∈ Rn | yTAy ≤ 0, vy ≥ 0

T2A = y ∈ Rn | yTAy ≤ 0, vy ≤ 0 Xét hàm toàn phương Q(x) = 12xTAx + bTx với A là ma trận thực đốixứng bậc n và b ∈ Rn Ràng buộc với Q là tập M = {x ∈ Rn|Ax + b = 0}.Định lý 2.16 Hàm toàn phương Q(x) = 12xTAx + bTx là chỉ tựa lồi trêntập lồi đặc C ⊂ Rn khi và chỉ khi M 6= ∅, A có đúng một giá trị riêng âm

và C ⊂ T1A + M hoặc C ⊂ T2A + M

Nếu M là khác rỗng và A có đúng một giá trị riêng âm thì T1A + M và

T2A+M là miền tựa lồi cực đại của hàm toàn phương Q(x) = 12xTAx+bTx([5]) Chú ý rằng M là khác rỗng khi và chỉ khi rank(A, b) = rank(A).Tiêu chuẩn khác cho tính tựa lồi của Q(x) trên tập lồi đặc được nóiđến trong định lý sau

Định lý 2.17 Hàm toàn phương Q(x) = 12xTAx + bTx là chỉ tựa lồitrên tập lồi đặc C ⊂ Rn khi và chỉ khi A và ma trận biên Hessian

Nhiều kết quả trong mục này thu được từ mối liên quan giữa các tiêuchuẩn của họ các hàm lồi tổng quát khác nhau như hàm tích, hàm thương,

hàm lập phương Nguyên tắc quan trọng cho việc suy diễn các tiêu chuẩnnày là việc xem các hàm như hợp của các hàm lồi và hoặc hàm lõm Thôngthường những hàm hợp này là tựa lồi hoặc giả lồi.

Trong khi tiêu chuẩn thu được trong [9] cho các hàm không toàn phươngđược công bố từ sớm [29],[30],[22], một số kết quả cho hàm toàn phươngsau đó mới được thống kê [30] Vì vậy, việc chứng minh bổ đề chính khôngđược đưa ra trong [30] Nó sẽ được trình bày dưới đây Hơn nữa, các tínhchất bổ sung của miền cực đại của tính tựa lồi và tính giả lồi được suy ra

Từ đó sự tương đương của những kết quả của Ferland [12] và của Shaiblle[29] được xem xét

Trước hết, ta nhắc lại rằng mọi hàm toàn phương

i=1

λiyi2 +

nX

i=1(bTti)yi

Áp dụng quy tắc biến đổi

−bTtr/λr0

.0

i=1

λiyi2+

nX

i=r+1(bTti)yi + δ,trong đó

δ = −1

2

rX

Q(x) = −1

2

νX

i=1

yi2+ 12

rX

i=ν+1

y2i +

nX

i=r+1(bTti)yi + δ (2.14)

Điều này thu được bằng việc áp dụng biến đổi aphin

x = Dy + v, P = P P , v = P v (2.15)Bây giờ chúng ta phân biệt hai trường hợp

(i) Q(x) = Q1(y) = −1

2

νX

i=1

yi2+ 12

rX

i=1

y2i + 12

rX

i=ν+1

yi2+

nX

i=r+1(bTti)yi + δ, (2.17)

trong đó không phải tất cả các số hạng bTti đều triệt tiêu.

Ta dễ dàng kiểm tra được rằng

Q(x) = Q1(y) ⇔ rank (A, b) = rank (A) (2.18)Như đã chỉ ra, Q(x) có thể được xem như hàm hợp của các hàm Qi(y)

và một biến đổi aphin của các biến Từ định nghĩa ta có thể thấy rằngQ(x) là hàm tựa lồi (giả lồi, giả lồi chặt) trên C khi và chỉ khi dạng chuẩn

Qi(x) của nó là hàm tựa lồi (giả lồi, giả lồi chặt) trên

D = {y ∈ Rn| x = P y + v ∈ C}

Vì vậy, chỉ cần đặc trưng hóa các dạng chuẩn

Giả sử rằng Qi(y) không lồi trên tập lồi đặc D Khi đó, ta có ν ≥ 1[23] Vì tập mức dưới của một hàm tựa lồi là lồi, các hàm sau đây khôngtựa lồi trên D: Q1(y) với ν > 1, và Q2(y)

Ta xét những dạng chuẩn còn lại

Q1(y) = G(y) + δ, G(y) = −1

2y1

2+ 12

rX

Bổ đề 2.18 Hàm F (y) = (y12−

rPi=2

yi2)2 là lõm trên các nón lồi

D1 = {y ∈ Rn | y12−

rX

i=2

yi2 ≥ 0, y1 ≥ 0},

D2 = {y ∈ Rn | y12−

rX

i=2

yi2)2xét trên

D1,k = {y ∈ Rn | y12 −

rX

i=2

yi2 ≥ 0, y1 ≥ 0},

D2,k = {y ∈ Rn | y12 −

rX

i=2

yi2 ≥ 0, y1 ≤ 0}, 1 ≤ k ≤ r

Ta sẽ chỉ ra rằng Fk(y) lõm trên D1,k, D2,k với k = 1, , r

Thật vậy, điều này đúng với k = 1

Bây giờ, giả sử rằng Fk(y) lõm trên D1,k và D2,k với k < r Biến đổisau thỏa mãn với y ∈ D1,k+1 ⊂ D1,k và y ∈ D2,k+1 ⊂ D2,k:

Fk+1(y) = [(Fk(y) − yk+1) (Fk(y) + yk+1)]12 (2.23)

Vì vậy,

D1,k+1 = {y ∈ Rn| Fk(y) − yk+1 ≥ 0, Fk(y + yk+1) ≥ 0, y1 ≥ 0} (2.24)

Vì Fk(y) là lõm trên D1,k như giả thiết nên D1,k+1 là tập lồi theo (2.24)và

D2,k+1 cũng vậy Hơn nữa, Fk+1(y) lõm trên các tập này, vì Fk+1(y) là cănbậc hai của tích hai hàm lõm không âm theo (2.23) Do đó,

F (y) = Fr(y)

là lõm trên

D1 = D1,r, D2 = D2,r.Đây là những nón lồi đóng

Các nón như vậy được nghiên cứu trong [24] Lưu ý rằng, với r > 2,các nón D1, D2 không còn là nón lồi đa diện.

Như đề cập ở trước, Bổ đề 2.18 chỉ ra rằng

Q1(y) = G(y) + δtrong (2.19) là tựa lồi trên D1, D2 và giả lồi trên D01, D02 Người ta cũng cóthể chứng mình rằng đây là các miền cực đại của tính tựa lồi và tính giảlồi tương ứng Về điều này, lưu ý rằng các tập mức dưới của G(y) trong

D \ (D1∪ D2) là không lồi đối với tập lồi đặc D ⊂ Rn, trong đó

là tựa lồi (giả lồi) trên tập lồi đặc C ⊂ Rn khi và chỉ khi

(i) rank (A, b) = rank (A); (2.25)(ii) A có đúng một giá trị riêng (đơn) âm; (2.26)(iii) C ⊂ C1 hoặc C ⊂ C2(C ⊂ C10 hoặc C ⊂ C20), (2.27)trong đó

Cl = {x ∈ Rn | x = P y + v, y ∈ D1}, l = 1, 2,

Cl0 = {x ∈ Rn | x = P y + v, y ∈ D0

1}, l = 1, 2

Miền cực đại của tính lồi (hoặc giả lồi) là ảnh của các nón lồi D1 (hoặc

D10) qua biến đổi aphin

x = P y + v

Một biến đổi aphin như vậy được sử dụng để rút gọn Q(x) thành dạngchuẩn

Q1(y) = G(y) + δTheo (2.20), khi đó

C1 = {x ∈ Rn | Q(x) ≤ δ, y1 ≥ 0},

C2 = {x ∈ Rn | Q(x) ≤ δ, y1 ≤ 0} (2.28)

Từ điều này và Bổ đề 2.18, ta suy ra định lý sau

Định lý 2.20 Nếu Q(x) là hàm chỉ tựa lồi trên tập lồi đặc C ⊂ Rn, khi

đó tồn tại δ ∈ R thỏa mãn

(a) Q(x) ≤ δ, ∀x ∈ C; (2.29)(b) K(x) = −(δ − Q(x))12 lồi trên C (2.30)Định lý này chỉ ra hai tính chất thú vị của hàm chỉ tựa lồi Q(x) Đầutiên là những hàm này bị chặn trên C ngược lại với hàm toàn phương lồikhông bị chặn trên miền cực đại của tính lồi Rn Thứ hai là hàm toànphương tựa lồi có thể biến đổi lồi hóa bằng hiệu chỉnh Chính tính chấtnày giúp chúng ta suy diễn hầu hết các tiêu chuẩn dưới đây

Miền cực đại của tính tựa lồi (2.28) có thể được đặc trưng đầy đủ theogiá trị riêng và véc-tơ riêng của A:

có được C10, C20 Ở đây, bất phương trình cuối trong (2.31) có thể đượcthay thế bởi một bất phương trình chặt

Bây giờ ta muốn suy ra một biểu diễn khác của C1, C2 Nó liên quanđến điểm dừng s ∈ Rn của Q(x), tức là

∇Q(s) = As + b = 0 (2.32)Đối với một hàm chỉ tựa lồi, điều kiện (i) trong Định lý 2.19 đảm bảo

sự tồn tại của một điểm dừng s Theo (2.32),

z =

1

Q(x) = G(y) + δtrong đó

Điều này mô tả sự tương đương của các kết quả của Ferland [12] và củaSchaible [8], như đã chỉ ra trong [27] Crouzeix [9] đã chỉ ra rằng các đặctrưng của hàm tựa lồi của Ferland có thể được sử dụng để chứng minhtính lồi hóa của những hàm này Theo tiếp cận của Schaible, ta bắt đầuvới việc chứng minh tính chất đó (Bổ đề 2.18) và thu được tiêu chí chính

để kiểm tra hàm tựa lồi và giả lồi (Định lý 2.19)

Ta chỉ ra rằng (2.36) giúp chúng ta tính toán δ mỗi khi điểm dừng scủa Q(x) được xác định Xét (2.32), ta thấy

Hệ quả 2.21 Nếu C là tập lồi mở trong Rn và gọi C là bao đóng của C.Khi đó,

Q(x) = 1

2x

TAx + bTx

là tựa lồi trên C khi và chỉ khi Q(x) là giả lồi trên C

Do đó, mỗi đặc trưng của hàm Q(x) là giả lồi trên tập lồi mở có thểxem như một tiêu chuẩn cho hàm tựa lồi Q(x) trên tập đóng và ngược lại.Định lý tiếp theo chỉ ra một tiêu chuẩn kiểm tra hàm giả lồi chặt Q(x)chưa được biểu diễn Ta chứng minh được rằng một hàm giả lồi Q1(y) làgiả lồi chặt khi và chỉ khi r = n hay det(A) 6= 0 (chi tiết, xem [19])

Định lý 2.22 Cho Q(x) không lồi trên C.Khi đó, Q(x) là giả lồi chặttrên C khi và chỉ khi Q(x) là giả lồi trên C và det (A) 6= 0

Do đó, một kết quả tượng tự với hàm toàn phương lồi chặt được thỏamãn

Trong 3 mục tiếp theo, ta sẽ biểu diễn hàm lồi trên tập lồi mở Theo

Hệ quả 2.21, điều này cũng đưa ra tiêu chuẩn kiểm tra hàm tựa lồi trêntập lồi đóng Sau đó, trong Mục 2.7, có thể thấy rằng các tiêu chuẩn kiểmtra tính giả lồi trên oc-tan dương thường thỏa mãn với oc-tan nửa dương

và oc-tan không âm

2.4 Tiêu chuẩn kiểm tra theo ma trận Hessian tăng

∇2Q(x) hoặc ∇2K(x) là nửa xác định dương trên C Khi đó ta có thể chỉ

ra (về chi tiết chứng minh, xem [19]) định lý sau

Định lý 2.23 Một hàm toàn phương Q(x) là giả lồi trên tập lồi mở

C ⊂ Rn khi và chỉ khi tồn tại r : C → R thỏa mãn ma trận Hessian tăngcường