Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học

Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học Toán tử đơn điệu cực đại và một số ứng dụng luận văn thạc sĩ toán học

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI 2

TÓM TẮT LUẬN VĂN THẠC SĨ TOÁN HỌC

Người hướng dẫn khoa học: TS NGUYỄN VĂN HÀO

HÀ NỘI, 2014

LÍI CƒM ÌN

Luªn v«n ÷ñc ho n th nh t¤i Tr÷íng ¤i håc S÷ ph¤m H  Nëi 2.T¡c gi£ ch¥n th nh c£m ìn TS Nguy¹n V«n H o ¢ tªn t¼nh h÷îng d¨n,t¤o i·u ki»n cho t¡c gi£ ho n th nh luªn v«n Th¤c s¾ T¡c gi£ xin b y

tä láng bi¸t ìn c¡c th¦y cæ gi¡o v  c¡n bë cæng nh¥n vi¶n cõa Tr÷íng

¤i håc S÷ ph¤m H  Nëi 2 ¢ quan t¥m gióp ï

T¡c gi£ ch¥n th nh c£m ìn c¡c th¦y cæ gi¡o v  c¡c b¤n çng nghi»p

ð Tr÷íng THPT L÷ìng T i 1 - huy»n L÷ìng T i - t¿nh B­c Ninh, °cbi»t l  ð Tê to¡n cõa Tr÷íng, ¢ t¤o måi i·u ki»n thuªn lñi cho t¡c gi£

H  Nëi, ng y 28 th¡ng 06 n«m 2014

T¡c gi£ luªn v«n

Vô V«n Quy·n

LÍI CAM OAN

Tæi xin cam oan luªn v«n n y l  k¸t qu£ nghi¶n cùu cõa ri¶ng tæid÷îi sü h÷îng d¨n cõa TS Nguy¹n V«n H o

Trong qu¡ tr¼nh nghi¶n cùu, tæi ¢ k¸ thøa th nh qu£ khoa håc cõac¡c nh  khoa håc vîi sü tr¥n trång v  bi¸t ìn C¡c k¸t qu£ tr½ch d¨ntrong luªn v«n n y ¢ ÷ñc ch¿ rã nguçn gèc

H  Nëi, ng y 28 th¡ng 06 n«m 2014

T¡c gi£ luªn v«n

Vô V«n Quy·n

Möc löc

1 Ki¸n thùc chu©n bà 8

1.1 Mët sè ki¸n thùc cì sð v· gi£i t½ch lçi 8

1.1.1 Tªp lçi 8

1.1.2 ành l½ Carath²odory 10

1.1.3 ành l½ Hahn-Banach 10

1.1.4 ành l½ t¡ch trong khæng gian vector 11

1.2 Mët sè ki¸n thùc cì sð v· gi£i t½ch bi¸n ph¥n 14

2 To¡n tû ìn i»u cüc ¤i v  mët sè ùng döng 17 2.1 To¡n tû ìn i»u v  to¡n tû ìn i»u cüc ¤i 17

2.2 D÷îi vi ph¥n cõa h m lçi 31

2.3 Mët sè lîp to¡n tû ìn i»u cüc ¤i 44

2.3.1 To¡n tû ìn i»u kiºu (D) 44

2.3.2 To¡n tû ìn i»u cüc ¤i àa ph÷ìng 54

2.4 Mët sè ùng döng 60

2.4.1 Sü tçn t¤i nghi»m cõa b i to¡n b§t ¯ng thùc bi¸n

ph¥n ìn i»u 602.4.2 Mët °c tr÷ng cõa t½nh lçi m¤nh 61

T i li»u tham kh£o 67

Mð ¦u

1 Lþ do chån · t i

T½nh ìn i»u (th÷íng ÷ñc gåi l  t½nh ìn i»u Minty-Browder)cõa mët to¡n tû tø mët khæng gian Banach v o khæng gian èi ng¨u cõa

nâ ÷ñc ÷a ra bði Browder v  Minty c¡ch ¥y kho£ng hìn 50 n«m Gi£

sû E l  mët khæng gian Banach, E∗ l  khæng gian li¶n hñp cõa nâ Mëttªp G ⊂ E × E∗ ÷ñc gåi l  ìn i»u n¸u vîi méi c°p (x, x∗) v  (y, y∗)thuëc G, ta câ

Mët sè k¸t qu£ g¦n ¥y cõa Huy v  Chieu [10] ¢ sû döng t½nh

ìn i»u cüc ¤i º nghi¶n cùu t½nh lçi m¤nh cõa mët h m sè Sau â,

Chieu v  Trang [11] ¢ sû döng cæng cö èi ¤o h m Fr²chet v  èi ¤o

h m Mordukhovich º °c tr÷ng t½nh ìn i»u v  ìn i»u cüc ¤i cõamët to¡n tû Vi»c nghi¶n cùu t½nh ìn i»u v  ìn i»u cüc ¤i l  mët

· t i luæn thu hót ÷ñc sü quan t¥m cõa nhi·u nh  to¡n håc

Vîi mong muèn ÷ñc t¼m hiºu v· lîp c¡c to¡n tû ìn i»u cüc ¤ichóng tæi ¢ chån · t i

To¡n tû ìn i»u cüc ¤i v  mët sè ùng döng.

2 Möc ½ch nghi¶n cùu

Nghi¶n cùu c¡c t½nh ch§t cõa to¡n tû ìn i»u cüc ¤i tø mëtkhæng gian Banach v o khæng gian èi ng¨u cõa nâ

Nghi¶n cùu mët sè ph÷ìng ph¡p º °c tr÷ng t½nh ìn i»u cüc

¤i cõa mët to¡n tû

Nghi¶n cùu mët sè ùng döng cõa to¡n tû ìn i»u

3 Nhi»m vö nghi¶n cùu

T¼m hiºu v· c¡c t½nh ch§t cõa to¡n tû ìn i»u cüc ¤i v  c¡cph÷ìng ph¡p º °c tr÷ng t½nh ch§t n y cõa mët to¡n tû

T¼m hiºu mët sè ùng döng cõa to¡n tû ìn i»u

4 èi t÷ñng v  ph¤m vi nghi¶n cùu

• èi t÷ñng nghi¶n cùu l  lîp c¡c to¡n tû ìn i»u

•Ph¤m vi nghi¶n cùu: T½nh ìn i»u cüc ¤i àa ph÷ìng, ìn i»u

cüc ¤i to n cöc cõa mët to¡n tû v  mët sè ùng döng trong gi£i t½ch lçi.

5 Ph÷ìng ph¡p nghi¶n cùu

Sû döng c¡c ph÷ìng ph¡p nghi¶n cùu trong gi£i t½ch lçi, gi£i t½chbi¸n ph¥n

6 Dü ki¸n âng gâp cõa luªn v«n:

Tr¼nh b y chi ti¸t v  câ h» thèng c¡c t½nh ch§t cõa to¡n tû ìn

i»u cüc ¤i Tø â nghi¶n cùu mët sè ùng döng cõa to¡n tû ìn i»ucüc ¤i trong gi£i t½ch lçi

H  Nëi, ng y 28 th¡ng 06 n«m 2014

T¡c gi£ luªn v«n

Vô V«n Quy·n

Ch֓ng 1

Ki¸n thùc chu©n bà

1.1 Mët sè ki¸n thùc cì sð v· gi£i t½ch lçi

1.1.1 Tªp lçi

Cho X l  mët khæng gian vector tr¶n tr÷íng sè thüc Mët tªp hñp

C ⊆ X ÷ñc gåi l  lçi n¸u vîi måi c°p iºm x, y ∈ C ta câ (x, y) ⊆ C,trong â (x, y) := {z = λx + (1 − λ)y : λ ∈ (0, 1)} Nâi c¡ch kh¡c, Clçi n¸u vîi måi x, y ∈ C v  λ ∈ (0, 1) ta câ λx + (1 − λ)y ∈ C Trongkhæng gian húu h¤n chi·u, m°t ph¯ng, o¤n th¯ng, ÷íng th¯ng, tamgi¡c, h¼nh c¦u cho ta c¡c h¼nh £nh v· tªp lçi Trong khi m°t c¦u v  c¡c

÷íng cong nâi chung khæng ph£i l  tªp lçi

Tø ành ngh¾a d¹ r ng suy ra c¡c k¸t qu£ d÷îi ¥y:

M»nh · 1.1 Giao cõa mët hå b§t k¼ c¡c tªp lçi l  tªp lçi

Ta gåi bao lçi cõa mët tªp A ⊆ X, k½ hi»u co A, l  giao cõa t§t c£c¡c tªp lçi chùa A Tø M»nh · 1.1, co A công l  mët tªp lçi v  l  tªplçi b² nh§t chùa A

M»nh · 1.2 (a)Mët tªp lçi th¼ chùa måi tê hñp lçi cõa c¡c vector cõa

(b) co A = {x|x l  tê hñp lçi cõa c¡c vector thuëcA},

(c) C l  tªp lçi khi v  ch¿ khi C = co C

Mët tªp A ⊆ X ÷ñc gåi l  c¥n èi n¸u vîi måi |λ| ≤ 1 ta câ

λA ⊆ A Lóc â, A = −A, hìn núa n¸u A 6= ∅ th¼ 0 ∈ A Mët tªp vøalçi vøa c¥n èi ÷ñc gåi l  tªp tuy»t èi lçi

M»nh · 1.3 (a)Cho A, B ⊆ X l  c¡c tªp lçi, α ∈ R Lóc â A+B, αAcông lçi;

(b)ƒnh v  £nh ng÷ñc cõa mët tªp lçi (c¥n èi) qua mët ¡nh x¤tuy¸n t½nh l  tªp lçi(c¥n èi)

Cho E l  mët tªp con cõa tªp lçi C E ÷ñc gåi l  tªp b¡n cücbi¶n cõa C, hay C - b¡n cüc bi¶n, n¸u C\E l  tªp lçi, v  E l  tªp cücbi¶n cõa C, hay C-cüc bi¶n, n¸u

∀x, y ∈ C, ∀λ ∈ (0, 1) : (λx + (1 − λ)y ∈ E =⇒ x, y ∈ E)

Rã r ng, mët tªp C- cüc bi¶n công l  C- b¡n cüc bi¶n v  èi vîi tªp

ìn tû: E = {¯x} th¼ hai kh¡i ni»m n y l  tròng nhau, lóc â ta nâi ¯x l 

iºm cüc bi¶n cõa C Tªp t§t c£ c¡c iºm cüc bi¶n cõa C ÷ñc k½ hi»u

l  ext(C) º minh håa ta x²t C l  mët h¼nh trán (khæng suy bi¸n) tr¶nm°t ph¯ng vîi bi¶n l  ÷íng trán L, lóc â ext(C) = L, b£n th¥n C v måi tªp con cõa L ·u l  tªp C-cüc bi¶n, trong khi måi nûa h¼nh trán l tªp C- b¡n cüc bi¶n nh÷ng khæng ph£i l  C-cüc bi¶n Ta d¹ d ng kiºmchùng ÷ñc k¸t qu£ sau:

Bê · 1.1 Cho C l  tªp lçi trong X

(a) Hñp cõa mët hå c¡c tªp C-(b¡n) cüc bi¶n l  tªp C -(b¡n) cücbi¶n;

(b) Giao cõa mët hå lçng nhau (tùc måi c°p tªp ·u so s¡nh ÷ñctheo quan h» bao h m) c¡c tªp C-(b¡n) cüc bi¶n công l  tªp C-(b¡n) cücbi¶n;

(c) Cho E ⊆ D ⊆ C, vîi D l  tªp Ccüc bi¶n N¸u E l  D (b¡n)cüc bi¶n th¼ E công C-(b¡n) cüc bi¶n;

-(d) N¸u E l  C-cüc bi¶n th¼ ext(E) = ext(C) ∩ E

1.1.2 ành l½ Carath²odory

Gi£ sû A ⊆ X, k½ hi»u con A := {λa : λ > 0, a ∈ A}

ành lþ 1.1 Cho A ⊆ X Lóc â, vîi måi k ∈ (con co A)\{0}, tçn t¤ih» ëc lªp tuy¸n t½nh {a1, a2, , am} ⊆ A v  c¡c sè d÷ìng λ1, , λm saocho k = λ1a1 + λ2a2 + + λmam

ành lþ 1.2 ( Carath²odory) Gi£ sû dim X = n < ∞ v  A ⊆ X Lóc

â, vîi måi x ∈ co A, x l  tê hñp lçi cõa mët hå câ khæng qu¡ n + 1vector thuëc A Tùc l  tçn t¤i h» {a0, a1, , am} ⊆ A, vîi m ≤ n, v  c¡c

Gi£ sû X l  mët khæng gian vector tr¶n tr÷íng sè thüc K½ hi»u

X# := L(X, R) l  khæng gian c¡c phi¸m h m tuy¸n t½nh tr¶n X nhx¤ ϕ : X → R ÷ñc gåi l  mët phi¸m h m d÷îi tuy¸n t½nh n¸u nâ thäam¢n hai t½nh ch§t sau :

(a) ϕ(x + y) ≤ ϕ(x) + ϕ(y) vîi måi x, y ∈ X(d÷îi cëng t½nh );

(b) ϕ(λx) = λϕ(x) vîi måi λ > 0 v  x ∈ X (thu¦n nh§t d÷ìng).

ành lþ 1.3 (Hahn-Banach ) Cho ϕ l  mët phi¸m h m d÷îi tuy¸n t½nhtr¶n X, M l  mët khæng gian con cõa X v  f ∈ M# thäa m¢n

F |M = f v  ||F || = ||f||

H» qu£ 1.2 Cho X l  khæng gian ành chu©n v  x0 ∈ X\{0} Lóc â,tçn t¤i phi¸m h m tuy¸n t½nh li¶n töc f tr¶n X sao cho

||f || = 1 v  f (x0) = ||x0||

1.1.4 ành l½ t¡ch trong khæng gian vector

Cho A v  B l  hai tªp con cõa X Mët phi¸m h m tuy¸n t½nh kh¡ckhæng f ÷ñc gåi l  t¡ch A v  B n¸u

f (a) ≤ f (b) (ho°cf(a) ≥ f(b)), ∀a ∈ A, b ∈ B

i·u n y x£y ra khi v  ch¿ khi tçn t¤i mët sè α ∈ R sao cho

f (a) ≤ α ≤ f (b), ∀a ∈ A, b ∈ B

Lóc â, ta công nâi si¶u ph¯ng H(f; α) := f−1(α) = {x ∈ X : f (x) = α}t¡ch A v  B Tr÷íng hñp B l  tªp mët iºm : B = {x0}, ta nâi ìn gi£n

si¶u ph¯ng H(f; α) t¡ch A v  x0 Nâi chung, si¶u ph¯ng t¡ch hai tªp,n¸u câ, l  khæng duy nh§t.

Câ mët c¡ch di¹n ¤t kh¡c: Ta nâi si¶u ph¯ng H(f; α) º tªp

A ⊆ X v· mët ph½a n¸u A l  tªp con cõa mët trong hai nûa khæng giansau:

H+(f ; α) := {x ∈ X|f (x) ≥ α}; H−(f ; α) := {x ∈ X|f (x) ≤ α}

Nh÷ vªy, si¶u ph¯ng H(f; α) t¡ch hai tªp A v  B khi v  ch¿ khi nâ º haitªp n y v· hai ph½a kh¡c nhau Tùc l  A ⊆ H−(f ; α) v  B ⊆ H+(f ; α)

Chó þ r¬ng n¸u f(a) = f(b) = α vîi måi a ∈ A v  b ∈ B th¼, theo

ành ngh¾a, H(f; α) công ÷ñc gåi l  t¡ch A v  B Ta s³ nâi H(f; α)t¡ch thüc sü A v  B n¸u i·u â khæng x£y ra, tùc l  A v  B khængcòng n¬m tr¶n mët si¶u ph¯ng, hay ta câ çng thíi hai b§t ¯ng thùc:

sup{f (a), a ∈ A} ≤ inf{f (b), b ∈ B};

inf{f (a), a ∈ A} < sup{f (b), b ∈ B}

(ho°c ng÷ñc l¤i) º th§y rã hìn i·u n y chóng ta x²t v½ dö sau :V½ dö 1.1 Trong R2 cho c¡c iºm O(0; 0), M(1; 1), N(2; 2), P (3; 3),Q(4; 4) v  gåi A, B, C l¦n l÷ñt l  c¡c o¤n th¯ng ON, MP, P Q Lóc

â si¶u ph¯ng x − y = 0 (ð ¥y f(x, y) = x − y v  α = 0) t¡ch A v  B,

Mët iºm x0 ÷ñc gåi l  iºm båc (hay iºm h§p thö) cõa A n¸u A − x0

l  h§p thö Tªp t§t c£ c¡c iºm båc cõa A, k½ hi»u l  core A, ÷ñc gåi

l  lãi cõa A Nh÷ vªy,

x0 ∈ core A ⇐⇒ ∀v ∈ X, ∃ > 0, ∀λ ∈ (−, ) : x0 + λv ∈ A

Mët tªp lçi câ lãi kh¡c réng ÷ñc gåi l  mët tªp °c D¹ th§y r¬ng, n¸u

C l  mët tªp lçi th¼ core A công l  mët tªp lçi

Bê · 1.2 Gi£ sû si¶u ph¯ng H(f; α) º tªp hñp A v· mët ph½a Khi

â H(f; α) ∩ core A = ∅

Nhªn x²t 1.1 Tø m»nh · n y ta th§y mët phi¸m h m kh¡c khængth¼ khæng thº nhªn gi¡ trà h¬ng tr¶n mët tªp °c Tø â suy ra n¸u mëtsi¶u ph¯ng t¡ch hai tªp m  mët trong chóng l  °c th¼ ph²p t¡ch l  thücsü

ành lþ 1.4 Cho C l  mët tªp lçi v  x0 ∈ X\C N¸u mët trong hai

i·u ki»n sau thäa m¢n:

l  tªp lçi kh¡c réng sao cho

0 (f ; α) v 

B ⊆ H0+(f ; α) (ho°c ng÷ñc l¤i) D¹ th§y hai tªp t¡ch ch°t ÷ñc th¼ côngt¡ch thüc sü ÷ñc v  ríi nhau Tuy nhi¶n hai tªp t¡ch thüc sü ÷ñckhæng nh§t thi¸t ríi nhau v  hai tªp lçi, ríi nhau câ thº khæng t¡cht¡ch ch°t ÷ñc

Nhªn x²t 1.2 ành l½ t¡ch âng mët vai trá °c bi»t trong gi£i t½chlçi, ¸n néi h¦u nh÷ trong t§t c£ c¡c k¸t qu£ quan trång v  µp ³ nh§tcõa gi£i t½ch lçi ·u th§y th§p tho¡ng ¬ng sau l  bâng d¡ng cõa ànhl½ n y V  qu£ thªt, ½t câ mët l¾nh vüc n o cõa khoa håc nâi chung v to¡n håc nâi ri¶ng l¤i phö thuëc nhi·u nh÷ vªy v o ch¿ mët ành l½ cõanâ

1.2 Mët sè ki¸n thùc cì sð v· gi£i t½ch bi¸n ph¥n

Gi£ sû X l  khæng gian Banach vîi chu©n k · k Khæng gian èing¨u cõa X ÷ñc k½ hi»u bði X∗ Tæpæ y¸u∗ trong X∗ ÷ñc k½ hi»u bði

w∗ H¼nh c¦u ìn và âng trong X (t÷ìng ùng, trong X∗) ÷ñc k½ hi»ubði BX (t÷ìng ùng, bði BX ∗) N¸u A : X → Y l  to¡n tû tuy¸n t½nh li¶ntöc giúa c¡c khæng gian Banach, th¼ A∗ k½ hi»u to¡n tû li¶n hñp cõa nâ.H¼nh c¦u âng t¥m x b¡n k½nh ρ ÷ñc k½ hi»u bði Bρ(x).

Vîi méi tªp Ω ⊂ X, ta k½ hi»u bao âng, ph¦n trong, cõa Ω t÷ìngùng bði cl Ω, int Ω Ta nâi Ω ⊂ X l  âng àa ph÷ìng t¤i ¯x ∈ Ω n¸u câmët l¥n cªn U cõa ¯x sao cho Ω ∩ clU l  tªp âng

ành ngh¾a 1.1 Cho Ω ⊂ X, ¯x ∈ Ω, v  ε > 0 Tªp c¡c v²ctì ph¡ptuy¸n Fr²chet cõa Ω t¤i ¯x ÷ñc x¡c ành bði

ð â k½ hi»u x Ω

−→ ¯x câ ngh¾a l  x → ¯x v  x ∈ Ω Ta gåi h¼nh nân lçi

âng N (¯b x; Ω) l  nân ph¡p tuy¸n Fr²chet cõa Ω t¤i ¯x

ành ngh¾a 1.2 Cho f : X → ¯R l  h m nhªn gi¡ trà trong tªp sè thücsuy rëng ¯R := R ∪ {∞}, húu h¤n t¤i ¯x °t

C¡c ph¦n tû cõa tªp hñp ð v¸ ph£i cæng thùc n y ÷ñc gåi l  c¡c d÷îigradient Fr²chet cõa f t¤i ¯x, cán b£n th¥n tªp hñp â ÷ñc gåi l  d÷îi

vi ph¥n Fr²chet cõa f t¤i ¯x

ành ngh¾a 1.3 Cho ¡nh x¤ a trà F : X ⇒ Y vîi D(F ) := {x ∈ X :

F (x) 6= ∅} 6= ∅ L§y (x, y) ∈ X ×Y , tªp c¡c èi ¤o h m Fr²chet (Fr²chetcoderivative) cõa F t¤i (x, y) l  ¡nh x¤ a tràDb∗F (x, y) : Y∗ ⇒ X∗ ÷ñcx¡c ành bði

vîi G(F ) := {(x, y) ∈ X × Y : y ∈ F (x)}.

Tø ành ngh¾a th¼ Db∗F (x, y)(y∗) = ∅ vîi måi y∗ ∈ Y∗ n¸u (x, y) /∈G(F )

M»nh · 1.4 [19, Theorem 1.33] (èi ¤o h m cõa ¡nh x¤ ch¿) Cho

X v  Y c¡c khæng gian Banach, x²t mët tªp con kh¡c réng Ω ⊂ X v 

ành ngh¾a ¡nh x¤ ch¿ (indicator mapping) ∆ : X → Y cõa Ω t÷ìng èicho Y l 

Ch֓ng 2

To¡n tû ìn i»u cüc ¤i v  mët sè ùng döng

2.1 To¡n tû ìn i»u v  to¡n tû ìn i»u cüc ¤i

ành ngh¾a 2.1 Cho E l  mët khæng gian Banach v  E∗ l  khæng gian

èi ng¨u cõa nâ Mët ¡nh x¤ a trà T : E ⇒ E∗ ÷ñc gåi l  mët to¡n tû

ìn i»u n¸u

hx∗ − y∗, x − yi ≥ 0 ∀x, y ∈ E v  x∗ ∈ T (x), y∗ ∈ T (y)

Trong ành ngh¾a tr¶n ta khæng ái häi T (x) l  kh¡c réng Mi·nhúu hi»u cõa T k½ hi»u l  D(T ) = {x ∈ E : T (x) 6= ∅}

V½ dö 2.1 (a) V½ dö ìn gi£n nh§t v· c¡c to¡n tû ìn i»u l  c¡c to¡n

tû tuy¸n t½nh v  ìn trà Ch¯ng h¤n, n¸u H l  mët khæng gian Hilbertthüc v  T : H → H∗ ≡ H l  mët ¡nh x¤ tuy¸n t½nh, th¼ T l  ìn i»ukhi v  ch¿ khi T l  to¡n tû d÷ìng, tùc l : hT x, xi ≥ 0 ∀x ∈ H

(b) Cho D l  mët tªp con kh¡c réng cõa tªp sè thüc R Mët h m

ϕ : D → R∗ ≡ R l  mët to¡n tû ìn i»u khi v  ch¿ khi ϕ l  mët h m

ìn i»u khæng gi£m theo ngh¾a thæng th÷íng Thªt vªy, i·u ki»n

[ϕ(t2) − ϕ(t1)](t2 − t1) ≥ 0 ∀t1, t2 ∈ Dx£y ra khi v  ch¿ khi

ϕ(t1) ≤ ϕ(t2) n¸u t1 < t2.(c) V½ dö v· ¡nh x¤ a trà ìn i»u tø R tîi R câ thº x²t nh÷ sau:

(d) V½ dö ti¸p theo n£y sinh trong l½ thuy¸t iºm b§t ëng Cho C

l  mët tªp lçi, âng, bà ch°n kh¡c réng trong khæng gian Hilbert H v 

U (nâi chung phi tuy¸n) l  ¡nh x¤ khæng gi¢n (nonexpansive) tø C v och½nh nâ, tùc l : kU(x) − U(y)k ≤ kx − yk vîi måi x, y ∈ C K½ hi»u I l 

¡nh x¤ çng nh§t trong H Khi â T = I −U l  ìn i»u vîi D(T ) = C.Thªt vªy, vîi måi x, y ∈ C ta câ

hT (x) − T (y), x − yi = hx − y − (U (x) − U (y)), x − yi

= kx − yk2 − hU (x) − U (y), x − yi

≥ kx − yk2 − kU (x) − U (y)k · kx − yk ≥ 0

L÷u þ r¬ng 0 n¬m trong mi·n x¡c ành cõa T khi v  ch¿ khi U câ mët

iºm b§t ëng trong C ‰n þ n y r§t quan trång trong c¡c ùng döngkhi nghi¶n cùu mi·n £nh cõa to¡n tû ìn i»u

(e) Mët l¦n núa, trong khæng gian Hilbert, cho C l  mët tªp lçi

âng kh¡c réng v  P l  ph²p chi¸u metric cõa H l¶n C; tùc l , P (x) l ph¦n tû duy nh§t cõa C m  thäa m¢n kx−P (x)k = inf{kx−yk : y ∈ C}

Tr÷îc ti¶n ta chùng tä r¬ng ¡nh x¤ P thäa m¢n b§t ¯ng thùc bi¸n ph¥nsau: Vîi méi x ∈ H, ta câ

hx − P (x), z − P (x)i ≤ 0 vîi måi z ∈ C (2.1)Thªt vªy, n¸u z ∈ C v  0 < t < 1, th¼ zt ≡ tz + (1 − t)P (x) ∈ C Ta câ

i·u n y chùng tä r¬ng to¡n tû P l  ìn i»u theo ngh¾a r§t m¤nh L÷u

þ r¬ng P l  mët v½ dö cõa ¡nh x¤ khæng gi¢n Thªt vªy, ta luæn câ b§t

¯ng thùc

hx − y, P (x) − P (y)i ≤ kx − yk · kP (x) − P (y)k

V¼ vªy k¸t hñp vîi b§t ¯ng thùc ìn i»u ð tr¶n ta câ

kP (x) − P (y)k ≤ kx − yk ∀x, y ∈ H

(f) Ti¸p theo chóng ta tr¼nh b y mët v½ dö cì b£n v· ¡nh x¤ ìn

i»u a trà, â l  ¡nh x¤ èi ng¨u tø E v o E∗ Vîi b§t k¼ x ∈ E ànhngh¾a

J (x) = {x∗ ∈ E∗ : hx∗, xi = kx∗k · kxk v  kx∗k = kxk}

Theo ành l½ Hahn-Banach, J(x) l  kh¡c réng vîi méi x V¼ vªy D(J) =

E Gi£ sû x∗ ∈ J(x) v  y∗ ∈ J(y) Khi â

hx∗ − y∗, x − yi = kx∗k2 − hx∗, yi − hy∗, xi + ky∗k2

≥ kx∗k2 − kx∗k.kyk − ky∗k.kxk + ky∗k2

= kx∗k2 − 2kx∗k.ky∗k + ky∗k2 = (kx∗k + ky∗k)2,nh÷ vªy ¥y công l  to¡n tû ìn i»u theo mët ngh¾a m¤nh hìn

Ti¸p theo, º ành ngh¾a to¡n tû ìn i»u cüc ¤i chóng ta x²t çthà cõa chóng

ành ngh¾a 2.2 Mët tªp con G cõa E × E∗ gåi l  ìn i»u n¸u

hx∗ − y∗, x − yi ≥ 0vîi måi (x, x∗), (y, y∗) ∈ G Mët ¡nh x¤ a trà T : E ⇒ E∗ l  to¡n tû

ìn i»u khi v  ch¿ khi ç thà cõa nâ

G(T ) = {(x, x∗) ∈ E × E∗ : x∗ ∈ T (x)}

l  mët tªp ìn i»u Mët tªp ìn i»u ÷ñc gåi l  cüc ¤i n¸u nâ l  cüc

¤i trong hå c¡c tªp con ìn i»u cõa E × E∗ theo quan h» bao h m.Mët ph¦n tû (x, x∗) ∈ E × E∗ ÷ñc gåi l  ìn i»u t÷ìng ùng vîi tªpcon G n¸u

hx∗ − y∗, x − yi ≥ 0 ∀(y, y∗) ∈ G

Ta nâi r¬ng to¡n tû T l  ìn i»u cüc ¤i n¸u ç thà cõa nâ l  tªp ìn

i»u cüc ¤i

Mët ành ngh¾a kh¡c v· t½nh ìn i»u cüc ¤i cõa T ÷ñc ph¡tbiºu nh÷ sau: Vîi méi (x, x∗) ∈ E × E∗ ìn i»u t÷ìng ùng vîi G(T ),th¼ x ∈ D(T ) v  x∗ ∈ T (x).

Rã r ng, tçn t¤i mët t÷ìng ùng 1-1 giúa c¡c tªp ìn i»u v  c¡cto¡n tû ìn i»u p döng bê · Zorn d¹ d ng chùng minh ÷ñc méito¡n tû T câ thº th¡c triºn th nh mët to¡n tû ìn i»u cüc ¤i T , theongh¾a G(T ) ⊂ G(T )

ành ngh¾a 2.3 N¸u T : E ⇒ E∗ l  to¡n tû ìn i»u, th¼ to¡n tûnghàch £o cõa nâ T−1 l  ¡nh x¤ a trà tø E∗ v o E ÷ñc x¡c ành bði

T−1(x∗) = {x ∈ E : x∗ ∈ T (x)} Rã r ng,

G(T−1) = {(x∗, x) ∈ E∗ × E : x∗ ∈ T (x)},

câ còng t½nh ìn i»u nh÷ tªp G(T ) (sai kh¡c ph²p ho¡n và) Nâi ri¶ng,

T−1 l  ìn i»u cüc ¤i khi v  ch¿ khi T l  ìn i»u cüc ¤i

V½ dö 2.2 (a) nh x¤ ìn i»u ϕ ÷ñc ành ngh¾a trong V½ dö 2.1 (c)

l  cüc ¤i khi v  ch¿ khi ϕ(0) = [0, 1] Têng qu¡t hìn, mët h m ìn

i»u khæng gi£m ϕ tr¶n R l  ìn i»u cüc ¤i khi v  ch¿ khi ϕ(x) =[ϕ(x−), ϕ(x+)] vîi méi x ∈ R (trong â: ϕ(x−) := lim

t→x −ϕ(t), ϕ(x+) :=lim

M»nh · 2.1 Gi£ sû T : E ⇒ E∗ Khi â:

(i) T l  ìn i»u cüc ¤i khi v  ch¿ khi T−1 l  ìn i»u cüc ¤i.(ii) N¸u T l  to¡n tû ìn i»u cüc ¤i th¼ G(T ) âng V¼ vªy, T

l  nûa li¶n töc d÷îi

(iii) N¸u T l  to¡n tû ìn i»u cüc ¤i, th¼ c£ T v  T−1 l  c¡c ¡nhx¤ a trà câ gi¡ trà lçi, âng

Möc ti¶u ch½nh cõa khâa luªn n y l  tr¼nh b y mèi li¶n h» giúat½nh ìn i»u cüc ¤i vîi t½nh lçi cõa D(T ) v  R(T ) (hay t½nh lçi cõaph¦n trong ho°c bao âng cõa chóng) C¡c v§n · cì b£n kh¡c li¶n quan

¸n c¡c i·u ki»n m  qua â D(T ) = E ho°c R(T ) = E∗, hay li»u c¡ctªp â câ thº trò mªt trong E ho°c E∗, t÷ìng ùng, hay khæng?

Câ l³ k¸t qu£ cì b£n nh§t cõa c¡c to¡n tû ìn i»u l  ành l½ mðrëng cõa Debrunner-Flor Mët h» qu£ ìn cõa ành l½ n y l : N¸u T l 

ìn i»u cüc ¤i v  n¸u mi·n £nh cõa nâ ÷ñc chùa trong mët tªp lçicompact y¸u* C, th¼ D(T ) = E.

Bê · 2.1 (Debrunner-Flor) Gi£ sû C l  tªp con lçi compact y¸u* cõa

E∗, ¡nh x¤ φ : C → E l  li¶n töc theo c°p tæpæ y¸u*-chu©n (weak* tonorm continous ) v  M ⊂ E ×C l  tªp ìn i»u Khi â, tçn t¤i x∗

tçn t¤i (y1, y1∗), (y, y2∗), , (y, yn∗) ∈ M sao cho C = Sn

i=1

{U (yi, yi∗)} Cho

β1, β2, , βn l  mët ph¥n ho¤ch ìn và phõ C; tùc l  méi βi l  li¶n töcy¸u* tr¶n C, 0 ≤ βi ≤ 1,P βi = 1 v  {x∗ ∈ C : βi(x∗) > 0} ⊂ U (yi, y∗i)vîi méi i °t K = co {y∗

i} ⊂ C v  ành ngh¾a ¡nh x¤ li¶n töc y¸u* pcõa K v o ch½nh nâ nh÷ sau

p(x∗) =Xβi(x∗)y∗i, x∗ ∈ K

Chó þ r¬ng K l  mët tªp lçi compact húu h¤n chi·u (v¼ topo y¸u* cônggièng nh÷ topo chu©n trong c¡c khæng gian húu h¤n chi·u ) nâ ¯ng c§uvîi mët h¼nh c¦u húu h¤n chi·u V¼ vªy, ta câ thº ¡p döng ành l½ iºmb§t ëng Brouwer Do â, tçn t¤i z∗ ∈ K sao cho p(z∗) = z∗ V¼ vªy, tacâ

b§t ¯ng thùc cuèi ÷ñc suy ra tø t½nh ìn i»u cõa M Ti¸p theo, º

ìn gi£n v· m°t k½ hi»u, °t βi(z∗) = βi L÷u þ r¬ng vîi måi i, j

ra c£ αii < 0 v  αjj < 0 Suy ra, P βiβj(αii +α jj

2 ) < 0, m¥u thu¨n V¼ vªy,

βi ≡ βi(z∗) = 0 vîi måi i i·u n y l  khæng thº v¼ P βi(z∗) = 1

ành ngh¾a 2.4 Mët ¡nh x¤ a trà T : E ⇒ E∗ ÷ñc gåi l  bà ch°n àaph÷ìng t¤i x ∈ E n¸u tçn t¤i mët l¥n cªn U cõa x sao cho T (U) l  tªp

bà ch°n

Chó þ r¬ng, ành ngh¾a n y khæng y¶u c¦u iºm x ∈ D(T ) Do â,

T l  bà ch°n àa ph÷ìng t¤i méi iºm cõa E \ D(T )

Câ ½t nh§t bèn chùng minh (t§t c£ ·u düa tr¶n ành l½ ph¤m tròBaire) r¬ng mët to¡n tû ìn i»u cüc ¤i T l  bà ch°n àa ph÷ìng t¤i c¡c

iºm trong cõa D(T ) Chùng minh ¦u ti¶n ÷ñc ÷a ra bði Rockafellar[25] æng ¢ chùng tä r¬ng k¸t qu£ tr¶n v¨n óng trong c¡c khæng gianlçi àa ph÷ìng Chùng minh cõa æng l  d i nh§t, nh÷ng nâ công thuªnti»n nh§t º çng thíi t½nh lçi cõa ph¦n trong cõa D(T ) Trong tr÷ínghñp °c bi»t èi vîi c¡c khæng gian Banach, chùng minh câ thº ÷ñc rótng­n ¡ng kº Tr÷îc ti¶n ta ÷a ra mët v i t½nh ch§t ìn gi£n cõa mëttªp con b§t k¼ D ⊂ E, bao lçi co D v  ph¦n trong cõa D

(i) Ta luæn câ, D ⊂ co D, v¼ vªy int D ⊂ int (co D) Gi£ sû r¬ngint (co D) ⊂ D V¼ int (co D) l  mð, n¶n nâ l  mët tªp con cõa int D v v¼ vªy int (co D) = int D, chùng tä int D l  lçi

(ii) Tuy nhi¶n, n¸u int (co D) l  kh¡c réng v  chùa trong D (ºint (co D) = int D), th¼ D = int (co D) V¼ vªy, int (co D) l  mët tªp lçi.[i·u n y câ ÷ñc v¼ vîi b§t k¼ tªp lçi C vîi ph¦n trong ta câ C ⊂ int C,

do â D ⊂ co D ⊂ int (co D) V¼ vªy D ⊂ int (co D) = int D ⊂ D]

(iii) Mët k¸t qu£ cì b£n kh¡c â l : N¸u {Cn} l  mët d¢y t«ng c¡ctªp lçi âng câ ph¦n trong kh¡c réng, th¼ int ∪ Cn ⊂ ∪int Cn

Ta s³ k½ hi»u h¼nh c¦u ìn và âng trong E [t÷ìng ùng, trong E∗]

Khi â, Sn ⊂ Sn+1 v  D(T ) = ∪Sn ⊂ ∪co Sn V¼ d¢y Sn t«ng, n¶n ∪co Sn

l  lçi, n¶n nâ chùa co D(T ) V¼ vªy, C ⊂ ∪co Sn Theo nguy¶n lþ ph¤mtrò Baire tçn t¤i mët sè nguy¶n n0 sao cho bao âng cõa C ∩ co Sn câph¦n trong kh¡c réng vîi måi n ≥ n0 °c bi»t, èi vîi tªp lîn hìnint (co Sn) l  kh¡c réng vîi méi n ≥ n0 Ta câ

V¼ Am(x) l  tªp hñp cõa t§t c£ c¡c x∗ sao cho (x, x∗) ìn i»u t÷ìng ùngvîi Mm, Bê · Debrunner-Flor 2.1 £m b£o r¬ng Am(x) kh¡c réng Vîiméi m nh÷ th¸ v  x ∈ E ta câ Am+1(x) ⊂ Am(x) v  T (x) ⊂ Am(x) Hìnnúa, nh÷ l  giao cõa c¡c nûa khæng gian âng-y¸u*, méi Am(x) l  ângy¸u* Gi£ sû r¬ng, u∗ ∈ nB∗; khi â Sn ⊂ {x ∈ E : |hu∗, xi| ≤ n2} v  do

â co Sn ÷ñc chùa trong còng tªp â Theo gi£ thi¸t, tçn t¤i  > 0 saocho x0 + 2B ⊂ co Sn B¥y gií, chån b§t k¼ x ∈ x0 + B v  x∗ ∈ An(x).Vîi måi u ∈ Sn v  u∗ ∈ T (u) ∩ nB∗ ta ph£i câ

n y khæng y¶u c¦u T l  cüc ¤i)

Ta s³ chùng tä x0 ∈ D(T ) Tø An(x0) ⊂ (2n2/)B∗ v  An(x0) l 

âng y¸u* suy ra An(x0) l  compact y¸u* Vîi m ≥ n, ta câ Am(x0) ⊂

An(x0) v  do â d¢y {Am(x0)} l  mët hå gi£m c¡c tªp khæng réngcompact y¸u* L§y x∗

0 ∈ ∩m≥nAm(x0) N¸u u ∈ D(T ) v  u∗ ∈ T (u),th¼ ku∗k ≤ m vîi m ≥ n n o â Theo ành ngh¾a cõa Am(x0), ta câ

hx∗0− u∗, x0− ui ≥ 0 Do t½nh cüc ¤i cõa T , suy ra x∗

0 ∈ T (x0) v  do â

x0 ∈ D(T )

H» qu£ 2.1 Gi£ sû r¬ng E l  khæng gian Banach ph£n x¤ v  to¡n tû

T : E ⇒ E∗ l  ìn i»u cüc ¤i Khi â int R(T ) l  tªp lçi N¸u int R(T )kh¡c réng th¼ R(T ) l  lçi

Chùng minh V¼ T−1 l  to¡n tû ìn i»u cüc ¤i tø E∗ tîi E, theo ànhl½ tr÷îc, int D(T−1) ≡ int R(T ) l  tªp lçi

Kh¯ng ành thù nh§t cõa h» qu£ n y khæng cán óng trong khænggian khæng ph£n x¤ V½ dö sau ¥y s³ chùng tä i·u n y

V½ dö 2.3 (Simon Fitzpatrick) Tçn t¤i mët h m lçi li¶n töc f tr¶nkhæng gian Banach c0 sao cho ph¦n trong cõa R(∂f) khæng lçi

Thªt vªy, vîi chu©n sup thæng th÷íng tr¶n c0, ành ngh¾a g(x) =kxk v  h(x) = kx − e1k trong â e1 = (1, 0, 0, ), v  °t f = g + h V¼

g v  h l  c¡c h m lçi, li¶n töc n¶n ta câ ∂f(x) = ∂g(x) + ∂h(x) vîi méi

x ∈ c0 B¬ng t½nh to¡n trüc ti¸p ta câ, ∂g(x) l  B∗ n¸u x = 0 ho°c ÷ñcchùa trong tªp F cõa t§t c£ c¡c d¢y câ húu h¤n ph¦n tû kh¡c khæng trong

`1 n¸u tr¡i l¤i Công d¹ d ng th§y r¬ng ∂h(x) = ∂g(x − e1) vîi méi x.N¶n (°t e∗

1 k½ hi»u l  ph¦n tû t÷ìng ùng cõa `1) ta câ ∂f(0) = −e∗

1+ B∗

v  ∂f(e1) = e∗1+B∗,trong khi â ∂f(x) ÷ñc chùa trong F n¸u x 6= 0, e1

Tø int R(∂f) ⊃ int B∗ ± e∗1, n¸u nâ lçi th¼ nâ s³ chùa 0 = 1

ành lþ 2.2 Gi£ sû r¬ng T : E ⇒ E∗ l  ìn i»u v  x ∈ D(T ) N¸u

x l  mët iºm h§p thö cõa D(T ) (°c bi»t, n¸u x ∈ int D(T )), th¼ T bàch°n àa ph÷ìng t¤i x

Chó þ r¬ng, k¸t qu£ ¢ nâi ð tr¶n khæng y¶u c¦u D(T ) l  lçi công

khæng y¶u c¦u T l  cüc ¤i Câ c¡c v½ dö ìn gi£n ch¿ ra 0 câ thº l  mët

iºm h§p thö cõa D(T ) nh÷ng khæng l  mët iºm trong (ch¯ng h¤n, cho

T l  h¤n ch¸ cõa ¡nh x¤ èi ng¨u J tr¶n tªp hñp A1 ÷ñc ành ngh¾a ðtr¶n) Ngay c£ khi n¸u D(T ) l  tªp lçi v  T l  ìn i»u cüc ¤i, D(T )

câ thº câ ph¦n trong l  réng V½ dö sau chùng tä i·u n y (trong v½ dö

n y, T l  to¡n tû tuy¸n t½nh khæng bà ch°n, do â khæng bà ch°n àaph÷ìng t¤i b§t k¼ iºm n o v  do â D(T ) khæng câ iºm h§p thö n o).V½ dö 2.4 Trong khæng gian Hilbert `2 cho D = {x = (xn) ∈ `2 :(2nxn) ∈ `2} v  ành ngh¾a T x = (2nxn), x ∈ D Khi â D(T ) = D l mët khæng gian con tuy¸n t½nh thüc sü trò mªt cõa `2 v  T l  mët to¡n

tû d÷ìng Theo V½ dö 2.2 (b) th¼ T l  ìn i»u cüc ¤i

Ta câ thº th§y r¬ng vîi mët to¡n tû ìn i»u cüc ¤i T, b§t k¼

iºm h§p thö cõa D(T ) thüc sü l  mët iºm trong i·u â óng n¸uD(T ) ÷ñc gi£ thi¸t l  lçi i·u n y ÷ñc ch¿ ra b¬ng c¡ch k¸t hñp ànhl½ 2.2 vîi k¸t qu£ sau

ành lþ 2.3 (Libor Veselþ) Gi£ sû r¬ng T l  ìn i»u cüc ¤i v  D(T )

l  lçi N¸u x ∈ D(T ) v  T l  bà ch°n àa ph÷ìng t¤i x th¼ x ∈ int D(T )

Chùng minh B÷îc ¦u ti¶n ta khæng c¦n sû döng ¸n gi£ thi¸t t½nh lçi

º kh¯ng ành: N¸u T l  ìn i»u cüc ¤i v  bà ch°n àa ph÷ìng t¤i

x ∈ D(T ) th¼ x ∈ D(T ) Thªt vªy, theo gi£ thi¸t tçn t¤i mët l¥n cªn Ucõa x sao cho T (U) l  tªp bà ch°n Chån d¢y {xn} ⊂ D(T ) ∩ U sao cho

do t½nh ìn i»u cüc ¤i cõa T suy ra x∗ ∈ T (x) V¼ vªy x ∈ D(T ).

Ti¸p theo ta s³ ch¿ ra n¸u x n¬m tr¶n bi¶n cõa tªp lçi âng D(T )th¼ T khæng bà ch°n àa ph÷ìng t¤i x : Thªt vªy, gi£ sû câ mët l¥n cªn

U cõa x sao cho T (U) bà ch°n Theo ành l½ Bishop-Phelps, tçn t¤i mët

iºm z ∈ U ∩ D(T ) v  mët ph¦n tû kh¡c khæng w∗ ∈ E∗ m  ÷ñc tüaD(T ) t¤i x; tùc l  hw∗, zi = suphz∗, D(T )i B¥y gií, T công bà ch°n àaph÷ìng t¤i z ∈ U Do â, theo b÷îc thù nh§t th¼ z ∈ D(T ) v  ta câ thºchån z∗ ∈ T (z) Vîi b§t k¼ (y, y∗) ∈ G(T ) v  b§t k¼ λ ≥ 0 ta câ

hz∗ + λw∗ − y∗, z − yi = hz∗ − y∗, z − yi + λhw∗, z − yi ≥ 0

Do t½nh cüc ¤i cõa T suy ra z∗ + λw∗ ∈ T (z) vîi méi λ ≥ 0 i·u âchùng tä r¬ng T (z) khæng bà ch°n (m¥u thu¨n) Tø x /∈ bdryD(T ) (bdry-bi¶n) n¶n nâ ph£i n¬m trong int D(T ) Do t½nh bà ch°n àa ph÷ìng, ta câthº chån mët tªp mð U sao cho x ∈ U ⊂ int D(T ) v  T (U) l  bà ch°n Do

â, T bà ch°n àa ph÷ìng t¤i méi iºm cõa U Tø â, theo chùng minhcõa b÷îc thù nh§t suy ra r¬ng U ⊂ D(T ) v  do â x ∈ int D(T )

L÷u þ r¬ng, k¸t qu£ n y k¸t hñp vîi ành l½ 2.1 suy ra r¬ng: Vîib§t k¼ to¡n tû ìn i»u cüc ¤i T, n¸u int D(T ) kh¡c réng th¼ nâ ch½nh

l  tªp t§t c£ c¡c iºm thuëc D(T ) m  ð â T l  bà ch°n àa ph÷ìng.

V§n · mð cán l¤i l  i·u g¼ x£y ra n¸u int D(T ) l  réng v  D(T )khæng lçi

M»nh · 2.2 N¸u T l  ìn i»u cüc ¤i, th¼ vîi måi x ∈ int D(T ) tªphñp T (x) l  lçi v  compact y¸u*

ành ngh¾a 2.5 Cho X v  Y l  c¡c khæng gian Hausdorff v  gi£ sûr¬ng T : X ⇒ Y l  mët ¡nh x¤ a trà Ta nâi r¬ng T l  nûa li¶n töctr¶n t¤i iºm x ∈ X n¸u vîi méi tªp mð U ⊂ Y sao cho T (x) ⊂ U tçnt¤i mët tªp con mð V cõa X sao cho x ∈ V v  T (V ) ⊂ U

M»nh · 2.3 N¸u T : E ⇒ E∗ l  ìn i»u cüc ¤i, th¼ nâ l  nûa li¶ntöc tr¶n theo c°p tæpæ m¤nh-y¸u* tr¶n int D(T ).

ành lþ iºm b§t ëng ÷ñc tr¼nh b y d÷îi ¥y âng mët vai tráquan trång trong c¡c möc sau cõa luªn v«n

Bê · 2.2 Gi£ sû r¬ng E l  khæng gian Banach ph£n x¤ v  K l  mëttªp con lçi compact kh¡c réng cõa E Gi£ sû, R : K ⇒ K l  mët ¡nhx¤ nûa li¶n töc tr¶n sao cho R(u) lçi, âng v  kh¡c réng vîi méi u ∈ K.Khi â, T câ ½t nh§t mët iºm b§t ëng tr¶n K (tùc l  tçn t¤i u0 ∈ Ksao cho u0 ∈ R(u0))

Chùng minh Gi£ sû ph£n chùng, R khæng câ iºm b§t ëng tr¶n K.Khi â 0 /∈ u − R(u) vîi méi u ∈ K p döng ành l½ t¡ch èi vîi tªp lçicompact u − R(u) v  0, vîi méi u s³ tçn t¤i x∗ ∈ E∗, kx∗k = 1, v  δ > 0sao cho hx∗, vi > δ vîi méi v ∈ u − R(u) Vîi méi x∗ ∈ E∗, °t

W (x∗) = {u ∈ K : hx∗, vi > 0 ∀v ∈ u − R(u)}

Vîi méi kx∗k = 1 °t U(x∗) = {v ∈ E : hx∗, vi > 0} V¼ vªy, u ∈ W (x∗)khi v  ch¿ khi u ∈ K v  u−R(u) ⊂ U(x∗) B¥y gií, n¸u u ∈ K th¼ tø gi£thi¸t suy ra tçn t¤i kx∗k = 1v  δ > 0 sao cho u−R(u)+δB ⊂ U(x∗).Dot½nh nûa li¶n töc tr¶n cõa R (do â cõa −R) t¤i u, suy ra vîi 0 <  < δ/2

n o â, ta câ −R(y) ⊂ −R(u) + δ

2B vîi méi y ∈ (u + B) ∩ K Vîi méi

tùc l , (u+B)∩K ⊂ W (x∗) i·u n y chùng tä r¬ng, vîi måi iºm u ∈

K ·u l  iºm trong cõa mët tªp W (x∗) n o â V¼ vªy hå {int W (x∗)}

l  mët phõ mð cõa K Nh÷ trong chùng minh cõa Bê · 2.1, tçn t¤i mët

phõ con húu h¤n {int W (x∗

j)}nj=1 cõa K v  mët ph¥n ho¤ch ìn và li¶ntöc {β1, β2, , βn} cõa phõ n y °t

r(x) = Xβj(x)x∗j, x ∈ K

Khi â, r l  mët ¡nh x¤ li¶n töc tø K v o E∗ v  vîi måi u ∈ K v 

v ∈ u − R(u) ta câ hr(u), vi = P βj(u)hx∗j, vi > 0 (v¼ βj(u) > 0 k²o theo

u ∈ W (x∗j) v  do â hx∗

j, vi > 0) Trong Bê · 2.1 l§y φ = −r, v  ho¡n

êi vai trá cõa E v  E∗ (t½nh ph£n x¤ cho ph²p l m i·u n y) v  l§y M

l  tªp ìn i»u K × {0} ta ÷ñc u0 ∈ K sao cho −hr(u0), u0 − ui ≥ 0vîi måi u ∈ K °c bi»t, i·u n y óng n¸u u = v0 trong â v0 l  ph¦n

tû b§t k¼ cõa R(u0); tùc l  ph¦n tû v ≡ u0 − v0 ∈ u0 − R(u0) thäa m¢nhr(u0), vi ≤ 0 i·u n y m¥u thu¨n vîi hr(u0), vi > 0 ành lþ ÷ñcchùng minh

2.2 D÷îi vi ph¥n cõa h m lçi

Trong Möc n y chóng tæi giîi thi»u mët lîp to¡n tû ìn i»u cüc

¤i cì b£n nh§t â l  d÷îi vi ph¥n cõa mët h m lçi nûa li¶n töc d÷îi.K½ hi»u R := R ∪ {∞} l  tªp sè thüc mð rëng

ành ngh¾a 2.6 Cho X l  mët khæng gian Hausdorff v  cho f : X → R.Mi·n húu hi»u cõa f l  tªp hñp dom (f) = {x ∈ X : f(x) < ∞} Nhîl¤i r¬ng, f nûa li¶n töc d÷îi n¸u {x ∈ X : f(x) ≤ r} l  âng trong Xvîi méi r ∈ R i·u n y t÷ìng ÷ìng vîi tªp tr¶n ç thà cõa f

epi (f) = {(x, r) ∈ X × R : r ≥ f(x)}

l  âng trong X × R, ho°c l 

f (x) ≤ lim inf f (xα)

vîi måi x ∈ X v  l÷îi (xα) ⊂ X hëi tö v· x Ta nâi h m f l  ch½nhth÷íng n¸u dom (f) 6= ∅.

Chó þ r¬ng n¸u h m f x¡c ành tr¶n khæng gian Banach E v  l 

h m lçi th¼ dom (f) công l  tªp lçi V¼ vªy, h m f lçi khi v  ch¿ khiepi (f) lçi i·u n y l  quan trång, nâ suy ra nhúng t½nh ch§t cõa t½nh

h m lçi nûa li¶n töc d÷îi câ thº ÷ñc suy tø t½nh ch§t cõa c¡c tªp conlçi âng cõa E × R Ta câ thº sû döng i·u n y º nghi¶n cùu t½nh nûali¶n töc d÷îi cõa c¡c h m lçi nh÷ mët tr÷íng hñp °c bi»t cõa c¡c tªplçi âng

V½ dö 2.5 (a) Cho C l  mët tªp con lçi khæng réng cõa E H m ch¿

D¹ th§y, δC l  mët h m lçi ch½nh th÷íng v  δC l  nûa li¶n töc d÷îi khi

v  ch¿ khi C âng V½ dö n y l  mët l½ do º ÷a ra c¡c h m sè thüc

mð rëng, v¼ ta câ thº suy ra mët sè t½nh ch§t cõa mët tªp lçi âng C

tø c¡c t½nh ch§t cõa h m lçi, nûa li¶n töc d÷îi δC V¼ vªy, nh¼n tø quan

iºm cõa v½ dö n y ta th§y r¬ng vi»c nghi¶n cùu c¡c tªp lçi âng l  mëttr÷íng hñp °c bi»t cõa vi»c nghi¶n cùu c¡c h m lçi nûa li¶n töc d÷îi

i·u n y r§t húu ½ch v¼ giúa c¡ch ti¸p cªn mët b i to¡n theo ph÷ìngdi»n h¼nh håc hay gi£i t½ch câ thº d¹ d ng chuyºn êi cho nhau

(b) Cho A l  mët tªp con kh¡c réng b§t k¼ cõa E∗ sao cho bao lçi

âng y¸u* cõa A khæng l  to n bë E∗ (hay A l  mët tªp con thüc sü lçi

âng y¸u* cõa E∗) v  ành ngh¾a h m tüa σA cõa A bði

σA(x) = sup{hx∗, xi : x∗ ∈ A}, x ∈ E

D¹ d ng th§y r¬ng ¥y l  mët h m lçi ch½nh th÷íng nûa li¶n töc d÷îi.

(c) N¸u f l  mët h m lçi, li¶n töc tr¶n mët tªp lçi âng C, mðrëng f l  ∞ t¤i c¡c iºm cõa E \ C; h m nhªn ÷ñc l  mët h m lçich½nh th÷íng nûa li¶n töc d÷îi

M»nh · ti¸p theo sû döng t½nh ¦y õ cõa E º kh¯ng ành r¬ngmët h m lçi nûa li¶n töc d÷îi th¼ li¶n töc

M»nh · 2.4 N¸u f l  mët h m lçi ch½nh th÷íng, nûa li¶n töc d÷îitr¶n mët khæng gian Banach E v  D = int dom (f) kh¡c réng th¼ h m fli¶n töc tr¶n D

Chùng minh Ta ch¿ c¦n chùng minh r¬ng f l  bà ch°n àa ph÷ìng trong

D, v¼ i·u n y k²o theo f l  Lipschitz àa ph÷ìng trong D (xem [22,M»nh · 1.6]) Tr÷îc ti¶n, l÷u þ r¬ng n¸u f bà ch°n tr¶n bði M trongB(x; δ) ⊂ D vîi δ > 0 n o â, th¼ f công bà ch°n d÷îi trong B(x; δ).Thªt vªy, n¸u y thuëc B(x; δ) th¼ 2x − y công vªy v 

f (x) ≤ 1

2[f (y) + f (2x − y)] ≤

1

2[f (y) + M ].

V¼ vªy, f(y) ≥ 2f(x) − M vîi måi y ∈ B(x; δ) Do â, º chùng minh f

l  bà ch°n àa ph÷ìng, ta ch¿ c¦n chùng minh f bà ch°n tr¶n àa ph÷ìngtrong D Vîi méi n ≥ 1, °t Dn = {x ∈ D : f (x) ≤ n} C¡c tªp hñp

Dn l  âng v  D = ∪Dn V¼ vªy, theo nguy¶n lþ ph¤m trò Baire tçnt¤i n sao cho U ≡ int Dn kh¡c réng Ta bi¸t r¬ng f bà ch°n tr¶n bði ntrong U, khæng m§t t½nh têng qu¡t, ta câ thº gi£ sû r¬ng B(0; δ) ⊂ Uvîi δ > 0 n o â N¸u y n¬m trong D, vîi y 6= 0, th¼ tçn t¤i µ > 1 saocho z = µy ∈ D v  tø â (°t 0 < λ = µ−1 < 1), tªp hñp

V = λz + (1 − λ)B(0; δ) = y + (1 − λ)B(0; δ)

l  mët l¥n cªn cõa y trong D Vîi b§t k¼ iºm v = (1 − λ)x + λz ∈ V(trong â x ∈ B(0; δ)) ta câ

f (v) ≤ (1 − λ)n + λf (z),n¶n f bà ch°n tr¶n trong V M»nh · ÷ñc chùng minh

Nh÷ chóng ta ¢ bi¸t, n¸u E l  khæng gian Banach th¼ E ×R công

l  mët khæng gian Banach vîi chu©n k(x, r)k = kxk + |r| Công nh­c l¤ir¬ng, (E × R)∗ câ thº ÷ñc çng nh§t vîi E∗ × R, vîi c°p èi ng¨u

h(x∗, r∗), (x, r)i = hx∗, xi + r∗ · r

Nhªn x²t 2.1 N¸u f l  mët h m lçi ch½nh th÷íng, nûa li¶n töc d÷îi l li¶n töc t¤i iºm x0 ∈ dom (f), th¼ dom (f) câ ph¦n trong kh¡c réng v epi (f) câ ph¦n trong kh¡c réng trong E × R (Thªt vªy, f(x) = ∞ b¶nngo i dom (f), n¶n x0 khæng thº l  mët iºm bi¶n cõa dom (f) Hìn núa,tçn t¤i mët l¥n cªn mð U cõa x0 trong dom (f) m  f(x) < f(x0) + 1,n¶n tªp mð t½ch U × {r : r > f(x0) + 1} công ÷ñc chùa trong epi (f).)

ành ngh¾a 2.7 Cho f l  mët h m lçi ch½nh th÷íng v  x ∈ dom (f)

Ta ành ngh¾a ¡nh x¤ d÷îi vi ph¥n ∂f bði

∂f (x) = {x∗ ∈ E∗ : hx∗, y − xi ≤ f (y) − f (x) vîi måi y ∈ E}

= {x∗ ∈ E∗ : hx∗, yi ≤ f (x + y) − f (x) vîi måi y ∈ E},

v  ∂f(x) = ∅ n¸u x ∈ E \ dom (f)

D¹ d ng ch¿ ra ÷ñc ∂f l  to¡n tû ìn i»u Thªt vªy, gi£ sû

x∗ ∈ ∂f (x) v  y∗ ∈ ∂f (y) Theo ành ngh¾a ta câ

hx∗, y − xi ≤ f (y) − f (x) v  − hy∗, y − xi = hy∗, x − yi ≤ f (x) − f (y)