Thuật toán đạo hàm tăng cường lai ghép giải bài toán cân bằng đơn điệu

TRƯỜNG ĐẠI HỌC KHOA HỌCĐOÀN THỊ BÍCH THUẬT TOÁN ĐẠO HÀM TĂNG CƯỜNG LAI GHÉP GIẢI BÀI TOÁN CÂN BẰNG ĐƠN ĐIỆU LUẬN VĂN THẠC SĨ TOÁN HỌC Thái Nguyên - Năm 2013... TRƯỜNG ĐẠI HỌC KHOA HỌCĐOÀ

TRƯỜNG ĐẠI HỌC KHOA HỌC

ĐOÀN THỊ BÍCH

THUẬT TOÁN ĐẠO HÀM TĂNG CƯỜNG LAI GHÉP

GIẢI BÀI TOÁN CÂN BẰNG ĐƠN ĐIỆU

LUẬN VĂN THẠC SĨ TOÁN HỌC

Thái Nguyên - Năm 2013

TRƯỜNG ĐẠI HỌC KHOA HỌC

ĐOÀN THỊ BÍCH

THUẬT TOÁN ĐẠO HÀM TĂNG CƯỜNG LAI GHÉP

GIẢI BÀI TOÁN CÂN BẰNG ĐƠN ĐIỆU

Chuyên ngành: TOÁN ỨNG DỤNG

Mã số : 60.46.01.12

LUẬN VĂN THẠC SĨ TOÁN HỌC

Người hướng dẫn khoa học:

GS TSKH LÊ DŨNG MƯU

Thái Nguyên - Năm 2013

1.1 Một số khái niệm cơ bản 61.2 Sự tồn tại nghiệm và các tính chất cơ bản của bài toán cân

bằng 161.3 Các trường hợp riêng của bài toán cân bằng 28

LỜI CẢM ƠN

Luận văn này được hoàn thành dưới sự hướng dẫn tận tình và sự chỉbảo nghiêm khắc của thầy giáo GS TSKH Lê Dũng Mưu (Viện Toán họcViệt Nam) Tôi xin gửi lời cảm ơn chân thành và sâu sắc nhất đến thầy.Tác giả cũng xin kính gửi lời cảm ơn đến cô giáo TS Nguyễn Thị ThuThủy cùng các thầy, cô giáo tham gia giảng dạy khóa học cao học 2011 -

2013, những người đã tâm huyết giảng dạy và trang bị cho tác giả nhiềukiến thức cơ sở

Xin gửi lời cảm ơn đến Ban giám hiệu, phòng Đào tạo, khoa Toán Tin Trường ĐHKH, Đại học Thái Nguyên đã tạo điều kiện thuận lợi chotôi trong quá trình học tập tại trường

-Xin chân thành cảm ơn gia đình, bạn bè đồng nghiệp và các thànhviên trong lớp cao học toán K5B đã luôn quan tâm, động viên, giúp đỡ tôitrong thời gian học tập và quá trình làm luận văn

Tuy bản thân có nhiều cố gắng, song thời gian và năng lực của bảnthân có hạn nên luận văn khó tránh khỏi những thiếu sót Rất mong được

sự đóng góp quý báu của Quý thầy, cô cùng toàn thể bạn đọc

Thái Nguyên, tháng 04 năm 2013

Tác giả

Đoàn Thị Bích

LỜI NÓI ĐẦU

Cho H là một không gian Hilbert thực với tích vô hướng h., i và chuẩn

k.k tương ứng Giả sử C là một tập lồi, đóng, khác rỗng trong H và f làsong hàm từ C × C vào R sao cho f (x, x) = 0 với mọi x ∈ C Trong luậnvăn này ta sẽ xét bài toán cân bằng sau đây, được ký hiệu là EP(C, f ):

Tìm x∗ ∈ C sao cho f (x∗, y) ≥ 0, ∀y ∈ C

Bài toán EP(C, f ) còn được gọi là bất đẳng thức Ky Fan để ghi nhận sựđóng góp của ông trong lĩnh vực này (xem [2], [5] và các trích dẫn)

Một phương pháp cơ bản để giải bài toán cân bằng là phương phápchiếu và các dạng của nó Tuy nhiên phương pháp chiếu chỉ hội tụ với điềukiện song hàm có tính đơn điệu mạnh, hay là có tính tự bức (đơn điệumạnh ngược), ngay cả cho bài toán bất đẳng thức biến phân đơn điệu, làmột trường hợp đặc biệt của bài toán cân bằng đơn điệu

Để thu được phương pháp chiếu hội tụ cho bài toán cân bằng có tínhđơn điệu nhẹ hơn, trong [16] các tác giả đã mở rộng phương pháp đạo hàmtăng cường (hay là chiếu hai lần) do Korpelevich [8] lần đầu tiên đề xuấtcho bài toán tối ưu và bài toán điểm yên ngựa Với phương pháp này sựhội tụ được đảm bảo ngay trong trường hợp song hàm f có tính giả đơnđiệu

Bài toán cân bằng đơn điệu có liên quan chặt chẽ với bài toán tìm điểmbất động của một ánh xạ không giãn Về mặt lý thuyết bài toán cân bằngđơn điệu và bài toán điểm bất động của ánh xạ không giãn có mối quan

hệ tương hỗ lẫn nhau, theo nghĩa, với một vài giả thiết tự nhiên, bài toánnày có thể mô tả dưới dạng bài toán kia và ngược lại Cả hai lớp bài toánnày thực chất đều thuộc bài toán chấp nhận lồi, tức là bài toán tìm mộtđiểm chung của các tập lồi

Phương pháp lặp Halpern là phương pháp cơ bản để tìm điểm bất độngcủa ánh xạ không giãn Tuy nhiên phương pháp này chỉ có tính hội tụ yếu.

Để đảm bảo tính hội tụ mạnh, phương pháp Halpern và phương pháp cắt

đã được kết hợp

Cụ thể Tada và Takahashi [13] đã trình bày một thuật toán kết hợpphương pháp điểm gần kề và siêu phẳng cắt để đảm bảo tính hội tụ mạnhcủa điểm gần kề, tại đó với mỗi bước lặp k, phép lặp xk+1 được định nghĩanhư sau:

Mục đích của bản luận văn này là giới thiệu những kiến thức cơ bảnnhất của bài toán cân bằng và trình bày một thuật toán lai ghép giữaphương pháp đạo hàm tăng cường với phép lặp Halpern cho bài toán tìmnghiệm chung của bài toán cân bằng giả đơn điệu và bài toán tìm điểm bấtđộng của ánh xạ không giãn trong không gian Hilbert thực Để bảo đảmtính hội tụ mạnh, kỹ thuật siêu phẳng cắt ở [13] đã được kết hợp trongthuật toán này Sự hội tụ mạnh của thuật toán đã được chứng minh chitiết cho trường hợp bài toán cân bằng giả đơn điệu Các đặc điểm quantrọng của thuật toán trình bày trong luận văn so với các thuật toán trong[4] và [13, 14] là:

1 Sư hội tụ mạnh được bảo đảm mà không cần đến giả thiết chínhquy;

2 Trong mỗi bước lặp của thuật toán, bài toán cân bằng đơn điệu mạnhnảy sinh trong thuật toán điểm gần kề trong [13] được thay thế bằng haibài toán quy hoạch lồi mạnh Về mặt tính toán các bài toán sau dễ giảihơn nhiều, đồng thời nó lại cho phép giải được bài toán cân bằng giả đơn

điệu, trong khi thuật toán điểm gần kề chỉ có thể áp dụng cho bài toáncân bằng đơn điệu.

Luận văn bao gồm phần mở đầu, hai chương, kết luận và danh mụccác tài liệu tham khảo

Chương 1 trình bày một số khái niệm cơ bản liên quan đến đề tài Cácvấn đề liên quan đến sự tồn tại nghiệm và các trường hợp riêng của bàitoán cân bằng cũng được đề cập đến

Chương 2 trình bày phương pháp đạo hàm tăng cường lai ghép giải bàitoán cân bằng Các bổ đề cần thiết để chứng minh cho sự hội tụ mạnh củaphương pháp cũng như định lý về sự hội tụ mạnh của phương pháp cũngđược trình bày ở đây

MỘT SỐ KÝ HIỆU VÀ CHỮ VIẾT TẮT

H: Không gian Hilbert thực;

X: Không gian Banach thực;

xn → x: Dãy {xn} hội tụ mạnh tới x;

xn * x: Dãy {xn} hội tụ yếu tới x;

PC(x): Hình chiếu của x lên C

Chương 1

Bài toán cân bằng

Chương này trình bày các khái niệm liên quan đến bài toán cân bằng,

sự tồn tại nghiệm, các tính chất cơ bản và các trường hợp riêng quan trọngcủa bài toán cân bằng Các kiến thức trong chương được trích từ tài liệu[1-5], [7], [12], [15]

Định nghĩa 1.1 Không gian định chuẩn thực là một không gian tuyếntính thực X trong đó ứng với mỗi phần tử x ∈ X ta có một số kxk gọi làchuẩn của x, thỏa mãn các điều kiện sau:

3 hλx, yi = λ hx, yi , ∀λ ∈ R, ∀x, y ∈ H;

được gọi là không gian tiền Hilbert

Không gian tiền Hilbert đầy đủ được gọi là không gian Hilbert

Ví dụ 1.1 L2[a,b], không gian các hàm bình phương khả tích trên [a,b]

với f ∈ L2[a,b] sao cho

Trên H có hai kiểu hội tụ chính sau:

Định nghĩa 1.3 Xét dãy {xn}n≥0 và x thuộc không gian Hilbert thực H.Khi đó:

• Dãy {xn} được gọi là hội tụ mạnh tới x, ký hiệu xn → x, nếu như

• Nếu {xn} hội tụ mạnh đến x thì cũng hội tụ yếu đến x

• Mọi dãy hội tụ mạnh (yếu) đều bị chặn và giới hạn theo sự hội tụmạnh (yếu) nếu tồn tại là duy nhất

• Nếu không gian Hilbert thực H là không gian hữu hạn chiều thì sự hội

tụ mạnh và sự hội tụ yếu là tương đương

• Nếu {xn}n≥0 là một dãy bị chặn trong không gian Hilbert thực H thì

ta trích ra được một dãy con hội tụ yếu

• Nếu {xn}n≥0 là một dãy bị chặn trong không gian Hilbert thực hữu hạnchiều H thì ta trích ra được một dãy con hội tụ mạnh

Tiếp theo, ta sẽ nêu một số định nghĩa và kết quả cơ bản của giải tíchlồi được phát biểu trong [2], [12]

Xét C là tập con khác rỗng trong không gian Hilbert thực H

Định nghĩa 1.4 Tập C trong không gian Hilbert thực H được gọi là mộttập lồi nếu

Định nghĩa 1.5 Điểm a được gọi là điểm biên của C nếu mọi lân cậncủa a đều có điểm thuộc C và điểm không thuộc C;

Tập C được gọi là tập đóng nếu C chứa mọi điểm biên của nó;

Tập C được gọi là một tập compact yếu nếu C là một tập đóng và bị chặn.Định nghĩa 1.6 Cho C là một tập lồi và x ∈ C Ký hiệu:

Ta nói δC là hàm chỉ của C Do C lồi nên δC là hàm lồi.

3 Hàm khoảng cách Giả sử C là một tập đóng, khác rỗng Hàm khoảngcách dC(y) được định nghĩa như sau:

dC(y) = inf

Khi đó, nếu C là tập lồi thì dC là hàm lồi

Thật vậy, xét x, y ∈ H và λ ∈ (0, 1) bất kỳ Đặt z = λx + (1 − λ)y Theođịnh nghĩa của inf tồn tại các dãy xk ,yk trong C sao cho

Ký hiệu hình chiếu của y trên C là PC(y) Khi đó, π = PC(y)

Tiếp theo ta sẽ chứng minh sự tồn tại và tính duy nhất của hình chiếuxuống một tập lồi đóng Sau đó ta sẽ khảo sát một số tính chất cơ bản

của toán tử chiếu được sử dụng trong chương sau của luận văn.

Mệnh đề 1.2 (xem [2])Giả sử C là tập lồi, đóng khác rỗng trong H Khiđó:

(i) Với mọi y ∈ H, π ∈ C hai tính chất sau tương đương:

(iv) Ánh xạ y 7→ PC(y) có các tính chất sau:

Giả sử có (b) tức là giả sử y − π ∈ NC(π) Khi đó với mọi x ∈ C ta có

Suy ra π là hình chiếu của y trên C

(ii) Do dC(y) = inf

tồn tại một dãy xk ∈ C sao cho

Chứng tỏ π là hình chiếu của y trên C

Bây giờ ta chỉ ra tính duy nhất của hình chiếu Thật vậy, giả sử π và

π0 đều là hình chiếu của y trên C thì

này tách y khỏi C vì y 6= π nên

(iv) (a) Theo phần (ii) ánh xạ x 7→ PC(x) xác định khắp nơi.

Định nghĩa 1.8 Cho f : H → R∪ {+∞} Ta nói x∗ ∈ H là dưới đạohàm của f tại x nếu

Ký hiệu tập tất cả các dưới đạo hàm của f tại x là ∂f (x)

f được gọi là khả dưới vi phân trên một tập nếu f khả dưới vi phân tạimọi điểm trên tập đó

Ví dụ 1.3

1 f (x) = kxk , x ∈ Rn Tại điểm x = 0 hàm này không khả vi, nhưng nókhả dưới vi phân và

Ta có mệnh đề sau nói lên tính khả dưới vi phân của hàm lồi

Mệnh đề 1.3 Nếu f : H → R là hàm lồi thì ∂f (x) 6= ∅ với mọi x ∈ X

hay là f khả dưới vi phân khắp nơi

Mệnh đề này là trường hợp riêng của Định lý 23.4, trang 217 trong tài liệu[12]

lim inf f (xk) ≥ f (x);

Hàm f được gọi là nửa liên tục trên đối với E ⊂ H tại một điểm x, nếu

−f nửa liên tục dưới đối vớiE điểmx Hay là với mọi dãyxk ⊂ E; xk → x

Nếu ϕ tựa lồi trên C thì ∀x, y ∈ C và λ ∈ [0, 1] ta có

ϕ(λx + (1 − λ)y) ≤ max(ϕ(x), ϕ(y));

Tương tự, nếu ϕ tựa lõm trên C thì ∀x, y ∈ C và λ ∈ [0, 1] ta có

ϕ(λx + (1 − λ)y) ≥ min(ϕ(x), ϕ(y))

Các định nghĩa về tính đơn điệu của song hàm và ánh xạ được sử dụngtrong việc trình bày tính duy nhất nghiệm của bài toán cân bằng (xem[2], [7], [10], [15], [16]) Trong các định nghĩa sau xét C là tập khác rỗng,đóng, lồi trong không gian Hilbert thực H.

Định nghĩa 1.11 Giả sử f : C × C → R Ta nói

(i) f đơn điệu mạnh trên C với hệ số β > 0, nếu

Cho t → ∞ thì điều kiện trên chỉ xảy ra khi β ≤ 0 (mâu thuẫn) 2

Các khái niệm về đơn điệu đối với song hàm có liên quan chặt chẽ với cáckhái niệm về đơn điệu của ánh xạ (toán tử), rất quen thuộc trong giải tíchphi tuyến

Định nghĩa 1.12 Ánh xạ F : C → H được gọi là

(i) đơn điệu mạnh trên C với hệ số β > 0, nếu

Từ định nghĩa ta có (i) ⇒ (ii) ⇒ (iii) ⇒ (iv)

Ví dụ 1.5 Cho C là tập lồi, hàm f : C →R, và ∂f liên tục Khi đó:

• Nếu f là hàm khả vi, lồi trên C thì ∂f là đơn điệu trên C

Thật vậy, lấy tùy ý x, y ∈ C và do f là hàm lồi nên

f (x) ≥ f (y) + h∂f (y), x − yi ,

f (y) ≥ f (x) + h∂f (x), y − xi

Cộng hai bất đẳng thức trên với nhau, suy ra

• Nếu f là khả vi, lồi mạnh trên C thì ∂f là đơn điệu mạnh trên C

• Nếu f là hàm khả vi, lồi chặt trên C thì ∂f là đơn điệu chặt trên C

Nhận xét 1.1.

có tính chất liên tục kiểu Lipschitz với hằng số c1 = c2 = L

cân bằng

Trong phần này ta nhắc lại một số định lý quen thuộc trong giải tíchphi tuyến Các định lý này là công cụ sắc bén để nghiên cứu, đặc biệt là

để chứng minh sự tồn tại nghiệm của bài toán cân bằng

Bài toán cân bằng

Ta nhắc lại bài toán cân bằng (còn được gọi là bất đẳng thức Ky Fan):Xét H là không gian Hilbert thực; C là tập lồi, đóng, khác rỗng trong H

Tập nghiệm của bài toán cân bằng được ký hiệu là Sol(C, f )

Dưới đây ta sẽ luôn giả thiếtf (x, x) = 0 với mọix ∈ C Một song hàmthỏa mãn điều kiện này được gọi là song hàm cân bằng C được gọi là tậpchấp nhận được hay là tập chiến lược và f là hàm cân bằng của bài toán(EP)

Tiếp theo ta xét sự tồn tại nghiệm và các tính chất cơ bản của bài toáncân bằng Để chứng minh kết quả về sự tồn tại nghiệm của bài toán ta sửdụng định lý minimax quan trọng.

Định lý minimax

Cho một song hàm f : C × C → R Nhiều vấn đề trong tối ưu hóa, lý

thuyết trò chơi và các lĩnh vực khác đưa đến câu hỏi khi nào có đẳng thức

trên C và với mọi x ∈ C, hàm f (x, ) tựa lõm, nửa liên tục trên trên D.Khi đó ta có:

(i) Với mọi γ0 > γ := sup

Doγ0 > γ ≥ inf

thỏa mãn f (x, y) ≤ γ0 Suy ra Cγ0(N ) 6= ∅ Vậy (i) đúng khi N chỉ có mộtphần tử

Giả sử (i) đúng với N gồm có k phần tử Ta chứng tỏ nó đúng khi N

Theo giả thiết quy nạp ∩k

i=1C0γ0(yi) 6= ∅, nếu như các tập

y, ta viết C(y) thay cho Cα(y)

Hiển nhiên 0 ∈ Ma, 1 ∈ Mb và Ma∪ Mb = [0, 1].

Hoàn toàn tương tự như trên, ta chứng minh được

C(yt) ⊂ C(yt1) ∪ C(yt2), ∀t ∈ [t1, t2] ⊂ [0, 1]

Khi đó, t ∈ Ma kéo theo [0, t] ⊂ Ma và t ∈ Mb kéo theo [t, 1] ⊂ Mb

α > γ ≥ inf f (x, ys) nên tồn tại x ∈ C sao cho f (x, ys) < α Do tính nửaliên tục trên của f (x, ) nên f (x, yt) < α với mọi t > s và đủ gần s Hay

Ma, ta có t ∈ Ma Nhưng t > s = sup Ma: mâu thuẫn Như vậy

dưới trên C và với mọi x ∈ C, hàm f (x, ) tựa lõm, nửa liên tục trên trên

D Khi đó nếu có một trong hai điều kiện sau:

(A) Có một tập hữu hạn N∗ ⊂ D và một số η∗ > γ sao cho tập

y∈DC(y).Lấy x∗ ∈ ∩

Điều kiện (B) thỏa mãn nếu ta có điều kiện bức sau:

(BC) Có một tập hữu hạn M∗ ⊂ C sao cho

bị chặn (và do đó compact), vì nếu có một dãyxv ∈ C(N∗)vớikxvk → +∞

thì theo điều kiện (AC), ta có sup

y∈N∗

Vậy (AC) kéo theo (A)

Nhận xét 1.3 Nếu C là tập compact thì (A) thỏa mãn và nếu D là tậpcompact thì (B) thỏa mãn

Ta xét một ứng dụng của định lý minimax cho bài toán tối ưu:

Ta nói (OD) là bài toán đối ngẫu của (OP), còn (OP) được gọi là bài toángốc Từ định nghĩa suy ra

Trong trường hợp f∗ = d∗, tức là giá trị tối ưu của bài toán đối ngẫu bằnggiá trị của bài toán gốc, thì ta nói hai bài toán này là cặp đối ngẫu chínhxác Khi đó

Mệnh đề 1.4 Cho C là tập lồi, đóng khác rỗng và song hàm cân bằng f

có tính chất: hàm f (x, ) tựa lồi, nửa liên tục dưới trên C, f (., y) là hàmtựa lõm, nửa liên tục trên trên C Giả sử:

(A1) Có một tập hữu hạn N∗ ⊂ C sao cho tập

compact Khi đó bài toán (EP) có nghiệm

Chứng minh Đặt φ(x, y) := −f (x, y) và D ≡ C Khi đó hàm φ thỏamãn mọi điều kiện của Định lý 1.1 Theo Định lý này, ta có

liên tục dưới trên C Do C(N∗) là tập compact, nên tồn tại x∗ ∈ C(N∗),sao cho

Suy ra φ(x∗, y) ≤ 0 với mọi y ∈ C Vậy f (x∗, y) = −φ(x∗, y) ≥ 0 với mọi

Trong mệnh đề trên, ta đòi hỏi tính tựa lõm trên C của hàm f (., y) với

tại nghiệm của bài toán cân bằng, khi song hàm cân bằng không cần tựalõm theo biến thứ nhất, ta cần đến các định lý điểm bất động trong giảitích hàm là Định lý Kakutani và một trường hợp riêng quan trọng của nó

là Định lý Brouwer Để tiện theo dõi, ta nhắc lại các định lý này trongkhông gian Euclide hữu hạn chiều, mặc dù các định lý này đã được chứngminh trong không gian vô hạn chiều

Định lý (điểm bất động Kakutani) Cho C là một tập lồi compact trongkhông gian Rn và F : C → 2C là một ánh xạ đa trị, nửa liên tục trên và

F (x) lồi, đóng, khác rỗng với mọi x ∈ C Khi đó, F có điểm bất động, tức

là tồn tại x∗ ∈ C, x∗ ∈ F (x∗)

Một trường hợp riêng quan trọng của Định lý trên là Định lý điểm bấtđộng Brouwer như sau:

Định lý (điểm bất động Brouwer) Cho C là một tập như Mệnh đề 1.4

và F là một ánh xạ (đơn trị) liên tục từ C vào C Khi đó, tồn tại x∗ ∈ C

thỏa mãn x∗ = F (x∗)

Ta cũng sẽ sử dụng định lý quen thuộc sau, là Định lý cực đại Berge.Định lý Cho X, Y là các không gian tô-pô, F : X → 2Y là ánh xạ nửaliên tục trên trên X sao cho F (x) compact, hơn nữa F (X) compact Giả

trị tối ưu

g(x) := max {f (x, y) : y ∈ F (x)}

nửa liên tục trên và ánh xạ tập nghiệm tối ưu

S(x) := {y ∈ F (x) : f (x, y) = g(x)}

nửa liên tục trên

Dựa vào Định lý điểm bất động Kakutani và Định lý cực đại Berge, ta

có mệnh đề sau nói về sự tồn tại nghiệm của bài toán cân bằng

Mệnh đề 1.5.Cho C là một tập lồi, compact khác rỗng và song hàm cân

Khi đó, bài toán (EP) có nghiệm

Chứng minh Với mỗi x ∈ C, ta gọi S(x) là tập nghiệm của bài toán

Do C compact và f (x, ) nửa liên tục dưới nên theo Định lý Weistrass, bàitoán này tồn tại nghiệm Hơn nữa, doC lồi, compact, f (x, ) lồi, nên S(x)

lồi, compact Theo Định lý cực đại Berge, ánh xạ S nửa liên tục trên Với

S là một ánh xạ từ C vào C Vậy theo Định lý điểm bất động Kakutani,tồn tại x∗ ∈ C thỏa mãn x∗ ∈ S(x∗)