(Luận văn thạc sĩ) một số phương pháp giải bài toán chấp nhận tách suy rộng liên quan đến bài toán cân bằng

Trong trường hợp f là đơn điệu mạnh ngược, còngọi là tự bức co-coercive, thì s là ánh xạ không giãn [10], còn khif là giả đơn điệu thì trong [15] các tác giả đã xây dựng một s ánh xạ tựa

TRƯỜNG ĐẠI HỌC SƯ PHẠM

NGUYỄN THỊ THANH HUYỀN

MỘT SỐ PHƯƠNG PHÁP GIẢI BÀI TOÁN CHẤP NHẬN TÁCH SUY RỘNG LIÊN QUAN

ĐẾN BÀI TOÁN CÂN BẰNG

LUẬN ÁN TIẾN SĨ TOÁN HỌC

THÁI NGUYÊN–2020

TRƯỜNG ĐẠI HỌC SƯ PHẠM

NGUYỄN THỊ THANH HUYỀN

MỘT SỐ PHƯƠNG PHÁP GIẢI BÀI TOÁN CHẤP NHẬN TÁCH SUY RỘNG LIÊN QUAN

ĐẾN BÀI TOÁN CÂN BẰNG

Chuyên ngành: Toán Giải tích

Mã số: 946 01 02

Người hướng dẫn khoa học:

GS TSKH LÊ DŨNG MƯU

THÁI NGUYÊN–2020

LỜI CAM ĐOANTôi xin cam đoan đây là công trình nghiên cứu của tôi, được hoànthành dưới sự hướng dẫn của GS TSKH Lê Dũng Mưu Các kết quảviết chung với tác giả khác đã được sự nhất trí của đồng tác giả khi đưavào luận án Các kết quả nêu trong luận án là những kết quả mới vàchưa từng được ai công bố trong các công trình nào khác.

Tác giả

Nguyễn Thị Thanh Huyền

LỜI CẢM ƠNLời đầu tiên, tôi xin bày tỏ lòng biết ơn sâu sắc tới thầy tôi GS.TSKH Lê Dũng Mưu Thầy đã tận tình hướng dẫn tôi từ khi tôi làmluận văn thạc sĩ và bây giờ là luận án tiến sĩ Thầy đã tận tình chỉ dạytôi phương pháp nghiên cứu, cách phát hiện và giải quyết vấn đề, đồngthời Thầy luôn động viên, khích lệ để tôi hoàn thành luận án này Từtận đáy lòng, tôi xin bày tỏ lòng biết ơn chân thành và sâu sắc nhất tớiThầy của tôi.

Tôi xin được trân trọng gửi lời cảm ơn tới Ban Giám hiệu TrườngĐại học Sư phạm, Ban Chủ nhiệm Khoa Toán, cùng các thầy, các côtham gia giảng dạy, tạo điều kiện thuận lợi để tôi học tập và nghiên cứu.Đồng thời tôi cũng chân thành cảm ơn các anh chị em nghiên cứu sinh,bạn bè đồng nghiệp tại xêmina nghiên cứu sinh khoa Toán Trường Đạihọc Sư phạm đã động viên, trao đổi và đóng góp những ý kiến quý báucho tôi trong suốt quá trình học tập, nghiên cứu và hoàn thành luận án.Tôi xin cảm ơn Ban giám hiệu trường Đại học Khoa học, Đại họcThái Nguyên đã cho tôi cơ hội được đi học tập và nghiên cứu Tôi xincảm ơn Ban chủ nhiệm khoa Toán - Tin và các thầy cô Khoa Toán -Tin, đã tạo mọi điều kiện thu xếp công việc thuận lợi cho tôi trong suốtthời gian tôi đi làm nghiên cứu sinh

Tôi xin gửi lời cảm ơn sâu sắc tới các thầy, các anh chị và các bạntrong nhóm xêmina liên cơ quan Đại học Khoa học Tự nhiên, Đại họcBách Khoa Hà Nội, Viện Toán học, Đại học Thăng Long Xêmina đãtạo cho tôi động lực trong nghiên cứu khoa học và sự gắn bó với môitrường nghiên cứu Đặc biệt, tôi xin gửi lời cảm ơn chân thành tới GS.TSKH Phạm Kỳ Anh Thầy đã luôn động viên tôi, tạo điều kiện chotôi báo cáo và chỉ dạy tôi nhiều kiến thức hữu ích Tôi cũng xin gửi lờicảm ơn sâu sắc tới TS Lê Hải Yến, người đã luôn quan tâm, chỉ bảo tôitrên con đường khoa học

Cuối cùng, tôi muốn bày tỏ lòng biết ơn sâu sắc tới những người thân

trong gia đình, đặc biệt là bố mẹ hai bên, chồng và các con Những người

đã luôn động viên, chia sẻ mọi khó khăn cùng tôi suốt những năm thángqua để tôi có thể hoàn thành luận án này

Tác giảNguyễn Thị Thanh Huyền

Mục lục

Chương 3 Thuật toán dưới đạo hàm giải bài toán chấp nhận tách phi tuyến và ứng dụng cho mô hình cân bằng Nash

3.1 Mô tả bài toán 45

3.2 Thuật toán và sự hội tụ 46

3.3 Ví dụ minh họa 60

3.4 Kết luận 69

Bảng ký hiệu

R tập các số thực

R++ tập các số thực dương

Rn không gian véctơ Euclid thực n−chiều

hx, yi tích vô hướng của hai véctơ x và y

kxk chuẩn Euclid của véctơ x trong không gian Rn

xn → x Dãy {xn} hội tụ mạnh tới x

PC(x) Phép chiếu của điểm x lên tập C

PC(x) = argminy∈Cky − xk

NC(x) Nón pháp tuyến ngoài của tập lồi C tại x

∂f (x) Dưới vi phân của hàm f tại x

∂ǫf (x) ǫ-dưới vi phân của hàm f tại x

∂2f (x, x) Dưới vi phân theo biến thứ hai của song hàm f(x, ) tại x

∂2ǫf (x, x) ǫ-dưới vi phân theo biến thứ hai của song hàm f tại xargminCf Tập các điểm cực tiểu của hàm f trên tập C

proxλg Ánh xạ gần kề của hàm lồi g với tham số λ > 0

AT ma trận chuyển vị của ma trận A

EP (C, f ) Bài toán cân bằng của song hàm f trên tập C

S(C, f ) Tập nghiệm của bài toán cân bằng song hàm f trên tập C

∅ Tập rỗng

✷ Kết thúc chứng minh

Bảng chữ viết tắt

(CFP) Bài toán chấp nhận lồi

(EP) Bài toán cân bằng

(SEO) Bài toán chấp nhận tách với C là tập nghiệm của bài toán EP

và Q là tập nghiệm của bài toán tối ưu

(SFP) Bài toán chấp nhận tách

(NSEP) Bài toán chấp nhận tách phi tuyến

lệ tương đồng với nhau Trong kinh tế, sự cân bằng xảy ra, ví dụ nhưkhi lượng cung bằng lượng cầu Trạng thái cân bằng là trạng thái màcon người và vạn vật đều có xu hướng tiến đến.

Bài toán cân bằng, còn được gọi là bất đẳng thức Ky Fan, được nghiêncứu trong luận án này có thể phát biểu một cách đơn giản như sau:Cho C là một tập lồi, đóng, khác rỗng trong không gian Rn và f :

C × C → R là một song hàm thỏa mãn f(x, x) = 0, với mọi x ∈ C(song hàm có tính chất này thường được gọi là song hàm cân bằng)

Tìm x∗ ∈ C sao cho f(x∗, y) ≥ 0, ∀y ∈ C EP(C, f)Bất đẳng thức trên được H Nikaido và K Isoda [81] sử dụng lần đầutiên vào năm 1955 trong khi nghiên cứu trò chơi không hợp tác Năm

1972, Ky Fan [62] gọi là bất đẳng thức minimax và ông đã đưa ra các

kết quả về sự tồn tại nghiệm của bài toán này Thuật ngữ bài toán cânbằng được sử dụng lần đầu tiên bởi L.D Muu và W Oettli [77] năm

1992 Bài toán cân bằng bao hàm nhiều lớp bài toán quen thuộc nhưbài toán tối ưu, bài toán bất đẳng thức biến phân, bài toán điểm bấtđộng Kakutani, bài toán cân bằng Nash trong lý thuyết trò chơi khônghợp tác, bài toán cân bằng véctơ, bài toán cân bằng tập Các bài toánnày, một số được trình bày bởi L.D Muu và W Oettli [77], sau đó được

E Blum và W Oettli giới thiệu thêm trong công trình [21] năm 1994,gần đây được giới thiệu khá đầy đủ trong cuốn sách chuyên khảo của

G Bigi và các cộng sự [26] Ngoài ra, bài toán cân bằng còn được mởrộng sang các bài toán cân bằng véctơ, bài toán cân bằng tập bởi nhiềutác giả trong các tài liệu [42, 49, 70, 73, 87] và cuốn chuyên khảo [55].Trong vài chục năm trở lại đây, bài toán cân bằng được nghiên cứu

cả về tính chất định tính và phương pháp giải

Về tính chất định tính, sự tồn tại nghiệm của bài toán cân bằng đượckhảo sát trong các công trình [23, 24, 25, 41, 52, 53, 57] và các tài liệutham khảo trong đó Sự ổn định nghiệm, cấu trúc của tập nghiệm đượcnghiên cứu trong các tài liệu [11, 12, 13, 76]

Hướng nghiên cứu về phương pháp giải có thể nói là được quan tâmnhiều hơn, chẳng hạn trong [6, 7, 8, 9, 16, 35, 38, 39, 40, 41, 52, 53, 57,

63, 64, 65, 78, 79, 83, 88, 89, 92] Dễ thấy rằng, nếu ta định nghĩa ánh

xạ S bằng cách, với mỗi x ∈ C, đặt

S(x) := argmin{f (x, y) : y ∈ C}

thì từ điều kiện f(x, x) = 0 với mọi x ∈ C, ta có mọi điểm bất độngcủa ánh xạ S đều là nghiệm của bài toán cân bằng Ngược lại với cácgiả thiết thông thường là f(x, ) lồi, khả dưới vi phân, thỏa mãn mộttính chất chính quy nào đó, thì mọi điểm bất động của ánh xạ S đều

là nghiệm của bài toán cân bằng Qua đây ta thấy việc tìm nghiệm củabài toán cân bằng có thể quy về việc tìm điểm bất động Tuy nhiên việctìm điểm bất động của một ánh xạ, ngay trong trường hợp điểm bất

động theo định lý Brouwer đã có từ hơn một thế kỷ, nhưng cho đến nayvẫn chưa có thuật toán hiệu quả cho bài toán này Hơn nữa, như đã nêu,bài toán cân bằng bao hàm nhiều bài toán quan trọng, khó giải như lànhững trường hợp riêng, nên không hy vọng có một thuật toán hiệu quả

để giải bài toán cân bằng tổng quát Vì thế người ta đã nghiên cứu cácphương pháp giải bài toán cân bằng với những giả thiết nhất định Cácgiả thiết này có thể là một tính chất đơn điệu nào đó như tính giả đơnđiệu, đơn điệu, đơn điệu chặt, đơn điệu mạnh và tính lồi, khả dưới viphân theo biến thứ hai của song hàm f

Một số tiếp cận về phương pháp giải bài toán cân bằng với các giảthiết nêu trên có thể được kể đến như sau:

• Phương pháp điểm bất động cho ánh xạ co [71, 79], hoặc khônggiãn, không giãn suy rộng [10, 15] dựa trên nguyên lý bài toán phụ.Nguyên lý bài toán phụ cho bài toán cân bằng EP(C, f) liên quanđến bài toán cân bằng dưới đây, kí hiệu là EP(C, fα)

Tìm x ∈ C : fα(x, y) := f (x, y) + αM (x, y) ≥ 0, ∀y ∈ C,trong đó α > 0, và M (được gọi là hàm khoảng cách Bregman) cótính chất

(M1) Xác định trên toàn không gian, hàm M(x, ) lồi mạnh, khả

vi và ∇M(x, x) = 0 với mọi x ∈ C

Nguyên lý bài toán phụ được G Cohen [32, 33] đề xuất lần đầutiên cho bài toán tối ưu và bài toán bất đẳng thức biến phân lầnlượt vào các năm 1980 và 1988 Đến năm 2003, nguyên lý này đãđược mở rộng cho bài toán cân bằng bởi G Mastroeni [71]

Nếu ký hiệu s(x) là nghiệm duy nhất của bài toán tối ưu lồiminy∈Cfα(x, y), thì với các giả thiết về tính đơn điệu mạnh, hoặcgiả đơn điệu mạnh, cộng thêm tính chất kiểu Lipschitz của songhàm f, thì s là ánh xạ co, khi tham số α được chọn thích hợp (phụthuộc vào hệ số đơn điệu (giả đơn điệu) mạnh và hằng số Lipschitz

của f [41, 79]) Trong trường hợp f là đơn điệu mạnh ngược, còngọi là tự bức (co-coercive), thì s là ánh xạ không giãn [10], còn khi

f là giả đơn điệu thì trong [15] các tác giả đã xây dựng một s ánh

xạ tựa không giãn (quasinonexpansive) có tập điểm bất động trùngvới tập nghiệm của bài toán cân bằng

Bên cạnh các ánh xạ nghiệm dựa trên tập nghiệm của các bài toánquy hoạch lồi đã nêu ở trên, một ánh xạ khác, được gọi là ánh xạCombettes, dựa trên phương pháp hiệu chỉnh gần kề, được địnhnghĩa bởi

R(x) := {y ∈ C : f (x, y) + rhx − x0, y − xi ≥ 0 ∀y ∈ C}.P.L Combettes [34] đã chỉ ra, khi f đơn điệu và có thêm một vàitính chất liên tục thông thường, thì với mọi r > 0, ánh xạ R xácđịnh khắp nơi, không giãn và tập điểm bất động của ánh xạ nàytrùng với tập nghiệm của bài toán cân bằng EP(C, f) Chú ý rằngánh xạ R này được xác định qua việc giải một bài toán cân bằngđơn điệu mạnh, trong khi ánh xạ nghiệm s nói trên được xác địnhbằng việc giải một bài toán quy hoạch lồi mạnh

• Phương pháp hàm đánh giá (gap function) Ý tưởng chính củaphương pháp hàm đánh giá là chuyển việc giải bài toán cân bằng

về bài toán tối ưu Hai loại hàm đánh giá cơ bản là hàm đánh giáAuslender và hàm đánh giá Fukushima được định nghĩa lần lượtnhư sau [72]:

gA(x) = − min{f (x, y) : y ∈ C}

gF(x) = − min{f (x, y) + αM (x, y) : y ∈ C},trong đó α > 0 và song hàm M có tính chất (M1) Như đã biết,

x ∈ C, gA(x) = 0, hoặc gF(x) = 0 khi và chỉ khi x là nghiệm của bàitoán EP(C, f) Chú ý rằng bài toán quy hoạch lồi xác định gA(x)

có thể không tồn tại nghiệm, và nếu có nghiệm thì nghiệm có thể

không duy nhất Tuy nhiên bài toán xác định gF(x), do M (x, )lồi mạnh, nên luôn tồn tại duy nhất nghiệm Ngoài các hàm đánhgiá ở trên người ta còn dùng hàm đánh giá cho bài toán cân bằngMinty sau (còn được gọi là bài toán đối ngẫu) [83]:

tìm x∗ ∈ C : f (y, x∗) ≤ 0, ∀y ∈ C M EP (C, f )Các hàm đánh giá không ràng buộc (D-gap function) cũng được sửdụng để thu được các bài toán tối ưu không ràng buộc tương đươngvới bài toán cân bằng Các phương pháp của quy hoạch toán học,như phương pháp hướng giảm, đã được dùng để cực tiểu hàm đánhgiá, qua đó thu được nghiệm của bài toán cân bằng, xem chẳnghạn G Mastroeni [71], và T.D Quoc [83] và tài liệu trích dẫn ở đó

• Phương pháp hiệu chỉnh Tikhonov và phương pháp điểm gần kề.Các phương pháp này nhằm mục đích chuyển việc giải bài toán đặtkhông chỉnh, ví dụ các bài toán không duy nhất nghiệm, và/hoặcnghiệm không phụ thuộc liên tục vào các dữ kiện ban đầu về việcgiải các bài toán đặt chỉnh Để bảo đảm tính duy nhất nghiệm,người ta thường dùng một song hàm hiệu chỉnh và một tham sốhiệu chỉnh để xây dựng bài toán phụ có duy nhất nghiệm phụthuộc tham số hiệu chỉnh, và nghiệm duy nhất này sẽ hội tụ đếnmột nghiệm của bài toán ban đầu, khi tham số hiệu chỉnh tiến tớigiá trị nhất định Các phương pháp hiệu chỉnh này đã được sử dụngmột cách hiệu quả cho bài toán tối ưu, bất đẳng thức biến phân,phương trình toán tử, bao hàm thức đơn điệu (xem [85, 93]) và gầnđây cho bài toán cân bằng đơn điệu [75], giả đơn điệu [38, 66].Trong phương pháp hiệu chỉnh Tikhonov bài toán hiệu chỉnh, vớihàm hiệu chỉnh khoảng cách, được cho như sau:

fT(x, y) := f (x, y) + ǫhx − xg, y − xi,trong đó ǫ > 0 là tham số hiệu chỉnh, còn xg đóng vai trò như lờigiải dự đoán Trong phương pháp điểm gần kề, điểm dự đoán xg

thay đổi ở mỗi bước lặp k và hàm hiệu chỉnh có dạng

fP(x, y) := f (x, y) + chx − xk, y − xi,với c > 0 Với giả thiết f đơn điệu trên C, thì fT và fP đơn điệumạnh trên C Do đó, với các giả thiết thông thường về tính liên tụccủa song hàm, bài toán cân bằng hiệu chỉnh EP(C, fT) và EP(C, fP)

có duy nhất nghiệm phụ thuộc vào các tham số hiệu chỉnh và hội

tụ đến một nghiệm của bài toán ban đầu khi ǫ tiến dần đến 0, đốivới hiệu chỉnh Tikhonov, còn đối với hiệu chỉnh điểm gần kề thì ctiến về một số hữu hạn Chú ý rằng chỉ với giả thiết giả đơn điệuthì nghiệm của các bài toán hiệu chỉnh có thể không duy nhất Tuynhiên các kết quả trong [38, 66] đã chỉ ra rằng bất kỳ một quỹ đạonghiệm nào của các bài toán hiệu chỉnh cũng hội tụ về một nghiệmcủa bài toán ban đầu, hơn nữa các tác giả ở đây đã đưa ra cácthuật toán để tìm nghiệm đó dựa trên kỹ thuật của tối ưu hai cấp(bilevel optimization)

• Phương pháp đạo hàm và đạo hàm tăng cường (extragradient method).Phương pháp đạo hàm cơ bản cho bài toán cân bằng có thể khônghội tụ, ngay cả khi song hàm f là đơn điệu Do đó, năm 1997, S.Flam và A Antipin [45] đã dùng phương pháp đạo hàm tăng cườngvới hàm khoảng cách Bregman cho bài toán cân bằng với tập chấpnhận được là tập lồi compac trong không gian Rn Năm 2011, N.Langenberg [67] mở rộng kết quả của S.D Flam và A.S Antipin,xét tập chấp nhận được là không bị chặn Sau đó, nhiều tác giả đãdùng phương pháp đạo hàm tăng cường giải bài toán cân bằng vớicác giả thiết khác nhau đặt lên song hàm f Trong phương phápđạo hàm tăng cường [84], ở mỗi bước lặp k, phải giải hai bài toántối ưu

Với các giả thiết thông thường, dãy điểm lặp xác định như trên

sẽ hội tụ về một nghiệm của bài toán EP(C, f) Trong trường hợpbài toán bất đẳng thức biến phân, các bài toán tối ưu này trở vềbài toán tìm hình chiếu Đối với bài toán cân bằng có tính chấtmạnh hơn đơn điệu, như đơn điệu mạnh, giả đơn điệu mạnh, đơnđiệu mạnh ngược, para-đơn điệu (paramonotone), thì chỉ cần dùngphương pháp đạo hàm cơ bản [51, 88] là thuật toán hội tụ Một

số thuật toán dựa trên phương pháp đạo hàm cơ bản và đạo hàmtăng cường cũng đã được đề xuất để bảo đảm sự hội tụ mạnh vànâng cao sự hiệu quả của thuật toán, người ta đã thay phép chiếuthứ hai lên tập ràng buộc bằng việc chiếu lên một siêu phẳng, hoặctách riêng song hàm f bằng tổng của hai hoặc nhiều song hàmv.v Các thuật toán này có thể xem trong các luận án Tiến sĩ củaBùi Văn Định [2], Trịnh Ngọc Hải [3], Phạm Gia Hưng [4]

Một bài toán khác liên quan nhiều đến luận án này là bài toán chấpnhận tách (Split feasibility problem) Bài toán chấp nhận tách được Y.Censor và T Elfving [28] giới thiệu lần đầu tiên vào năm 1994 cho môhình bài toán ngược Sau đó được C Byrne [27] ứng dụng vào năm 2002cho bài toán phục hồi và tái tạo hình ảnh y tế Gần đây, bài toán nàycòn được Y Censor [29] ứng dụng trong mô hình điều khiển cường độ

xạ trị trong điều trị ung thư Trong không gian hữu hạn chiều, bài toánchấp nhận tách có thể mô tả như sau:

Cho C và Q là các tập lồi khác rỗng trong không gian Rn và Rm

tương ứng, và A : Rn → Rm là toán tử tuyến tính (được gọi là toán tửchuyển) Bài toán chấp nhận tách được phát biểu:

Tìm x ∈ C sao cho Ax ∈ Q (SFP).Trong trường hợp hai không gian là trùng nhau và A là toán tử đồngnhất, thì bài toán chấp nhận tách trở về bài toán chấp nhận lồi (convexfeasibility problem) là tìm x ∈ C ∩ D Kí hiệu Γ là tập nghiệm của bài

toán chấp nhận tách (SFP),

Γ = {x ∈ C : Ax ∈ Q} = C ∩ A−1Q,thì do C, Q là các tập lồi đóng, nên Γ là tập lồi, đóng và là giao của haitập lồi đóng C và A−1Q Như vậy bài toán chấp nhận lồi có thể xemnhư một trường hợp đặc biệt của bài toán chấp nhận tách

Trong những năm gần đây, việc giải bài toán chấp nhận tách đượcnhiều tác giả quan tâm nghiên cứu, đặc biệt là trong trường hợp Cvà/hoặc Q được cho dưới dạng ẩn như là tập nghiệm của các bài toánnào đó, ví dụ tập điểm bất động của ánh xạ không giãn hoặc ánh xạkhông giãn suy rộng, tập nghiệm của bài toán tối ưu lồi, bài toán bấtđẳng thức biến phân, và tổng quát hơn là tập nghiệm của bài toáncân bằng Trong những trường hợp này, bài toán sẽ gọi là bài toán chấpnhận tách suy rộng (generalized split feasibility problem) Bài toán chấpnhận tách cũng đã được nhiều người nghiên cứu (xem, chẳng hạn luận

án Tiến sĩ của Trần Việt Anh và tài liệu tham khảo ở đó)

Có hai cách tiếp cận cơ bản để giải bài toán chấp nhận tách Cáchtiếp cận thứ nhất dựa trên các phương pháp chiếu (lần lượt hoặc songsong) Cách tiếp cận thứ hai là dựa trên ý tưởng chuyển bài toán chấpnhận tách về bài toán tối ưu

Các thuật toán chiếu lấy ý tưởng từ các phương pháp chiếu của C.J.Karzmark và của V Neumann (xem [27, 28, 97]) Để giải bài toán chấpnhận tách trong không gian hữu hạn chiều, C Byrne [27] đề xuất thuậttoán chiếu CQ như sau: với k ≥ 0

xk+1 = PC(xk+ γAT(PQ− I)Axk),trong đó C, Q lần lượt là hai tập lồi đóng khác rỗng trong không gian

Rn và Rm, A là ma trận thực m × n, L là giá trị riêng lớn nhất của matrận ATA và γ ∈ (0, 2

L)

Sau đó, có nhiều tác giả đã nghiên cứu bài toán chấp nhận tách bằngcách mở rộng bài toán chấp nhận tách trong không gian vô hạn chiều,

hoặc cải tiến cho độ dài bước γ hoặc mở rộng tập C và tập Q Giải bàitoán chấp nhận tách bằng phương pháp chiếu với C và/hoặc Q là tậpnghiệm của bài toán bất đẳng thức biến phân hay tập điểm bất độngcủa ánh xạ không giãn có thể xem luận án Tiến sĩ của Trần Việt Anh[1] và các tài liệu tham khảo ở đó.

Việc giải bài toán chấp nhận tách dựa trên ý tưởng chuyển về bàitoán tối ưu dựa trên ý tưởng của A Moudafi và B.S Thakur [74] năm

2013 bằng cách chứng minh bài toán tối ưu lồi

min

x∈C{ 12λk(I − PQ)(Ax)k

hoặc toán tử nghịch đảo A−1, trong khi đó với phương pháp dựa trênbài toán tối ưu, thì hàm mục tiêu 1

2λk(I − PQ)(Ax)k2 chỉ lồi và khả vikhi A là tuyến tính Do tính khả vi của hàm mục tiêu nên bài toán cựctiểu hàm này tương đương với bài toán bất đẳng thức biến phân đơnđiệu Trong bài báo [68], Z Li và các cộng sự đã xét bài toán chấp nhậntách với toán tử A là phi tuyến với C và Q đều là giao của một số hữuhạn tập lồi Tuy nhiên, các tác giả phải giả thiết tính lồi của hàm

p(x) := 1

2kPQ(F (x)) − F (x)k

2

để thuật toán đưa ra hội tụ

Một vấn đề được đặt ra là nghiên cứu thuật toán giải bài toán chấpnhận tách với toán tử chuyển không phải là tuyến tính và với C và/hoặc

Qkhông được cho tường minh, mà là tập nghiệm của các bài toán khác,chẳng hạn là tập nghiệm của bài toán cân bằng, hoặc các trường hợpriêng của nó.

Trong luận án, chúng tôi xét bài toán chấp nhận tách cho hai trườnghợp:

Trường hợp đầu tiên, chúng tôi xét bài toán chấp nhận tách với C làtập nghiệm của bài toán cân bằng và Q là tập nghiệm của bài toán quyhoạch lồi Đối với bài toán này chúng tôi đề xuất một thuật toán chiếumột lần giải bài toán cân bằng kết hợp với phương pháp chiếu giải bàitoán quy hoạch lồi bằng cách sử dụng ánh xạ gần kề của hàm mục tiêu

Sự hội tụ của thuật toán đã được chứng minh khi bài toán cân bằng vớisong hàm cân bằng là para-đơn điệu Một mô hình cân bằng sản xuấtđiện với chi phí môi trường thấp nhất được đưa ra minh họa cho thuậttoán chúng tôi đề ra

Bài toán chấp nhận tách thứ hai được xét trong luận án là bài toántrong đó toán tử chuyển không nhất thiết là tuyến tính mà là một phépbiến đổi được cho bởi các hàm số tựa tuyến tính Thuật toán đề xuấtdựa trên phương pháp tối ưu cho bài toán tựa lồi, sử dụng dưới đạohàm Clarke và đã chứng minh được sự hội tụ Mô hình cân bằng Nashvới ràng buộc chung nảy sinh trong thực tế đã được mô tả dưới bài toánchấp nhận tách xét ở đây và đã thử nghiệm trên máy tính Các kết quảtính toán được so sánh với một thuật toán đã có

Bản luận án, ngoài phần mở đầu, kết luận, danh mục các công trình

đã công bố của tác giả có liên quan đến luận án và danh mục tài liệutham khảo, bao gồm 3 chương Các kết quả chính được trình bày trongcác Chương 2 và 3

Chương 1 trình bày các kiến thức bổ trợ, nhắc lại các kết quả vềphép chiếu mêtric, tập lồi, hàm lồi, hàm tựa lồi, song hàm đơn điệu, bàitoán cân bằng và một số bài toán liên quan, bài toán chấp nhận tách,một số phương pháp lặp cơ bản tìm điểm bất động và các bổ đề dùng

để chứng minh cho các kết quả chính ở các chương sau

Trong Chương 2 chúng tôi trình bày thuật toán chiếu kết hợp phéplặp Mann-Krasnoselskii giải bài toán chấp nhận tách liên quan đến bàitoán cân bằng và bài toán tối ưu lồi Một mô hình cân bằng sản xuấtđiện với chi phí môi trường thấp nhất đã được trình bày ở cuối chươngcùng với các tính toán thử nghiệm minh họa cho thuật toán đã đề xuất.Chương 3 trình bày thuật toán dưới đạo hàm giải bài toán chấp nhậntách với toán tử chuyển không tuyến tính mà được cho bởi phép biếnđổi tựa tuyến tính Cuối chương giới thiệu một mô hình cân bằng Nash

có ràng buộc chung và các ví dụ khác

Các kết quả chính của luận án được công bố trong 2 bài báo đăngtrên các tạp chí thuộc danh mục ISI là: Mathematical Methods of Op-erations Research và Journal of Global Optimization, ngoài ra còn đượcbáo cáo tại:

• Hội nghị Toán ứng dụng và Tin học, Đại học Bách Khoa Hà Nội,12-13/11/2016;

•7th International Conference on High Performance Scientific ing, Hà Nội, 19-23/3/2018;

Comput-• Xêmina liên cơ quan "Bài toán cân bằng và các vấn đề liên quan";

• Xêmina Nghiên cứu sinh, Khoa Toán, trường Đại học sư phạm, Đạihọc Thái Nguyên;

• Xêmina Bộ môn Toán ứng dụng, Khoa Toán - Tin, trường Đại họcKhoa học, Đại học Thái Nguyên

Tác giảNguyễn Thị Thanh Huyền

Chương 1

Một số kiến thức chuẩn bị

Trong chương này, chúng tôi trình bày một số khái niệm cơ bản cầnthiết và một số bổ đề bổ trợ sẽ được dùng ở các chương tiếp theo Nộidung của chương được chia thành năm phần Phần đầu trình bày một

số khái niệm và kết quả cơ bản của giải tích lồi, hai phần tiếp theotrình bày bài toán cân bằng và một số bài toán liên quan và bài toánchấp nhận tách Phần tiếp theo nhắc lại một số phương pháp lặp cơbản Phần cuối của chương trình bày một số kết quả bổ trợ để chứngminh sự hội tụ của các thuật toán ở các chương sau Các khái niệm

và kết quả cơ bản của chương được tham khảo chủ yếu từ các tài liệu[17, 18, 19, 47, 50, 58, 95]

1.1 Các khái niệm và kết quả cơ bản

Trước hết, chúng tôi nhắc lại một số kí hiệu về tích vô hướng vàchuẩn Euclid trong không gian Rn

Không gian Rn là một không gian vectơ n chiều với phép cộng vàphép nhân vô hướng được định nghĩa như sau

(x1, , xn) + (y1, , yn) = (x1+ y1, , xn + yn),

λ(x1, , xn) = (λx1, , λxn),trong đó (x1, , xn), (y1, , yn) ∈ Rn và λ ∈ R

Cho x = (x1, , xn) ∈ Rn và y = (y1, , yn) ∈ Rn, tích vô hướng của

x và y được định nghĩa bởi

αx + (1 − α)y ∈ K, ∀x, y ∈ K, ∀α ∈ [0, 1]

Sau đây là phép chiếu mêtric và tính chất của nó

Định nghĩa 1.2 Cho K là tập con lồi đóng, khác rỗng của Rn Phépchiếu mêtric từ x ∈ Rn lên K, kí hiệu là PK(x), được xác định bởi

PK(x) = arg min

z∈K kz − xk

Do K là tập con lồi đóng trong không gian Rn nên phép chiếu của

x lên K tồn tại và duy nhất Các tính chất của phép chiếu hay dùngđược phát biểu trong mệnh đề sau Chứng minh của mệnh đề này cóthể tham khảo trong các tài liệu [18, 19]

Mệnh đề 1.1 Giả sử K là tập con lồi đóng, khác rỗng của Rn Khi đó

Định nghĩa 1.3 Cho K là một tập con khác rỗng của Rn và một hàm

f : K → [−∞, +∞] Miền hữu hiệu của f là

Sau đây là định nghĩa hàm lồi và dưới vi phân của hàm lồi

Định nghĩa 1.4 Cho f : Rn → [−∞, +∞] Hàm f được gọi là lồi nếutrên đồ thị của f là tập lồi trong Rn × R Hàm f được gọi là hàm lõmnếu −f là hàm lồi

Định nghĩa 1.5 Cho f : Rn → [−∞, +∞] là một hàm lồi chính thường.i) Véctơ p ∈ Rn được gọi là dưới đạo hàm của f tại điểm x0 ∈ Rn nếu

hp, x − x0i + f (x0) ≤ f (x), ∀x ∈ Rn.Tập tất cả các dưới đạo hàm của f tại x0 được gọi là dưới vi phân của

f tại x0 và kí hiệu là ∂f(x0) Hàm f được gọi là khả dưới vi phân tại x0nếu ∂f(x0) 6= ∅

ii) Cho trước ε > 0 tùy ý Véctơ p ∈ Rn được gọi là ε-dưới đạo hàm của

f tại điểm x0 ∈ Rn nếu

hp, x − x0i + f (x0) − ε ≤ f (x), ∀x ∈ Rn.Tập tất cả các ε-dưới đạo hàm của f tại x0 được gọi là ε-dưới vi phâncủa f tại x0 và kí hiệu là ∂εf (x0)

Định nghĩa 1.6 Cho f : Rn → (−∞, +∞] là một hàm chính thường,

x∗ ∈ Rn

Điểm x∗ được gọi là điểm cực tiểu toàn cục của hàm f nếu f(x∗) ≤ f (x)với mọi x ∈ Rn Khi đó, f(x∗) gọi là giá trị cực tiểu toàn cục của f , vàviết f(x∗) = minx∈Rnf (x) Tập các điểm cực tiểu của hàm f kí hiệu làargminf.

Cho K là một tập con của Rn sao cho K ∩ domf 6= ∅ Điểm x∗ đượcgọi là điểm cực tiểu toàn cục của hàm f trên K nếu f(x∗) ≤ f (x) vớimọi x ∈ K Khi đó, f(x∗) gọi là giá trị cực tiểu toàn cục của f trên K,

và viết f(x∗) = minx∈K f (x)

Hàm tựa lồi được De Finetti [44] giới thiệu lần đầu tiên vào năm

1949 Đây là lớp hàm được ứng dụng rộng rãi trong tối ưu, lý thuyếttrò chơi, kinh tế,

Định nghĩa 1.7 Cho X ⊂ Rn là một tập lồi và ϕ : X → R

i) ϕ được gọi là hàm tựa lồi trên X nếu tập mức dưới

Sϕ,α = {x ∈ X : ϕ(x) ≤ α} ,

là tập lồi với mỗi α ∈ R

ii) ϕ được gọi là hàm tựa lõm trên X nếu −ϕ là hàm tựa lồi trên X.iii) ϕ được gọi là hàm tựa tuyến tính trên X nếu nó vừa tựa lồi, vừa tựalõm

Đặc trưng của hàm tựa lồi được cho bởi mệnh đề và định lý dưới đây.Mệnh đề 1.2 Giả sử X ⊂ Rn là một tập lồi và ϕ : X → R Khi đó,các khẳng định sau là tương đương

(i) ϕ là hàm tựa lồi trên X

(ii) Với mỗi x, y ∈ X và λ ∈ [0, 1] ta có

ϕ(λx1+ (1 − λ)x2) ≤ max {ϕ(x1), ϕ(x2)}

Do đó, hàm ϕ là tựa tuyến tính trên X nếu và chỉ nếu với mỗi x, y ∈ X

và λ ∈ [0, 1] ta có

min {ϕ(x1), ϕ(x2)} ≤ ϕ(λx1+ (1 − λ)x2) ≤ max {ϕ(x1), ϕ(x2)}

Định lý 1.1 Giả sử ϕ : Rn → R là hàm khả vi trên một tập lồi mởchứa X Khi đó ϕ là hàm tựa lồi trên X nếu và chỉ nếu

là hàm tựa tuyến tính trên tập {x : cTx + d 6= 0}

Tiếp theo, chúng tôi nhắc lại khái niệm về hàm nửa liên tục dưới, nửaliên tục trên

Định nghĩa 1.8 Giả sử K là tập con của Rn, f : K → [−∞, +∞] và

a) đơn điệu mạnh trên K với hằng số τ > 0 nếu

ii) Song hàm para-đơn điệu được xây dựng và nghiên cứu trong [50]

và sử dụng trong một số bài báo, chẳng hạn [88, 92]

Ví dụ 1.2 a Song hàm f(x, y) := ϕ(y)−ϕ(x) là para-đơn điệu với mọihàm ϕ tùy ý

b Cho f(x, y) := hAx + b, y − xi với A là ma trận vuông sao choˆ

A = 12(A+AT) là ma trận nửa xác định dương và ker( ˆA) ⊂ ker(A) Trong[50] (Mệnh đề 3.2) Iusem chứng minh rằng f(x, y) := hAx + b, y − xi

là para-đơn điệu nếu và chỉ nếu ˆA là ma trận nửa xác định dương vàker( ˆA) ⊂ ker(A)

1.2 Bài toán cân bằng và một số bài toán liên quan

Cho K là tập con lồi đóng khác rỗng của Rn và f : K × K → R làmột song hàm sao cho f(x, x) = 0 với x ∈ K Bài toán cân bằng đượcphát biểu như sau:

Tìm x∗ ∈ K sao cho f(x∗, y) ≥ 0, ∀y ∈ K (EP)Bài toán cân bằng trên được kí hiệu là EP(K, f) hay ngắn gọi là EP.Tập nghiệm của bài toán cân bằng kí hiệu là S(K, f) Song hàm thỏamãn điều kiện f(x, x) = 0 với mọi x ∈ K được gọi là song hàm cânbằng

Một kết quả về sự tồn tại nghiệm của bài toán cân bằng được trìnhbày trong mệnh đề dưới đây

Mệnh đề 1.3 ([58]) Cho K là tập con lồi đóng trong không gian Rn và

Bài toán cân bằng bao hàm nhiều lớp bài toán quen thuộc như:

a Bài toán tối ưu Cho ϕ : K → R, bài toán tối ưu là bài toán

Tìm x∗ ∈ K sao cho ϕ(x∗) ≤ ϕ(y), ∀y ∈ K, (1.1)

kí hiệu là min{ϕ(x)| x ∈ K} Đặt

f (x, y) := ϕ(y) − ϕ(x),thì bài toán (1.1) tương đương với bài toán EP theo nghĩa tập nghiệmcủa hai bài toán trùng nhau

b Bài toán điểm yên ngựa

Cho K1 ⊆ Rn1, K2 ⊆ Rn2 và ϕ : K1 × K2 → R Điểm (x∗

1, x∗2) được gọi

là điểm yên ngựa của hàm ϕ nếu và chỉ nếu

(x∗1, x∗2) ∈ K1× K2, ϕ(x∗1, y2) ≤ ϕ(y1, x∗2), ∀(y1, y2) ∈ K1× K2 (1.2)Đặt K = K1× K2 và định nghĩa f : K × K → R bởi

f ((x1, x2), (y1, y2)) := ϕ(y1, x2) − ϕ(x1, y2)

Khi đó, x∗ = (x∗1, x∗2) là nghiệm của bài toán EP nếu và chỉ nếu (x∗1, x∗2)thỏa mãn (1.2)

c Bài toán cân bằng Nash trong trò chơi không hợp tác

Gọi I là tập chỉ số hữu hạn chỉ số người chơi Với mỗi i ∈ I tồn tạimột tập Ki ⊆ R là tập chiến lược của người chơi thứ i Đặt K =

K1× K2× × Kn Với mỗi i ∈ I, có một hàm cho trước fi : K → R(hàm thua thiệt của người chơi thứ i, phụ thuộc vào chiến lược củanhững người chơi khác) Với x = (xi)i∈I ∈ K định nghĩa x[yi] là véctơ xkhi thay tọa độ xi bởi yi Điểm x∗ = (x∗i)i ∈I ∈ K được gọi là điểm cânbằng Nash nếu và chỉ nếu với mọi i ∈ I ta có

fi(x∗) ≤ fi(x∗[yi]), ∀yi ∈ Ki (1.3)Định nghĩa song hàm f : K × K → R bởi

x∗ = (x∗i)i∈I ∈ K là một điểm cân bằng Nash Thật vậy, giả sử ngượclại, tồn tại j và một yj ∈ Kj sao cho

fi(x∗[yi]) < fi(x∗)

Khi đó, với phương án y = x∗[yj], theo định nghĩa song hàm f , ta có

f (x∗, y) = fi(x∗[yi]) − fi(x∗) < 0

Điều này mâu thuẫn với x∗ là nghiệm của bài toán cân bằng (EP)

d Bài toán điểm bất động Cho ánh xạ T : K → K là một ánh xạcho trước Bài toán điểm bất động là bài toán

Tìm x∗ ∈ K sao cho x∗ = T (x∗) (1.5)Đặt f(x, y) := hx − T x, y − xi Khi đó x∗ là nghiệm của bài toán EPnếu và chỉ nếu x∗ là nghiệm của bài toán (1.5) Thật vậy, từ (1.5) suy

ra x∗ là nghiệm của bài toán EP Ngược lại, nếu x∗ là nghiệm của bàitoán EP thì chọn y∗ = T x∗, ta thu được 0 ≤ f(x∗, y∗) = −kx∗− T x∗k2,suy ra x∗ = T x∗ Vì vậy, bài toán EP tương đương với bài toán (1.5)

e Bài toán bất đẳng thức biến phân Cho T : K → K là một ánh xạcho trước Bài toán bất đẳng thức biến phân là bài toán

Tìm x∗ ∈ K sao cho hT x∗, y − x∗i ≥ 0, ∀y ∈ K (1.6)Đặt f(x, y) = hT x, y − xi thì bài toán (1.6) tương đương với bài toán(P )

Chú ý rằng, khi K ⊆ Rn là một nón lồi đóng và ánh xạ F : Rn → Rn,bài toán bất đẳng thức biến phân trên có thể viết dưới dạng bài toánsau (gọi là bài toán bù)

Tìm x∗ ∈ K sao cho x∗ ∈ K, F (x∗) ∈ K∗, hx∗, F (x∗)i = 0, (1.7)trong đó

K∗ := {y ∈ Rn| hy, xi ≥ 0, ∀x ∈ K}

là nón đối ngẫu của nón K

Khi đó, bài toán bù tương đương với bài toán cân bằng EP với

f (x, y) = hF (x), y − xi

f Bài toán tối ưu Pareto yếu Cho m hàm thực ψi : Rn → R, x∗ ∈ Xđược gọi là cực tiểu toàn cục Pareto yếu của hàm véctơ ψ = (ψ1, , ψm)trên tập X ⊆ Rn nếu không tồn tại phần tử y ∈ X sao cho ψi(y) <

1.3 Bài toán chấp nhận tách

Bài toán chấp nhận tách được Y Censor và T Elfving [28] giới thiệulần đầu tiên vào năm 1994 đã thu hút được sự quan tâm của nhiều nhàtoán học trong nước và trên thế giới

Định nghĩa 1.10 Cho C ⊆ Rn, Q ⊆ Rm là các tập lồi khác rỗng,

A : Rn → Rm là toán tử tuyến tính Bài toán chấp nhận tách được phátbiểu như sau:

Tìm x∗ ∈ C sao cho Ax∗ ∈ Q (SFP)Bài toán này đã được nghiên cứu trong các công trình [27, 30, 36, 90, 96]khi C và/hoặc Q là tập nghiệm của bài toán điểm bất động hoặc bàitoán bất đẳng thức biến phân, hoặc bài toán tối ưu Các ứng dụng củabài toán chấp nhận tách có thể tìm thấy trong vấn đề khôi phục ảnh,

xử lý tín hiệu và gần đây là trong việc điều khiển cường độ xạ trị trongđiều trị ung thư

Kí hiệu Γ là tập nghiệm của bài toán chấp nhận tách (SFP),

Γ = {x ∈ C : Ax ∈ Q} = C ∩ A−1Q

Giả sử bài toán chấp nhận tách có nghiệm Do C, Q là các tập lồi đóng

và A là toán tử tuyến tính nên Γ là tập lồi, đóng

Với mỗi j = 1, 2, , J, cho Kj là các tập con lồi đóng khác rỗngcủa không gian Rm với ∩J

j=1Kj 6= ∅ Bài toán chấp nhận lồi (kí hiệu làCFP) là bài toán tìm một phần tử thuộc ∩J

j=1Kj Việc tìm nghiệm củabài toán (SFP) được quy về việc tìm một điểm trong giao của hai tập

C và A−1Q Vậy, bài toán chấp nhận tách có thể xem như một trườnghợp đặc biệt của bài toán chấp nhận lồi

1.4 Một số phương pháp lặp cơ bản tìm điểm bất động

Trong mục này, chúng tôi nhắc lại một số phương pháp lặp cơ bản

để tìm điểm bất động như nguyên lý ánh xạ co Banach, phương pháplặp Mann, phương pháp lặp Krasnoselskii và phương pháp lặp Mann-Krasnoselskii Các phương pháp lặp này được tham khảo trong tài liệu[5]

Dãy lặp trên còn gọi là dãy lặp Picard

b Phương pháp lặp Mann

Cho C là tập con lồi, khác rỗng của không gian tuyến tính X và mộtánh xạ T : C → C Giả sử dãy {αn} là một dãy số không âm thỏa mãn

Nếu X là không gian Banach lồi đều, C là tập con bị chặn, lồi, đóng,khác rỗng của X và T là ánh xạ không giãn thì phép lặp Mann sinh bởi(1.8) hội tụ yếu tới một điểm bất động của ánh xạ T

c Phương pháp lặp Krasnoselskii

Cho C là một tập con bị chặn, lồi, đóng, khác rỗng của không gianBanach X và T là một ánh xạ không giãn từ C vào một tập con compaccủa C Lấy x1 tùy ý thuộc C Khi đó, dãy {xn} xác định bởi

xn+1 = 1

2(xn + T xn), n ∈ N,hội tụ mạnh tới một điểm bất động của ánh xạ T

d Phương pháp lặp Mann-Krasnoselskii

Từ năm 1953, một phương pháp lặp được gọi là Mann-Krasnoselskiiđược xác định như sau

x0 ∈ C : xn+1 = (1 − αn)xn+ αnT xn, n ≥ 0, (1.9)trong đó dãy {αn} là một dãy số thực thỏa mãn 0 < αn < 1

Nếu T : C → C là ánh xạ không giãn trong không gian Hilbert thì dãy{xn} sinh bởi (1.9) hội tụ yếu tới một điểm bất động (nếu có) của ánh

Định lý 1.2 ([94], Mệnh đề 2.31) Cho K ⊂ Rn là tập lồi, đóng, có phầntrong khác rỗng, f : K → R là hàm lồi, chính thường, nửa liên tục dưới

và khả dưới vi phân trên K Khi đó, x∗ là điểm cực tiểu của f trên Kkhi và chỉ khi

k=1δk < +∞ Khi đó dãy {vk} hội tụ

Bổ đề 1.3 ([8]) Giả sử dãy {ak} là một dãy các số thực thỏa mãn

0 < a < ak < b < 1 với mọi k = 1, 2, , và cho {vk}, {wk} là hai dãytrong Rn sao cho

1.6 Kết luận

Trong chương này, chúng tôi trình bày một số kiến thức cơ sở về giảitích lồi sẽ được dùng trong các chương tiếp theo Chúng tôi cũng giớithiệu bài toán cân bằng, bài toán chấp nhận tách và một số bài toánliên quan đến các bài toán này, một số phương pháp lặp cơ bản Phầncuối của chương là một số bổ đề bổ trợ dùng để chứng minh sự hội tụcủa các thuật toán mà chúng tôi xét ở Chương 2 và Chương 3

Kết quả của chương này được viết dựa trên nội dung bài báo (1)đăng trên tạp chí Mathematical Methods of Operations Research nằmtrong Danh mục các công trình của tác giả liên quan đến luận án.

2.1 Mô tả bài toán và sự hội tụ

Cho C, Q là các tập lồi đóng khác rỗng trong không gian Rn, Rm

tương ứng; A : Rn → Rm là toán tử tuyến tính Xét bài toán chấp nhậntách:

Tìm x∗ ∈ C sao cho Ax∗ ∈ Q

Nhắc lại rằng, khi C và/hoặc Q là các tập nghiệm của các bài toán bấtđẳng thức biến phân hoặc tập nghiệm của bài toán điểm bất động, bàitoán này đã được xét bởi một số tác giả, chẳng hạn trong [14, 90, 91].Chúng tôi xét bài toán chấp nhận tách trong trường hợp C là tậpnghiệm của bài toán cân bằng para-đơn điệu trong không gian Rn và Q

là tập nghiệm của bài toán tối ưu lồi trong không gian Rm, kí hiệu là(SEO)

Xét bài toán (SEO) sau đây:

Tìm x∗ ∈ K : f (x∗, y) ≥ 0 ∀y ∈ K và g(Ax∗) ≤ g(u) ∀u ∈ Rm, (SEO)trong đó K là tập con lồi đóng trong không gian Rn, A : Rn → Rm làtoán tử tuyến tính và g : Rm → R là hàm lồi chính thường, nửa liên tụcdưới

Định nghĩa 2.1 Cho g : Rn → R ∪ {+∞} là hàm lồi chính thường,nửa liên tục dưới, u ∈ Rn và λ > 0 Khi đó proxλg(u) là điểm duy nhấtcủa Rn thỏa mãn

proxλg(u) := argmin{g(v) + 1

Ví dụ 2.1 a Cho K là tập lồi đóng, khác rỗng trong không gian Rn,

λ = 1 Hàm chỉ của tập lồi K được xác định bởi

Khi đó proxδK(x) = argmin{12kv − xk2 : v ∈ K} = PK(x).

f (x, x∗) ≤ 0 với mỗi x ∈ K, x∗ ∈ Sol(EP ), và thỏa mãn điều kiệnpara-đơn điệu

x∗ ∈ Sol(EP ), y ∈ K, f (x∗, y) = f (y, x∗) = 0 ⇒ y ∈ Sol(EP ).(A4) Với mỗi x ∈ K, f(., x) là nửa liên tục trên trên K

Nhận xét 2.1 Các giả thiết (A1) và (A4) là các giả thiết thường được

sử dụng cho bài toán cân bằng, các giả thiết (A2) và (A3) được sử dụngtrong [88]

Khi ǫ = 0 thì ∂ǫ

2f (x, x) chính là dưới vi phân của song hàm f (x, ) theobiến thứ hai tại x hay ∂2f (x, x)

Nhận xét 2.2 Do ánh xạ gần kề

proxλg(u) = argmin{g(v) + 1

2λkv − uk

2 : v ∈ Rm}, P (u)nên khi đặt h(x) := 1

2k(I − proxλg)Axk2 thì bằng cách sử dụng điều kiệncần và đủ cho bài toán tối ưu lồi, ta thấy h(x) = 0 nếu và chỉ nếu Ax

là nghiệm của bài toán

min{g(v) + 1

2λkv − uk

2 : v ∈ Rm},với u = Ax Theo tài liệu [86] trang 52, thậm chí nếu g có thể khôngkhả vi, thì h luôn khả vi và ∇h(x) = A∗(I − proxλg)Ax Suy ra h(x) = 0khi và chỉ khi ∇h(x) = 0

Thuật toán chiếu kết hợp phép lặp Mann-Krasnoselskii được mô tả nhưsau

và tính

zk = PK(yk − µkAT(I − proxλg)(Ayk))

Tính

xk+1 = akxk + (1 − ak)zk.Nhận xét 2.3 Khi g ≡ 0 thì bài toán (SEO) trở về bài toán (EP).Trong trường hợp này thuật toán sẽ quay lại là thuật toán chiếu cho bàitoán cân bằng (EP) trong [88]

Nhận xét 2.4 Nếu chọn ǫk = 0, thì xk = yk và h(xk) = 0, suy ra xk làmột nghiệm Dựa theo cách này, ta sẽ gọi xk là ǫ-nghiệm nếu ǫk ≤ ǫ và

kxk − ykk ≤ ǫ, |h(xk)| ≤ ǫ

Kí hiệu S là tập nghiệm của bài toán (SEO) và z ∈ S

Bổ đề 2.1 [74] Nếu ∇h(yk) 6= 0 thì bất đẳng thức sau đúng

kzk − zk2 ≤ kyk − z||2− ρk(4 − ρk) h

2(yk)k∇h(yk)k2 (2.7)

Bổ đề 2.2 [88] Với mỗi k, các phát biểu sau đúng:

(i) αkkgkk ≤ βk;

(ii) kyk − xkk ≤ βk

Bổ đề 2.3 Giả sử các dãy {xk+1}, {yk}, {ρk} sinh bởi Thuật toán 2.1

và z ∈ S Khi đó, với mỗi k sao cho ∇h(yk) 6= 0, ta có

kxk+1 − zk2 ≤ kxk− z||2− (1 − ak)ρk(4 − ρk) h

2(yk)k∇h(yk)k2

+2(1 − ak)αkf (xk, z) + Ak, (2.8)

và với mỗi k sao cho ∇h(yk) = 0,

kxk+1 − zk2 ≤ kxk − z||2 + 2(1 − ak)αkf (xk, z) + Ak, (2.9)trong đó Ak = 2(1 − ak)(αkǫk + βk2)

Chứng minh Theo định nghĩa của xk+1, nhờ Bổ đề 1.1, ta có

kxk+1− zk2 = kakxk + (1 − ak)zk − zk2

≤ akkxk − zk2+ (1 − ak)kzk − zk2 (2.10)Xét hai trường hợp:

Trường hợp 1: Nếu ∇h(yk) 6= 0, khi đó áp dụng Bổ đề 2.1, ta được

kxk+1−zk2 ≤ akkxk−zk2+(1−ak)



kyk − z||2− ρk(4 − ρk) h

2(yk)k∇h(yk)k2

.(2.11)Hơn nữa,

hyk − xk + αkgk, z − yki ≥ 0

⇔ hαkgk, z − yki ≥ hxk − yk, z − yki