Một số thuật toán chiếu giải bài toán chấp nhận lồi

Một số thuật toán chiếu giải bài toán chấp nhận lồi.

Mục lục

1.1 ánh xạ không giãn 3

1.2 ánh xạ hút và dãy đơn điệu Fejer 6

1.3 Mô tả thuật toán tổng quát 14

1.4 Một số tính chất cơ bản 15

2 Một số thuật toán chiếu 24 2.1 Xây dựng thuật toán 24

2.2 Một số kết quả hội tụ 27

2.3 Một số điều kiện đảm bảo sự hội tụ theo chuẩn và hội tụ tuyến tính 34 2.4 Một vài ví dụ về tính chính quy tuyến tính (bị chặn) 39

3 Thuật toán dưới gradient và phương pháp chỉnh lặp song song 41 3.1 Thuật toán dưới gradient 41

3.1.1 Cơ sở 41

3.1.2 Các kết quả hội tụ 47

3.2 Phương pháp chỉnh lặp song song 50

3.2.1 Một số kết quả bổ trợ 50

3.2.2 Một số ví dụ minh hoạ 51

3.3 Một vài thử nghiệm số 55

3.3.1 Bài toán với C i là hình cầu 55

3.3.2 Bài toán với C i là tập mức dưới của một hàm lồi 57

3.3.3 Phương pháp chỉnh lặp trong không gian vô hạn chiều 61

Kết luận 62 Tài liệu tham khảo 63 Phụ lục 65 A Một số điểm lưu ý khi tính dưới vi phân 65 1.1 Một vài tính chất của dưới vi phân 65

1.2 Một số ví dụ 66

Lời cảm ơn

Bản luận văn này được hoàn thành dưới sự hướng dẫn tận tâm và nhiệt tìnhcủa thầy- GS.TSKH Phạm Kỳ Anh Qua đây em xin bày tỏ lòng biết ơn chânthành và sâu sắc tới thầy Cũng nhân dịp này, em xin gửi lời cảm ơn đến các anhnghiên cứu sinh Cao Văn Chung, Vũ Tiến Dũng cùng tập thể cán bộ, cộng tácviên, nhân viên của Trung tâm tính toán hiệu năng cao trường ĐH Khoa học Tựnhiên vì sự giúp đỡ tận tình và rất hiệu quả trong quá trình thực hiện luận văn

Em cũng xin gửi lời cảm ơn tới các thầy trong Bộ môn Toán học tính toán cùngtoàn thể thầy giáo, cô giáo trong Khoa Toán-Cơ-Tin học trường ĐH Khoa học Tựnhiên-ĐH Quốc gia Hà Nội đã nhiệt tình giảng dạy, tạo điều kiện và giúp em thu

được nhiều kiến thức bổ ích trong suốt quá trình học tập

Hà Nội, ngày 29 tháng 11 năm 2009

Học viên

Vũ Anh Mỹ

Chúng ta xét hai trường hợp thường gặp sau:

• Các tập C i là đơn giản theo nghĩa các phép chiếu (trực giao) lên C i có thể

tính toán được tường minh C i trong trường hợp này có thể là siêu phẳng,nửa không gian, không gian con đóng hay một hình cầu

• Không thể tính được phép chiếu lên C i, tuy nhiên có thể thay nó bằng phép

chiếu lên một tập xấp xỉ nào đó của C i C i trong trường hợp này có thể làtập mức dưới của một hàm lồi nào đó

Hướng tiếp cận thường dùng là sử dụng một thuật toán chiếu Sử dụng các phép

chiếu lên các tập C i hoặc tập xấp xỉ C i để xây dựng một dãy các phần tử hội tụ

đến nghiệm của bài toán chấp nhận lồi

Một số ứng dụng của bài toán chấp nhận lồi có thể kể ra như sau:

• Bài toán xấp xỉ tốt nhất, trong đó mỗi tập C i là một không gian con đóng

• Khôi phục ảnh (mô hình rời rạc): Mỗi tập C i là một nửa không gian hoặc

một siêu phẳng, X là một không gian Euclid.

• Khôi phục ảnh (mô hình liên tục): X là không gian Hilbert vô hạn chiều.

• Các thuật toán dưới gradient: Một số tập C i thuộc loại thứ 2, tức là tập mứcdưới của một hàm lồi

Trong luận văn này chúng tôi nghiên cứu thuật toán chiếu tổng quát:

x (n+1) = A (n) x (n) =

³XN i=1

Ngoài các phần Mở đầu, Kết luận và Tài liệu tham khảo, cấu trúc luận văn gồm

3 chương:

Chương 1 mang tên "Một số kiến thức chuẩn bị", trình bày các khái niệm cơbản, một số kết quả phụ trợ và thuật toán dạng tổng quát với các ánh xạ khônggiãn vững với các kết quả về tính hội tụ của thuật toán tổng quát

Chương 2 mang tên "Một số thuật toán chiếu", trình bày các thuật toán chiếugiải bài toán chấp nhận lồi và các kết quả hội tụ

Chương 3 mang tên "Thuật toán dưới gradient và phương pháp chỉnh lặp songsong", trình bày bài toán chấp nhận lồi khi các tập lồi C i cho dưới dạng tập mứcdưới của một phiếm hàm lồi, và thuật toán dưới gradient Cuối chương này là một

số ví dụ số minh họa thuật toán dưới gradient và phương pháp hiệu chỉnh songsong áp dụng cho bài toán chấp nhận lồi cùng các thử nghiệm số cho các thuậttoán trình bày trong Chương 2

Chương 1.

Một số kiến thức chuẩn bị

Định nghĩa 1 Cho X là một không gian Hilbert, một ánh xạ T : D → D, trong

đó D là một tập con lồi, đóng, khác rỗng của X gọi là không giãn nếu

kT x − T yk ≤ kx − yk ∀x, y ∈ D Nếu kT x − T yk = kx − yk ∀x, y ∈ D, ta nói T là phép đẳng cự.

Ngược lại, nếu kT x − T yk < kx − yk với mọi x, y khác nhau trong D ta nói T là

ánh xạ không giãn chặt Nếu T là ánh xạ không giãn thì tập điểm bất động của

T , ký hiệu Fix T định nghĩa bởi:

Fix T = {x ∈ D : x = T x}

là tập lồi đóng

Mệnh đề 1 (Nguyên lý tính nửa đóng) Nếu D là một tập con lồi đóng của X,

T : D −→ X là ánh xạ không giãn, (x n) là một dãy trong D và x ∈ D, khi đó nếu x n * x và x n − T x n → 0 thì x ∈ Fix T

Chứng minh: Từ giả thiết x n * x và ta có lim inf

n→∞ kx n − x0k > lim inf

n→∞ kx n − xk với mọi x0 6= x Thật vậy, từ đẳng thức

kx n − x0k2 = kx n − xk2 + kx − x0k2 + 2hx n − x, x − x0i

và do giả thiết x n * x, số hạng cuối tiến tới 0.

Bây giờ giả sử x n * x và x n − T x n −→ 0 , do T không giãn ta có

lim inf

n→∞ kx n − xk ≥ lim inf

n→∞ kT x n − T xk = lim inf

n→∞ kx n − T xk,

từ bất đẳng thức chứng minh ở trên ta suy ra x = T x hay x ∈ Fix T Ơ

Định nghĩa 2 Nếu N là một ánh xạ không giãn thì ánh xạ trung bình (1 − α)I +

kT x − T yk2 + k(Id − T )x − (Id − T )yk2 ≤ kx − yk2.

Điều này tương đương với bất đẳng thức (ii) trong mệnh đề dưới đây.

Mệnh đề 2 Nếu D là một tập con lồi đóng của X và T : D → X là một ánh

xạ, khi đó các mệnh đề sau tương đương:

(i) T là ánh xạ không giãn vững

(ii) kT x − T yk2 ≤ hT x − T y, x − yi (T là 1−ngược đơn điệu mạnh )

(iii) 2T − I là ánh xạ không giãn

Định nghĩa 3 Một ánh xạ được gọi là không giãn vững nới lỏng nếu nó có thể

biểu diễn được dưới dạng (1 − α)I + αF với F là một ánh xạ không giãn vững

nào đó

Hệ quả 1 Giả sử D là một tập con đóng của X và T : D → X là một ánh xạ, khi đó T là ánh xạ được trung bình hóa khi và chỉ khi nó là ánh xạ không giãn

vững nới lỏng

Mệnh đề 3 Giả sử C là một tập con lồi đóng khác rỗng của X với phép chiếu tương ứng là P C Khi đó:

(i) Nếu x ∈ X thì P C x được đặc trưng bởi 2 tính chất: P C x ∈ C và

hC − P C x, x − P C xi ≤ 0(tiêu chuẩn Kolmogorov)

Ngược lại từ kx−P C xk = min{kx − zk : z ∈ C} Chọn điểm λz +(1−λ)P C x ∈

Bất đẳng thức này tương đương với hx − y − (P C x − P C y), P C x − P C yi ≥ 0 Để

chứng minh điều này, từ tiêu chuẩn Kolmogorov áp dụng cho P C y và P C x ta có

Dễ thấy rằng với tập C lồi đóng thì d(ã, C) là hàm lồi và liên tục (và do đó

là nửa liên tục dưới yếu)

Định nghĩa 5 Một dãy (x n) trong X được gọi là hội tụ tuyến tính tới giới hạn x với cấp β nếu β ∈ [0, 1) và tồn tại số α ≥ 0 sao cho

kx n − xk ≤ αβ n ∀n

Mệnh đề 4 Giả sử (x n) là một dãy trong X, p là một số nguyên dương và x là một điểm trong X Nếu (x pn)n hội tụ tuyến tính tới x và (kx n − xk) n là dãy giảm

thì toàn bộ dãy (x n)n cũng hội tụ tuyến tính tới x.

Định nghĩa 6 Giả sử D là một tập lồi đóng khác rỗng, T : D → D là ánh xạ không giãn và F là một tập con lồi đóng khác rỗng của D Ta nói T là ánh xạ hút đối với tập F nếu với mọi x ∈ D \ F, f ∈ F

kT x − f k < kx − f k

Ta nói T là hút mạnh đối với với tập F nếu tồn tại một số κ > 0 sao cho với mọi

x ∈ D, f ∈ F

κkx − T xk2 ≤ kx − f k2 − kT x − f k2

Khi cần nhấn mạnh ta nói T là κ− hút đối với tập F

Bổ đề 1 (Dạng của một ánh xạ hút mạnh) Giả sử D là tập lồi đóng khác rỗng,

T : D → D là ánh xạ không giãn vững có điểm bất động, và α ∈ (0, 2) Đặt

R = (1 − α)I + αT và cố định x ∈ D, f ∈ Fix T Khi đó:

(i) Fix R = Fix T

(iv): Từ (ii), (iii) và định nghĩa R ta có

định nghĩa bởi

x0 ∈ D tùy ý; x n+1 := T n x n ∀n ≥ 0.

Khi đó dãy (x n) là chính quy tiệm cận

Chứng minh: Cố định f ∈ F và chọn số 0 < κ < lim inf n κ n Khi đó, với mọi n

Hệ quả 3 Giả sử D là một tập lồi đóng, khác rỗng và ánh xạ T : D −→ D là

ánh xạ hút mạnh và có điểm bất động Khi đó dãy (T n x0)n≥0 là chính quy tiệm

cận với mọi x0 ∈ D

Về bản chất, toán tử A = A(0)A(1) A (n) chính là hợp thành của các tổhợp lồi các ánh xạ không giãn vững Mệnh đề dưới đây chỉ ra rằng tính chấthút(hút mạnh) bảo toàn qua phép hợp thành và lấy tổ hợp lồi.

(i) Fix(T N T N −1 T1) = TN

i=1

Fix T i và T N T N −1 T1 là min{κ1, , κ N }/2 N −1hút

Chứng minh: Ta chỉ cần chứng minh cho trường hợp N = 2.

(i) Hiển nhiên là Fix T1 ∩ Fix T2 ⊆ Fix(T2T1) Để chứng minh bao hàm thức

ngược lại, chọn f ∈ Fix(T2T1) bất kỳ Chỉ cần chỉ ra rằng f ∈ Fix T1 Giả sử

điều này sai, khi đó T1f 6∈ Fix T2 Cố định ˆf ∈ Fix T1 ∩ Fix T2, do T2 là hút tacó

kf − ˆ f k = kT2(T1f ) − ˆ f k < kT1f − ˆ f k ≤ kf − ˆ f k.

Điều này vô lý do đó Fix T1∩ Fix T2 = Fix(T2T1) Tiếp theo ta chứng minh T2T1

là ánh xạ hút Cố định x ∈ D \ Fix(T2T1), f ∈ Fix(T2T1) Nếu x = T1x thì

T2x 6= x và do đó kT2T1x − f k = kT2x − f k < kx − f k Ngược lại, nếu T1x 6= x thì kT2T1x − f k ≤ kT1x − f k < kx − f k Trong cả hai trường hợp ta đều có kết

(i) chứng minh xong.

(ii) Hiển nhiên là Fix T1 ∩ Fix T2 ⊆ Fix(λ1T1 + λ2T2) Để chứng minh chiều

ngược lại, chọn f ∈ Fix(λ1T1 + λ2T2), ˆ f ∈ Fix T1 ∩ Fix T2 Khi đó ta có

kf − ˆ f k = kλ1T1f + λ2T2f − λ1f − λˆ 2f kˆ

≤ λ1kT1f − ˆ f k + λ2kT2f − ˆ f k

≤ λ1kf − ˆ f k + λ2kf − ˆ f k = kf − ˆ f k.

Do đó dấu bằng phải xảy ra ở các bất đẳng thức nói trên; kết hợp với tính lồi chặt

của không gian Hilbert X ta suy ra f = T1f = T2f Vậy f ∈ Fix T1 ∩ Fix T2

Tiếp theo ta chứng minh λ1T1 + λ2T2 là hút Giả sử x 6= λ1T1x + λ2T2x và

f ∈ Fix(λ1T1 + λ2T2) Khi đó x 6∈ Fix T1 ∩ Fix T2 và do đó

Chứng minh: Do các phép chiếu là các ánh xạ không giãn vững, áp dụng bổ đề 1

và mệnh đề vừa chứng minh ta suy ra T là hút mạnh và Fix T = TN

i=1

S i áp dụng

hệ quả 3 dãy (T n x0) là chính quy tiệm cận Ơ

Định nghĩa 8 Giả sử C là một tập lồi đóng khác rỗng và (x n) là một dãy trong

X Ta nói dãy (x n)n≥0 là đơn điệu Fejer tương ứng với C nếu

kx n+1 − ck ≤ kx n − ck ∀c ∈ C; n ≥ 0.

Định lý 1 (Tính chất cơ bản của dãy đơn điệu Fejer) Giả sử dãy (x n)n≥0 là đơn

điệu Fejer tương ứng với C Khi đó:

(i) (x n) bị chặn và d(x n+1 , C) ≤ d(x n , C)

(ii) (x n) có nhiều nhất một điểm dính yếu trong C Hệ quả là (x n) hội tụ yếu

đến một điểm trong C khi và chỉ khi tất cả các điểm dính yếu của (x n) nằm

trong C.

(iii) Nếu phần trong của C khác rỗng thì dãy (x n) hội tụ theo chuẩn

(iv) Dãy (P C x n) hội tụ theo chuẩn

(v) Các tính chất sau tương đương:

(1) (x n) hội tụ theo chuẩn đến một điểm thuộc C.

(2) (x n) có các điểm dính theo chuẩn và tất cả đều nằm trong C.

(3) (x n) có các điểm dính theo chuẩn và một điểm nằm trong C.

(4) d(x n , C) → 0

(5) x n − P C x n → 0

Hơn nữa, nếu (x n)hội tụ đến một điểm x ∈ C, thì kx n −xk ≤ 2d(x n , C) ∀n ≥

0

(vi) Nếu tồn tại một hằng số α > 0 sao cho αd2(x n , C) ≤ d2(x n , C) −

d2(x n+1 , C) với mọi n, thì (x n) hội tụ tuyến tính tới một điểm x ∈ C, hơn

nữa

kx n − xk ≤ 2(1 − α) n/2 d(x0, C) ∀n ≥ 0.

Chứng minh: (i) là hiển nhiên

(ii): Với mỗi c ∈ C, dãy (kx n k2 − 2hx n , ci) = (kx n − ck2 − kck2) hội tụ Do đó

nếu c1, c2 là hai điểm dính yếu của dãy (x n) trong C thì ta cũng kết luận được dãy (hx n , c1 − c2i) hội tụ và do đó hc1, c1 − c2i = hc2, c1 − c2i Do đó c1 = c2

(iii): Cố định một điểm c0 ∈ int C , khi đó tồn tại số dương đủ bé ε sao cho

Bình phương hai vế và giản ước ta được điều cần chứng minh

Khi đó, vì dãy (kx n − c0k2) hội tụ nên kết hợp với bất đẳng thức vừa chứng minh

ta suy ra (x n) là dãy Cauchy; do đó nó hội tụ theo chuẩn

(iv): áp dụng đẳng thức hình bình hành ka − bk2 = 2kak2 + 2kbk2 − ka + bk2cho a := P C x n+k − x n+k và b := P C x n − x n+k với mọi n, k ≥ 0 ta nhận được,

Ta nhận thấy rằng (P C x n) là dãy Cauchy vì dãy kx n − P C x n k hội tụ do (i).(v): Sự tương đương giữa các mệnh đề dễ dàng suy ra từ (i), (iv) và định nghĩa

(vi): Từ bất đẳng thức đã cho, cộng từng vế ta suy ra d2(x n , C) tiến tới 0; do đó

(x n) hội tụ tới một điểm x ∈ C do (v) Đánh giá về tốc độ hội tụ của dãy (x n) dễ

Ví dụ3 (Phép lặp Krasnoselski-Mann). Giả sử C là một tập lồi đóng, T : C → C

là ánh xạ không giãn và có điểm bất động, và dãy (x n) cho bởi:

x0 ∈ C, x n+1 = (1 − t n )x n + t n T x n , n ≥ 0, (t n)n≥0 ⊂ [0, 1].

Khi đó (x n) là đơn điệu Fejer đối với Fix T

Chứng minh: Kiểm tra trực tiếp, chọn f ∈ Fix T bất kỳ Ta có li

Từ đẳng thức trên cho kx n+1 − f k2ta suy ra điều cần chứng minh Ơ

Ví dụ4. Tiếp theo ví dụ 2, dãy (T n x0) hội tụ yếu tới một điểm bất động của T

với mọi x0

Chứng minh: Dãy (T n x0) là chính quy tiệm cận theo ví dụ đã xét, và nó là đơn

điệu Fejer tương ứng với Fix T theo ví dụ 3 Theo nguyên lý tính nửa đóng, mọi

điểm giới hạn yếu của (T n x0) nằm trong Fix T , áp dụng định lý 1(ii) ta có điều

1.3 Mô tả thuật toán tổng quát

Giả sử D là một tập lồi đóng khác rỗng và C1, , C N là một số hữu hạn

các tập con lồi đóng của D với giao khác rỗng.

là trung bình có trọng của các nới lỏng tương ứng

Với các ký hiệu này, ta xác định thuật toán bằng cách xét dãy lặp sau:

x(0) ∈ D tùy ý, x (n+1) := A (n) x (n) ∀n ≥ 0.

với giả thiết rằng dãy (x (n)) nằm trong D Ta cũng định nghĩa tập các chỉ số thiết

thực

I (n) := {i ∈ {1, , N } : λ (n) i > 0}.

Ta nói chỉ số i thiết thực tại bước lặp n, hay bước lặp n là thiết thực cho chỉ số i nếu i ∈ I (n) Ta luôn giả thiết rằng mọi chỉ số i đều được chọn vô hạn lần, tức là chỉ số i là thiết thực tại một số vô hạn bước lặp n Kết thúc mục này ta đặt

trong trường hợp này, thuật toán đưa về tích của một số ánh xạ không giãn vững

Ta nói thuật toán làsuy biến nếu I (n) là tập chỉ gồm một phần tử với mọi n Cuối

cùng, ta nói thuật toán đồng bộhoặc song song nếu I (n) = {1, , N } với mọi n.

(iv) Dãy x (n) là dãy đơn điệu Fejer tương ứng với C và do đó nó bị chặn Đồng

Chứng minh:(i)nhận được bằng tính toán trực tiếp

Dễ thấy rằng (i) ⇒ (ii) ⇒ (iii) ⇒ (iv) Thật vậy, (i) ⇒ (ii) do hai số hạng

đầu trong (i) không âm; (ii) ⇒ (iii) bằng cách lấy tổng từng vế từ l = n đến

l = m − 1 ; (iii) ⇒ (iv) cũng bằng cách lấy tổng từng vế.

(v): Theo cách xây dựng thuật toán:

Hệ quả 4 (Các điều kiện đủ đảm bảo sự hội tụ theo chuẩn) Cho một thuật toán

(i) Nếu phần trong của C khác rỗng thì dãy (x (n)) hội tụ theo chuẩn tới một

điểm nào đó trong D.

(ii) Nếu dãy (x (n)) có chứa một dãy con (x (n 0)) với d(x (n 0), C) → 0, thì toàn bộ

dãy (x (n)) hội tụ theo chuẩn tới một điểm nằm trong C.

Hệ quả 5 Thuật toán là chính quy tiệm cận nếu một trong hai điều kiện sau thỏamãn

(i) lim inf

n:nthiết thực cho ià (n) i > 0 với mọi chỉ số i.

(ii) lim inf

n:nthiết thực cho iα (n) i < 2 với mọi chỉ số i.

Chứng minh:(i): Tồn tại một số ε > 0 sao cho với mọi n đủ lớn, à (n) i > εvới mọi

chỉ số i thiết thực tại bước lặp n Từ bổ đề 2(iv) ta suy ra P

Do đó kx (n+1) − x (n) k → 0 và dãy (x (n)) là chính quy tiệm cận

(ii): Từ bổ đề 1(iv) và Mệnh đề 5, mọi A (n) là κ n -hút tương ứng với C, trong đó

κ n = min{(2 − α i (n) )/α (n) i : i thiết thực tại n } Giả thiết đã cho đảm bảo rằng lim inf κ n > 0, do đó theo ví dụ 1 ta có điều cần chứng minh Ơ

Ví dụ sau đây chỉ ra rằng một thuật toán không nhất thiết là chính quy tiệm cận

Ví dụ 5. Xét X = R, N := 1, T1(n) :≡ P {0} = 0, α (n)1 ≡ 2 Khi đó, x (n) =

(−1) n x(0); do đó dãy có thể không chính quy tiệm cận nếu x(0) 6= 0 Thuật toán

đang xây dựng cần phải ít nhất là hội tụ yếu tới một điểm nào đó, tuy nhiên, theo

ví dụ nêu trên thì ta cần phải có thêm giả thiết để đảm bảo điều này

Định nghĩa 9 Ta nói thuật toán làtụ (focusing) nếu với mọi chỉ số i và mọi dãy

con (x n k)k của thuật toán,

Dựa trên nguyên lý về tính nửa đóng ta có ví dụ sau

Ví dụ 6. Giả sử N := 1, T i (n) :≡ T ; C1 := Fix T, khi đó thuật toán là tụ

Định lý 2 (Định lý loại trừ I) Giả sử thuật toán là tụ Nếu lim inf

n:nthiết thực cho ià (n) i > 0 với mọi chỉ số i, thì dãy (x (n)) hoặc hội tụ theo chuẩn tới một điểm thuộc C hoặc

không có một điểm dính theo chuẩn nào

Chứng minh: Dựa vào tính đơn điệu Fejer của dãy đang xét và các tính chất đã

có của dãy đơn điệu Fejer, ta chỉ cần chỉ ra rằng mọi điểm dính theo chuẩn của

dãy (x (n)) đều nằm trong C Thật vậy, giả sử rằng ngược lại, tồn tại một dãy con (x (nk))k hội tụ tới một điểm x 6∈ C Ta đưa vào ký hiệu sau:

I in := {i ∈ {1, , N } : x ∈ C i } I out := {i ∈ {1, , N } : x 6∈ C i } Khi đó I out khác rỗng Ta giả thiết rằng (nếu cần thì chuyển qua dãy con)

tụ, nên với dãy con m k đã có, ta suy ra x ∈ C i, điều này mâu thuẫn với giả thiết

Hệ quả 6 Giả sử X là không gian hữu hạn chiều và thuật toán là tụ.

Nếu lim inf

n:nthiết thực cho ià (n) i > 0 với mọi chỉ số i thì dãy x (n) hội tụ theo chuẩn tới một

điểm trong C.

Chú ý1. Một cách đơn giản để lim inf

n:nthiết thực cho ià (n) i > 0 với một chỉ số i là giả sử tồn tại một số ε > 0 sao cho

ε ≤ α (n) i ≤ 2 − ε với mọi n và mọi chỉ số i Khi đó, dãy (x (n)) hội tụ theo chuẩn

tới một điểm trong C.

Định nghĩa sau đây cho ta dấu hiệu nhận biết một thuật toán có tụ haykhông

Định nghĩa 10 Cho một thuật toán, ta nói dãy T i (n) hội tụ từng điểm tới T i với

một chỉ số i nào đó nếu

lim inf

n:n thiết thực cho i T i (n) d = T i d với mọi d ∈ D

Mệnh đề 6 (Dạng của một thuật toán tụ) Giả sử T1, T2, , T N : D −→ D là

các ánh xạ không giãn vững và đặt C i := Fix T i với mọi chỉ số i Nếu (T i (n)) hội

tụ từng điểm tới T i với mọi chỉ số i thì thuật toán là tụ.

Chứng minh:Cố định một chỉ số i và một dãy con (x (nk)) của (x (n)) với x (nk) *

x ∈ D; x (nk)− T i (nk) x (nk) → 0 và i là thiết thực tại mọi bước lặp n k Ta phải chỉ

thì ta nói thuật toán là p-lặp đoạn Theo cách gọi của Y Censor, ta nói thuật toán

làhầu tuần hoàn nếu nó lặp đoạn và suy biến

Với khái niệm lặp đoạn nêu trên ta có kết quả sau đây cho tôpô yếu

Định lý 3 (Các kết quả trong tôpô yếu) Cho một thuật toán

(i) Giả sử thuật toán là tụ và lặp đoạn Nếu với mọi chỉ số i, lim inf

n:n thiệ´ thủÊ Êho i à (n) i >

0 thì dãy (x (n)) là chính quy tiệm cận và hội tụ yếu tới một điểm trong C.

(ii) Giả sử thuật toán là tụ và p- lặp đoạn với p là một số nguyên dương nào đó.

Đặt:

ν n := min{à (l) i : np ≤ l ≤ (n + 1)p − 1; i thiết thực tại l} ∀n ≥ 0.

Nếu P

n

ν n = +∞ , thì dãy (x (n)) có một điểm dính yếu duy nhất trong C Chính xác hơn là tồn tại một dãy con (x (nk p)) hội tụ yếu tới điểm dính yếuduy nhất này sao cho:

Nói riêng, điều này xảy ra khi lim inf

n:n thiết thực cho i à (n) i > 0 với mọi chỉ số i.

(iii) Giả sử thuật toán là tụ và dãy (x (n)) hội tụ yếu tới một điểm x nào đó.

Chứng minh: (i): (x (n)) là chính quy tiệm cận Giả sử điều ngược lại, (x (n))

không hội tụ yếu tới một điểm trong C Khi đó, do tính đơn điệu Fejer của dãy (x (n)) và định lý về tính chất cơ bản của dãy đơn điệu Fejer phần (ii), tồn tại một

chỉ số i và một dãy con (x (nk))k hội tụ yếu tới một điểm x 6∈ C i Do thuật toán là

lặp đoạn nên ta nhận được m k với n k ≤ m k ≤ n k + p − 1 và i ∈ I (mk) với mọi

k ≥ 0

Do thuật toán là chính quy tiệm cận, ta có x (nk) − x (mk) → 0 và do đó x (mk k ) hội

tụ yếu tới x Do thuật toán là tụ, ta suy ra

Điều này mâu thuẫn với giả thiết về à (n) i , do đó (i) đúng

(ii): Cố định tạm thời c ∈ C Theo bổ đề 3.2(iii) và định nghĩa của ν n,

với mọi n ≥ 0 Lấy tổng theo n và xét giả thiết cho ν n, ta nhận được dãy con

x (nk p+r k) − x (nk p+s k) −→ 0 (**)

với mọi dãy (r k ), (s k ) ⊂ {0, 1, , p − 1} Chuyển qua dãy con nếu cần thiết, ta

có thể giả sử rằng (x (nk p))k hội tụ yếu tới một điểm x ∈ D.

Ta sẽ chứng minh x ∈ C Thật vậy, cố định một chỉ số i Do thuật toán là lặp

đoạn, tồn tại một dãy (r k) trong {0, 1, , p − 1} sao cho,

Do thuật toán là tụ, từ (1), (2), (3) ta suy ra x ∈ C i Khẳng định được chứng minh

Từ định lý (1), x là điểm dính yếu duy nhất của (x (n)) trong C, như vậy (ii) chứng

minh xong

(iii): Từ bổ đề (2)(iv), P

n

à (n) i kx (n) − T i (n) x (n) k2 < +∞ Do ta giả thiết làP

Hệ quả 7 Giả sử T1, , T n : D −→ D là các ánh xạ không giãn vững, C i =

Fix T i , và T i (n) hội tụ từng điểm về T i Giả sử rằng tồn tại một số ε > 0 s.c

ε ≤ α (n) i ≤ 2 − ε và ε ≤ λ (n) i với mọi n ≥ 0 và mọi chỉ số i thiết thực tại n Nếu thuật toán là lặp đoạn thì dãy (x (n)) hội tụ yếu tới một điểm thuộc C.

Chứng minh: Thuật toán là tụ theo mệnh đề 6 và lim inf

nthiết thực cho ià (n) i > 0 với mọi

chỉ số i Cuối cùng kết luận hệ quả suy ra từ định lý 3. Ơ

Hệ quả 8 Giả sử thuật toán là tụ và phần trong của C khác rỗng.

NếuP

n

à (n) i = +∞ với mọi chỉ số i, thì dãy (x (n)) hội tụ theo chuẩn tới một điểm

trong C.

Chứng minh: Kết quả được suy ra trực tiếp từ hệ quả 4(i) và định lý 3(iii) Ơ

Hệ quả 9 Giả sử X là không gian hữu hạn chiều và thuật toán là tụ và p−lặp

đoạn Nếu P

n

ν n = +∞ (trong đó ν n định nghĩa như trong định lý 3), khi đó dãy

(x (n)) hội tụ theo chuẩn tới một điểm trong C.

Chứng minh:Từ định lý 3(ii), dãy (x (n)) có một điểm dính yếu trong C Do X là

không gian hữu hạn chiều nên điểm dính này cũng là điểm dính theo chuẩn, ápdụng hệ quả 4(ii) ta có điều phải chứng minh

Chú ý 2. Một cách để đảm bảo tổng P

n

à (n) i phân kỳ với một chỉ số i nào đó là giả sử rằng tồn tại một số dương ε sao cho

Chương 2.

Một số thuật toán chiếu

2.1 Xây dựng thuật toán

Ta giữ lại các giả thiết của chương trước Thêm vào đó, ta giả sử rằng

các T i (n) là phép chiếu lên các tập lồi đóng khác rỗng C i (n) chứa C i Ta cũng

giả thiết rằng D = X Ta dùng ký hiệu tắt P i ≡ P C i ; P i (n) ≡ P C (n)

i Ta gọithuật toán trên là thuật toán chiếu Ta nói thuật toán chiếu có các tập hằng nếu

C i (n) ≡ C i ∀n ≥ 0; ∀i.

Các kết quả của chương trước vẫn áp dụng được cho thuật toán chiếu trong chươngnày; tuy nhiên, điều kiện quan trọng nhất là tính tụ của thuật toán chiếu cần phải

được xem xét tỉ mỉ hơn Dạng đầu tiên của một thuật toán chiếu có tính tụ được

đưa ra bằng khái niệm hội tụ tập hợp theo nghĩa Mosco Bổ đề sau đây nói lênmột số đặc trưng của hội tụ theo nghĩa Mosco

Bổ đề 3 Giả sử rằng (S n)là một dãy các tập lồi đóng và tồn tại một tập lồi đóng

khác rỗng S sao cho S ⊂ S n ∀n Khi đó các điều kiện sau tương đương

(i) P S n −→ P S từng điểm theo chuẩn

(ii) S n −→ S theo nghĩa Mosco; tức là các điều kiện sau đây thỏa mãn

(a) Với mọi s ∈ S, tồn tại một dãy (s n)hội tụ theo chuẩn tới s với s n ∈ S n với mọi n.

(b) Nếu (s n k) là một dãy hội tụ yếu với s n k ∈ S n k với mọi k, thì giới hạn yếu của nó nằm trong S.

(iii) Nếu (x n k) là một dãy hội tụ yếu với x n k − P S nk x n k −→ 0 thì giới hạn yếu

của nó nằm trong S.

Hơn nữa, nếu một trong các điều kiện trên được thỏa mãn thì S = T

n

S n

Định lý 4 (Dạng thứ nhất của một thuật toán chiếu tụ) Nếu (P i (n)) hội tụ từng

điểm tới P i với mọi chỉ số i, thì thuật toán chiếu là tụ và C i = T

n:nthiết thực cho i

C i (n) với mọi chỉ số i.

Chứng minh: Với mỗi i, áp dụng bổ đề 3 cho dãy tập (C i (n))n:nthiết thực cho i Ơ

thuộc C.

Chứng minh: Mosco đã chứng minh rằng dãy giảm các tập lồi đóng thì hội tụtheo nghĩa Mosco tới giao của dãy tập ấy Theo định lý và bổ đề vừa nêu trên,thuật toán chiếu là tụ Kết quả được suy ra từ định lý 3(i) Ơ

Ví dụ 9 (Về phép chiếu ngẫu nhiên). Giả sử rằng thuật toán chiếu là suy biến,

không nới lỏng và có các tập hằng Nếu với một chỉ số j nào đó tập C j compact

bị chặn (tức là giao của nó với mọi tập bị chặn là tập compact) thì dãy (x (n)) hội

tụ theo chuẩn tới một điểm thuộc C Nói riêng, điều này đúng nếu X là không

gian hữu hạn chiều

Chứng minh: Ví dụ trên chỉ ra rằng thuật toán là tụ Đồng thời, à (n) i ≡ 1 với mọi

n ≥ 0 và mọi chỉ số i thiết thực tại n Dãy (x (n))n:nthiết thực cho j bị chặn và nằm

trong C j do đó có một điểm dính theo chuẩn Theo định lý 2, toàn bộ dãy (x (n))

Để có thể đưa ra dạng thứ hai của một thuật toán chiếu tụ cũng như các kết quảhội tụ và hội tụ tuyến tính trong các mục tiếp sau, ta cần định nghĩa sau.

Định nghĩa 12 Ta nói một thuật toán chiếu là tụ tuyến tính nếu tồn tại một số

β > 0 sao cho:

βd(x (n) , C i ) ≤ d(x (n) , C i (n)) với mọi n đủ lớn và mọi chỉ số i thiết thực tại n

Ta nói thuật toán là tụ mạnh nếu

x (nk) * x d(x (nk) , C (n k)

với mọi chỉ số i và mọi dãy con x (nk) của x (n)

Từ định nghĩa về tính tụ và tính nửa liên tục dưới của hàm khoảng cách

d(., C i) ta suy ra

tụ tuyến tính ⇒ tụ mạnh ⇒ tụ

Từ nhận xét trên ta dễ dàng suy ra bổ đề sau đây

Hệ quả 10 (Dạng thứ hai của một thuật toán chiếu tụ) Mọi thuật toán chiếu tụtuyến tính đều tụ

Hệ quả 11 (Dạng của một thuật toán chiếu tụ tuyến tính) Nếu thuật toán chiếu

có các tập hằng thì nó tụ tuyến tính

Hệ quả 12 (Dạng của một thuật toán chiếu tụ mạnh) Giả sử thuật toán chiếu là

tụ Nếu dãy (x (n)) là một tập compact tương đối thì thuật toán là tụ mạnh Nói

riêng, điều này đúng khi X là không gian hữu hạn chiều hoặc phần trong của tập

C khác rỗng

Chứng minh: Giả sử ngược lại, tồn tại một số ε > 0, phần tử x ∈ X, một chỉ số i

và một dãy con (x (nk))k với x (nk) → x, x (nk) −P i (nk) x (nk) → 0, i thiết thực tại n k,

nhưng kx (nk) − P i x (nk) k ≥ ε Do thuật toán là tụ ta có x ∈ C i Chuyển qua dãy

con nếu cần thiết, ta có thể giả sử (do tính compact tương đối) rằng x (nk) −→ x.

Nhưng khi đó x (nk) − P i x (nk) → x − P i x = 0, vô lý Do đó, thuật toán chiếu là tụ

mạnh Nếu X là hữu hạn chiều, dãy (x (n)) là tập compact tương đối vì dãy (x (nk))

bị chặn (bổ đề 2(iv)) Cuối cùng, nếu intC 6= ∅ thì dãy (x (n)) hội tụ theo chuẩn

Chú ý 3. Hai dạng của thuật toán chiếu tụ (định lý 4 và hệ quả 10) không cóliên hệ gì với nhau

Hai ví dụ sau đây chỉ ra điều này

Ví dụ10. Giả sử rằng X := R, N = 1, C := C1 = {0}, C1(n) := [0, 1/(n + 1)]

và x(0) = 2. Khi đó thuật toán chiếu là tụ mạnh và dãy giảm các tập lồi compact

C1(n) hội tụ tới C1 theo nghĩa Mosco Tuy nhiên thuật toán chiếu là không tụ tuyến

2.2 Một số kết quả hội tụ

Định lý 5 (Định lý loại trừ II) Giả sử rằng thuật toán chiếu là tụ tuyến tính và

tồn tại một số ε > 0 sao cho ε ≤ α (n) i ≤ 2 − ε với mọi n đủ lớn và mọi chỉ số i thiết thực tại n Khi đó, dãy x (n) hoặc hội tụ theo chuẩn hoặc không có điểm dínhtheo chuẩn nào

Chứng minh: Giả sử ngược lại, (x (n)) có ít nhất hai điểm dính theo chuẩn là y

và z Do tính tụ tuyến tính, ta có thể chọn được số β > 0 sao cho βd(x (n) , C i ) ≤ d(x (n) , C i (n)) với mọi l đủ lớn và mọi chỉ số i thiết thực tại l Cố định c ∈ C Do

y 6∈ C (vì nếu y ∈ C thì dãy (x (n)) sẽ hội tụ theo chuẩn theo bổ đề 4), tập các chỉ

từ đó suy ra x (m) ∈ B, mâu thuẫn Định lý chứng minh xong Ơ

Hệ quả 13 Giả sử thuật toán chiếu là tụ tuyến tính và tồn tại một số ε > 0 sao cho ε ≤ α (n) i ≤ 2 − ε với mọi n đủ lớn và mọi chỉ số i thiết thực tại n Giả sử thêm rằng X là không gian hữu hạn chiều hoặc phần trong của C khác rỗng Khi

đó dãy (x (n)) hội tụ theo chuẩn tới một điểm x nào đó Nếu P

Chứng minh: Nếu int C 6= ∅ thì dãy (x (n)) hội tụ theo chuẩn theo hệ quả 4(i)

Nếu X là không gian hữu hạn chiều thì (x (n)) có một điểm dính theo chuẩn; do

đó theo định lý trên, (x (n)) cũng hội tụ theo chuẩn Phần còn lại của hệ quả được

Ta có hai ví dụ quan trọng sau:

Ví dụ 12 (Flâm và Zowe). Giả sử rằng X là không gian hữu hạn chiều, thuật toán chiếu là tụ tuyến tính, và tồn tại một số ε > 0 sao cho ε ≤ α (n) i ≤ 2 − ε với

mọi n đủ lớn và mọi chỉ số i thiết thực tại n Khi đó dãy (x (n)) hội tụ theo chuẩn

tới một điểm x.

(i) Nếu lim inf

n:n thiết thực cho i à (n) i > 0 ∀i thì x ∈ C.

(ii) Nếu int C 6= ∅ vàP

(x (n)) hội tụ theo chuẩn và giới hạn của nó nằm trong T

i∈I ∗

C i trong đó I ∗ := {i ∈ {1, , N } : P

n à (n) i = +∞}.Chú ý 4. • Với các giả thiết về tham số nới lỏng α (n) i như trong hai ví dụ trên,

điều kiện lim inf

n:n thiết thực cho i à (n) i > 0tương đương với lim inf

à (n) i = +∞ trong ví dụ 12 thì có thể giới hạn của dãy

(x (n)) không nằm trong C i Ví dụ sau cho ta thấy điều này

Ví dụ 14. Cho X := R, N := 2, C1 := C1(n) :≡ (−∞, 0], C2 := C2(n) :≡ [0, +∞) Giả sử x(0) > 0, α (n)1 :≡ α2(n) :≡ 3/2 và λ (n)1 < 2/3 ∀n Khi đó

Định lý 6 Cho trước một thuật toán chiếu, giả sử rằng (P i (n)) hội tụ từng điểm

tới P i với mọi chỉ số i Giả sử thêm rằng tồn tại một dãy con (n 0)của (n) sao cho với mọi chỉ số i ta có α (n i 0) −→ α i , λ (n i 0) −→ λ i với α i nào đó thuộc (0, 2] và λ i

nào đó thuộc (0, 1] Nếu phần trong của C khác rỗng, thì dãy (x (n)) hội tụ theo

chuẩn tới một điểm thuộc C.

Chứng minh: Theo hệ quả 4(i), dãy (x (n)) hội tụ theo chuẩn tới một điểm x Ta phải chỉ ra rằng x ∈ C.

Ví dụ sau đây minh họa kết quả của định lý vừa nêu.

Ví dụ 15 (Butnariu và Censor). Giả sử X là hữu hạn chiều, thuật toán chiếu có các tập hằng, và các tham số nới lỏng chỉ phụ thuộc n, tức là α (n) i ≡ α (n) với mọi

chỉ số i và mọi n Giả sử thêm rằng tồn tại một dãy con nào đó (n 0) của (n) sao cho với mọi chỉ số i, λ (n i 0) −→ λ i với một số λ i > 0 nào đó

(i) Nếu tồn tại số ε sao cho ε ≤ α (n) ≤ 2 − ε với mọi n đủ lớn, khi đó dãy (x (n)) hội tụ theo chuẩn tới một điểm thuộc C.

(ii) Nếu phần trong của C khác rỗng và tồn tại một dãy con (n 00) của (n 0) sao

cho α (n 00) −→ 2 thì dãy (x (n)) hội tụ theo chuẩn tới một điểm nào đó thuộc

C

Chứng minh: (i): Giả thiết về các trọng suy ra P

n

à (n) i = +∞ với mọi chỉ số i.

Do đó (i) suy ra từ ví dụ 12