Luận văn thạc sĩ một phương pháp qui hoạch lồi giải bài toán chấp nhận lồi

16 Chương 2 Một phương pháp qui hoạch lồi giải bài toán chấp nhận lồi 24 2.1 Bài toán chấp nhận lồi và ví dụ.. 25 2.2 Một phương pháp qui hoạch lồi giải bài toán chấp nhận lồi... Nhiều b

TRƯỜNG ĐẠI HỌC KHOA HỌC

TRƯỜNG ĐẠI HỌC KHOA HỌC

LUẬN VĂN THẠC SĨ TOÁN HỌC

NGƯỜI HƯỚNG DẪN KHOA HỌC

GS.TSKH Lê Dũng Mưu

Thái Nguyên - 2018

Mục lục

1.1 Tập lồi, hàm lồi 3

1.1.1 Tập lồi 3

1.1.2 Hàm lồi 10

1.2 Bài toán qui hoạch lồi 16

Chương 2 Một phương pháp qui hoạch lồi giải bài toán chấp nhận lồi 24 2.1 Bài toán chấp nhận lồi và ví dụ 24

2.1.1 Bài toán chấp nhận lồi 24

2.1.2 Ví dụ 25

2.2 Một phương pháp qui hoạch lồi giải bài toán chấp nhận lồi 25

2.2.1 Tóm tắt hai phương pháp cơ bản: chiếu lần lượt và chiếu song song 25

2.2.2 Thuật toán đạo hàm giải bài toán qui hoạch lồi 29

2.2.3 Phương pháp chuyển về bài toán qui hoạch lồi 32

Mở đầu

Tối ưu hóa được khởi nguồn như một ngành của Toán học, có rất nhiều ứng dụngtrong quy hoạch tài nguyên, thiết kế chế tạo máy, điều khiển tự động, quản trị kinhdoanh trong việc tạo nên các hệ hỗ trợ ra quyết định trong quản lý và phát triển các

hệ thống lớn

Chính vì vậy, các lĩnh vực của tối ưu hóa ngày càng trở nên đa dạng mang nhiềutên gọi khác nhau như Quy hoạch toán học, Điều khiển tối ưu, Vận trù học, Lý thuyếttrò chơi Hiện nay môn học Tối ưu hóa được đưa vào giảng dạy trong nhiều chươngtrình đào tạo đại học cho các ngành khoa học cơ bản Một trong những bài toán quantrọng của Tối ưu hóa là bài toán qui hoạch lồi

Nhiều bài toán quan trọng trong lĩnh vực toán học hoặc trong thực tế có thểchuyển về bài toán qui hoạch lồi (tìm cực tiểu của một hàm lồi trên một tập lồi) Đốivới lớp bài toán này có nhiều phương pháp giải hiệu quả, ví dụ như phương pháp đạohàm, phương pháp dưới đạo hàm, phương pháp điểm trong, Bài toán chấp nhậnlồi là bài toán tìm một điểm chung của một số hữu hạn hoặc vô hạn các tập lồi Bàitoán này rất quan trọng vì nhiều bài toán trong toán học cũng như trong các lĩnh vựcthực tế khác đều có thể chuyển về bài toán chấp nhận lồi Ví dụ như bài toán giải hệphương trình, bài toán tìm nghiệm chung của các bài toán tối ưu, bất đẳng thức biếnphân,

Chính vì vậy chúng tôi chọn đề tài: "Một phương pháp qui hoạch lồi giải bài toánchấp nhận lồi" Luận văn nghiên cứu về bài toán chấp nhận lồi và giới thiệu một vàiphương pháp giải bài toán này, đặc biệt đi sâu vào phương pháp chuyển bài toán chấpnhận lồi về qui hoạch lồi Nội dung luận văn gồm hai chương:

Chương 1 "Bài toán qui hoạch lồi” giới thiệu các kiến thức cơ bản nhất về giải

tích lồi và bài toán qui hoạch lồi.

Chương 2 "Một phương pháp qui hoạch lồi giải bài toán chấp nhận lồi" giới

thiệu phương pháp chiếu lần lượt và chiếu song song, thuật toán đạo hàm để giải bàitoán qui hoạch lồi Cuối chương, đề cập đến một phương pháp giải bài toán chấpnhận lồi

Trong quá trình học tập và làm luận văn, từ bài giảng của các giáo sư, phó giáo sưcông tác tại Viện Toán học, Viện Công nghệ Thông tin - Viện Hàn lâm Khoa học vàCông nghệ Việt Nam, Đại học Thăng Long, các thầy cô trong trường Đại học Khoahọc - Đại học Thái Nguyên, tôi đã trau dồi thêm rất nhiều kiến thức phục vụ cho việcnghiên cứu và công tác của bản thân Tôi xin gửi lời cảm ơn chân thành đến các thầycô

Tôi xin chân thành cảm ơn Ban giám hiệu, Phòng đào tạo, khoa Toán - Tin trườngĐại học Khoa học - Đại học Thái Nguyên đã quan tâm và giúp đỡ tôi trong suốt thờigian học tập tại trường Cuối cùng tôi xin gửi lời cảm ơn tới gia đình, bạn bè đã luônđộng viên, giúp đỡ và tạo điều kiện tốt nhất cho tôi trong quá trình học tập, nghiêncứu và làm luận văn

Thái Nguyên, tháng 05 năm 2018

Học viên

Vũ Thị Ngọc Bích

Chương 1

Bài toán qui hoạch lồi

Chương này trình bày một số kiến thức của giải tích lồi như tập lồi, hàm lồi,bài toán qui hoạch lồi, đây là những kiến thức nền tảng, cần thiết phục vụ cho việcnghiên cứu và giải quyết đề tài Nội dung của chương được tham khảo từ các tài liệu[1], [2] và [3]

1.1 Tập lồi, hàm lồi

1.1.1 Tập lồi

Định nghĩa 1.1 Cho hai điểm a, b trong không gian Rn Đường thẳng đi qua hai

điểm avà b là tập tất cả các điểm x trong Rn có dạng

x = λa + (1 − λ)b, λ ∈ R

Đoạn thẳng nối hai điểm a, blà tập hợp các điểm có dạng

x = λa + (1 − λ)b, λ ∈ [0, 1]

Định nghĩa 1.2 Một tập C ⊆ Rn được gọi là một tập lồi nếu C chứa mọi đoạn

thẳng đi qua hai điểm bất kỳ của nó Tức là C lồi khi và chỉ khi

Định nghĩa 1.3 Một tập D được gọi là tập affine nếu D chứa mọi đường thẳng đi

qua hai điểm bất kỳ x, y ∈ D, tức là

∀x, y ∈ D, ∀λ ∈ Rn ⇒ λx + (1 − λ)y ∈ D

Mệnh đề 1.1 Tập hợp C là lồi khi và chỉ khi nó chứa mọi tổ hợp lồi của các điểm

của nó Tức là: C lồi khi và chỉ khi

Giả sử x là tổ hợp lồi của k điểm x1, , xk ∈ C Tức là

nên x là một tổ hợp lồi của hai điểm y và xk đều thuộc C Vậy x ∈ C.

Mệnh đề 1.2 Nếu A, B là các tập lồi trong Rn

, C là lồi trong Rm, thì các tập sau

là lồi :

A ∩ B := {x | x ∈ A, x ∈ B};

αA + βB := {x | x = αa + βb, a ∈ A, b ∈ B, α, β ∈ R};

A × C := {x ∈ Rn+m | x = (a, c), a ∈ A, c ∈ C}

Mệnh đề 1.3 D 6= ∅ là tập affine khi và chỉ khi nó có dạng D = M + a với M là

không gian con của Rn và a ∈ Rn Không gian M được xác định duy nhất và được gọi là không gian con song song của D.

Định nghĩa 1.4 Siêu phẳng trong Rn là một tổ hợp các điểm có dạng

{x ∈ Rn | aTx = α},trong đó a ∈ Rn là một vectơ pháp tuyến của siêu phẳng Một siêu phẳng sẽ chiakhông gian thành hai nửa không gian

Định nghĩa 1.5 Nửa không gian là một tập hợp có dạng

Như vậy một siêu phẳng chia không gian thành hai nửa không gian, mỗi nửakhông gian ở về một phía của siêu phẳng Nếu hai nửa không gian này là đóng thìphần chung của chúng chính là siêu phẳng đó.

Định nghĩa 1.6 Một tập hợp S ⊂ Rn được gọi là một đơn hình có thứ nguyên bằng

k (hoặc nói ngắn gọn là k-đơn hình) nếu S là tổ hợp lồi của k + 1 vectơ độc lập affine Các vectơ này gọi là đỉnh của đơn hình.

Ví dụ, một tam giác trong không gian 3 chiều là 2-đơn hình Tập hợp

được gọi là đơn hình chuẩn tắc trong Rk

Định nghĩa 1.7 Một tập được gọi là tập lồi đa diện nếu nó là giao của một số hữu

hạn các nửa không gian đóng

Như vậy, theo định nghĩa, một tập lồi đa diện là tập nghiệm của một hệ hữu hạncác bất phương trình tuyến tính Dạng tường minh của một tập lồi đa diện được chonhư sau

Định nghĩa 1.8 Bao lồi của một tập D là giao của tất cả các tập lồi chứa D Bao lồi

của tập D được ký hiệu là coD

Bao lồi của một tập D là tập lồi nhỏ nhất chứa D

Định nghĩa 1.9 Một điểm a của một tập lồi D gọi là điểm trong tương đối nếu với

mọi x ∈ D đều có một số λ > 0 sao cho a + λ(x − a) ∈ D Tập các điểm trongtương đối của D ký hiệu là riD

Định nghĩa 1.10 Một tập D được gọi là nón nếu

∀λ > 0, ∀x ∈ D ⇒ λx ∈ D

Một nón gọi là nón nhọn nếu nó không chứa đường thẳng Một nón được gọi là nón

lồinếu nó đồng thời là tập lồi Nếu nón lồi này lại là một tập lồi đa diện thì ta nói nó

là nón lồi đa diện.

Hình 1.1: Nón lồi và nón không lồi

Định nghĩa 1.11 Cho D ⊆ Rn là một tập lồi và x0 ∈ D

(i) Tập ND(x0) := {ω ∈ Rn : 0 ≤ 0, ∀x ∈ D}gọi là nón pháp tuyến

ngoài của D tại x0 và tập −ND(x0) được gọi là nón pháp tuyến trong của D

Hiển nhiên 0 ∈ ND(x0) và dùng định nghĩa ta có ND(x0) là một nón lồi đóng.

Định nghĩa 1.12 Cho hai tập C và D, ta nói rằng siêu phẳng

Định lí 1.2 (Định lý tách 2) Cho C và D là các tập lồi khác rỗng trong Rn sao cho

C ∩ D = ∅ Giả sử có ít nhất một tập là compact Khi đó C và D có thể tách mạnh

được.

Bổ đề 1.1 (Bổ đề Farkas) Cho a ∈ Rn và A là ma trận cấp m × n Khi đó

ha, xi ≥ 0, với mọi x thỏa mãn Ax ≥ 0, khi và chỉ khi tồn tại y > 0 thuộc Rm sao cho a = ATy.

Ý nghĩa hình học của bổ đề Farkas: Siêu phẳng đi qua gốc tọa độ ha, xi = 0, đểnón Ax ≥ 0 về một phía của nó khi và chỉ khi vectơ pháp tuyến a của siêu phẳngnằm trong nón sinh bởi các hàng của ma trận A

Hình 1.2: (a) Hai tập lồi C và D được tách hẳn bởi một siêu phẳng; (b) Hai tập lồi C

và D được tách bởi siêu phẳng {x ∈ R2 | x2 = 0}nhưng không tách hẳn được; Haitập C và D giao nhau bằng rỗng nhưng không thể tách được vì D không phải tập lồi

Định nghĩa 1.13 Cho D 6= ∅ (không nhất thiết lồi) và y là một vectơ bất kỳ, đặt

dD(y) := inf

x∈Dkx − yk

Ta nói dD(y)là khoảng cách từ y đến D Nếu tồn tại π ∈ D sao cho dD(y) = ky−πk,

thì ta nói π là hình chiếu của y trên D và ký hiệu là π = PD(y)

Theo định nghĩa, ta thấy hình chiếu PD(y)của y trên D là nghiệm của bài toántối ưu

0 ≤ dD(y) ≤ kx − yk, ∀x ∈ D

Mệnh đề 1.4 Cho D là một tập lồi đóng khác rỗng Khi đó

(i) Với mọi y ∈ Rn, π ∈ D hai tính chất sau là tương đương

a) π = PD(y);

b) y − π ∈ ND(π);

(ii) Với mọi y ∈ Rn, hình chiếu PD(y) của y trên D luôn tồn tại và duy nhất;

(iii) kPD(x) − PD(y)k ≤ kx − yk, ∀x, y ∈ Rn (tính không giãn);

(iv) kPD(x) − PD(y)k2 ≤ hPD(x) − PD(y), x − yi , ∀x, y ∈ Rn (tính đồng bức).

được gọi là đồ thị của hàm f

Bằng cách cho f(x) = +∞ nếu x 6∈ C, ta có thể coi f được xác định trên toànkhông gian và hiển nhiên là

Nếu λ = 0, thì λf(x) = 0 với mọi x

Định nghĩa 1.14 Cho ∅ 6= C ⊆ Rn lồi và f : C → R Ta nói f là hàm lồi trên C

nếu epif là một tập lồi trong Rn+1

Ta chủ yếu làm việc với hàm f : Rn → R ∪ {+∞} Trong trường hợp này, dễthấy rằng định nghĩa trên tương đương với

f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y), ∀x, y ∈ C, ∀λ ∈ (0, 1)

Hàm f : Rn → R ∪ {+∞} được gọi là lồi chặt trên C nếu

f (λx + (1 − λ)y) < λf (x) + (1 − λ)f (y), x 6= y, ∀x, y ∈ C, ∀λ ∈ (0, 1)

Hình 1.3: Hàm lồi

Định nghĩa 1.15 Một hàm f được gọi là chính thường nếu domf 6= ∅ và

f (x) > −∞ với mọi x Hàm f được gọi là đóng nếu epif là một tập đóng trong

Ta nói δC là hàm chỉ của C Do C lồi, nên δC là một hàm lồi

Ví dụ 1.3 Cho C lồi đóng, hàm khoảng cách đến tập C được định nghĩa bởi

dC(x) := min

y∈C kx − yk

là một hàm lồi

Mệnh đề 1.5 Một hàm f : C → R là lồi trên C khi và chỉ khi ∀x, y ∈ C,

∀α > f (x), ∀β > f (y), ∀λ ∈ [0, 1]

⇒ f (λx + (1 − λ)y) ≤ λα + (1 − λ)β

Chứng minh. Giả sử f lồi Chọn x, y, α, β như đã nêu trong mệnh đề Chọn

α0 ∈ (f (x), α)và β0 ∈ (f (y), β) Vậy (x, α0) và (y, β0)thuộc epif Do epif lồi, nên

Chứng minh. Theo định nghĩa hàm chính thường, nếu domf 6= ∅, thì tồn tại một x0

sao cho f(x0) = −∞ Giả sử x ∈ ri(domf) Theo định nghĩa của điểm trong tươngđối, tồn tại y ∈ domf thỏa mãn x = λy + (1 − λ)x0 với λ ∈ (0, 1) Do đó f lồi và

f (y) < +∞, nên

f (x) ≤ λf (y) + (1 − λ)f (x0) = −∞

Mệnh đề 1.7 Nếu f là một hàm lồi trên Rn thì các tập mức

Lf(α) := {x | f (x) ≤ α}, lf(α) := {x | f (x) < α}

là lồi với mọi α ∈ R.

Chứng minh. Trường hợp α = +∞ hoặc −∞ là hiển nhiên Lấy x, y ∈ lf(α), tức

là f(x) < α, f(y) < α Do f lồi, theo Mệnh đề 1.3 với mọi α ∈ (0, 1), ta có

f (λx + (1 − λ)y) < λα + (1 − λ)α = α

Vậy

λx + (1 − λ)y ∈ lf(α)

Tập Lf(α) = ∩µ>αlf(µ), nên nó là tập lồi

Định nghĩa 1.16 Một hàm f : Rn → R được gọi là nửa liên tục dưới, đối với E, tại

một điểm x, nếu như với mọi dãy {xk} ⊂ E, xk → xta có lim inf f(xk) ≥ f (x)

Hàm f được gọi là nửa liên tục trên, đối với E, tại x nếu −f nửa liên tục dưới

đối với E, tại x Hay là với mọi dãy {xk} ⊂ E, xk → xthì lim sup f(xk) ≤ f (x)

Hàm f được gọi là liên tục đối với E tại x nếu như nó vừa nửa liên tục trên và

nửa liên tục dưới, đối với E, tại x

Cho hai hàm f và g xác định trên Rn, ta nói g là bao đóng của f, nếu epig = epif

Hàm f được gọi là đóng nếu epif = epif Bao đóng của f được ký hiệu là f.

Mệnh đề 1.8 Với mọi hàm f : Rn → R ∪ {+∞} các điều kiện sau là tương đương: i) Trên đồ thị của f là một tập đóng trên Rn+1, nói cách khác f = f ;

ii) Với mọi số thực α, tập mức dưới

Lα(f ) := {x | f (x) ≤ α}

là một tập đóng;

iii) f nửa liên tục dưới trên Rn.

Chứng minh. (i)⇒(ii) Giả sử xj → x, f (xj) ≤ α Khi đó (xj, α) ∈ epif Do epifđóng, nên (x, α) ∈ epif Vậy x ∈ Lf(α).

(ii)⇒(iii) Giả sử xj → x Nếu lim inf f(xj) < f (x), khi đó tồn tại α < f(x)sao cho f(xj) ≤ αvới mọi j đủ lớn Vậy xj ∈ Lf(α)với mọi j đủ lớn Do xj → x

và Lf(α) đóng, nên x ∈ Lf(α) Tức là f(x) < α Mâu thuẫn với điều ta giả sử là

Chứng minh. Xét x ∈ D Bằng phép tịnh tiến (nếu cần), có thể giả thiết x = 0 Giả

sử dãy {xk} ∈ D hội tụ đến x = 0 Gọi G là họ gồm 2n-đơn hình n-chiều Mỗiđơn hình trong họ này đều có một đỉnh là 0 và n đỉnh còn lại là các điểm thuộc tậphợp {e1, , en, −e1, , −en}, trong đó eilà vectơ đơn vị thứ i (i = 1, , n) Do

xk → 0, nên tồn tại một đơn hình S ∈ G sao cho xk ∈ S với vô hạn k Để đơn giản,

ta ký hiệu luôn dãy vô hạn này là {xk} Gọi D1 = D ∩ S Do D là tập đa diện lồi,nên D1 là một đa diện lồi bị chặn Ký hiệu tập đỉnh của D1 là V1 Khi đó mọi xk là

tổ hợp lồi của 0 và các điểm của V1 Tức là

Vậy f nửa liên tục trên tại 0 ∈ D

Định lí 1.3 Một hàm lồi xác định trên tập lồi D thì liên tục tại mọi điểm trong của

D.

Ký hiệu f0(a)hoặc ∇f(a) là đạo hàm của f tại a

Định lí 1.4 Cho f : D → R là một hàm khả vi trên tập lồi mở D Điều kiện cần và

1.2 Bài toán qui hoạch lồi

Cho D ⊆ Rn và f : Rn → R Xét bài toán qui hoạch toán học:

trong đó D là tập lồi trong Rn và f là hàm lồi xác định trên D

Bài toán trên được hiểu là tìm một điểm x∗ ∈ Dsao cho f(x∗) ≤ f (x)với mọi

x thuộc D Mỗi điểm x∗ ∈ D được gọi là một phương án chấp nhận được của bài toán (P ) Tập D được gọi là miền (tập) chấp nhận được, f được gọi là hàm mục tiêu

của bài toán (P ) Bài toán (P ) được gọi là qui hoạch lồi nếu D là một tập lồi và f

là một hàm lồi trên D Thông thường, tập D được cho như là tập nghiệm của một hệbất đẳng thức hoặc đẳng thức có dạng

Định nghĩa 1.17 Điểm x∗ ∈ D được gọi là lời giải tối ưu địa phương của bài toán

(P )nếu tồn tại một lân cận U của x∗ sao cho

f (x∗) ≤ f (x), ∀x ∈ U ∩ D

và x∗gọi là lời giải tối ưu toàn cục của (P ) nếu

f (x∗) ≤ f (x), ∀x ∈ D

Định lí 1.5 Cho (P ) là một qui hoạch lồi Khi đó mọi nghiệm tối ưu địa phương đều

là tối ưu toàn cục Hơn nữa tập nghiệm tối ưu (toàn cục) là một tập lồi Nếu f lồi chặt thì (P ) có nhiều nhất một nghiệm.

Tiếp theo ta xét sự tồn tại nghiệm tối ưu của bài toán qui hoạch lồi Xét bài toántối ưu toàn cục (P ) Có 4 trường hợp tồn tại nghiệm tối ưu của bài toán này

• D = ∅(không có nghiệm);

• f không bị chặn dưới trên D ( inf

x∈Df (x) = +∞);

• inf

x∈Df (x) < ∞nhưng giá trị cực tiểu không đạt được trên D;

• Tồn tại x∗ ∈ D sao cho f(x∗) = min

x∈Df (x)

Câu hỏi đặt ra: Làm thế nào để kiểm tra được bài toán (P ) có nghiệm hay không?

Câu trả lời là, nói chung điều này là không dễ dàng

Định lí 1.6 Điều kiện cần và đủ để tồn tại nghiệm tối ưu toàn cục của bài toán (P )

Định lí 1.7 (Weierstrass) Nếu D là tập compact và f nửa liên tục dưới trên D thì

bài toán (P ) có nghiệm tối ưu.

Chứng minh. Đặt α := inf

x∈Df (x) Theo định nghĩa có một dãy {xk} ⊂ D sao cholim

k→+∞f (xk) = α

Do D compact nên có một dãy con hội tụ về x0 ∈ D, không giảm tính tổng quát

ta có thể coi xk → x0 Vì f nửa liên tục dưới nên α > −∞ Nhưng x0 ∈ D nên theođịnh nghĩa của α, ta phải có f(x0) ≥ α Vậy f(x0) = α

Định lí 1.8 Nếu f nửa liên tục dưới trên D và thỏa mãn điều kiện bức sau

f (x) → +∞ khi x ∈ D, kxk → +∞

thì f có điểm cực tiểu trên D.

Chứng minh. Đặt D(a) := {x ∈ D : f(x) ≤ f(a)} với a ∈ D Rõ ràng, D(a) đóng

và bị chặn nên f có điểm cực tiểu trên D(a) và điểm đó cũng chính là điểm cực tiểucủa f trên D

Định nghĩa 1.18 Cho f : Rn → R ∪ {+∞} Ta nói x∗ ∈ Rn là dưới đạo hàm của

f tại x nếu

hx∗, z − xi + f (x) ≤ f (z) ∀z

Tương tự đối với hàm lồi khả vi thông thường, biểu thức này có nghĩa là phươngtrình tiếp tuyến nằm dưới đồ thị của hàm số Tuy nhiên khác với trường hợp khả vi,tiếp tuyến ở đây có thể không tồn tại duy nhất

Ký hiệu tập hợp tất cả các dưới đạo hàm của f tại x là ∂f(x) Nói chung đây làmột tập (có thể bằng rỗng) trong Rn Khi ∂f(x) 6= ∅, thì ta nói hàm f khả dưới vi

phântại x Theo định nghĩa, một điểm x∗ ∈ ∂f (x)khi và chỉ khi thỏa mãn một hệ

vô hạn các bất đẳng thức tuyến tính Như vậy ∂f(x) là giao của các nửa không gianđóng Vậy ∂f(x) luôn là một tập lồi đóng (có thể rỗng) Như trong lý thuyết toán tử

Ví dụ 1.6 f = δC là hàm chỉ của một tập lồi C 6= ∅ Khi đó với x0 ∈ C,

Định lí 1.9 Giả sử D là một tập lồi và f là một hàm lồi, khả dưới vi phân trên D.

Khi đó x∗ là nghiệm tối ưu của bài toán (P ) nếu và chỉ nếu

trong đó ND(x∗) ký hiệu nón pháp tuyến của D tại x∗.

Chứng minh (⇐): Giả sử có (1.2) Khi đó tồn tại p∗ sao cho

Chứng tỏ x∗là nghiệm tối ưu của bài toán (P )

(⇒): Giả sử x∗ là nghiệm tối ưu Bằng cách lấy không gian affine của D, ta có thểgiả sử D là một tập có số chiều đầy đủ Do D là tập lồi, intD 6= ∅ Xét hai tập sau

E := {(t, x) ∈ R × Rn: t > f (x) − f (x∗), x ∈ D};

G := {0} × D