Phương pháp hàm phạt cho bài toán tối ưu

Để giải quyết khó khăn này, phương pháp hàm phạt là một cáchtiếp cận cơ bản để giải quyết bài toán tối ưu có ràng buộc.. Đối với phương pháp hàm phạt điểmngoài, hàm phạt được xác định cả

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC KHOA HỌC

NGUYỄN THỊ LÊ

PHƯƠNG PHÁP HÀM PHẠT CHO BÀI TOÁN TỐI ƯU

Mục lục

1.1 Tập lồi 7

1.2 Hàm lồi 11

1.2.1 Định nghĩa và tính chất 11

1.2.2 Tính liên tục 13

1.2.3 Dưới vi phân 14

1.2.4 Tính chất cực trị 15

2 Phương pháp hàm phạt 17 2.1 Bài toán tối ưu 17

2.1.1 Phát biểu bài toán 17

2.1.2 Các điều kiện tối ưu 19

2.2 Phương pháp hàm phạt 23

2.2.1 Hàm phạt điểm ngoài 24

2.2.2 Hàm phạt điểm trong 26

2.2.3 Hàm phạt kiểu Lagrange 31

3 Hàm phạt chính xác và áp dụng 42 3.1 Hàm phạt chính xác cho bài toán tối ưu lồi 42

3.2 Hàm phạt chính xác cho bài toán tối ưu trên tập Pareto 49

3.2.1 Bài toán tối ưu vecto tuyến tính 49

3.2.2 Hàm phạt chính xác cho bài toán tối ưu trên tập Pareto 53

Tài liệu tham khảo 58

Nhân dịp này em cũng xin chân thành cảm ơn Ban Giám hiệu, các bạnđồng nghiệp Trường Cao đẳng Công nghệ và Kinh tế công nghiệp, gia đình

và bạn bè đã luôn động viên, giúp đỡ và tạo điều kiện cho em về mọi mặttrong suốt quá trình học tập và thực hiện khóa luận tốt nghiệp

Mặc dù đã có nhiều cố gắng nhưng Luận văn khó tránh khỏi nhữngthiếu sót Tác giả rất mong nhận được ý kiến đóng góp của quý thầy, cô

và bạn đọc để luận văn được hoàn thiện hơn

Xin trân trọng cảm ơn!

Thái Nguyên, ngày 20 tháng 07 năm 2012

Tác giả

Nguyễn Thị Lê

Mở đầu

Bài toán tối ưu là bài toán tìm một phương án chấp nhận được đểlàm cực trị một hàm số hoặc một hàm vecto Đây là bài toán có nhiều ứngdụng trong thực tế Khó khăn chính trong việc nghiên cứu và giải quyếtbài toán này là phải tìm được một phương án tối ưu trong miền chấp nhậnđược Để giải quyết khó khăn này, phương pháp hàm phạt là một cáchtiếp cận cơ bản để giải quyết bài toán tối ưu có ràng buộc Ý tưởng chínhcủa phương pháp này là chuyển bài toán có ràng buộc về một dãy các bàitoán không ràng buộc hoặc có ràng buộc đơn giản hơn Các loại hàm phạtthường được dùng là hàm phạt điểm ngoài, hàm phạt điểm trong và hàmphạt kiểu Lagrange (thưởng- phạt) Đối với phương pháp hàm phạt điểmngoài, hàm phạt được xác định cả bên ngoài miền chấp nhận được và cótính chất là lượng phạt p(x) > 0 nếu x không thuộc miền chấp nhận được

D, trái lại, nếu x ∈ D thì p(x) = 0 Một hàm phạt khác là hàm phạt kiểuLagrange, hàm này cũng xác định cả bên ngoài miền ràng buộc như hàmphạt điểm ngoài, nhưng bên trong miền chấp nhận được, lượng phạt cóthể nhận giá trị âm, tức là được thưởng tùy theo mức độ thỏa mãn miềnràng buộc Phương pháp có hiệu quả hơn cả là phương pháp hàm phạtđiểm trong, khác với hàm phạt điểm ngoài và hàm phạt kiểu Lagrange,hàm phạt này chỉ xác định tại miền trong của tập chấp nhận được, còntại các điểm gần biên của miền chấp nhận được thì p(x) = +∞

Thông thường, người ta chỉ có thể chuyển việc một bài toán có ràngbuộc về việc giải một dãy vô hạn các bài toán không có ràng buộc hoặc córàng buộc đơn giản hơn Tuy nhiên trong một số trường hợp cụ thể, vớinhững điều kiện nhất định thì ta có thể chuyển về việc giải chỉ duy nhấtmột bài toán không ràng buộc Hàm phạt cho tính chất này được gọi làhàm phạt chính xác

Bản luận văn này nhằm mục đích chủ yếu là hệ thống các kiến thức cơbản về các loại phương pháp hàm phạt đã kể trên Cụ thể, luận văn đã đề

cập đến các vấn đề sau:

1 Giới thiệu các kiến thức cơ bản về phương pháp hàm phạt điểmngoài, phương pháp hàm phạt điểm trong và phương pháp hàm phạt kiểuLagrange

2 Trình bày một kết quả tương đối mới về hàm phạt chính xác cho bàitoán tối ưu lồi Ngoài ra, luận văn còn trình bày phương pháp hàm phạtchính xác cho bài toán tối ưu không lồi, đó là bài toán tối ưu một hàmtuyến tính trên tập nghiệm của một bài toán tối ưu vecto affin

Luận văn gồm 3 chương:

Chương 1 Giới thiệu một số khái niệm và kiến thức cơ bản của giảitích lồi thường được dùng trong tối ưu hoá (tập afin, tập lồi, nón lồi, hàmlồi và các tính chất cơ bản của chúng)

Chương 2 Trình bày ba phương pháp hàm phạt là: Phương pháphàm phạt điểm trong, phương pháp hàm phạt điểm ngoài và hàm phạtkiểu Lagrange (thưởng- phạt)

Chương 3 Trình bày khái niệm về hàm phạt chính xác, điều kiện đủ

để tồn tại hàm phạt chính xác cho bài toán tối ưu lồi, bài toán tối ưutrên tập Pareto của một bài toán tối ưu vecto affine và áp dụng hàm phạtchính xác vào bài toán tối ưu trên tập này

• Nếu M là tập affine thì

a + M = {a + x | x ∈ M }

cũng là một tập affine với ∀a ∈ Rn

• M là tập affine chứa gốc khi và chỉ khi M là không gian con

Lớp các tập lồi là đóng đối với phép giao, phép cộng đại số và phépnhân tích Decartes, cụ thể ta có định lý sau:

Định lý 1.1 Nếu A, B là các tập lồi trong Rn, C là lồi trong Rm, thì cáctập sau là tập lồi:

1 A ∩ B := {x |x ∈ A, x ∈ B };

2 αA + βB := {x |x = αa + βb, a ∈ A, b ∈ B, α, β ∈ R};

3 A × C := {x ∈ Rn+m|x = (a, c), a ∈ A, c ∈ C }

Định nghĩa 1.4 Cho A là tập lồi, tập affine nhỏ nhất chứa A được gọi

là bao affine của A, ký hiệu là af f A

Thứ nguyên của tập lồi A ký hiệu là dimA được cho bởi thứ nguyêncủa bao affin của A

Một điểm a ∈ A được gọi là điểm trong của A nếu tồn tại một lân cận

mở U của a sao cho U ⊂ A, tập hợp các điểm trong của A ký hiệu là

intA Một tập lồi A trong Rn có thể không có điểm trong (khi xét trong

Rn), nhưng nó luôn có điểm trong khi xét trong af f A, điểm trong này gọi

là điểm trong tương đối Nếu ký hiệu riA là tập các điểm trong tương đốicủa A thì

riA := {x ∈ affA |∃ U, U ∩ affA ⊂ A},

trong đóU là một lân cận mở của x nếuAlà tập lồi khác rỗng thìriA 6= ∅.Một tập hợp là giao của một số hữu hạn các nửa không gian đóng đượcgọi là tập lồi đa diện ( khúc lồi) Như vậy dạng tường minh của một tậplồi đa diện D được cho như sau:

Đối với một tập C bất kỳ, một điểm x ∈ C được gọi là điểm biên của

C nếu không tồn tại a, b ∈ C, 0 < λ < 1 sao cho:

x = λa + (1 − λ)b và đoạn thẳng [a, b] ⊂ C.Với một tập lồi đa diện, một đỉnh của diện cũng chính là đỉnh của tậpđó.

Một tập C được gọi là nón lồi nếu

∀x, y ∈ C thì x + y ∈ C và tx ∈ C với mọi t ≥ 0

Ví dụ 1.3 Rn+ là một nón lồi

Cho C là một tập trong Rn, một vecto y 6= 0 được gọi là hướng lùi xa của

C nếu mọi tia xuất phát từ một điểm bất kỳ của C theo hướng y đều nằmtrọn trong C, tức là y 6= 0 là hướng lùi xa khi và chỉ khi

được gọi là nón đối cực của C

Cho C là một tập lồi khác rỗng và x thuộc C Ta nói d ∈ Rn là mộthướng chấp nhận được của C nếu tồn tại t0 > 0 sao cho x + td ∈ C vớimọi 0 ≤ t ≤ t0 Tập tất cả các hướng chấp nhận được của C tại x ký hiệu

là C(x) và gọi là nón chấp nhận được của C tại x

Định lý tách các tập lồi dưới đây là những định lý cơ bản nhất của giảitích lồi, được dùng nhiều trong lý thuyết tối ưu

Cho hai tập C và D khác rỗng, ta nói siêu phẳng aTx = α tách C và

D nếu

aTx ≤ α ≤ aTy, ∀x ∈ C, ∀y ∈ D

Ta nói siêu phẳng aTx = α tách chặt C và D nếu

Định lý sau đây nói về việc tách mạnh hai tập lồi:

Định lý 1.3 (Định lý tách 2):Cho C và D là hai tập lồi đóng khác rỗngtrong Rn và C ∩ D = ∅ Giả sử có it nhất một tập compac Khi đó hai tậpnày có thể được tách mạnh bởi một siêu phẳng

Một hệ quả rất quan trọng của định lý tách là bổ đề Farkas Bổ đề nàyrất trực quan, dễ áp dụng trong nhiều lĩnh vực như tối ưu, điều khiển,

Ta ký hiệu domf := {x ∈ C | f (x) < +∞} và gọi là miền hữu dụngcủa f Nếu domf 6= ∅ và f (x) > −∞ thì f được gọi là hàm lồi chínhthường.

Tập epif := {(x, µ) ∈ C ×R | f (x) ≤ µ} được gọi là trên đồ thị củahàm f f : Rn → R∪ { + ∞}

Định nghĩa 1.5 Cho ∅ 6= C ⊆ Rn là một tập lồi và f : C → R

Ta nói f là hàm lồi trên C nếu epif là một tập lồi trong Rn+1

Từ đây ta luôn xét f :Rn → R∪ { + ∞}.Khi đó định nghĩa trên tươngđương với

Định lý 1.4 Cho f là hàm lồi trên tập A và g là hàm lồi trên tập B Khi

đó các hàm sau là lồi trên tập A ∩ B:

1 αf + βg, ∀α, β > 0;

2 max{f, g}

Định lý sau đây cho phép kiểm tra tính lồi của một hàm số:

Định lý 1.5 Cho f : C → R là một hàm khả vi trên tập lồi mở C Điềukiện cần và đủ để f lồi trên C là:

f (x) + h∇f (x), y − xi ≤ f (y), ∀x, y ∈ C,

trong đó ký hiệu f0(a) hoặc ∇f (a) là đạo hàm của f tại a

Nếu f khả vi hai lần thì điều kiện cần và đủ để f lồi trên C là với mọi

x thuộc C, ma trận Hessian H(x) của f tại x xác định không âm, tức là:

Một hàm f xác định trên Rn được gọi là nửa liên tục dưới tại điểm x0

nếu với mọi ε > 0, tồn tại δ > 0, sao cho f (x) ≥ f (x0) − ε, với mọi x thỏamãn x − x0 < δ

Hàm f được gọi là nửa liên tục trên tại x0 nếu−f nửa liên tục dưới tại

(i) f liên tục tại điểm x0;

(ii) f bị chặn trong một lân cận của x0;

(iii) int(epif ) 6= ∅;

(iv) int(domf ) 6= ∅ và f liên tục trên tập int(domf )

Một hàm lồi có thể không liên tục trên biên miền xác định của nó nhưngliên tục tại mọi điểm trong của tập đó theo định lý sau:

Định lý 1.7 Một hàm lồi liên tục trên C thì liên tục tại mọi điểm trongcủa C

1.2.3 Dưới vi phân

Cho một hàm n biến, khi cố định một hướng và xét hàm nhiều biếntrên hướng đó thì ta có hàm một biến Giả sử y 6= 0 là một hướng chotrước xuất phát từ điểm x0 Khi đó mọi điểm thuộc đường thẳng đi qua

Ta biết rằng nếu hàm lồi khả vi tại một điểm nào đó thì tiếp tuyến của

đồ thị tại điểm đó sẽ nằm dưới đồ thị hàm số Nhưng hàm lồi có thể khôngkhả vi tại một điểm nào đó, trong trường hợp này ta mở rộng khái niệmđạo hàm bằng dưới đạo hàm, sao cho vẫn giữ được tính chất cơ bản trêncủa đạo hàm của hàm lồi khả vi

Định nghĩa 1.6 Cho f :Rn → R∪ { + ∞} Ta nói x∗ ∈ Rn là dưới đạohàm của f tại x nếu:

hx∗, z − xi + f (x) ≤ f (z), ∀z

Tập hợp tất cả các dưới đạo hàm của f tại x được gọi là dưới vi phân của

f tại x, ký hiệu là ∂f (x) Khi ∂f (x) 6= ∅ ta nói hàm f khả dưới vi phântại x Trong trường hợp tập ∂f (x) chỉ gồm duy nhất một điểm thì hàm f

khả vi tại x

Cũng có trường hợp tập ∂f (x) là tập rỗng, tức là tại điểm x hàm số f

không có dưới vi phân Tuy nhiên đối với hàm lồi thì điều đó chỉ có thểxảy ra theo định lý sau:

Định lý 1.8 Cho f :Rn → R∪ { + ∞} là một hàm lồi, khi đó ∂f (x) 6= ∅

với mọi x thuộc ri(domf )

Từ định lý này suy ra rằng nếu hàm f là hàm lồi hữu hạn trên toànkhông gian Rn thì nó khả dưới vi phân tại mọi điểm, vì riRn = Rn.

Ví dụ 1.4 Hàm số f (x) = |x|, khả vi tại mọi điểm khác 0 nhưng khôngkhả vi tại x = 0, tại đó ∂f (0) = {y ||x| ≥ hy, xi, ∀x} = [ − 1, 1]

Cũng như trong trường hợp hàm một biến, bất đẳng thức

hx∗, z − xi + f (x) ≤ f (z), ∀z,

có nghĩa là siêu phẳng đi qua điểm (x, f (x)) nằm dưới đồ thị của hàm số

1.2.4 Tính chất cực trị

Định nghĩa 1.7 Cho C ⊆ Rn là tập khác rỗng và f : C → R Một điểm

x∗ ∈ C được gọi là cực tiểu địa phương của f trên C nếu tồn tại một lâncận U của x∗ sao cho

thì x∗ được gọi là cực đại toàn cục hay cực đại tuyệt đối của f trên C

Mệnh đề 1.1 Cho f : Rn →R∪ { + ∞} là hàm lồi.Khi đó mọi điểm cựctiểu địa phương của f trên một tập lồi đều là cực tiểu toàn cục Hơn nữatập hợp các điểm cực tiểu của f là một tập lồi Nếu f lồi chặt thì điểmcực tiểu nếu tồn tại sẽ là duy nhất

Mệnh đề 1.2 (i) Giả sử f là một hàm lồi chính thường trên Rn và

C ⊆ Rn là một tập lồi Khi đó nếu f đạt cực đại hữu hạn tại một điểmtrong tương đối của C thì f là hằng số trên C

(ii) Nếu f là một hàm lồi, chính thường trên Rn và bị chặn trên trongmột tập affine, thì nó là hằng số trên tập này

Hệ quả 1.1 Nếu một hàm lồi đạt cực đại trên một tập lồi có điểm cựcbiên, thì cực đại sẽ đạt được tại một điểm cực biên của tập lồi đó.

Kết luận chương 1

Trong chương 1, chúng ta đã trình bày một số kiến thức cơ bản của giảitích lồi để sử dụng cho các chương tiếp theo như tập lồi, tập lồi đa diện,hàm lồi và một số kết quả quan trọng như bổ đề Farkas, định lý tách cáctập lồi,

Chương 2

Phương pháp hàm phạt

Nói chung các bài toán không có ràng buộc thường dễ xử lý hơn cácbài toán có ràng buộc Một ý tưởng nảy sinh là chuyển bài toán tối ưu córàng buộc về bài toán tối ưu không ràng buộc Kỹ thuật cơ bản để thựchiện ý tưởng này là hàm phạt Chương này gồm hai phần, phần 1 trìnhbày khái niệm về bài toán tối ưu và các điều kiện tối ưu, phần 2 trình bày

ba phương pháp hàm phạt là: Phương pháp hàm phạt điểm trong, phươngpháp hàm phạt điểm ngoài và hàm phạt kiểu Lagrange (thưởng- phạt).Các khái niệm và kết quả được lấy từ các tài liệu: [2],[3], [4],[5]

2.1 Bài toán tối ưu

2.1.1 Phát biểu bài toán

Bài toán tối ưu được xét trong chương này có dạng sau:

là bài toán tìm điểm x∗ ∈ C sao cho f (x∗) ≤ f (x) với mọi x ∈ C,

trong đó C ⊆ X (X là không gian nào đó, thông thường X ≡ Rn),

f : C → R Hàm f được gọi là hàm mục tiêu, tập C gọi là tập ràng buộchay miền chấp nhận được Một vecto x ∈ C được gọi là một phương ánchấp nhận được Vecto x∗ ∈ C thoả mãn điều kiện f (x∗) ≤ f (x) với mọi

x ∈ C được gọi là một nghiệm tối ưu của bài toán và f (x∗) được gọi làgiá trị cực tiểu hay giá trị tối ưu của f trên C

Trường hợp C ≡ Rn ta có bài toán tối ưu không ràng buộc

min {f (x) : x ∈ Rn}

Trái lại (P ) là bài toán tối ưu có ràng buộc Thông thường tập C thườngđược cho bởi một hệ phương trình hoặc/và bất phương trình có dạng sau:

C = {x ∈ X :gi(x) ≤ 0, hj(x) = 0, i = 1, , m; j = 1, , p} (2.1)với gi, hj : X → R là các hàm cho trước, gọi là các hàm ràng buộc.

Dễ thấy rằng nếu các hàm f lồi, gi là lồi, liên tục trên X và các hàm

hj là afin thì C là tập đóng Khi ấy (P) được gọi là bài toán quy hoạch lồiNhận xét 2.1 Do

max {f (x) : x ∈ C} = −min{−f(x) : x ∈ C},

và tập nghiệm của các bài toán này trùng nhau nên bài toán tìm cực đại

có thể đưa về bài toán tìm cực tiểu và ngược lại

Sau đây là một số ví dụ về bài toán tối ưu có ràng buộc

Ví dụ 2.1 : bài toán xác định kế hoạch sản xuất tối ưu

Một xí nghiệp sản xuất n loại sản phẩm và sử dụng m loại nguyênliệu khác nhau Gọi xj, (j = 1, n) là lượng hàng thứ j cần sản xuất,

cj, (j = 1, , n) là lãi thu được khi sản xuất một đơn vị sản phẩm thứ j.Biết rằng để sản xuất một đơn vị sản phẩm thứ j cần dung đến aij loạinguyên liệu thứ i, (i = 1, , m; j = 1, , n.) Gọi bi là số lượng nguyên liệuthứi mà xí nghiệp có thể cung cấp được Bài toán đặt ra là xác định lượngsản xuất cho mỗi loại sản phẩm để tổng số lãi thu được là lớn nhất Bàitoán này có mô hình toán học như sau

Tìm xj ≥ 0, (j = 1, , n) sao cho

f (x1, , xn) =

n X j=1

cjxj → max

Với điều kiện

n X j=1

aijxj ≤ bi, i = 1, , m (2.2)

Ví dụ 2.2 Bài toán vận tải

Cần chở hàng từ m nơi sản xuất đến n nơi tiêu thụ Biết trước lượnghàng có ở mỗi nơi sản xuất và lượng hàng cần thiết ở mỗi nơi tiêu thụ, biếtcước phí.Tìm phương án vận chuyển sao cho thoả mãn tiêu thụ và cướcphí vận chuyển thấp nhất

Gọi xij: Lượng hàng cần chuyển từ i đến j

cij: Cước phí vận chuyển một đơn vị hàng hoá từ i đến j

aj: Lượng hàng cần chở ở điểm j

bi: Lượng hàng có ở nơi sản xuất i

Mô hình toán học của của bài toán như sau

Tìm xij ≥ 0, (j = 1, , n; i = 1, , m) sao cho

f (xij) =

m X i=1

n X j=1

cijxij → min

Với các điều kiện

n X j=1

xij = bi

m X i=1

xij = aj

m X i=1

bi =

n X j=1

aj

2.1.2 Các điều kiện tối ưu

Xét bài toán (P) Đối với nghiệm tối ưu tuyệt đối, bốn khả năng sau

có thể xảy ra:

1 C là tập rỗng (bài toán không có phương án chấp nhận được)

2 f không bị chặn dưới trên C

3 inf

x∈Cf (x) > −∞ nhưng giá trị nhỏ nhất không đạt được trên C

4 Tồn tại x∗ ∈ C sao cho f (x∗) = min

Định lý 2.2 (Weistrass) Nếu C là tập compact và f nửa liên tục dướitrên C thì f đạt cực tiểu trên C

Một vấn đề quan trọng khi nghiên cứu các bài toán tối ưu là việc tìmkiếm những điều kiện tối ưu Những điều kiện ấy cho phép hiểu biết đượccác tính chất của lời giải, từ đó có thể xây dựng phương pháp giải Chúng

ta xét các định lý sau về điều kiện tối ưu:

Định lý 2.3 Giả sử C là tập lồi,f là hàm lồi khả dưới vi phân trên C.Khi đó x∗ là nghiệm tối ưu của (P) khi và chỉ khi

0 ∈ ∂f (x∗) + NC(x∗), (2.3)trong đó NC(x∗) là nón pháp tuyến của C tại x∗

Trong (2.4), cho t → +∞ ta suy ra u0 ≤ 0 Nếu tại đó u0 = 0 thì

hu, x − yi ≤ 0, ∀x, y ∈ C,

hay

hu, zi ≤ 0, ∀z ∈ C − C ≡ D (2.5)

Rõ ràng, 0 ∈ D và bằng phép tịnh tiến có thể giả sử 0 ∈ intD Từ (2.5)

ta có u = 0 ( điều này là không thể vì u0 = 0), vậy u0 < 0 Chia cả hai vếcủa (2.4) cho −u0 > 0 ta được

−t + ¯uTx ≤ ¯uTy, ∀x, y ∈ C

Cho t → f (x) − f (x∗):

− [f (x) − f (x∗)] + ¯uTx ≤ ¯uTy, ∀x, y ∈ C (2.6)Cho y = x∗ trong (2.6) ta được:

L(x, λ, µ) := f (x) +

m X i=1

λigi(x) +

p X j=1

µjhj(x)

Sử dụng hàm Lagrange, ta thu được điều kiện cần (và đủ nếu bài toán làmột quy hoạch lồi) tối ưu Ta cần đến khái niệm sau:

Chox0 là một điểm chấp nhận được Giả sử các hàm sốgi, i = 1, m; hj, j =

1, , p khả vi Ký hiệu S(x0) là tập các vecto d thỏa mãn hệ tuyến tínhsau:

h∇gi(x0), di ≤ 0, i ∈ A(x0), (2.8)

h∇hj(x0), di = 0, j = 1, , p, (2.9)trong đó A(x0) = {i : gi(x0) = 0} S(x0) được gọi là nón chấp nhận đượctuyến tính hóa

Cho X0 ∈ C , ta nói rằng điều kiện chính quy được thỏa mãn tại điểm x0

nếu D(x¯ 0) = S(x0)

Định lý 2.4 (Kuhn- Tucker)

Cho f, gi, hj là các hàm khả vi liên tục trên một tập mở chứa C Cho x∗

là một cực tiểu địa phương của bài toán (P) và tại đó điều kiện chính quyđược thỏa mãn Khi đó tồn tại các vectơ λ∗ = (λ∗1, , λ∗m), µ∗ = (µ∗1, , µ∗p)

sao cho

∇f (x∗) +

m X i=1

λ∗i∇gi(x∗) +

p X j=1

µ∗j∇hj(x∗) = 0 (2.10)

Nếu (P) là một quy hoạch lồi thì các điều kiện trên cũng là điều kiện

đủ để x∗ ∈ C là lời giải của bài toán (P)

Chứng minh Sử dụng khai triển Taylor

f (x∗ + λd) = f (x∗) + h∇f (x∗), λdi + r(λd),

ta có h∇f (x∗), di ≥ 0 với mọi d ∈ ¯C(x∗)

Hơn nữa, do tại x∗ điều kiện chính quy được thỏa mãn nên C(x¯ ∗) = S(x∗)

suy ra h∇f (x∗), di ≥ 0 với mọi d ∈ S(x∗) Áp dụng bổ đề Farkas với

(αj − βj)∇hj(x∗) = 0

Lấy λ∗i = 0 với mọi i 6∈ A(x∗) và µ∗j = αj∗− βj∗ với mọi j thì ta được (2.10)

và (2.11)

Giả sử (P ) là một quy hoạch lồi, tức là gi là các hàm lồi và hj là các hàmaffine với mọi i, j Ta sẽ chứng minh hai điều kiện (2.10), và (2.11) là điềukiện đủ để x∗ ∈ D là nghiệm tối ưu của bài toán (P ) Thật vậy, nếu x∗

không phải là nghiệm tối ưu, thì sẽ tồn tại x ∈ D sao cho f (x) < f (x∗).Đặt d := x − x∗ 6= 0 Khi đó

h∇hj(x∗), di = 0 (2.14)Suy ra

µ∗jh∇hj(x∗), di = 0, j = 1, , p

Kết hợp (2.12), (2.13) và (2.14), ta được

h∇f (x∗), di +

m X i=1

λ∗ih∇gi(x∗), di +

k X j=1

µ∗jh∇hj(x∗), di < 0

điều này mâu thuẫn với (2.10) Vậy x∗ là nghiệm tối ưu của bài toán

(P )

2.2 Phương pháp hàm phạt

Thông thường, bài toán tối ưu không ràng buộc dễ giải hơn bài toán tối

ưu có ràng buộc Phương pháp hàm phạt dùng để biến đổi một bài toán

có ràng buộc thành một dãy các bài toán có ràng buộc đơn giản hoặc bàitoán không ràng buộc bằng một hàm phạt

Xét bài toán

2.2.1 Hàm phạt điểm ngoài

Xét bài toán (P ),với phương pháp hàm phạt điểm ngoài, hàm phạt p

được cho trước, liên tục trên tập X chứa D và thỏa mãn điều kiện

(max{0, gj(x)})2, (2.15)hoặc

p(x) :=

m X j=1

{tk} đơn điệu tăng đến +∞ nên

f (u∗) + tkp(u∗) ≥ f∗ khi k đủ lớn (2.20)Lấy giới hạn (2.19), ta được

f (u∗) + lim tkp(u∗) ≤ f∗

Mâu thuẫn với (2.20) vậy u∗ ∈ D Và f (u∗) = f∗ vì theo tính chất xácđịnh hàm p và theo (2.19) ta có

f (xk) < f∗

Do f liên tục nên qua giới hạn ta được f (u∗) < f∗ Theo chứng minh trên,

u∗ ∈ D nên f (u∗) = f∗ Suy ra f (xk) hội tụ tăng dầnf∗ và u∗ là nghiệmcủa bài toán (P )

Ví dụ 2.3 Giải bài toán

(

x1 = x2

x1 = 2+4t4t (2.21)

Trong (2.21), cho t → +∞ ta được x1 = x2 = 1

Vậy nghiệm tối ưu của bài toán là (1, 1)

Ta luôn giả thiết rằng bài toán(P ) có nghiệm và ký hiệu giá trị tối ưu của

(P ) là f∗ Phương pháp hàm phạt điểm ngoài lấy xấp xỉ từ bên ngoài cònphương pháp này lấy xấp xỉ từ bên trong Phương pháp hàm phạt điểmtrong được sử dụng khi chúng ta có thể tìm một điểm x0 ∈ D0, trong đó

D0 := {x : gj(x) < 0, j = 1, , m}

Hàm phạt p : D0 → IR được xây dựng như sau:

(a) p liên tục trên D0;

(b) Với dãy bất kỳ {xk} ⊂ D0 hội tụ đến x 6∈ D0, ta có

lim inf p(xk) = +∞

Ví dụ ta có thể định nghĩa

p(x) := −

m X j=1

hoặc

p(x) :=

m X j=1

1

Rõ ràng p xác định trên D0, nếu các hàm gj lồi, thì p lồi chặt

Với mỗi t > 0 cố định, ta định nghĩa bài toán phạt:

min{Ft(x) := f (x) + tp(x) : x ∈ D0} (Bt)

Định lý 2.6 Giả sử bài toán (P) có nghiệm Cho dãy số dương tk đơnđiệu giảm đến 0 và xk là nghiệm của bài toán (Btk) Khi đó:

1 p(xk) ≤ p(xk+1),

2 f (xk) hội tụ giảm đến f∗ và mọi điểm tụ của dãy {xk} là nghiệm tối

ưu của bài toán gốc (P)

Chứng minh Do xk là nghiệm tối ưu của bài toán (Btk) với mọi k, ta có

f (xk) + tkp(xk) ≤ f (xk+1) + tkp(xk+1),

f (xk+1) + tk+1p(xk+1) ≤ f (xk) + tk+1p(xk) (2.24)Cộng hai bất đẳng thức trên và giản ước, ta được

Trường hợp 1 Bài toán (P) có một nghiệm x∗ ∈ D0 Do xk là nghiệm tối

ưu của bài toán B(tk), ta có

f (xk) + tkp(xk) ≤ f (x∗) + tkp(x∗) (2.25)

Cho u∗ là điểm tụ của dãy{xk} Để đơn giản ta giả sử rằng xk → u∗ Nếu

u∗ ∈ D0 thì lấy giới hạn (2.25), ta có

f (u∗) ≤ f (x∗)

Vậy u∗ là nghiệm tối ưu của bài toán (P) Do tính đơn điệu của dãy

{f (xk)}, ta suy ra toàn bộ dãy {f (xk)} hội tụ đến f∗

Nếu u∗ 6∈ D0, do xk → u∗, theo cách xây dựng hàm p, có một chỉ số K1

sao cho tkp(xk) ≥ 0 với mọi k ≥ K1 Khi đó từ (2.25) suy ra