Phương pháp số giải bài toán quy hoạch toàn phương luận văn thạc sĩ toán học

Bộ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌCsư PHẠM HÀ NỘI 2 NGUYỄN THỊ HIỂN PHƯƠNG PHÁP SỐ GIẢI BÀI TOÁN QUY HOẠCH TOÀN PHƯƠNG Chuyên ngành: Toán Giải tích Mã số: 60 46 01 02 LUẬN VĂN THẠC Sĩ

Bộ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC

sư PHẠM HÀ NỘI 2

NGUYỄN THỊ HIỂN

PHƯƠNG PHÁP SỐ GIẢI BÀI TOÁN QUY HOẠCH TOÀN PHƯƠNG

Chuyên ngành: Toán Giải tích Mã số: 60 46 01 02

LUẬN VĂN THẠC Sĩ TOÁN HỌC

Người hướng dẫn khoa học: PGS TS Tạ Duy Phượng

HÀ NỘI, 2014

LỜI CẢM ƠN

Luận văn được hoàn thành tại trường Đại học Sư phạm

Hà Nội 2 dưới sự hướng dẫn của thầy giáo PGS.TS TạDuy Phượng Sự hướng dẫn giúp đỡ rất tận tình, nghiêmtúc của thầy trong suốt quá trình thực hiện luận văn này

đã giúp tác giả trưởng thành hơn rất nhiều trong cách tiếpcận một vấn đề mới Tác giả xin bày tỏ lòng biết ơn lòngkính trọng sâu sắc nhất đối với thầy

Tác giả xin trân trọng cảm ơn Ban giám hiệu trường Đạihọc Sư phạm Hà Nội

2, phòng Sau đại học, các thầy cô giáo trong nhà trường

và các thầy cô giáo dạy Cao học chuyên ngành Toán giảitích đã giúp đỡ, tạo điều kiện thuận lợi cho tác giả trongsuốt quá trình học tập

Tác giả xin cảm ơn Sở GD-ĐT tỉnh Vĩnh Phúc, Ban giámhiệu, các thầy cô đồng nghiệp Trường trung học phổthông Liên Bảo cùng gia đình, người thân, bạn bè đã giúp

đỡ, động viên và tạo điều kiện thuận lợi để tác giả hoànthành khóa học Thạc sĩ và hoàn thành luận văn này

Hà Nội, ngày tháng 02 năm2014

H ọc vi ên

Nguyễ

LỜI CAM ĐOAN

n Thị Hiển

Luận văn được hoàn thành tại trường Đại học Sư phạm

Hà Nội 2 dưới sự hướng dẫn của PGS.TS Tạ DuyPhượng

Tôi xin cam đoan luận văn là công trình nghiên cứu củariêng tôi

Trong quá trình nghiên cứu và hoàn thành luận văn tôi đã

kế thừa những thành quả khoa học của các nhà khoa học

và đồng nghiệp với sự trân trọng và biết ơn Tôi xin camđoan những thông tin trích dẫn trong luận văn đã đượcchỉ rõ nguồn gốc

Hà Nội, ngày tháng 02 năm 2014 Học viên

Nguyễn Thị Hiển

Muc luc • •

Lời nói đâu

Chương 1 Bài toán quy hoạch toàn phưomg 8

1.1 Bài toán tối ưu 8

1.2 Một số khái niệm cơ bản 9

1.3 Định lí tồn tại nghiệm của bài toán quy hoạch toàn phương 10

1.4 Các điều kiện cực trị 16

Chương 2 Một sổ phương pháp sổ giải bài toán quy hoạch toàn phương 21

2.1 Phương pháp hạn chế tích cực 21

2.2 Phương pháp hạn chế giả định 29

2.3 Phương pháp Gradient đối ngẫu 33

2.4 Phương pháp điểm trong 38

Kết luận 50

Tài liệu tham khảo 51

Cị ,b-ị Không gian các hàm số thực liên tục trên đoạn [a;b].

j} Không gian các hàm bình phương khả tích trên [a;b]

L( X, Y) Không gian các toán tử tuyến tính liên tục từ X vào Y.

MỞ ĐẦU

1 Lý do chọn đề tài

Trong những năm gần đây, các phương pháp tối ưu đã được áp dụng sâu rộng

và hiệu quả vào cách ngành kinh tế kỹ thuật, công nghệ thông tin và các ngànhkhoa học khác Nhờ các công cụ tính toán ngày càng hoàn thiện mà các công

trình nghiên cứu lý thuyết và thực hành của Tối ưu hóa ngày càng mở rộng vàphát triển.

Ngày nay, đối với các kỹ sư và các nhà nghiên cứu khoa học, kỹ thuật, kinh tế,công nghệ thông tin, sự hiểu biết về các phương pháp tối ưu cũng cần thiết nhưcác kiến thức cơ sở của Giải tích, Vật lý, Hóa học,

Bài toán quy hoạch toàn phương đã được nhiều người nghiên cứu, nhưng chođến nay nó vẫn là bài toán mang tính thời sự Với mong muốn tìm hiểu sâuhơn và nghiên cứu về phương pháp số giải bài toán quy hoạch toàn phươngnên tôi đã chọn đề tài:

“Phương pháp số giải bài toán quy hoạch toàn phương”

2 Mục đích nghiên cứu

Luận văn nghiên cứu một số phương pháp số giải bài toán quy hoạch toànphương, ứng dụng vào giải một số bài toán cụ thể

3 Nhiệm yụ nghiên cứu

Nghiên cứu một số phương pháp số Phân tích các ưu điểm, nhược điểm củatừng phương pháp Nêu các ứng dụng của các phương pháp vào giải một sốbài toán cụ thể

4 Đối tượng và phạm vi nghiên cứu

Phương pháp hạn chế tích cực

Phương pháp hạn chế giả định

Phương pháp Gradien đối ngẫu

Phương pháp điểm trong

5 Phương pháp nghiên cứu

Sử dụng các kiến thức và công cụ của Đại số tuyến tính, Giải tích, Giải tíchhàm, Lý thuyết tối ưu, Giải tích số và lập trình cho máy tính để tiếp cận và giảiquyết vấn đề

Sưu tầm nghiên cứu các tài liệu liên quan, đặc biệt là các bài báo mới về vấn

đề mà luận văn đề cập tới

Suy luận logic, phân tích, tổng hợp và hệ thống hóa các kiến thức về tối ưu

6 Dự kiến đóng góp mới

Đe tài nghiên cứu một cách có hệ thống một số phương pháp số giải bài toánquy hoạch toàn phương Nêu nên các ứng dụng của phương pháp điểm trongvào giải một số bài toán quy hoạch toàn phương

Chương 1 Bài toán quy hoạch toàn phương

1.1 Bài toán tối ưu

Tối ưu hóa là một lình vực toán học nghiên cứu lí thuyết và các thuật toán giảibài toán cực trị

Nhiều vấn đề thực tế khác nhau dẫn tới việc giải bài toán cực trị sau:

lìm cự tiểu của phiếm hàm

Bài toán (1) - (4) được gọi là bài toán quy hoạch toán học Hàm f(x) được gọi

là hàm mục tiêu, còn các hàm g.,h gọi là các hàm ràng buộc (các hạn

chế) Tậphợp các vectơ XG X cl" thỏa mãncácràngbuộc

(2),(3) gọi là

tập phương ánhay miền chấp nhận được (miền ràngbuộc) bài toán trên

Phương án X* thỏa mãn /(**) ^ f( x ) với mọi phương án chấp nhận X gọi

là phương án tối ưu hay lời giải của bài toán, /(**) được gọi là giá trị tối ưu.

Nếu hàm mục tiêu f(x) và các hàm ràng buộc g ; ( x ) đều là các hàm tuyến tính và X = M+ , ta có bài toán quy hoạch tuyển tính, ngược lại là các bài toán quy hoạch phi tuyển Nếu X là tập hợp rời rạc ta có bài toán quy hoạch rời rạc.

Trong các bài toán quy hoạch phi tuyến thì bài toán quy hoạch toàn phương đã

được nghiên cứu đầy đủ nhất Luận văn của tôi tập trung nghiên cứu: Bài toán quy hoạch toàn phương là bài toán với hàm mục tiêu là một dạng toàn

phương /(*) = —(.X, À*)+ (c,.x) + a, trong đó A là ma trận xác định dương,

trong đó các hàm f{x),gị (*),(ỉ = 1,/ra) đều là các hàm lồi và tập X là tập lồi.

Bài toán quy hoạch lồi cũng đã được nhiều nhà toán học nghiên cứu và đề racác thuật toán hữu hiệu Tuy nhiên đến nay vẫn còn rất nhiều vấn đề cần đượcnghiên cứu tiếp

1.2 Một sổ khái niệm cơ bản

1.2.1 Hàm toàn phưomg

Hàm / : R" —>■ R gọi là hàm toàn phương nếu có dạng

r y r trong đó D là một ma trận câp nxn, c là một vectơ n chiêu, a là một sô.

Nhận xét Vì

nên ta có thể giả thiết ma trận D là ma trận đối xứng {d t =dỴ

1.2.2 Bài toán quy hoạch toàn phương

Xét bài toán quy hoạch toàn phương:

(P) minỊ/(*):*€ A|,trong đó / là hàm toàn phương và tập hạn chế

A = Ị*: X € M", Ax

> là tập đa diện (polyhedral set).

Neu / lồi thì (P) được gọi là bài toán quy hoạch toàn phương lồi.

Định nghĩa

Ma trận D được gọi là xác định dương nếu v T Dv> 0,Vv^0.

Ma trận D được gọi là xác định không âm (nửa xác đinh dương) nếu vT Dv > 0.

Nhận xét Nếu D là ma trận đối xứng, nửa xác định, dương thì / là hàm lồi.

1.3 Định lí tồn tại nghiệm của bài toán quy hoạch toàn phưomg

Xét bài toán (P):

(,x,Z).x) + (c,.x) + a

" i=122X*7=1Ể*; + 2c i=l Ể*Ể+a,

Minimize/ (*) := —x T Dx + C T X, s.t xeK",Ax>Z7, trong đó D là ma trận đối xứng

(không nhất thiết là xác định dương)

Kí hiệu:

À = |jceM": Ax>b}, ỡ

=inf |/(jc): jceA|

Qui ước: Nếu À = 0 thì đặt 0 - + 00

Neu À ^ 0 thì có hai trường hợp xảy ra:

• 6 e R là một số thực ịd > -ao).

• 0 - -00 thì bài toán (P) không có nghiệm

Câu hỏi 1 Khi 0 ^ —00 thì tồn tại hay không một điểm X € À để hàm số đạt giá

trị cực tiểu, tức là tồn tại hay không một điểm Ĩ6 À sao cho f(x) = mia{f(x))l

Nhận xét Nếu / (x) không phải là hàm toàn phương và À không phải là tập

compact thì điểm tối ưu X e À có thể không tồn tại.

Ví dụ: = —, jteR+,jt>l

X

Ta thấy inf Ị/ (*): X > lj = 0 nhưng không tồn tại X để / (*) = 0.

Định lí 1.1 (Frank-Wolfe, 1956) Nếu 9 = inf {/(*): X € aỊ là hữu hạn thì bài toán (P) có nghiệm, tức là tằn tại ĨGÁ để f{x) = 0.

Chúng minh Xem, thí dụ, [1], trang 30-35.

Ý nghĩa Nếu / (*) bị chặn dưới trên tập A thì bài toán (P) có nghiệm

Nhận xét Nếu A không là tập đa diện lồi thì định lý trên có thể không đúng

Ví dụ /(^:) = JC 1 ,V JC = ( I 1> I 2 ) G R 2

Với A = Ịx = (A:1,A:2)eM2 \x ỉx2 >1,^! >0,x 2 >oj ta có:

0 =inf |/(jc): jceA| = 0

nhưng không tồn tại X = (.*!,JC2) sao cho / (X) = 0

Nhận xét Nếu / (x) không phải là hàm toàn phương, À là tập đa diện lồi thì

định lý trên có thể không đúng

Ví dụ f(x) = xị +(l-x ỉx2Y >0,A: = (^,A:2 ) r eM 2 Đặt A = |a: = (j[:1,J[:2)gM2 : x l

>0,.x2 >oỊ

Câu hỏi 2 Khi nào /(x)bị chặn dưới trên trên tập À?

Định lí 1.2 (Eaves, 1971) Bài toán (P) có nghiệm khỉ và chỉ khi ba điều kiện sau được thỏa mãn:

Do A( X +tv) = Ax +tAv>b,Vt > 0 nên X +tv &A,Vt >0.

Vi X là nghiệm nên /(i)>/(ĩ),VjceA Suy ra f(x+tv)>f(x),Vt>0 Do đó

mọi veR",JceR" mà Av>0,Ax>b.

Khi ấy vì JceA nên x + tv eA,Ví >0, suy ra f(x + tv)>/(x),Ví >0, hay

Điều kiện đủ Xem [1], trang 36 - 40.

Hệ quả 1.1 Giả sử D là ma trận đối xứng nửa xác định dương Khi đó (P) có nghiệm khi và chỉ khi А Ф 0 và nếu

v€R",.x:€R",Av>0,vrDv = 0,Ax:>Z>, thì (ZXt + c)rv>0

Chúng minh

Hiển nhiên, điều kiện 1 và điều kiện 3 của Định lí Eaves được thỏa mãn

Vì D là ma trận đối xứng nửa xác định dương nên x T Dx > 0, Vjc € R", hay v T Dv >

0,Vv € M" Do đó điều kiện 2 của Định, lí Eaves (Định lí 1.2) được thỏa mãn

Hệ quả 1.2 Giả sử D là ma trận đối xứng nửa xác định âm Khỉ đó (P) có nghiệm

khi và chỉ khi các điều kiện sau được thỏa mãn:

(i) A*0.

(ii) Nếu V € R", Av >0 , thì v T Dv = 0.

(iii) Nếu v€R",Av>0,.x:€R",Ax:>Z> thì (Dx + cỴ v> 0.

Chứng minh Do D là ma trận nửa xác định âm nên x T Dx < 0, Vjc € R", hay

vrDv<0,Vv€R"

Theo điều kiện 2 của Định lí Eaves (Định lí 1.2) thì từ V € R", Av > 0, suy ra

v T Dv > 0 Chứng tỏ v T Dv = 0.

Mặt khác, từ điều kiện Av > 0 suy ra v T Dv - 0 Do đó kết luận cuối cùng của Hệ

quả 1.2 được suy ra từ kết luận 3 của Định lí 1.2

Hệ quả 1.3 Giả sử D là ma trận đối xứng xác định dương Khi ấy (P) có nghiệm

(P2)

Chứng minh Do D là ma trận đối xứng nửa xác định âm nên điều kiện (ii),

(iii) của Hệ quả 1.2 được thỏa mãn khi và chỉ khi tập L := Ịv € M": Av > o| chứa một phần tử v = 0 Vì L là nón lùi xa của tập đa diện lồi À = Ịje e M":

Ax > &| nên điều kiện L = Ịo} tương đương với tính compact của A Do đó ta

khẳng định được Hệ quả 1.4 từ Hệ quả 1.2

Hệ quả 1.5 Giả sử D là ma trận đối xứng Khi ấy bài toán

Áp dụng Định lí 1.2 suy ra điều phải chứng minh

Hệ quả 1.6 Giả sử D là ma trận đối xứng Khi ấy bài toán

Định lí 1.3 Giả sử X là nghiệm của bài toán sau

đây: min Ị/ (*) = —x T Dx + C T X: X e Aị,,

trong đó D là ma trận đối xứng, À cz M" là đa diện lồi.

i) Neu X là nghiệm của bài toán (1.1) thì

(Dx + c,x-x}> 0,Vjt€ A.

ii) Nếu

(Dx + c,x - *) > 0, Vx € À \ ì*} , thì X là nghiệm địa phương của (1.1),

hơn nữa tồn tại £ > 0 và p > 0 sao cho /(x)-/(x)> p||x-x||,VA:eÀn5(^,í:).

Chứng minh

i) Nếu X là nghiệm địa phương của (p), thì tồn tại 8 > 0 sao cho

f(x)>f(x),Vxe AnB(x,s).

Ьаул:е А\{л:} Khi ấy do A là tập đa diện lồi nên tồn tại ổ >0 sao cho X +

Vậy (1.2) được chứng minh

ii) Xem [1] trang 46 - 47

Định lí 1.4 (Cottle, 1992) Neu X là nghiệm địa phương của (P) thì tồn tại Ẵ

= (Ả 1 , ,Ẳ n Ỵ eM m sao cho:

Dx - A T Ẳ + с = 0

Ả T (Ax-b) = Q Chúng minh Kí hiệu Aị là dòng thứ i của A, và tập ãị = AỊ, bị là thành phàn thứ i của vectơ b Kí hiệu tập А = Ịjc e M" : Ax >

Giả sử X là một nghiệm địa phuofng của (P) Theo Định lí 1.3 (i), ta có tính chất

(1.2)

Kí hiệu tập I = = ịie I :(ai,x) = bi} và /j = Ị ỉ' e I :[ai,x)>bi

Giả sử vel" thỏa mãn (ữ.,v) >0,Vỉ'e/0

Tưofng tự như chứng minh Định lí 1.3 (ii), tồn tại S ỉ > 0 sao cho

(aifx +tv) ầ.bị,Vi € / vàíe(0,5l).

Thay x = x+tv, trong đó t € (o,^), vào (1.2) ta được (Dx + c,v) > 0 Khỉ đó ta có

(-Dx -c,v )<0 với mỗi vel" thỏa mãn (-aỂ,v) <0,Vỉ € /0

Theo Định lí 1.3 tồn các số thực không âm Ẳị (ỉ € / 0 ) sao cho

Đặt Ẵị =0»Vî'g/j và Ắ

Do dị = Aj,Vi € / với, từ (*) ta thu được phương trình đầu tiên trong (1.5) Do

ĩeAvà Ẳ.(Ах -Ь.) = 0 với mỗi ỉ' € /, những điều kiện khác trong (1.5) cũng đượcthỏa mãn Định lí được chứng minh

Hệ quả 1.7 (Murty, 1972) Neu ĩeR" là nghiêm địa phương của bài toán min ị

1.3.2 Điều kiện cực trị cấp hai

Định lí 1.5 (Majthay 1971, Contese 1980 ) Điều kiện cần và đủ để ĩel" là nghiệm địa phương của bài toán (P2) là tồn tại một cặp vectơ

h = {ỉ': = b iÁ > 0},/2 = {i: = b iẪ = °}

thì v T Dv > 0

Chứng minh Xem [1] trang 50, 52-58.

Định lí 1.6 (Cottle, 1992) Điểm ĩeR" là nghiệm địa phương của bài toán (P2) nếu hai điều kiện sau được thỏa mãn: i)(V/(^),v} = (D^ +

Chứng minh Xem [1], trang 52.

Định lí 1.7 (Mangasarian 1980, Contesse 1980) Điểm X e R" là nghiệm địa

phương của bài toán (P2) khi và chỉ khi tồn tại e M m X R* sao cho

(i) Hệ (1.8) được thỏa mãn.

(ii) Nếu V € R" \ { 0 } sao cho Aj V = 0, Aj V > 0, Cv = 0, trong đó

I 1 = {i:Aix=bi,X i > 0 } I2={i:Aix=bi,Ẵ i= 0 } thì v T Dv > 0

Chứng minh Xem [1], trang 58 - 60

Định lí 1.8 Điểm ĩeK" là nghiệm địa phương duy nhất của bài toán (P2) khi và chỉ khi hai điều kiện sau đây được thỏa mãn:

i) (V/(^),v) = (flx+c)>0,Vve7,

A(^)>TRONG ĐỎ

TĂ(x) = {v e R": AIg >0,Cv = 0ị,ĩ0= ịi :A ix=bi}

ii) v T Dv > 0,Vv G rA(!x) n (v/(^))X,

trong đỏ

V/(Ĩ)1 = {VEK”:(V/(Ĩ),V) = OỊ

Chứng minh Xem [1], trang 60 - 61.

Định lí 1.9 Nếu ĩeR" là nghiệm địa phương duy nhất của bài toán (P2) thì tồn tại £ > 0 ,p >0 sao cho /(*)-/(*)>p||;t-Ã:|| 2 ,V.X€ Afì#(*",£) , trong đó

A = Ị* € R”: Ax > b, Cx =

Chúng minh Xem [1], trang 61 - 62.

Chương 2

Một số phương pháp số giải bài toán quy

hoạch toàn phương

Trong chương này chúng tôi trình bày bốn phương pháp số giải bài toán quihoạch toàn phương: Phương pháp hạn chế tích cực, Phương pháp hạn chế khôngtích cực, Phương pháp Gradient đối ngẫu theo tài liệu [2], Phương pháp điểmtrong theo tài liệu [4]

2.1 Phương pháp hạn chế tích cực

2.1.1 Bài toán quy hoạch toàn phương

Xét bài toán quy hoạch toàn phương (PQ)

min f(x) = —x^Dx + C T X,

ajx = bị, ÌG E,

Đe thuận tiện trong sử dụng, dưới đây chúng nhắc lại các tiêu chuẩn tối ưu đã nêutrong chương 1 áp dụng cho bài toán (PQ).

Điều kiện cực trịGiả sử X* là điểm chấp nhận được (thỏa mãn hạn chế) của

bài toán (PQ) Khi ấy X* là nghiệm của bài toán (PQ) khi và chỉ khi tồn tại Ả*

với / G/UÊ sao cho

= QxR,

DeR nx , AeM"”, m<n, jc.ceR", beR m

Định nghĩa Tập M được gọi là đa tạp affine nếu với mọi x l,x2 eM thì aXj + ßx2

e M với mọia,ß e M.

Ta có điều kiệncực trị sau cho bài toán (EP):

xeR" là nghiệm của bài toán (EP) khỉ và chỉ khỉ tồn tại X G R m sao cho

nxm, Q2 là ma trận cấp nx(n- m).

A T =Q

Trong công thức trên Q2 DQ2 là ma trận Hessian thu gọn và Dx° +c là gradient

thu gọn

Vì vậy nếu X là nghiệm của bài toán (EP) thì X = JC° + Q2Z.

Ta đi tính Ẳ như sau:

hay RẲ - QỊ (Dx + с), trong đó R là ma trận tam giác trên khả nghịch.

Giải hệ phương trình này từ dưới lên trên ta tìm được Ẳ.

Nhận xét Nếu ma trận D = QỊdQ 2 là xác định dương thì X là nghiệm duy nhất của

(EP), Z là nghiệm duy nhất của hệ phương trình (2.3).

mãn điều kiện tối ưu

khi và chỉ khi tồn tại

các Ẳị không đồng

nhất bằng 0 sao cho

Ds k +C k -

' Z

^ í k a i

« /

= 0 i e A

*

Nhận tìiấy nếu s k là

nghiệm tối ưu của bài

toán (EPk) khi và chỉ

Nếu tồn tại i <£

A k để af s k < 0

thì ta phải đi

theo hướng s k đểtìm điểm chấpnhận được Đặt

X —X +

C C Ị ^S .

b - a T x k Neu a k< 1 thì tồn tại p

sao cho a k = T k—• Khi

— ũ„x + ũ„s - 7

— — bn,

p p p

n T

v k p

u p a tức là hạn chế thứ p là

tích cực (active) và do

đó p được đưa vào

A k+1

Sau khi giải bài toán(EPk) ta nhận thấy:

Nếu s k = 0 là nghiệm

của bài toán (EPk) thì

x k là nghiệm của bàitoán (PQk)

Trong các tính toántiếp theo, nhân tử

Lagrange ,ie A k tương

ứng với x k Đe các vectơ x k \ầ Ảị thỏa mãn

điều kiện tối ưu củabài toán (PQ) thì ta

phải có Ảị > 0 với mọi

ỉ GI.

Nhận xét rằng Ảị = 0 với mọi i <£ A k n/ (do

af X-bị >0 và (af X — bị) = 0 theo điều kiện

tối ưu) Do đó chỉ cần kiểm tea xem A* > 0

với mọi i eA k ni hay

Bước 4 Giải bài toán

(EPk ) sau đó chuyển