Một số vấn đề về quy hoạch tuyến tính và ứng dụng

Để tìm hiểu vấn đề này một cách hệthống, trong luận văn này chúng tôi tìm hiểu về các bài toán tối ưu phi tuyến, về điều kiệntồn tại nghiệm cũng như một số ứng dụng thực tế của chúng.. L

BỘ GIÁO DỤC VÀ ĐÀO TẠO

TRƯỜNG ĐẠI HỌC QUY NHƠN

BỘ GIÁO DỤC VÀ ĐÀO TẠO

TRƯỜNG ĐẠI HỌC QUY NHƠN

LUẬN VĂN THẠC SĨ TOÁN HỌC

Người hướng dẫn: TS NGUYỄN HỮU TRỌN

Lời cam đoan

Tôi xin cam đoan nội dung trình bày trong luận văn này là trung thực và không trùngkhớp với đề tài khác Tôi cũng xin cam đoan rằng các kết quả trong luận văn, tài liệu thamkhảo và nội dung trích dẫn đảm bảo tính trung thực, chính xác

Quy Nhơn, tháng 7 năm 2020

BỘ GIÁO DỤC VÀ ĐÀO TẠO

TRƯỜNG ĐẠI HỌC QUY NHƠN

Họ c viên

Lê Tính

Lời cảm ơn

Luận văn này được hoàn thành dưới sự hướng dẫn tận tình của thầy Nguyễn Hữu Trọn.Tôi xin bày tỏ lòng biết ơn sâu sắc đến thầy, người đã giúp đỡ và chỉ bảo tôi một cách tậntình trong suốt quá trình thực hiện luận văn Xin cảm ơn các thầy cô trong khoa Toán vàThống kê - Đại học Quy Nhơn đã ân cần dạy tôi trong suốt quá trình học tập tại đây

Đặc biệt tôi xin gửi lời cảm ơn chân thành và biết ơn vô tận đối gia đình tôi, nhữngngười đã luôn sát cánh và tạo động lực để tôi hoàn thành luận văn này

Cuối cùng, vì kiến thức bản thân còn hạn chế nên dù rất cố gắng nhưng chắc chắn luậnvăn còn nhiều thiếu sót Kính mong quý thầy cô cùng các bạn đồng nghiệp đóng góp ý kiến

để luận văn có thể hoàn chỉnh hơn

Quy Nhơn, tháng 7 năm 2020

Học viên

Lê Tính

Mục lục

Lời cam đoan

Lời cảm ơn

Lời nói đầu 1

1 Kiến thức chuẩn bị 3 1.1 Tập lồi, hàm lồi 3

1.2 Ma trận 5

1.2.1 Giá trị riêng, véc tơ riêng của ma trận 5

1.2.2 Ma trận khả nghịch 5

1.2.3 Ma trận đường chéo 6

1.2.4 Ma trận đối xứng 6

1.2.5 Ma trận xác định dương 6

2 Quy hoạch phi tuyến 8 2.1 Giới thiệu 8

2.2 Điều kiện tối ưu 10

2.2.1 Điều kiện tối ưu cấp 1 10

2.2.2 Điều kiện cấp 2 21

2.3 Điểm yên ngựa và tính chất 27

2.4 Đối ngẫu trong Quy hoạch phi tuyến 32

3 Lý thuyết đối ngẫu trong quy hoạch lồi 35 3.1 Đối ngẫu mạnh trong Quy hoạch lồi 36

3.2 Một số ví dụ về các bài toán đối ngẫu 41

3.2.1 Quy hoạch tuyến tính 41

3.2.2 Quy hoạch toàn phương 42

3.2.3 Một bài toán minimax 44

4 Một số ứng dụng 46 4.1 Phân tích phổ của một ma trận đối xứng 46

4.2 Bất đẳng thức Kantorovich 48

4.3 Bất đẳng thức Hadamard 50

4.4 Bất đẳng thức Hilbert 52

4.5 Các bài toán biến phân trong phương pháp tựa Newton 56

Một số kí hiệu

* *

• R : Tập số thực

• R: Tập số thực mở rộng (R u{—8, '8} hay R ụ 8q

• rx1 , x2s: Đoạn nối hai điểm x1 và x2

• intA: Phần trong của tập A

• domf : Miền xác định hữu hiệu của f

• epif : Epigraph của f

• Bf : Dưới vi phân của f

• Ơ A : Hàm giá của tập A

• B X (x, rq : Hình cầu trong X có tâm x và bán kính r

Lời nói đầu

Bài toán tối ưu là vấn đề rất thường gặp, từ trong thực tế cuộc sống đến nhiều lĩnh vựckhoa học quan trọng Các vấn đề về tối ưu đã thu hút rất nhiều nhà khoa học từ những nămtrước thế kỷ 19 Cho đến hiện tại thì đây vẫn là một đề tài đa dạng và nhận được sự quantâm của rất nhiều người

Trong thực tế bài toán tối ưu đóng một vai trò rất quan trọng trong cuộc sống cũng nhưcác lĩnh vực khoa học khác nhau như bài toán tìm đường đi ngắn nhất, bài toán về chi phí tốithiểu, lợi nhuận lớn nhất, Nhiều bài toán tối ưu hay vấn đề trong thực tế cuộc sống haytrong các lĩnh vực khoa học khác nhau nói chung là các bài toán phi tuyến tức là hàm mụctiêu hay miền ràng buộc là các đối tượng phi tuyến Để tìm hiểu vấn đề này một cách hệthống, trong luận văn này chúng tôi tìm hiểu về các bài toán tối ưu phi tuyến, về điều kiệntồn tại nghiệm cũng như một số ứng dụng thực tế của chúng

Luận văn tập trung nghiên cứu bài toán tối ưu phi tuyến (Quy hoạch phi tuyến) tức làcác bài toán tối ưu với hàm mục tiêu hay ràng buộc phi tuyến như về điều kiện tồn tạinghiệm, lý thuyết đối ngẫu, cũng như một số ứng dụng thực tế của chúng Ngoài mục lục,danh mục các ký hiệu, phần mở đầu và phần kết luận, nội dung của luận văn được chúng tôitrình bày trong 4 chương

Chuơng 1 Trong chương này, chúng tôi trình bày một số kiến thức cơ sở để chuẩn bị

cho các chương sau của luận văn

Chương 2 Nội dung chính của chương này là giới thiệu bài toán quy hoạch phi tuyến

và trình bày các điều kiện tồn tại nghiệm (cấp 1, cấp 2) của nó

Chương 3 Lý thuyết đối ngẫu trong quy hoạch lồi : Trình bày một cách hệ thống lý

thuyết đối ngẫu trong bài toán quy hoạch lồi

Chương 4 Trình bày các ứng dụng của bài toán tối ưu trong quy hoạch lồi và giải các

bất đẳng thức

Dưới sự hướng dẫn của thầy Nguyễn Hữu Trọn, tôi chọn đề tài luận văn: "Một số vấn

đề về quy hoạch tuyến tính và ứng dụng" Luận văn này được hoàn thành dưới sự hướng

Chương 1

Kiến thức chuẩn bị

Chương này dành cho việc trình bày các kiến thức cơ sở cần thiết phục vụ cho cácchương sau liên quan đến bài toán quy hoạch phi tuyến như tập lồi, hàm lồi, lý thuyết về matrận và nội dung này được tham khảo trong giáo trình [2]

1.1 Tập lồi, hàm lồi

Cho X là không gian tôpô và hàm f : X R Y {'8} Kí hiệu

domf “ {x P X If pxq ă '8} , epif “ {(x,a) P X X R If Pxq < a } Với mỗi a P R, kí hiệu tập mức dưới của f là

i Ta nói f là một hàm lồi nếu với mỗi x, x1 P X và t P p0, 1q thì

ii Hàm f gọi là lồi ngặt nếu (1.1) là bất đẳng thức ngặt với mỗi x / x P X và t P p0,iq iii Hàm f được gọi là lồi mạnh với hệ số p > 0 nếu f (•) — 1 dlHI2 là hàm lồi.

Nhận xét 1.1 Hàm lồi f : X —» R Y {'8} có thể mở rộng thành một hàm lồi trên toàn

hàm lồi xác định trên Rn

Mệnh đề 1.1 Cho f : R” —» R Y {'8} là một hàm chính thường Khi đó, các phát biểu sau

là tương đương:

(a) f là lồi trên Rn ;

(b) epif = {(x,ụ) P R” X R | d > f (x)} là một tập lồi trên R” X R;

Khi đó, ỏ c lồi khi và chỉ khi C lồi.

(b) Cho C Ă Rn , C / 0 Hàm khoảng cách d c : R” —» R xác định bởi

d c (x) = inf||x — z\\, x P R”

C z PC

là hàm vừa lồi vừa lõm.

1.2.1 Giá trị riêng, véc tơ riêng của ma trận

Định nghĩa 1.4 Cho một ma trận vuông A P K nxn Một ma trận x P K nx1 px / oq được gọi là véc

tơ riêng của A nếu tồn tại X P K để Ax = Xx Khi đó X được gọi là một giá trị riêng của A.

Định lý 1.2 Với A P K nxn , X là giá trị riêng của A khi và chỉ khi |A — XI| = 0.

Ta nhắc lại một số lớp ma trận quan trọng sẽ được sử dụng trong luận văn này

1.2.2 Ma trận khả nghịch

Định nghĩa 1.5 Một ma trận vuông A P K nxn được gọi là khả nghịch nếu tồn tại một ma trận

cơ sở chuẩn tắc thứ j.

1.2.4 Ma trận đối xứng

Định nghĩa 1.7 Ma trận đối xứng là ma trận vuông, trong đó hai phần tử đối xứng qua

đường chéo chính thì bằng nhau, nghĩa là aij “ a ji với mọi i, j “ 1, 2, , n.

Khi đó,

Mọi ma trận chéo đều đối xứng vì mọi phần tử không nằm trên đường chéo chính đều có

giá trị 0.

1.2.5 Ma trận xác định dương

Định nghĩa 1.8 Một ma trận A P Rnxn xác định dương khi và chỉ khi XAx,x) “ x T Ax > 0, @x /

0.

Thay cho phát biểu bằng lời "A là ma trận xác định dương ", ta viết gọn A > 0 Tương

tự, ta định nghĩa cho ma trận nửa xác định dương

Định nghĩa 1.9 Một ma trận A P Rnxn nửa xác định dương khi và chỉ khi XAx,x) “ x T Ax 0,

@x.

Đôi khi người ta còn dùng ký hiệu A ỷ 0 để diễn đạt gọn sự kiện A là ma trận nửa xác

định dương

4 -111

Chương 2

Quy hoạch phi tuyến

Trong chương này chúng tôi sẽ tìm hiểu về bài toán quy hoạch phi tuyến, trình bày cácđiều kiện tồn tại nghiệm của nó như các điều kiện cần và đủ cấp 1, cấp 2 Đồng thời cho một

số ví dụ minh họa cho các kết quả đã trình bày Chúng tôi tham khảo một số tài liệu về chủ

đề này như [1]-[5], nội dung chính chủ yếu được tham khảo từ tài liệu [2]

trong đó f, tg i u r1 và th j u1m là các hàm mang giá trị thực và xác định trên Rn

Hàm f được gọi là hàm mục tiêu của pPq, g ipxq , hjpxq là các hàm ràng buộc.

Miền khả thi (tập ràng buộc) của pPq là tập gồm tất cả các điểm thỏa mãn

Fppq “ tx P R” : g i (x) < 0, i “ 1, h j (x) “ 0,j “ 1, ,mU.

Định nghĩa 2.1 Một điểm x* P F ppq được gọi là một cực tiểu địa phương của ppq nếu tồn

tại £ > 0 sao cho

f px*q< f pxq, @x P F pp)X B px*q.

Hơn nữa, điểm x* gọi là một cực tiểu toàn cục của ppq nếu

f px*q< f (x), @x P F pp q.

Cực đại địa phương và cực đại toàn cục được định nghĩa tương tự bằng cách đổi chiềucủa các bất đẳng thức ràng buộc

Tính chất hình học của tập khả thi F pPq quanh 1 điểm cực tiểu địa phương x* P F ppq

minh họa các điều kiện tối ưu mà x* phải thỏa mãn Chẳng hạn, nếu g i Px*q ă 0 thì hàm ràng

buộc g i sẽ không có vai trò trong việc xác định điểm x* là điểm cực tiểu địa phương hay

không

Nếu x P FpPq , takíhiệu I pxq “ ti : g i pxq “ 0ulàtập các chỉsố hoạt Nếu i R Ipxq, khi đó

g i được gọi là điều kiện dừng của pPq tại x.

Trong mục này, ta sẽ thiết lập các điều kiện cần và đủ để điểm khả thi x* là cực tiểu địa phương của pPq.

Trước tiên ta định nghĩa một vài khái niệm liên quan

Định nghĩa 2.2 Một véc tơ d P Rn gọi là hướng tiếp xúc của một tập khác rỗng M C Rn tại

a n px n — xq “ d Khi đó, ta cũng gọi d là hướng tiếp xúc của tx n u.

Định nghĩa 2.3 Cho x* là một điểm khả thi của ppq Một hướng tiếp xúc của F ppq tại x*

được gọi là một hướng khả thi của ppq tại x* Ta kí hiệu tập các hướng khả thi của ppq tại

x* là FD Px*q.

iq Một véc tơ d P Rn là hướng giảm cho f tại x* nếu D tx n U P Rn : x n x* sao cho f px n q < f (x*),

@n.

iiq Nếu f (x n ) ă f Px*q @n, ta gọi d là một hướng giảm ngặt của f tại x * Ta kí hiệu SD Pf; x * q

Ta có bổ đề đơn giản sau:

Bổ đề 2.1 Nếu x* P F ppq là cực tiểu địa phương của ppq thì

FD (x*) X SD (f; x * q = 0

Chứng minh Giả sử FD (x * q X SD Pf;x *) / 0 Khi đó tồn tại dãy các điểm khả thi x n —» x* sao

cho f (x n q ă f Px*q @n Rõ ràng, điều này mâu thuẫn với giả thiết x* là cực tiểu địa phương

2.2 Điều kiện tối ưu

2.2.1 Điều kiện tối ưu cấp 1

Điều kiện Fritz John (FJ) là điều kiện cần cấp 1 để tìm cực tiểu địa phương trong bài

toán tối ưu phi tuyến pPq khi các hàm f,g i , h j khả vi liên tục trên các lân cận mở của FpPq.

này sẽ được giải quyết bằng các điều kiện dưới đây

a Điều kiện cần cấp 1.

Định lý 2.1 (Điều kiện Fritz John) Nếu x* là một điểm cực tiểu địa phương của pp) thì tồn

Khi đó, đặt A := (Ao , , A r ) = 0 Ta thấy định lý đúng với các nhân tử (A, ụ) / 0.

Bây giờ giả sử {Vh ị (x*)}j“ 1 là độc lập tuyến tính Ta sẽ chứng minh

{d : XVf (x*) , dy ă 0, XVg i (x*) ,dy ă 0, i P I (x*) ,

Giả sử (2.3) sai, ta chọn d P Rn : \\d\\ = 1 Vì {Vh ị (x*)um là độc lập tuyến tính nên theo Định

lý Lyusternik ([2], Định lý 2.29 hay 3.23 ) tồn tại dãy x n x* có hướng tiếp xúc d và thỏa mãn

Vì xVf (x| ) , dy ă 0 nên ta được f (x n ) ă f (x| ) với n đủ lớn.

Tương tự cách lập luận trên nếu g i là một hàm ràng buộc hoạt tại x| thì g i (x n ) ă g i (x|) = 0

với n đủ lớn Khi đó, ta có thể kết luận tx n}1 8 là một dãy nghiệm khả thi cho (P) sao cho f (x n)

ă f (x| ) với n đủ lớn Điều này mâu thuẫn với giả thiết x| là điểm cực tiểu địa phương của (P)

Nếu X0> 0, không mất tính tổng quát ta có thể chọn X0= 1 và hàm thu được

rm

L px; X; ^q = f (x) + 22 X i g i (x) + 22 V j h j (x) X i > 0,i =

được gọi là hàm Lagrange.

Từ định nghĩa trên, ta thấy rằng đẳng thức p 2 2q trong điều kiện FJ có thể được viết lại

phi tuyến suy biến mà trong đó X0 = 0 Đây là một tình huống xấu vì hàm mục tiêu không

liên quan trong các điều kiện cần tối ưu cấp 1 Các giả thiết thêm vào trên pPq phải cần thêm vào để loại trừ khả năng này Giả thiết như thế đảm bảo X0 > 0 (thực ra ta có thể chọn X0 = 1)

được gọi là "điều kiện chuẩn hóa ràng buộc" và ta gọi đó là điều kiện KKT

Hệ quả 2.1 Nếu hệ các véc tơ:

t\gi (x*) ,i PI(x*),\h (x*) ,j = i, ,mU là độc lập tuyến tính thì X0 > 0 và ta có

Chú ý 2.2 Ngoài ra, ta còn có thể chứng minh Định lý Fritz John bằng phương pháp hàm

phạt và nguyên lý biến phân Ekeland (xem r2s).

b Điều kiện đủ cấp 1

Trong phần này, ta sẽ đưa ra một điều kiện đủ để tìm cực tiểu địa phương cho bài toán

tối ưu phi tuyến, điều kiện tối ưu này sẽ đúng ngay trong cả trường hợp suy biến X0 “ 0

Định lý 2.3 Cho x* là một nghiệm khả thi của (P) thỏa mãn các điều kiện FJ (2.1) và (2.2),

trong đó ta viết (2.1) dưới dạng

XoVf (x*) ' 2 X i Vg i(x^)' 2 H ị Vh j (x*) = 0.

Nếu các véc tơ

XoVf (x*), {X i Vg i (x*')U i p i p x * q , {Vh j xc

nghiệm khả thi x k —» x* thỏa mãn f (x k ) ă f (x*) Đặt x k “ x* ' t k d k với t k > 0, }d k} “ 1 Ta có

0 > f (x* ' t kdk) — f (x*) “ t kXVf (x*~),dk y ' o(t k ),

0 > g i (x* ' t k d k ) “ t k XVg i (x*),d k y ' o(t k ), i P I(x*),

0 “ h j (x* ' t k d k ) “ t k XVh j (x*'),d k y ' o(t k ), j “ 1, m.

Vì }d k } “ 1, ta chọn {d k u : d k —> d, \\d\\ “ 1 Chia các vế của các phương trình và bất phương

trình trên cho t k và cho t k —» 0, ta được XVf Px * q, d < 0, XVg i Px * q, ddy < 0, XVhjPx * q,dy “

0 Từ đó vì

m

X\oVfpx*q,d)' 2 \ iXVgi px*q ,d>' 2V j xvhj px*q ,dy = 0,

nên /\0Vf Px*q, dy “ 0, xwg' í Px*q, dy “ 0 và XVh j Px*q, dy “ 0 Vì d trực giao với mọi véc tơ

trong Rn nên suy ra d “ 0 Điều này mâu thuẫn với giả thiết } d} “ 1.

Dó đó x* là cực tiểu địa phương của ppq.

Điều kiện chuẩn hóa ràng buộc

Từ những vấn đề trên, ta nhận thấy điều quan trọng ở đây là xét trường hợp \0 “ 0 hay \0

nhận giá trị dương trong các điều kiện FJ cho các điều kiện tối ưu Nếu \0 “ 0 thì f pxq sẽ không có vai trò trong việc tìm cực tiểu địa phương, điều này mâu thuẫn vì ta mong muốn f

sẽ đạt được giá trị tối ưu, đây là một trường hợp đặc biệt xuất hiện trong các định lý FJ

Ví dụ dưới đây chỉ ra một trường hợp khi \0 “ 0 thì bài toán ối ưu hóa lại không có

nghiệm Ta xét bài toán sau:

Dễ thấy p1; 0q chính là điểm cực tiểu toàn cục của bài toán.

Do đó, điều kiện FJ sẽ đúng tại p1; 0q Tuy nhiên ta lại có

A0Vf (1; 0) ' AiVgi(1; 0) ' A3Vg3 (1; 0) “ (—A0, Al — A3q “ (0; 0).

Từ bài toán trên ta nhận thấy việc xác định thêm các điều kiện bù là rất hữu ích cho hàm

mục tiêu f và đặc biệt là các hàm ràng buộc g i , h i với A0 > 0 để điều kiện KKT được thỏa mãn

Định lý 2.4 Cho x0 là điểm thỏa mãn định lý FJ của bài toán (P ) Các điều kiện KKT

Nhận xét 2.5 Ta nhận thấy sự khác biệt giữa các điều kiện FJ và KKT là rất nhỏ Trong

điều kiện FJ, tại một cực tiểu địa phương x* ta phải có

{d : XVf (x*) , dy ă 0U X td : XVg i (x*) ,dy < 0, i P I (x*)u

X td : XVh j ,dy “ 0, j “ 1, m} “ H,

trong khi đó điều kiện KKT cần đòi hỏi các điều kiện mạnh hơn ở các bất đẳng thức XV g i

(x*), dy ă 0 cho các ràng buộc hoạt g i (x), thay bởi các ràng buộc yếu bất đẳng thức XVg i

(x*), dy < 0.

Hệ quả 2.2 (Hàm lõm và các ràng buộc tuyến tính) Cho x* là một cực tiểu địa phương của (P) Các điều kiện KKT đúng tạix* nếu các ràng buộc hoạt tg i U iPl p x * q là hàm lõm trong lân cận lồi của x* và các ràng buộc đẳng thức {h j u m là hàm affine trên

Khi đó, ta có thể chọn được x (t) = x* ' td, @t > 0 đủ nhỏ sao cho

g i (x*' td) < g i (x*)' t<vg i (x*) ,dy < 0.

Tương tự vì h j là một hàm affine nên

hj (x*' td) = hj (x*)' xvh j Px*q, dy = 0.

Vì (x*) là cực tiểu địa phương của (P) nên ta có f'(x; d) = xvf (x*),dy 0 và (2.8) đúng Khi đó,

Tiếp theo, ta chứng minh điều kiện chuẩn hóa ràng buộc Mangasrian-Fromovitz

Định lý 2.6 ( Mangasarian - Fromovitz) Cho x* là một điểm thỏa mãn điều kiện FJ trong (1) Nếu các gradient {vh j í.r"ỈỊ,| í của các ràng buộc đẳng thức là độc lập tuyến tính và tồn tại một hướng d thỏa