Bài tiểu luận tối ưu phi tuyến nhóm 4

TRƯỜNG ĐẠI HỌC SƯ PHẠM TP.HCM KHOA TOÁN  TIỂU LUẬN MÔN TỐI ƯU PHI TUYẾN ĐỀ TÀI:TÍNH KHẢ VI CỦA HÀM LỒI... MỤC LỤC PHẦN I: MỘT SỐ KHÁI NIỆM CƠ BẢN I.. LÝ THUYẾT QUI HOẠCH TỐI ƢU 1

TRƯỜNG ĐẠI HỌC SƯ PHẠM TP.HCM

KHOA TOÁN



TIỂU LUẬN MÔN TỐI ƯU PHI TUYẾN

ĐỀ TÀI:TÍNH KHẢ VI CỦA HÀM LỒI

MỤC LỤC

PHẦN I: MỘT SỐ KHÁI NIỆM CƠ BẢN

I LÝ THUYẾT QUI HOẠCH TỐI ƢU

1) Bài toán tối ưu tổng quát

2) Phân loại bài toán quy hoạch

3) Một số phương pháp chung để giải bài toán quy hoạch

II HÀM KHẢ VI VÀ MỘT SỐ ĐỊNH LÝ LIÊN QUAN

1) Hàm khả vi

2) Đạo hàm riêng và độ dốc của hàm số

3) Hàm vectơ khả vi

4) Đạo hàm riêng và Jacobian của một hàm vectơ

5) Định lý quy tắc dây chuyền

6) Hàm số khả vi cấp 2 và Hessian của nó

7) Định lý giá trị trung bình – Định lý Taylor – Định lý hàm ẩn

III TẬP LỒI – HÀM LỒI – MỘT SỐ TÍNH CHẤT CỦA HÀM LỒI

1) Tập lồi

2) Hàm lồi - Hàm lồi nghiêm ngặt

3) Hàm lõm - Hàm lõm nghiêm ngặt

4) Một số tính chất của hàm lồi

4.1)Tính chất cơ bản của hàm lồi

4.1) Tính chất liên tục của hàm lồi

4.2) Đạo hàm theo hướng của hàm lồi

PHẦN II: TÍNH KHẢ VI CỦA HÀM LỒI VÀ HÀM LÕM

CÁC ĐIỀU KIỆN TỐI ƢU FRITZ – JOHN VÀ KUHN – TUCKER

1) Nhắc lại một số bài toán tối ưu tổng quát

2) Các bài toán cực tiểu và bài toán điểm dừng Fritz John và Kuhn – Tucker

PHẦN I: CÁC KHÁI NIỆM CƠ BẢN

I Lý thuyết quy hoạch tối ƣu:

1) Bài toán tối ƣu tổng quát:

Bài toán tối ưu tổng quát có dạng: Max (/Min) f(x), với f :D n  (1)

Tìm xx x1, 2, ,x n D n sao cho f(x) đạt giá trị lớn nhất (/giá trị bé nhất)

u  u u u  D gọi là phương án tối ưu toàn cục

Khi đó, bài toán (2) được viết:

n n

n n

2) Phân loại bài toán quy hoạch:

Các bài toán tối ưu còn gọi là các bài toán quy hoạch toán học, được chia ra thành các lớp sau:

 Bài toán quy hoạch tuyến tính (BTQHTT)

 Bài toán tối ưu phi tuyến hay còn gọi là bài toán quy hoạch phi tuyến (BTQHPT) bao gồm: bài toán quy hoạch lồi (BTQHL) và bài toán quy hoạch toàn phương (BTQHTP)

 Bài toán tối ưu rời rạc, bài toán tối ưu nguyên và hỗn hợp nguyên

 Bài toán quy hoạch động

 Bài toán quy hoạch đa mục tiêu

 Bài toán quy hoạch ngẫu nhiên

3) Một số phương pháp chung để giải bài toán quy hoạch:

a) Phương pháp giải bài toán QHPT không ràng buộc:

 Phương pháp Đường dốc nhất

 Phương pháp Newton

 Phương pháp Hướng liên hợp

b) Phương pháp giải bài toán QHPT có ràng buộc:

 Hàm Lagrange

 Thiết lập điều kiện Kuhn- Tucker

Các phương pháp toán học giải các lớp bài toán tối ưu tổng quát trên được gọi là các phương pháp tối ưu toán học (hay các phương pháp quy hoạch toán học)

Trong phạm vi Tiểu luận này, ta chỉ tìm hiểu một số cơ sở lý thuyết của giải tích lồi, quy hoạch phi tuyến và các phương pháp giải một số dạng đặc biệt của BTQHPT

II Hàm khả vi và một số Định lý liên quan:

2) Đạo hàm riêng và độ dốc của hàm số:

Cho là một hàm số được xác định trên một tập mở n

R

  và x

  được gọi là có đạo hàm riêng tại x theo biến thứ i (hay biến x i) ,i 1, ,n





 Các vectơ n-chiều là đạo hàm riêng của  đối với x1, x n tại x được gọi là

độ dốc của hàm  tại x và kí hiệu là:   x Nghĩa là:

4) Đạo hàm riêng và Jacobian của một hàm vectơ:

Cho  là một hàm vectơ m-chiều xác định trên một tập mở n

R

  và x

 có đạo hàm riêng tại x theo các biến x1, x n nếu mỗi thành phần 1, , m của

 có đạo hàm riêng tại x theo các biến x1, x n (tương ứng)

x x

Ma trận   x được gọi là Jacobian của  tại x

5) Định lý qui tắc dây chuyền:

Cho f là một hàm vectơ m-chiều xác định trên một tập mở n

R

  và  là một hàm số xác định trên m

R Hàm số  xác định trên bởi  x   f x  là hàm khả vi tại x Nếu f khả vi tại x và  khả vi tại y f x  thì

 cấp n n được gọi là Hessian của  tại x và phần tử thứ ij

của nó được viết:   2  

2 ij

ii   có đạo hàm riêng liên tục tại x  khả vi cấp 2 tại x

iii <  2  liên tục tại x >  2    

   , i,j=1, ,n gọi là đạo hàm riêng cấp 2 của  tại x

Tương tự ta định nghĩa đạo hàm riêng cấp k của  tại x

 Cho  là một hàm số được xác định trên tập mở n n

,

, ,

n x

k

x y

x y

x x

1

, ,

,

, ,

n x

1

1

, ,

Nói cách khác tậpS  nlà tập lồi nếu mọi đoạn thẳng nối 1 2

,

x x S đều nằm trong S

Định nghĩa 2.1:(Định nghĩaHàm lồi)

Hàm  xác định trên tập   nđược gọi là hàm lồi tại *

Hàm  được gọi là hàm lồi trên   n nếu nó lồi với mọi x

Định nghĩa 2.2: (Định nghĩa hàm lồi nghiêm ngặt)

Hàm  là hàm lồi nghiêm ngặt trên  nếu 2  

1 2

2 8

x x

Mệnh đề 2:là hàm lồi trên tập lồi n

S  khi và chỉ khi epig là tập lồi trong n 1

3) Hàm lõm:

Định nghĩa 3.1: (Định nghĩa Hàm lõm)

Hàm  xác định trên tập   nđược gọi là hàm lõm tại *

x  nếu:

Hàm  được gọi là hàm lõm trên  nếu nó lõm với mọi x

Định nghĩa 3.2: (Định nghĩa hàm lõm nghiêm ngặt)

Hàm  là hàm lõm nghiêm ngặt trên  nếu 2  

2.1 Tính chất cơ bản của hàm lồi:

 Nếu f và g là hàm lồi (/hàm lồi nghiêm ngặt) trên   n thì f+g cũnglà

hàm lồi (/hàm lồi nghiêm ngặt) trên   n

 Nếu f là hàm lồi (/hàm lồi nghiêm ngặt) trên   n và   ,   0thì  f

cũng là hàm lồi (/hàm lồi nghiêm ngặt) trên   n

 Lưu ý: Nếu f là hàm lồi (/hàm lồi nghiêm ngặt) trên   nvà   ,   0thì không có kết luận về hàm .f

2.2 Tính chất liên tục của hàm lồi:

Định lí 1: Nếu Hàm số f :   n  là hàm lồi thì f là hàm liên tục trong int

2.3 Đạo hàm theo hướng của hàm lồi:

Định nghĩa 4: Cho tập khác rỗng n

S  và hàm số f S:  , khi đó đạo hàm của f tại xStheo hướng n

d được định nghĩa và kí hiệu bởi:

d sao cho: x.dSvới đủ nhỏ, luôn tồn tại

đạo hàm theo hướng:

PHẦN II: TÍNH KHẢ VI CỦA HÀM LỒI VÀ HÀM LÕM

Cho  là một hàm số xác định trên một tập mở   n và  khả vi tại x

 Nếu  là hàm lồi tại x thì  x   x     x xx ,  x

 Nếu  là hàm lõm tại x thì  x   x     x xx ,  x

Chứng minh:

Cho  là hàm lồi tại x

Nếu  là tập mở thì tồn tại một quả cầu mở B x tâm x chứa trong 

Lấy xvà xx , khi đó với một số  thỏa: 0< <1  và    / xx

Cho  là một hàm số khả vi trên tập lồi mở   n ,

là hàm lồi trên  nếu và chỉ nếu    2 1  1 2 1

 (Điều kiện cần) Tương tự phần chứng minh định lý 1.1 ở trên

 (Điều kiện đủ) Ta chứng minh cho trường hợp hàm lồi Trường hợp hàm lõm làm tương tự

Biểu diễn hình học của các kết quả trên như sau:

 Với sự khả vi của một hàm lồi  trên , các tuyến tính x     x xx tại x

không bao giờ vượt qua ước lượng  x , với bất kì x trong  (xem hình 6.1.1)

 Với sự khả vi của một hàm lõm  trên , các tuyến tính  x     x xx

tại x không bao giờ dưới ước lượng  x , với bất kì x trong  (xem hình 6.1.2)

Ta có: ¡ 3 là tập lồi mở, q là hàm sơ cấp nên q khả vi trên ¡ 3

Cho  là một hàm số khả vi trên tập lồi mở   n

Điều kiện cần và đủ để  là hàm lồi (/hàm lõm) trên  là:

Theo Định lý 1.2 ở trên,  là hàm lồi trên 

 Nếu là một hàm n biến trên   nvà     2 1 2 1

thì  là một hàm đơn điệu trên 

 Hàm số  trong các định lý trên là một hàm khả vi trên tập lồi mở   n

Hàm số là hàm lồi nếu và chỉ nếu   là đơn điệu trên 

2) Tính khả vi ngặt của hàm lồi và hàm lõm:

Tất cả các kết quả của các phần trước mở rộng trực tiếp tính nghiêm ngặt của hàm lồi và tính nghiêm ngặt của hàm lõm bằng cách thay đổi nghiệm của bất đẳng thức  và  thành nghiệm nghiêm ngặt > và <

Đặc biệt chúng ta có các kết quả sau:

Định lý 2.1

Cho  làm một hàm số xác định trên một tập mở   n và  là khả vi tại

x Nếu  là hàm lồi nghiêm ngặt tại xthì  x   x     x xx ,

Cho  là một hàm số khả vi trên một tập lồi mở   n

là tập lồi nghiêm ngặt trên  nếu và chỉ nếu:    2 1  1 2 1

Cho  là một hàm số khả vi trên một hàm lồi mở   n

Điều kiện cần và đủ để  là hàm lồi nghiêm ngặt (/lõm nghiêm ngặt) trên là:

Bây giờ, chúng ta chứng minh: nếu dấu bằng xảy ra trong (2.5) với một số x

trong  và x khác x thì mâu thuẩn xảy ra

Dấu bằng trong (2.5) xảy ra khi xx x, và xx Khi đó :

Bằng cách áp dụng định lý 1.1 một lần nữa để có 1  x xthuộc  và khác

x , ta có:

         với0    1 và 1  x x

Điều này mâu thuẫn với (2.7)

Với một số  nhỏ sao cho: 1  x x , vì  là tập mở nên dấu bằng

không thể xảy ra trong (2.5) cho bất kì x thuộc và x khác x

Vậy các định lý đã được thiết lập cho các hàm lồi

 Trường hợp hàm lõm chứng minh tương tự

       2 2    2    2

, 2

Cho  là một hàm số khả vi cấp 2 trên một hàm lồi mở   n,

 là hàm lồi trên  nếu và chỉ nếu 2  

với số  sao cho:0    1

Vế phải của phương trình trên là không âm (/không dương) vì 2  

x



 là nửa xác định dương (/âm) trên và 1  2 1

x   x x 

Do đó vế trái là không âm (/không dương)

Vậy theo định lý 1.2,  là hàm lồi (/lõm) trên 

Ví dụ: Khảo sát tính lồi của hàm số sau:

Do f là hàm sơ cấp nên f khả vi cấp 2 trên ¡ 2

Dùng định lí 3.2 để kiểm tra tính lồi của hàm số f, nghĩa là ta kiểm tra xem có hay không bất đẳng thức: 2   2

2 2 2

 là nửa xác định dương, nhưng chưa hẳn

là xác định dương, nghĩa là điều sau đây không nhất thiết đúng: 2  

Có thể nhận thấy điều trên từ phản ví dụ sau:

Điều kiện đủ nhưng không cần để  là hàm lõm ngặt trên T là 2  

x



 là xác định âm trên T, nghĩa là : với x T , 2  

2

6 2( , )

R \ {0}

PHẦN III:

CÁC ĐIỀU KIỆN TỐI ƯU FRITZ - JOHN VÀ KUHN - TUCKER

1) Nhắc lại một số bài toán tối ưu tổng quát:

Bài toán 1.1 (Bài toán cực tiểu - MP):

n n

X  là một tập lồi và  là hàm lồi trên 0

X thì Bài toán cực tiểu

MP được gọi là Bài toán quy hoạch lồi (BTQHL)

Bài toán 1.2: (Bài toán cực tiểu địa phương - LMP)

n n

u u u u X  được gọi là phương án tối ưu địa phương

Bài toán 1.3: (Bài toán điểm yên ngựa Fritz John - FJSP)

Tìm x X0, r 0 R, r Rm, (r 0,r)  0 (nếu có) sao cho:

Bài toán 1.4: (Bài toán điểm yên ngựa Kuhn -Tucker - KTSP)

Tìm x X0, u Rm, u 0 (nếu có) sao cho:

2) Các bài toán cực tiểu và bài toán điểm dừng Fritz John và Kuhn – Tucker:

Bài toán cực tiểu và cực tiểu địa phương được xét ở đây giống như các bài toán 1.1 và 1.2, chỉ thêm giả thiết khả vi

Các bài toán Fritz John và Kuhn – Tucker (bài 2.3 bài 2.4 bên dưới) được suy từ bài toán điểm yên ngựa của Fritz John và Kuhn – Tucker (bài 1.3 và 1.4) nếu thêm vào giả thiết khả vi Và ngược lại, các bài toán điểm yên ngựa (bài 1.3 và 1.4) của Fritz John và Kuhn – Tucker được suy ra từ các bài toán Fritz John và Kuhn – Tucker (bài 2.3 bài 2.4 bên dưới) nếu tính lồi được thêm vào giả thiết

( , , ) 0 ( , , ) 0 ( , , ) 0 ( , ) 0 ( , , ) ( ) ( )

x r r

0

( ) ( ) 0 ( ) 0 ( ) 0 ( , ) 0

x u u

x u

x u

u x u u

x u g x

g x

ug x u

( ) 0 ( ) 2 4 0

x

1 2

2 ( )

2

2 ( ) 2

0 0

x x

2) Các hàm Lagrange  ( , , );x r r0  ( , )x u được định nghĩa trên giống các hàm Lagrange được định nghĩa ở các bài toán 5.1.3 và 5.1.4