Bài tiểu luận tối ưu phi tuyến nhóm 12

Tính khả vi của hàm lồi nghiêm ngặt và hàm lõm nghiêm ngặt .... Tính khả vi cấp hai của hàm lồi nghiêm ngặt và hàm lõm nghiêm ngặt ..... Trường hợp hàm lõm chứng minh tương tự... Tính kh

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM TP.HCM

KHOA TOÁN - TIN

BÀI THUYẾT TRÌNH TỐI ƯU PHI TUYẾN

ĐỀ TÀI:

TÍNH KHẢ VI CỦA HÀM LỒI VÀ HÀM LÕM

GIẢNG VIÊN : TS TRỊNH CÔNG DIỆU THỰC HIỆN : NHÓM 21 – VB2 TOÁN – KHÓA 2

THÀNH PHỐ HỒ CHÍ MINH THÁNG 01 NĂM 2015

MỤC LỤC

MỤC LỤC i

1 Kiến thức chuẩn bị 1

1.1 Tập lồi 1

1.2 Hàm số lồi, hàm số lõm: 1

1.3 Hàm số lồi nghiêm ngặt, lõm nghiêm ngặt 2

1.4 Hàm số khả vi và khả vi cấp hai 2

1.5 Định lý giá trị trung bình và Định lý Taylor 3

2.Tính khả vi của hàm lồi và hàm lõm 4

2.1 Định lý 2.1 4

2.2 Định lý 2.2 6

2.3 Định lý 2.3 8

3 Tính khả vi của hàm lồi nghiêm ngặt và hàm lõm nghiêm ngặt 9

3.1 Định lý 3.1 9

3.2 Định lý 3.2 10

3.3 Định lý 3.3 11

4 Tính khả vi cấp hai của hàm lồi và hàm lõm 12

4.1 Định lý 4.1 12

4.2 Định lý 4.2 12

5 Tính khả vi cấp hai của hàm lồi nghiêm ngặt và hàm lõm nghiêm ngặt 13

5.1 Định lý 5.1 13

5.2 Định lý 5.2 14

6 Khảo sát tính lồi, lõm của hàm số 15

PHỤ LỤC 17

Phụ lục 1: Tóm tắt Định lý 2.1, 2.2, 2.3 17

Phụ lục 2: Tóm tắt Định lý 3.1, 3.2, 3.3 17

Phụ lục 3: Tóm tắt Định lý 4.1, 4.2 18

Phụ lục 4: Tóm tắt Định lý 5.1, 5.2 18

1 Kiến thức chuẩn bị

1.1 Tập lồi

n

  là tập lồi nếu lấy hai điểm tùy ý thuộc  thì đoạn thẳng nối hai điểm ấy cũng thuộc

 Định nghĩa tương đương,  n là tập lồi nếu

1 2

1 2

,

1

x x



 

Ví dụ:

- Với x x1, 2 n, đoạn 1 2    1 2 

        

x x  x x x x là tập lồi

- Quả cầu mở tâm x bán kính : B x x x|  n, xx   là tập lồi

Hình 1.1: Hình ảnh minh hoạ một số tập lồi trong 2

1.2 Hàm số lồi, hàm số lõm:

Cho  là hàm số xác định trên tập   n:

i)  là hàm lồi tại x  nếu

1

x

 

           

  





 







 là hàm lồi trên  nếu  lồi tại mọi x 

ii)  là hàm lõm tại x  nếu

1

x

 

           

     

 là hàm lõm trên  nếu  lõm tại mọi x 

Lưu ý:

i)  là hàm lồi tại x  khi và chỉ khi - là hàm lõm tại x 

ii) Hàm tuyến tính vừa là hàm lồi vừa là hàm lõm

Hình 1.2a: Hàm lồi trên Hình 1.2b: Hàm lõm trên

1.3 Hàm số lồi nghiêm ngặt, lõm nghiêm ngặt

Cho  là hàm số xác định trên tập   n:

i)  là hàm lồi nghiêm ngặt tại x  nếu

1      1 

1

x

x x

 



  

     

 là hàm lồi nghiêm ngặt trên  nếu  lồi nghiêm ngặt tại mọi x 

ii)  là hàm lõm nghiêm ngặt tại x  nếu

1      1 

1

x

x x

 



  

     

 là hàm lõm nghiêm ngặt trên  nếu  lõm nghiêm ngặt tại mọi x 

Lưu ý:

i)  là hàm lồi nghiêm ngặt tại x  khi và chỉ khi - là hàm lõm nghiêm ngặt tại x 

ii) Hàm tuyến tính không phải là hàm lồi nghiêm ngặt cũng không phải là hàm lõm nghiêm ngặt

1.4 Hàm số khả vi và khả vi cấp hai

Cho  là hàm số xác định trên tập lồi, mở   n:

 1

θ x

 2

θ x

1

x

   1  2

1 - λ θ x + λθ x

θ 1 - λ x + λx

0

1

   1  2

1 - λ θ x + λθ x

0

θ 1 - λ x + λx

2

)

θ(x



- Nếu  khả vi tại x  thì

  0

,

n

x

x

x x





  

Trong đó      

  là vectơ gradient n chiều của  tại x với các thành phần là các đạo hàm riêng của  theo x1, …, x n có giá trị tại x và  là hàm số của x

- Nếu  khả vi cấp hai tại x  thì

 

2

2

0

, 2

n

x

x

x x

x x



 

        





Trong đó 2  

x

  là ma trận Hessian n n của  tại x, với phần tử thứ ij là

2

, 1, ,

i j

x x

 

 

 

2

1

2

n

n

x

- Định lý

Cho  là một hàm số xác định trên một tập mở   n , và cho x Khi đó

(i) Nếu  có các đạo hàm riêng liên tục tại x , nghĩa là  x tồn tại và  liên tục tại x

thì  khả vi tại x

(ii)  khả vi tại x   khả vi cấp 2 tại x

(iii)  có các đạo hàm riêng liên tục tại x   khả vi cấp 2 tại x

1.5 Định lý giá trị trung bình và Định lý Taylor

- Định lý giá trị trung bình

Cho  là hàm số khả vi, xác định trên tập lồi, mở   n, với mọi 1

x , x2 , tồn tại ,

0  1 thỏa

   2 1 1  2 1  2 1

         

- Định lý Taylor

Cho  là hàm số khả vi cấp hai, xác định trên tập lồi, mở   n, với mọi 1

x , 2

x  , tồn tại , 0  1 thỏa

   2 1  1 2 1  2 1 2 1  2 1  2 1

2

2.Tính khả vi của hàm lồi và hàm lõm

2.1 Định lý 2.1

Cho  là hàm số xác định trên tập mở   n và  khả vi tại x :

i) Nếu  là hàm lồi tại x  thì    x   x  x xx với mọi x 

ii) Nếu  là hàm lõm tại x  thì    x   x  x xx với mọi x 

Chứng minh:

Nhận xét:

Bài toán sẽ dễ dàng được chứng minh nếu cho  là một tập lồi, thật vậy

Cho  là hàm lồi tại x, từ Mục 1.2,  là một tập lồi và x nên với0  1 ta có

1    x   x 1 x x 

hay

          



       





(do  khả vi tại x )   x xx x,x x x x

Vì lim0 ,   0

 x  xx   nên khi cho  0 đối với biểu thức trên ta được:

   x   x  x xx

Nhưng giả thiết của định lý không cho  là tập lồi, vì vậy nếu muốn dùng kỹ thuật chứng minh trên để áp dụng trong trường hợp tổng quát này, ta cần phải sử dụng thêm một kỹ thuật nhỏ, nếu miêu tả bằng hình ảnh, kỹ thuật này giống như một phép co lại, từ một bài toán toàn cục ta co lại thành một bài toán địa phương, tất nhiên khi xét ở địa phương, bài toán sẽ có thêm những điều kiện mới, mà từ đó giúp ta giải được bài toán, rồi bằng một phép giãn, với hệ số bằng nghịch đảo hệ

số co, ta thu được kết quả trên toàn cục Địa phương ở đây ta sẽ chọn là một quả cầu mở, bởi vì quả cầu mở là một tập lồi và do  là một tập mở nên luôn tồn tại quả cầu mở tâm x chứa trong  Chứng minh cụ thể như sau:

Chứng minh:

Cho  là hàm lồi tại x Vì là tập mở nên tồn tại quả cầu mở B x tâm x, bán kính  , chứa trong  Lấy x  và x  x, lấy thỏa 0  1 và    x  x , ta có

x     x x x       x x B x  

(do xˆ x x x x x

x x



Vì  là hàm lồi tại x, từ Mục 1.2, tính lồi của B x  và ˆx B x    nên với0  1 ta có

1    x   xˆ 1 x xˆ

hay

   xˆ x x  xˆ x  x



 x xˆ x x, xˆ x xˆ x

       



 (do  khả vi tại x )

 x xˆ x x, xˆ x xˆ x

        

lim x, x x 0

      nên khi cho  0 đối với biểu thức trên ta được:

   xˆ   x  x xˆx

Vì  là hàm lồi tại x và ˆx, x ˆ       1  x x nên ta có

  xˆ 1    x   x

hay      x   x     xˆ   x (2)

Hơn nữa ta có

Từ (1), (2), (3) và do  0 ta suy ra :

   x x  x x x

    

Chứng minh cho trường hợp hàm lõm tương tự như trên bằng cách sử dụng tính chất của hàm

lõm trong Mục 1.2 thay vì tính chất của hàm lồi hoặc đơn giản hơn ta chỉ việc áp dụng kết quả vừa

chứng minh cho hàm  ▐

Nhận xét:

Ý nghĩa hình học của các kết quả trên có thể được diễn tả như sau: Với  là hàm lồi, khả vi trên  thì tuyến tính hóa  x   x xx tại x không bao giờ ước lượng cao hơn  x với mọi x , xem Hình 2.1a Với  là hàm lõm, khả vi trên  thì tuyến tính hóa

 x   x xx tại x không bao giờ ước lượng thấp hơn  x với mọi x , xem Hình 2.1b

Ghi chú: Ở đây ta định nghĩa tuyến tính hoá của  tại x là hàm L x =   x   x xx

(Để dễ hình dung ta xét   khi đó y L x  = x  ' x xx chính là phương trình tiếp tuyến của hàm  tại x)

Hình 2.1a: Tuyến tính hoá của của hàm lồi  không bao giờ ước lượng cao hơn hàm 

Hình 2.1b: Tuyến tính hoá của hàm lõm  không bao giờ ước lượng thấp hơn hàm 

2.2 Định lý 2.2

Cho  là hàm số khả vi trên tập lồi, mở   n:

i)  là hàm lồi trên  nếu và chỉ nếu    2 1  1 2 1

     với mọi x x1, 2  ii)  là hàm lõm trên  nếu và chỉ nếu    x2   x1  x1 x2 x với mọi 1 x x1, 2 

Chứng minh:

Ta sẽ chứng minh cho trường hợp hàm lồi (trường hợp hàm lõm chứng minh tương tự)

Điều kiện cần:



 

θ x

 

θ x

Tuyến tính hoá của  tại x

n

    

θ x + θ x x - x

 

θ x

 

θ x

x

Tuyến tính hoá của  tại x

θ x + θ x x - x

Vì  là hàm lồi tại mọi 1

x   nên theo Định lý 2.1 suy ra

     với 2

x

  

Điều kiện đủ:

Cho x , 1 x2  và 0  1 Vì  là tập lồi nên   1 2

1   x    x Khi đó ta có

              

                 

Nhân bất đẳng thức đầu với  1   , bất đẳng thức thứ hai với  và cộng lại vế theo vế ta được

1   x   x 1  x  x 

Từ đó, theo Mục 1.2 suy ra  là hàm lồi.▐

Mô tả hình học của Định lý 2.2 được thể hiện ở Hình 2.2a và Hình 2.2b

Hình 2.2a:

Hình 2.2b:



 2

θ x

 1

θ x

1

Tuyến tính hoá của  tại x 1

n

 1   1 2 1

θ x + θ x x - x

 1

θ x

 2

θ x

1

x

2

Tuyến tính hoá của  tại x 1

 1   1 2 1

2.3 Định lý 2.3

Cho  là hàm số khả vi trên tập lồi, mở   n

i)  là hàm lồi trên    2   1 2 1

0

    

  với mọi x , 1 x2 

ii)  là hàm lõm trên    2   1 2 1

0

    

  với mọi x , 1 x2 

Chứng minh:

Ta sẽ chứng minh cho trường hợp hàm lồi Trường hợp hàm lõm chứng minh tương tự

Điều kiện cần:

Cho  là hàm lồi trên  và cho x , 1 x2  Theo Định lý 2.2 ta có

0

     

và

0

     

Cộng hai bất đẳng thức trên ta được

 2   1 2 1

0

    

Điều kiện đủ:

Cho x1, x2  khi đó với 0  1 thì   1 2

1   x    x (do  lồi) Theo định lý giá trị

trung bình ở Mục 1.5, tồn tại , 0  1 sao cho :

   2 1 1  2 1  2 1  

1

         

Mặt khác từ bất đẳng thức ở giả thiết, thay 2

x bởi x1  x2 x1 và giữ nguyên x1 ta được :

 1 2 1 1   2 1

0

       

hay

x1  x2 x1  x2 x1  x1 x2 x1(do  0) (2)

Từ (1) và (2) ta có

Do vậy  là hàm lồi trên ( theo Định lý 2.2).▐

Ghi chú:

Ta định nghĩa:

- Nếu f là hàm n chiều trên   n, và     2 1 2 1

0

  với mọi x1,x2 

thì f được gọi là hàm đơn điệu tăng trên 

- Nếu f là hàm n chiều trên   n, và     2 1 2 1

0

2

x  

thì f được gọi là hàm đơn điệu giảm trên 

Từ định lý trên ta thấy rằng :

Một hàm số  khả vi trên tập lồi, mở   n , sẽ là hàm lồi (lõm) nếu và chỉ nếu  đơn

điệu tăng (giảm) trên 

3 Tính khả vi của hàm lồi nghiêm ngặt và hàm lõm nghiêm ngặt

Tất cả kết quả trong phần trước được mở rộng trực tiếp cho hàm lồi nghiêm ngặt và hàm lõm nghiêm ngặt bằng cách đổi dấu và thành dấu  và  Cụ thể ta có những kết quả sau

3.1 Định lý 3.1

Cho  là hàm số xác định trên tập mở   nvà  khả vi tại x :

i) Nếu  là hàm lồi nghiêm ngặt tại x  thì    x   x   x xx với mọi x ,

x  x

ii) Nếu  là hàm lõm nghiêm ngặt tại x  thì    x   x   x xx với mọi x,

x  x

Chứng minh:

Ta sẽ chứng minh định lý cho trường hợp hàm lồi nghiêm ngặt Trường hợp hàm lõm nghiêm ngặt chứng minh tương tự

Cho  là hàm lồi nghiêm ngặt tại x, khi đó

1 x x 1   x  x

           với   x ,x x, 0  1,  1       x x

(1)

Vì  là hàm lồi tại x nên theo Định lý 2.1 ta có

   x   x  x xxvới   x (2)

Ta sẽ chứng minh nếu tồn tại x  và x  x để dấu “=” trong (2) xảy ra thì dẫn đến điều mâu thuẫn Giả sử dấu “=” trong (2) xảy ra khi xx x,  và xx Khi đó

   x   x   x xx (3)

Do  là tập mở nên luôn tồn tại  đủ nhỏ để  1       x x

Từ (1) và (3) ta có:

1 x x 1   x  x  x x x

              với 0  1, 1       x x

hay

1 x   x  x   x xx với  0  1, 1       x x

(4)

Mặt khác nếu tiếp tục áp dụng Định lý 2.1 cho x        1  x x và x ta được

1 x x  x  x x x

          với 0  1, 1       x x

Điều này mâu thuẫn với (4) Do đó dấu “=” trong (2) không xảy ra với bất kỳ x ,x x Vậy định lý được chứng minh cho trường hợp hàm lồi ▐

3.2 Định lý 3.2

Cho  là hàm số khả vi trên tập lồi, mở   n:

i)  là hàm lồi nghiêm ngặt trên     2 1  1 2 1

       với x x1, 2 ,

1 2

x x

ii)  là hàm lõm nghiêm ngặt trên     2 1  1 2 1

       với x x1, 2 ,

1 2

x x

Chứng minh:

Ta sẽ chứng minh định lý cho trường hợp hàm lồi nghiêm ngặt Trường hợp hàm lõm nghiêm ngặt chứng minh tương tự

Điều kiện cần:

Vì  là hàm lồi nghiêm ngặt tại mọi x1  nên theo Định lý 3.1suy ra

,

x  x  x Điều kiện đủ:

Cho x , 1 x2  và0  1 Vì  là tập lồi nên   1 2

1   x    x Khi đó ta có

              

                 

Nhân bất đẳng thức đầu với  1   , bất đẳng thức thứ hai với  và cộng lại ta được

   1  2   1 2

1   x   x   1  x  x 

Từ đó, theo Mục 1.3 suy ra  là hàm lồi nghiêm ngặt ▐

3.3 Định lý 3.3

Cho  là hàm số khả vi trên tập lồi, mở   n

(i)  là hàm lồi nghiêm ngặt trên    2   1 2 1

0

  với x x1, 2 ,

1 2

x x

(ii)  là hàm lõm nghiêm ngặt trên    2   1 2 1

0

  với x x1, 2 ,

1 2

x x

Chứng minh:

Ta sẽ chứng minh định lý cho trường hợp hàm lồi nghiêm ngặt Trường hợp hàm lõm nghiêm ngặt chứng minh tương tự

Điều kiện cần:

Cho  là hàm lồi nghiêm ngặt trên  và x , 1 x2  Theo Định lý 3.2 ta có

0

      

và

0

      

Cộng hai bất đẳng thức trên ta được

 2   1 2 1

0

Điều kiện đủ:

Cho x , 1 x2  và 0  1 Vì  là tập lồi nên   1 2

1   x    x Theo định lý giá trị

trung bình ở Mục 1.5 tồn tại , 0  1 sao cho

   2 1 1  2 1  2 1

          (1)

Mặt khác từ bất đẳng thức ở giả thiết, thay 2

x bởi x1  x2 x1 và giữ nguyên x ta được : 1

0

hay

1  2 1  2 1  1 2 1

Từ (1) và (2) ta được:

     

Do đó  là hàm lồi nghiêm ngặt trên  (theo Định lý 3.2 ) ▐

4 Tính khả vi cấp hai của hàm lồi và hàm lõm

4.1 Định lý 4.1

Cho  là hàm số xác định trên tập mở   n và  khả vi cấp hai tại x :

i) Nếu  là hàm lồi tại x  thì  2  x nửa xác định dương, nghĩa là 2  

0

y  x y với mọi n

y

ii) Nếu  là hàm lõm tại x  thì  2  x nửa xác định âm, nghĩa là 2  

0

y  x y với mọi n

y

Chứng minh:

Ta sẽ chứng minh định lý cho trường hợp hàm lồi Trường hợp hàm lõm chứng minh tương

tự

Cho y n Vì là tập mở nên tồn tại quả cầu mở B x tâm x , bán kính  , chứa trong

 Lấy  0 sao cho  y  khi đó với mọi 0    ta có: xyx  y  y  , suy ra x  y B x   với mọi 0   

Do  là hàm lồi tại x  nên theo Định lý 2.1 ta có

x y  x  x y 0

       với mọi 0    (1)

Mặt khác vì  khả vi cấp hai tại x nên

       2 2     2   2

, 2

(2)

Từ (1) và (2) ta được:

2

2 ,

x y y

 

   với mọi 0   

0

lim x, y 0

    nên khi cho  0 đối với biểu thức trên ta nhận được:

 

2

0

y  x y ▐

4.2 Định lý 4.2

Cho  là hàm số khả vi cấp hai trên tập lồi, mở   n:

i)  là hàm lồi trên  nếu và chỉ nếu 2  

x

  nửa xác định dương trên , nghĩa là với mỗi

x  thì 2  

0

y  x y với mọi n

y ii)  là hàm lõm trên  nếu và chỉ nếu 2  

x

  nửa xác định âm trên , nghĩa là với mỗi

x  thì 2  

0

y  x y với mọi y n