Phương pháp hàm phạt cho bài toán cực trị có điều kiện

Lý do chọn đề tài Phương pháp hàm phạt là một phương pháp được dùng để tìm nghiệmcho bài toán cực trị có điều kiện.. Ý tưởng chính của phương pháp là chuyểnviệc giải bài toán cực trị có

TRƯỜNG ĐẠI HỌC SƯ PHẠM

——————————–

ĐOÀN THỊ HOÀNG TRANG

PHƯƠNG PHÁP HÀM PHẠT CHO BÀI TOÁN

CỰC TRỊ CÓ ĐIỀU KIỆN

LUẬN VĂN THẠC SĨ TOÁN HỌC

ĐÀ NẴNG - NĂM 2018

TRƯỜNG ĐẠI HỌC SƯ PHẠM

——————————–

ĐOÀN THỊ HOÀNG TRANG

PHƯƠNG PHÁP HÀM PHẠT CHO BÀI TOÁN

CỰC TRỊ CÓ ĐIỀU KIỆN

Chuyên ngành: Toán giải tích

Mã số: 8.46.01.02

LUẬN VĂN THẠC SĨ TOÁN HỌC

Người hướng dẫn khoa học:

TS Phạm Quý Mười

ĐÀ NẴNG - NĂM 2018

Tôi xin cam đoan đây là công trình nghiên cứu của riêng tôi Các sốliệu, kết quả nêu trong luận văn là trung thực và chưa từng được ai công

bố trong bất kỳ công trình nghiên cứu nào khác

Tác giả

Đoàn Thị Hoàng Trang

Lời đầu tiên của luận văn tác giả xin gửi lời cảm ơn sâu sắc tới thầygiáo hướng dẫn TS Phạm Quý Mười đã tận tình hướng dẫn tác giả trongsuốt quá trình thực hiện để tác giả có thể hoàn thành được luận văn này.Tác giả cũng xin gửi lời cảm ơn chân thành nhất đến tất cả các thầy

cô giáo đã tận tình dạy bảo tác giả trong suốt thời gian học tập củakhóa học

Đồng thời, tác giả cũng xin gửi lời cảm ơn đến các anh chị em tronglớp Toán giải tích K32 đã nhiệt tình giúp đỡ tác giả trong quá trình họctập tại lớp

Tác giả

Đoàn Thị Hoàng Trang

MỞ ĐẦU 1

CHƯƠNG 1 KIẾN THỨC CHUẨN BỊ 3

1.1 Các kí hiệu đại số 3

1.2 Các kí hiệu tôpô 5

1.3 Tập mở, tập đóng và tập compact 6

1.4 Hàm liên tục 6

1.5 Hàm khả vi liên tục 7

1.6 Định lý giá trị trung bình và công thức Taylor 8

1.7 Định lí hàm ẩn 9

1.8 Tập lồi và hàm lồi 10

CHƯƠNG 2 BÀI TOÁN TỐI ƯU CÓ ĐIỀU KIỆN CHO BỞI PHƯƠNG TRÌNH VÀ BẤT PHƯƠNG TRÌNH .11

2.1 Tổng quan bài toán tối ưu có điều kiện 11

2.2 Bài toán tối ưu có điều kiện cho bởi phương trình 12

2.3 Bài toán tối ưu có điều kiện cho bởi phương trình và bất phương trình 15

CHƯƠNG 3 PHƯƠNG PHÁP HÀM PHẠT 17

3.1 Phương pháp hàm phạt cho bài toán (ECP) 17

3.2 Phương pháp hàm phạt cho bài toán (ICP) 21

Kết luận 33

TÀI LIỆU THAM KHẢO 34

Ký hiệu Tên tiếng Anh Ý nghĩa

Rn n-dimensional vectors không gian các vector thực n chiều

λi real eigenvalues các giá trị riêng thực

ei real eigenvectors các vector riêng thực

| · | standard Euclidean norm chuẩn Euclide

∂f (x)/∂xi partial derivative các đạo hàm riêng theo biến xi

L(x, λ) Lagrange function hàm số Lagrange

Từ viết tắt Thuật ngữ tiếng Anh Thuật ngữ tiếng Việt

CP constrained problem bài toán cực trị có điều kiện

ECP equality constrained bài toán có điều kiện cho bởi

MỞ ĐẦU

1 Lý do chọn đề tài

Phương pháp hàm phạt là một phương pháp được dùng để tìm nghiệmcho bài toán cực trị có điều kiện Ý tưởng chính của phương pháp là chuyểnviệc giải bài toán cực trị có điều kiện thông qua việc giải các bài toán cựctrị tự do Các loại hàm phạt thường dùng là hàm phạt điểm ngoài, hàmphạt điểm trong, hàm phạt Lagrange Trong chương trình toán đại học,phương pháp này hầu như chưa được giới thiệu Hơn nữa, hầu hết các giáotrình tiếng Việt, chưa trình bày một cách đầy đủ về cơ sở lý thuyết củaphương pháp hàm phạt

Các bài toán dạng này thường xuất hiện trong các tài liệu, giáo trìnhdành cho học viên cao học Vì vậy, việc nắm vững lý thuyết về bài toáncực trị có điều kiện và các phương pháp giải là cần thiết cho học viên, giúphọc viên có cái nhìn tổng quan và mạch lạc hơn đối với vấn đề cực trị củahàm nhiều biến Việc nắm chắc cở sở lý thuyết về bài toán cực trị có điềukiện và các phương pháp giải cũng giúp cho học viên có khả năng giải vàsáng tạo ra các bài toán mới

Với mong muốn tìm hiểu sâu hơn về bài toán cực trị có điều kiện, cũngnhư các phương pháp hàm phạt để giải các bài toán đó; được sự đồng ýhướng dẫn của thầy giáo TS Phạm Quý Mười, em đã chọn đề tài: “Phươngpháp hàm phạt cho bài toán cực trị có điều kiện” cho luận văn thạc sĩ củamình

2 Mục đích nghiên cứu

- Nắm được bài toán cực trị có điều kiện, định nghĩa và điều kiện cần

và đủ của cực trị

- Phương pháp hàm phạt và ứng dụng để giải bài toán cực trị

- Sáng tạo được bài toán mới vận dụng phương pháp này

3 Đối tượng và phạm vi nghiên cứu

Phương pháp hàm phạt giải bài toán cực trị trong hình học và đại sốtrong chương trình toán ở cấp đại học và trong một số ứng dụng

4 Phương pháp nghiên cứu

Nghiên cứu các tài liệu liên quan đến đề tài, bao gồm các tài liệu trong

và nước ngoài Trao đổi, thảo luận với cán bộ hướng dẫn

5 Ý nghĩa khoa học và thực tiễn

Tổng hợp tài liệu để có một báo cáo tổng quan khá đầy đủ về phươngpháp hàm phạt cho bài toán cực trị có điều kiên cũng như phương phápgiải các bài toán đó

6 Cấu trúc luận văn

Luận văn gồm 3 chương:

Chương 1: Trong chương này, trình bày một số kí hiệu, định nghĩa,định lí liên quan đến luận văn Cụ thể, định nghĩa tập mở, tập đóng, tậpcompact, tập lồi và một số định lí quan trọng như định lí giá trị trungbình và đa thức Taylor

Chương 2: Chương này trình bày một số bài toán tối ưu có điều kiệncho bởi phương trình và bất phương trình

Chương 3: Trình bày phương pháp hàm phạt, nêu các hàm phạt khả

vi, không khả vi của bài toán cực trị có điều kiện cho bởi phương trình vàbất phương trình

CHƯƠNG1 KIẾN THỨC CHUẨN BỊ

Trong chương này, trình bày một số kí hiệu, các định nghĩa tập mở, tậpđóng, tập compact, tập lồi và một số định lí quan trọng như định lí giá trịtrung bình và đa thức Taylor

1.1 Các kí hiệu đại số

Chúng ta kí hiệu R là trường số thực và Rn là không gian gồm tất cả cácvector thực n chiều Cho bất kỳ tập con S ⊂ R bị chặn trên (chặn dưới),chúng ta kí hiệu sup S (inf S)là cận trên nhỏ nhất (cận dưới lớn nhất) của

S Nếu S không bị chặn trên (dưới), chúng ta viết sup S = ∞ (inf S =

−∞) Trong luận văn này, mỗi vector được xem xét là một vector cột Phép

chuyển vị của ma trận A cỡ m × n được kí hiệu là A′ Một vector x ∈ Rnđược xem như một ma trận cỡ n × 1, và do đó x′ là một ma trận cỡ 1 × nhoặc vector hàng Nếu x1, , xn là các tọa độ của vector x ∈ Rn, ta viết

x = (x1, x2, , xn)T Chúng ta cũng viết

x ≥ 0 nếu xi ≥ 0, ∀i = 1, , n,

x ≤ 0 nếu xi ≤ 0, ∀i = 1, , n

Một ma trận đối xứng A cỡ n × n được gọi là nửa xác định dương nếu

x′Ax ≥ 0, ∀x ∈Rn Trong trường hợp này chúng ta viết

e1, e2, , en đôi một trực giao Khi đó, ta có

γx′x ≤ x′Ax ≤ Γx′x, ∀x ∈Rn, (1.1)trong đó

NếuAxác định dương thì tồn tại duy nhất một ma trận xác định dương

có bình phương bằng A Đây là ma trận có cùng các vector riêng như matrận A và có giá trị riêng bằng căn bậc hai giá trị riêng của A Chúng ta

1.2 Các kí hiệu tôpô

Chúng ta sẽ sử dụng chuẩn Euclide trong không gian Rn và được kí hiệu

là | · |, tức là, đối với một vector x ∈ Rn, chúng ta viết

Nếu ma trận A là đối xứng, và λ1, , λn là các giá trị riêng (thực) của

A, thì các giá trị riêng của A2 là λ21, , λ2n, và chúng ta thu được

Mọi dãy các số thực {rk} đơn điệu tăng (giảm), tức là thỏa mãn rk ≤

rk+1 (rk ≥ rk+1) với mọi k, phải hội tụ đến một số thực hoặc +∞ (−∞).Trong trường hợp sau cùng chúng ta viết lim

k→∞rk = +∞ ( lim

k→∞rk = −∞).

Cho bất kì dãy số thực bị chặn {rk}, chúng ta xét dãy {sk} trong đó

sk = sup{ri|i ≥ k} Vì dãy này đơn điệu giảm và bị chặn dưới, nên nó có

giới hạn, được gọi là giới hạn trên của {rk} và được kí hiệu bởilim sup

k→∞

rk.Chúng ta định nghĩa tương tự cho giới hạn dưới của {rk} và kí hiệu bằng

Cho một vector x ∈ Rn và một số thực ǫ > 0, chúng ta kí hiệu hình cầu

mở với tâm tại x với bán kính ǫ > 0 bởi S(x; ǫ), tức là,

S(x; ǫ) = {z||z − x| < ǫ} (1.2)

Định nghĩa 1.3.1 Một tập con S của Rn được gọi là tập mở, nếu vớimọi vector x ∈ S, tồn tại một ǫ > 0 sao cho S(x; ǫ) ⊂ S

Nếu S là tập mở và x ∈ S, thì S(x; ǫ) ⊂ S được gọi là một lân cận của

x Phần trong của một tập S ⊂ Rn là tập tất cả các phần tử x ∈ S saocho tồn tại ǫ > 0 thỏa mãn S(x; ǫ) ⊂ S

Định nghĩa 1.3.2 Một tập con S được gọi là tập đóng nếu và chỉ nếuphần bù của nó trong Rn là tập mở

Phát biểu một cách tương đương khác: S được gọi là tập đóng nếu vàchỉ nếu mỗi dãy xk, với các phần tử trong S, hội tụ đến một điểm x thì x

x ∈ S1 nếu với mọi ǫ > 0 luôn tồn tại δ > 0 sao cho với mọi y thỏa mãn

|y − x| < δ và y ∈ S1 ta có |f(y) − f(x)| < ǫ.

Hàm f được gọi là liên tục trên S1 (hoặc đơn giản là liên tục) nếu nóliên tục tại mỗi điểm x ∈ S1 Nếu S1, S2, và S3 là các tập khác rỗng và

f1 : S1 → S2 và f2 : S2 → S3 là các hàm, thì hàm f2 ◦ f1 : S1 → S3 đượcxác định bởi (f2 ◦ f1)(x) = f2[f1(x)] được gọi là hàm hợp của f1 và f2.Nếu f1 : Rn → Rm và f2 : Rm → Rp là liên tục, khi đó f2 ◦ f1 cũng liêntục

1.5 Hàm khả vi liên tục

Một hàm giá trị thực f : X → R trong đó X ⊂ Rn là một tập mở đượcgoị là khả vi liên tục nếu các đạo hàm riêng ∂f (x)/∂x1, , ∂f (x)/∂xn tồntại, với mọi x ∈ X và là các hàm liên tục tại x

Trong trường hợp này chúng ta viết f ∈ C1 trên X Một cách tổngquát, chúng ta viết f ∈ Cp trên X cho một hàm f : X → R nếu tất cảcác đạo hàm riêng củaf bậcp tồn tại và liên tục trên X Nếu f ∈ Cp trên

Rn, thì chúng ta viết đơn giản là f ∈ Cp Nếu f ∈ C1 trên X, gradientcủa f tại một điểm x ∈ X được định nghĩa là vector cột

Như vậy, ma trận∇f cỡn×mcó các cột là các gradient∇f1(x), , ∇fm(x).Thỉnh thoảng chúng ta sẽ cần xem xét các gradient của các hàm số ứngvới một biến số nào đó Kí hiệu sẽ như sau:

Nếu f : Rn+r → R là một hàm giá trị thực của (x, y) trong đó x =(x1, , xn) ∈ Rn, y = (y1, , yr) ∈Rr, chúng ta viết

f (x) = h[g(x)]

Khi đó nếu h ∈ Cp và g ∈ Cp, chúng ta cũng có f ∈ Cp và

∇f(x) = ∇g(x)∇h[g(x)]

1.6 Định lý giá trị trung bình và công thức Taylor

Cho f : X → R, và f ∈ C1 trên tập mở X ⊂ Rn Giả sử rằng X chứađoạn thẳng nối hai điểm x, y ∈ X Định lý giá trị trung bình khẳng địnhrằng tồn tại một số thực α với 0 < α < 1 sao cho

Cho f : X → Rm và f ∈ C1 trên tập mở X ⊂Rn Giả sử X chứa đoạnthẳng nối hai điểm x, y ∈ X Công thức Taylor bậc nhất tại x được chobởi phương trình

theo vector x hay không? Tức là có tồn tại một hàm φ, được gọi là hàm

ẩn, sao cho h[x, φ(x)] = 0 hay không? Các định lý hàm ẩn cổ điển sau đâykhẳng định rằng điều này là có thể theo nghĩa địa phương, nghĩa là, trongmột lân cận của một nghiệm (¯x, ¯y) sao cho ma trân trận gradient của h

đối với y không suy biến

Định lí 1.7.1 (Định lí hàm ẩn) Cho S là một tập con mở của Rm+n,

và h : S → Rn là một hàm, sao cho tồn tại p ≥ 0, h ∈ Cp trên S và giả

sử ∇yh(x, y) tồn tại và liên tục trên S Cho (¯x, ¯y) ∈ S là một vector saocho h(¯x, ¯y) = 0 và ma trận ∇yh(¯x, ¯y) là ma trận không suy biến Khi đó,tồn tại số thực ǫ > 0 và δ > 0 và hàm số φ : S(¯x; ǫ) → S(¯y; δ) sao cho

φ ∈ Cp trên S(¯x; ǫ), ¯y = φ(¯x), và h[x, φ(x)] = 0 với mọi x ∈ S(¯x; ǫ) Hàm

số φ là duy nhất, tức là, nếu x ∈ S(¯x; ǫ), y ∈ S(¯y; δ), và h(x, y) = 0, thì

y = φ(x) Hơn nữa, nếu p ≥ 1, thì với mọi x ∈ S(¯x; ǫ) ta có:

∇φ(x) = −∇xh[x, φ(x)][∇yh[x, φ(x)]]−1

1.8 Tập lồi và hàm lồi

Định nghĩa 1.8.1 Một tập S ⊂ Rn được gọi là tập lồi nếu với mọi

x, y ∈ S và với mọi α ∈ [0, 1] ta có αx + (1 − α)y ∈ S Một hàm số

f : S → R được gọi là hàm lồi trên tập lồi S nếu với mọi x, y ∈ S và vớimọi α ∈ [0, 1], ta có:

f [αx + (1 − α)y] ≤ αf(x) + (1 − α)f(y)

Nếu f là hàm lồi và f ∈ C1 trên tập lồi mở S, thì

f (y) ≥ f(x) + ∇f(x)′(y − x), ∀x, y ∈ S (1.3)

Nếu thêm điều kiện f ∈ C2 trên S, thì ∇2f (x) ≥ 0, ∀x ∈ S Ngược lại,

nếu f ∈ C1 trên S và (1.3), thì hàm số f là hàm lồi trên tập lồi S

CHƯƠNG2 BÀI TOÁN TỐI ƯU CÓ ĐIỀU KIỆN CHO BỞI PHƯƠNG TRÌNH VÀ BẤT PHƯƠNG TRÌNH

Trong chương này, luận văn nghiên cứu bài toán tối ưu có điều kiện Trướchết, luận văn trình bày bài toán tối ưu có điều kiện tổng quát và nghiêncứu điều kiện tối ưu cho bài toán này Sau đó, luận văn tập trung vào bàitoán tối ưu có điều kiện cho bởi phương trình và bất phương trình Ngoài

ra, trong chương này cũng trình bày mối liên hệ giữa bài toán tối ưu cóđiều kiện cho bởi bất phương trình và bài toán tối ưu có điều kiện cho bởiphương trình Từ đó, các điều kiện tối ưu cho bài toán tối ưu có điều kiệncho bởi bất phương trình(NLP) có thể nhận được thông qua các kết quả

đã biết về bài toán tối ưu có điều kiện cho bởi phương trình(ECP)

2.1 Tổng quan bài toán tối ưu có điều kiện

Trước hết, chúng ta xét bài toán tối ưu có điều kiện (CP)

min f (x)

với điều kiện x ∈ X, trong đó f :Rn → R là một hàm số cho trước và X

là một tập con của Rn

Chúng ta nhắc lại các khái niệm cơ bản sau:

Vector x∗ ∈ X được gọi là cực tiểu địa phương của hàmf (của bài toán(CP)) nếu tồn tại một số ǫ > 0 sao cho

(CP)) nếu

f (x∗) ≤ f(x), ∀x ∈ X

Như vậy, nghiệm của bài toán (CP) chính là cực tiểu toàn cục của hàm

f Mệnh đề sau đây đưa ra điều kiện cần cho nghiệm của bài toán tối ưu(CP):

Mệnh đề 2.1.1 ([2]) Giả sử X là một tập lồi và x∗ ∈ X, f ∈ C1 trên

2.2 Bài toán tối ưu có điều kiện cho bởi phương trình

Trong phần này, chúng ta xét một trường hợp đặc biệt của bài toán(CP) Chúng ta xét bài toán cực trị có điều kiện cho bởi phương trình (gọi

là bài toán (ECP)):



min f (x)h(x) = 0

trong đó f : Rn →R và h : Rn →Rm, với m ≤ n Các thành phần của h

được kí hiệu là h1, , hm

Định nghĩa 2.2.1 Giả sử x∗ là một vector sao cho h(x∗) = 0 và h ∈ C1

trênS(x∗; ǫ)với một số thực ǫ > 0 nào đó Khi đó,x∗ được gọi là một điểmchính quy nếu các vector gradient∇h1(x∗), , ∇hm(x∗)độc lập tuyến tính.Xét hàm số Lagrange L : Rn+m →R được định nghĩa bởi:

L(x, λ) = f (x) + λ′h(x)

Chúng ta có kết quả cổ điển sau:

Mệnh đề 2.2.2 ([1]) Giả sử x∗ là một cực tiểu địa phương của bài toán(ECP), và f ∈ C1, h ∈ C1 trên S(x∗; ǫ) với ǫ > 0 là một số thực dươngnào đó Khi đó, nếu x∗ là một điểm chính quy thì tồn tại duy nhất một

vector λ∗ ∈ Rm sao cho

Bổ đề 2.2.4 ([2]) Giả sử x∗ là một cực tiểu địa phương của bài toán(ECP) và là một điểm chính, và cùng với vector nhân tử Lagrange λ∗ thỏamãn các giả thuyết của Mệnh đề 2.2.3 Khi đó, ma trận J cỡ (n + m) ×(n + m) xác định bởi

là ma trận không suy biến

Chứng minh: Nếu ma trận J suy biến, thì tồn tại y ∈ Rn và z ∈ Rmsao cho (y, z) khác không và thỏa mãn

∇2xxL(x∗, λ∗)y + ∇h(x∗)z = 0, (2.7)và

Nhân vào phương trình (2.7) với y′ và sử dụng phương trình (2.8), tacó

y′∇2xxL(x∗, λ∗)y = 0

Do đó theo Mệnh dề 2.2.3, ta suy ra y = 0 Điều này suy ra ∇h(x∗)z =

0 Mặt khác vì x∗ là điểm chính quy nên ∇h(x∗) có hạng bằng m Vì thế,

ta suy ra z = 0 Điều này mâu thuẫn vì y và z không thể đồng thời bằng0.

Mệnh đề 2.2.5 ([2]) Giả sử các giả thuyết Bổ đề 2.2.4 là đúng Khi đó,tồn tại một số thực δ > 0 và các hàm khả vi liên tục x(·) : S(0; δ) →

Rn, λ(·) : S(0; δ) → Rm sao cho x(0) = x∗, λ(0) = λ∗, và với mọi

u ∈ S(0; δ), {x(u), λ(u)} là một cặp nhân tử Lagrange địa phương của bài

min f (x)

Hơn nữa,

∀u ∈ S(0; δ) : ∇uf [x(u)] = −λ(u)

Chứng minh: Xét hệ phương trình với các biến (x, λ, u):



∇f(x) + ∇h(x)λ = 0h(x) − u = 0

Hệ phương trình này có nghiệm(x∗, λ∗, 0) Hơn nữa Jacobi của hệ tươngứng với(x, λ)tại nghiệm này là ma trận nghịch đảoJ của (2.6) Do đó theođịnh lí hàm ẩn (Mục 1.7), tồn tại δ > 0 và hàm số x(·) ∈ C1, λ(·) ∈ C1

trong S(0; δ) sao cho

Kết hợp phương trình (2.11) và (2.12), ta có

∇uf [x(u)] = −λ(u),

như vậy mệnh đề được chứng minh 

2.3 Bài toán tối ưu có điều kiện cho bởi phương trình và bấtphương trình

Bây giờ chúng ta xét bài toán tối ưu có điều kiện hỗn hợp gồm phươngtrình và bất phương trình [gọi là bài toán quy hoạch phi tuyến (NLP)]

( min f (x)h(x) = 0g(x) ≤ 0,

trong đó các hàm số f : Rn → R, h : Rn → Rm, g : Rn → Rr là cáchàm số đã cho với m ≤ n Các thành phần của hàm số g được kí hiệu

là g1, g2, , gr Đầu tiên chúng ta giới thiệu khái niệm "điểm chính quy"trong trường hợp này Cho vector x thỏa mãn g(x) ≤ 0, ta kí hiệu

Định nghĩa 2.3.1 Giả sử x∗ là một vector thỏa mãn h(x∗) = 0, g(x∗) ≤

0, h ∈ C1 vàg ∈ C1 trên S(x∗; ǫ) với một số thựcǫ > 0 nào đó Khi đó, x∗

được gọi là một điểm chính quy nếu các vector gradient∇h1(x∗), , ∇hm(x∗)

Nếu thêm điều kiện f ∈ C2, h ∈ C2, và g ∈ C2 trên S(x∗; ǫ), thì vớimọi z ∈ Rn thỏa mãn ∇h(x∗)′z = 0 và ∇gj(x∗)′z = 0, j ∈ A(x∗), ta có