QHĐ tìm kiếm lời giải với ý tưởng thay thế bài toán n biến ra quyết định thành n bài toán biến đơn; Quá trình tính toán từ giai đoạn này đến giai đoạn kia, đến khi kết quả cuối cùng đạt
Trang 1TS Lê Hùng Khoa Xây dựng Thủy lợi Thủy điện Trường Đại học Bách Khoa
Đ
1
TRƯỜNG ĐẠI HỌC BÁCH KHOA - ĐHĐN
Trang 2
Quy hoạch động sử dụng kỹ thuật tối ưu quá trình nhiều giai đoạn QHĐ tìm kiếm lời giải với ý tưởng thay thế bài toán n biến
ra quyết định thành n bài toán biến đơn;
Quá trình tính toán từ giai đoạn này đến giai đoạn kia, đến khi kết quả cuối cùng đạt được;
Phân tích này có thể theo không gian hoặc thời gian, mỗi giai đoạn được đặc trưng bởi trạng thái hệ thống khác nhau;
Thay đổi trạng thái hệ thống, ảnh hưởng bởi ra quyết định tại trạng thái trước và được mô tả bởi phương trình chuyển dịch trạng thái;
Quá trình tính toán cho nhận được bởi sách lược tối ưu Bellman
có thể giải bằng cách di chuyển tiến hoặc di chuyển lùi từ giai đoạn này đến giai đoạn kia
3.1 Giới thiệu
Trang 3
Quỏ trỡnh ra quyết định từng giai đoạn đơn là thành phần của bài toỏn nhiều giai đoạn cú thể trỡnh bày theo khối chữ nhật (hỡnh 3.1) Quỏ trỡnh ra quyết định cú thể đặc trưng bởi cỏc tham số đầu vào đó biết S, cỏc biến ra quyết định (X), và cỏc tham số đầu
ra (T) trỡnh bày hiệu quả đạt được như kết quả ra quyết định
Hỡnh 3.1 Quỏ trỡnh ra quyết định giai đoạn đơn
3.2 Cỏc quỏ trỡnh ra quyết định nhiều giai đoạn
Sự dịch chuyển Giai đoạn T=t(X, S)
Ra quyết định X
Sự lù i R=r(X,S)
Trang 4
Quá trình ra quyết định nhiều giai đoạn có thể biểu diễn theo sơ
đồ như hình 3.2 Các trạng thái n, n-1, …, i, …, 2, 1 được ký
hiệu giảm dần Cho trạng thái thứ i, vector trạng thái đầu vào được xác định bởi Si+1 và vector trạng thái đầu ra là Si phương án
tối ưu cục bộ ta sẽ được phương án tối ưu toàn bộ.
Hình 2.1 Sơ đồ mô tả quá trình nhiều giai đoạn
1
Giai ®o¹n n
s 1
R1
x 1
s 2
s 3
R 2
x 2
2
si xi
Ri
s i+1
s n-1
i
x n-1
x n
Rn-1
n- 1
s n
s n+1
n
R n
Giai ®o¹n n-1 Giai ®o¹n i Giai ®o¹n 2 Giai ®o¹n 1
3.2 Các quá trình ra quyết định nhiều giai đoạn
Trang 5
Nguyên lý tối ưu Bellman : Dựa trên nguyên tắc chia quá trình giải bài toán tối ưu thành nhiều giai đoạn và tiến hành tìm phương
án tối qua các giai đoạn khác nhau Tổng hợp các phương án tối
ưu cục bộ ta sẽ được phương án tối ưu toàn bộ.
1,m-1
1,2
n-1,2
n-1,1 1,1
2,2
2,1
3,m-1
3,k
3,2
3,1
3,m 2,m
n,k
n,2
n,1
Ztl
t 3.3 Các kiểu bài toán ra quyết định nhiều giai đoạn
Trang 6
Các thành phần trong mô hình QHĐ
Các yếu tố cần thiết để xác định một quá trình n giai đoạn
Giai đoạn n : Các điểm tại đó bài toán ra quyết định
đoạn
kỳ một giai đoạn n nào, biến trạng thái có thể rời rạc, liên tục, vô hạn hay hữu hạn
của quyết định thực hiện trong mỗi giai đoạn
định
3.3 Các kiểu bài toán ra quyết định nhiều giai đoạn
Trang 71 (a)
s 1
s i
x i
s i+1
i
x n-1
x n
n- 1
s n
s n+1
n
x 1
s 2
s 2 n
s n+1 s n
n- 1
x n x n-1
i
s i+1
x i
(b)
1
1 (c)
s 1
s i
x i
s i+1
i
x n-1
x n
n- 1
s n
s n+1
n
x 1
s 2
Các kiểu bài toán ra quyết định nhiều giai đoạn
3.3 Các kiểu bài toán ra quyết định nhiều giai đoạn
Trang 8
Bài toán quy hoạch động được phát biểu như sau Tìm x1, x2, …, xn,
để bài toán QHĐ tối ưu
3.4 Khái niệm của tối ứu hóa từng giai đoạn và nguyên lý tối ưu hóa
và thỏa mãn các phương trình si=ti(si+1,x1), i=1, 2,
…, n
Minimum f=Rn(xn,sn+1)+Rn-1(xn-1,sn)+…+R1(x1,s2) (3.9)
Xem xét bài toán giai đoạn thứ nhất bằng cách bắt đầu tại trạng
thái cuối, i=1 Tối ưu giai đoạn này là hàm f1*
( , )
)
* 1
1
s x R opt s
f
x
Đây được gọi sách lượt tối ưu giai đoạn 1, từ dữ liệu nhập vào
s2 đã biết, các giá trị tối ưu R1, x1, và s1 được xác định Như vậy phương trình (3.11) là phương trình tham số cho tối ưu f1* như hàm của tham số nhập vào s2
Trang 9
3.4 Khái niệm của tối ứu hóa từng giai đoạn và nguyên lý tối ưu hóa
Tiếp đến, xem xét bài toán giai đoạn 2, bằng cách tổ hợp 2 giai đoạn với nhau Nếu f2* xác định giá trị mục tiêu tối ưu là bài toán giai đoạn 2, xác định giá trị nhập vào s3, chúng ta có
( , ) ( , )
)
, 3
* 2
2 1
s x R s
x R opt s
f
x x
( , ) ( ) )
1 3
2 2 3
* 2
2
s f s
x R opt s
f
x
Nguyên lý các yêu cầu tối ưu đó x1 được lựa chọn như tối ưu R1
cho s2 Từ s2 có thể đạt được từ x2 và s3 là cho trước phương trình trên có thể viết lại như sau:
)
(
, , ,
*
2 1 1 1
1 1
1
1 1
s x R s
x R
s x R opt
s
x x
x
i
i i
có thể viết như sau
( , ) ( ) )
1 1
1
*
1
i i
i i i x
s
Trang 10
3.5 Sự bảo toàn bài toán giá trị cuối vào trong bài toán giá trị đầu
R n
n
s n+1 s n
n- 1
Rn-1
x n x n-1
s n-1
s i+1
Ri
x i
s i 2
x 2
R 2
s 3 s 2
x 1
R 1
s 1
§ iÓm b¾t ®Çu
(a)
(b)
s 1
R 1
x 1
s 2 s 3
R 2
x 2
s i
x i
R i
s i+1
s n-1
x n-1 x n
Rn-1
s n s n+1
R n
1
1
§ iÓm b¾t ®Çu
Hình 3-7 Bảo toàn bài toán giá trị cuối đến bài toán giá trị đầu: (a)
bài toán giá trị cuối; (b) bài toán giá trị đầu.
Nếu bài toán là bài toán giá trị cuối như hình 3.7, nó có thể giải bằng cách biến đổi về bài toán giá trị đầu
Trang 111
4 3 2
5 6
7
4km
5km 2km
10km 12km 6km 4km 10km
14km
2km
BƯỚC 1 BƯỚC 2
BƯỚC 3
Giải ngược dòng
Ví dụ
Trang 125-7 3
2
8 12
3-6 6-7 2-6 6-7
Trang 133-6 6-7
Lời giải cho đường đi tối ưu (ngắn nhất)
Trang 14BÀI TẬP: Xét một mạng lưới giao thơng sau Xác định tuyến đường ngắn nhất nối từ 1 đến 9.
1
2
3
4
5
6
7
8
9
Trang 1515