Ông là một nhà toán học người Nga và được biết đến với những công trình về quá trình ngẫu nhiên trong đó nổi bật như xích Markov hay quá trình Markov.. Nghiên cứu của ông về Xích Markov
Trang 1ĐẠI HỌC QUỐC GIA TP HCM ĐẠI HỌC BÁCH KHOA THÀNH PHỐ HỒ CHÍ MINH
BÁO CÁO BÀI TẬP LỚN ĐẠI SỐ TUYẾN TÍNH
Giáo viên hướng dẫn: Nguyễn Xuân Mỹ
6 Lê Trương Ngọc Hân
7 Trương Huỳnh Gia Hân
8 Nguyễn Thị Thu Hằng
9 Nguyễn Xuân Hòa
Trang 2ĐẠI HỌC QUỐC GIA TP HCM ĐẠI HỌC BÁCH KHOA THÀNH PHỐ HỒ
CHÍ MINH
BÁO CÁO BÀI TẬP LỚN ĐẠI SỐ TUYẾN TÍNH
Giáo viên hướng dẫn: Nguyễn Xuân Mỹ
6 Lê Trương Ngọc Hân
7 Trương Huỳnh Gia Hân
8 Nguyễn Thị Thu Hằng
9 Nguyễn Xuân Hòa
Trang 3MỤC LỤC
TRANG A.PHẦN MỞ ĐẦU……… 4 B.PHẦN NỘI DUNG……… 5
I Đề tài bài tập lớp……… 5
Markok giải một bài toán cụ thể
Giới thiệu ma trận Markok……….……… 5
5
9
IV Ứng dụng khác của mô hình Markov…… ………… 13
1.Trong trò chơi……….……… 14
16
C LINK THAM KHẢO……… … 21
*Báo cáo gồm: 21 trang.
Trang 5LỜI MỞ ĐẦU
Toán học từ xa xưa đã trở thành một trong những công cụ giúp con người khám pháthế giới Có thể nói, Toán học đã giúp con người tính toán và thậm chí dự đoán những sựviệc sắp xảy ra dựa trên những sự kiện đã xảy ra Trong những lĩnh vực trọng điểm như kinh
tế, máy tính, kỹ thuật, Toán học đóng vai trò là một công cụ mạnh mẽ để tính toán và môphỏng các lý thuyết đang được nghiên cứu và từ đó áp dụng các lý thuyết đó vào thực tế
Đại số tuyến tính là một lĩnh vực lớn trong Toán học và đó cũng là một trong những
lĩnh vực được sử dụng vào thực tế nhiều nhất Ngày nay, Đại Số Tuyến Tính (ĐSTT) được
áp dụng vào kinh tế, nghiên cứu khoa học, máy tính, kỹ thuật, Một trong những ứng dụng
lớn mà ta thường thấy là ma trận Markov Ma trận này thường được sử sụng để ước lượng
xác xuất xảy ra của một sự kiện nằm trong một chuỗi sự kiện cho trước Nhờ vào đó, các nhànghiên cứu có thể đưa ra các quyết định chính xác hơn mà không cần phải thông qua nhiềulần thí nghiệm
Trong lý thuyết xác suất , Mô hình Markov là mô hình ngẫu nhiên được sử dụng để
mô hình hệ thống thay đổi ngẫu nhiên Giả định rằng các trạng thái trong tương lai chỉ phụ
thuộc vào trạng thái hiện tại, không phụ thuộc vào các sự kiện xảy ra trước nó (nghĩa là
nó giả định thuộc tính Markov ) Nói chung, giả định này cho phép lập luận và tính toán với
mô hình mà nếu không thì không thể đọc được Vì lý do này, trong các trường của mô hình
dự đoán và dự báo xác suất , mô hình nhất định được mong muốn thể hiện thuộc tínhMarkov
Trong phần Bài tập lớn này, chúng em chủ yếu tập trung nghiên cứu và giải thích về
ma trận Markov và những ứng dụng cơ bản của ma trận này vào thực tế Đồng thời, chúng
em cũng đưa ra một vài ví dụ về những vấn đề trong cuộc sống và tìm lời giải cho những bàitoán đó thông qua ma trận Markov Qua phần Bài tập lớn này, chúng em hy vọng có thể làm
rõ được ý nghĩa cũng như tầm quan trọng của ma trận Markov trong các lĩnh vực nghiên cứukhác nhau
B PHẦN NỘI DUNG
I ĐỀ TÀI BÀI TẬP LỚN
1 Giới thiệu mô hình Markok
2 Viết chương trình dung mô hình Markok giải một bài toán cụ thể
3 Tìm các ứng dụng khác nhau của mô hình Markov
Trang 6II GIỚI THIỆU MA TRẬN MARKOV
1 Cơ Sở Lý Thuyết
1.1 Sơ lược về Markov và ma trận Markov:
1.1.1 Sơ lược về Markov:
Markov (14/6/1856 − 20/7/1922)
Markov, sinh ngày 16/6/1956 ở Ryazan − Nga và mất ngày 20/7/1922 tại St Petersburg,tên đầy đủ là Andrey (Andrei) Andreyevich Markov Ông là một nhà toán học người Nga và
được biết đến với những công trình về quá trình ngẫu nhiên trong đó nổi bật như xích
Markov hay quá trình Markov Ông học tại Đại học St Petersburg rồi nhận bằng thạc sỹ
và tiến sỹ tại đây Đồng thời, ông cũng là giáo sư giảng dạy tại Đại học St Petersburg và làthành viên của Học viên Khoa học Nga Ông công bố kết quả nghiên cứu của mình lần đầutiên vào năm 1906 Markov và người em trai của ông Vladimir Andreevich Markov (1871–
1897) đã chứng minh được bất đẳng thức anh em Markov Con trai của ông cũng tên là
Andrei Andreevich Markov (1903–1979), cũng là nhà toán học đáng chú ý, đóng góp chongành toán học kiến thiết và lý thuyết hàm đệ quy Markov về hưu năm 1905 và vẫn tiếp tục
sự nghiệp giảng dạy của mình ở Đại học đến cuối đời Nghiên cứu của ông về Xích Markov
là tiền đề cho việc nghiên cứu về Quá trình ngẫu nhiên với hàng loạt những ứng dụng trong
thực tế
Trang 71.1.2 Xích Markov
Trong lý thuyết xác suất và các lĩnh vực liên quan, quá trình Markov (đặt theo tên củaông) là một quá trình ngẫu nhiên thỏa mãn một tính chất đặc biệt, gọi là tính chất Markov(còn gọi là tính mất trí nhớ) Tính chất này giúp dự báo được tương lai chỉ dựa vào trạng tháihiện tại Điều này cũng có nghĩa trạng thái tương lai và quá khứ là độc lập nhau Tuy nhiên
về sau, quá trình Markov được mở rộng thành Markov bậc cao, trong đó tương lai phụ thuộcvào hiện tại và một quãng thời gian nào đó trong quá khứ
Xích Markov là quá trình Markov đặc biệt mà trong đó hoặc có trạng thái rời rạc hoặcthời gian rời rạc Quá trình Markov được nhà toán học Markov bắt đầu nghiên cứu từ khoảngđầu thế kỷ 20 mặc dù có nhiều nghiên cứu hàng trăm năm trước đó về quá trình này nhưngdưới dạng các biến ngẫu nhiên phụ thuộc Hai ví dụ quan trọng nhất của quá trình Markov làquá trình Wiener (hay chuyển động Brownian) và quá trình Poisson Hai quá trình này đượccoi là quan trọng nhất và là trung tâm của lý thuyết quá trình ngẫu nhiên Xích Markov có rấtnhiều ứng dụng với vai trò là các mô hình xác suất trong các quá trình thực tế Thuật toánđược biết đến là PageRank được thực hiện khởi nguồn cho công cụ tìm kiếm của Googleđược dựa trên xích Markov
Ta xét một hệ thống kinh tế hoặc một hệ thống vật chất S với m trạng thái có thể, ký hiệu bởi tập I:
hệ thống S tiến hóa ngẫu nhiên trong thời
gian rời rạc (t = 1, 2, 3, ,∈n, ), và đặt Cn là biến ngẫu nhiên tương ứng với trạng thái của hệ thống S ở thời điểm n (C n I).
Mô hình Markov thường được sử dụng để mô hình hóa xác suất của các trạng tháikhác nhau và tốc độ chuyển đổi giữa chúng Phương pháp này thường được sử dụng để mô
6
I = 1, 2, 3, , m
Trang 8hình hóa hệ thống Mô hình Markov cũng có thể được sử dụng để nhận dạng các mẫu, đưa ra
dự đoán và để tìm hiểu thống kê của dữ liệu tuần tự
Mô hình Markov có thể được biểu diễn dưới dạng phương trình hoặc mô hình đồ họa.Các mô hình Graphic Markov thường sử dụng các vòng tròn (mỗi trạng thái chứa các trạngthái) và các mũi tên chỉ hướng để chỉ ra các thay đổi chuyển tiếp có thể xảy ra giữa chúng.Các mũi tên chỉ hướng được gắn nhãn tỷ lệ hoặc một biến cho tỷ lệ Các ứng dụng của môhình Markov bao gồm ngôn ngữ mô hình hóa, xử lý ngôn ngữ tự nhiên (NLP), xử lý hìnhảnh, tin sinh học, nhận dạng giọng nói và mô hình hóa các hệ thống phần cứng và phần mềmmáy tính
Ví dụ 1.1
Trong một khu phố có 1000 hộ dân Trong đó có 200 hộ đi siêu thị A, 500 hộ đisiêu thị B, 300 hộ đi siêu thị C Khảo sát cho thấy ,sau mỗi tháng có 10% kháchhàng của A chuyển sang B và 10% chuyển qua C; có 7% khách hàng của B chuyểnsang A và 3% chuyển sang C; có 8.3% khách hàng của C chuyển sang A và 6.7%chuyển sang B
a/ Lập ma trận chuyển P
c/ Tìm số lượng khách hàng ở mỗi siêu thị tháng thứ 3
A
10 7
10
B
8,3
3 6,7
0.1 0.03 0.85
Trang 9c/ Ta có : X n =P n X0
=> Số lượng khách hàng ở mỗi siêu thị tháng thứ 3 là:
*Mô Hình Markov Ẩn:
Một trong những ví dụ về Mô hình Markov là vẽ quả cầu từ bình ẩn
Hình 2: Ví dụ về ứng dụng của Mô hình Markov trong vẽ quả cầu từ bình ẩn
bài toán urn với sự thay thế (trong đó mỗi mục từ urn là trở lại bình gốc trước khi bước tiếptheo)
Hãy xem xét ví dụ này: Trong một căn phòng mà người quan sát không thể nhìn thấy cómột thần đèn Phòng chứa các bình X1, X2, X3, mỗi bình chứa một hỗn hợp bóng đã biết,mỗi bóng có nhãn y1, y2, y3, Thần đèn chọn một chiếc lọ trong phòng đó và rút ngẫunhiên một quả bóng từ chiếc lọ đó Sau đó, nó đặt quả bóng lên một băng chuyền, nơi ngườiquan sát có thể quan sát trình tự của các quả bóng nhưng không phải trình tự của các bình màchúng được rút ra Thần đèn có một số thủ tục để chọn bình; việc lựa chọn chiếc lọ cho quảbóng thứ n chỉ phụ thuộc vào một số ngẫu nhiên và sự lựa chọn chiếc lọ cho quả bóng thứ (n
nhất trước đó; do đó, đây được gọi là quá trình Markov Nó có thể được mô tả bởi phần trên của Hình 2.
Bản thân quá trình Markov không thể được quan sát, chỉ có chuỗi các quả bóng được
dán nhãn, do đó sự sắp xếp này được gọi là "quá trình Markov ẩn" Điều này được minh họa bằng phần dưới của biểu đồ trong Hình 2, nơi người ta có thể thấy rằng các bóng y1, y2,
y3, y4 có thể được vẽ ở mỗi trạng thái Ngay cả khi người quan sát biết thành phần của các
Trang 10bình và vừa quan sát thấy một chuỗi ba quả bóng, ví dụ: y1, y2 và y3 trên băng chuyền,người quan sát vẫn không thể chắc chắn được thần đèn (tức là ở trạng thái nào) thần đèn đãrút quả bóng thứ ba từ đó.
Tuy nhiên, người quan sát có thể tìm ra các thông tin khác, chẳng hạn như khả năngquả bóng thứ ba đến từ mỗi chiếc bình
được gọi là ma trận chuyển xác suất một bước của quá trình
Ví dụ 1.2
Xét bài toán như sau: Có hai cửa hàng A và B, một nghiên cứu cho thấy xác suất một khách hàng của cửa hàng A sẽ chuyển sang cửa hàng B sau mỗi lần mua sắm là α(> 0) và xác suất khách hàng của của hàng B sẽ chuyển sang của hàng A sau mỗi lần mua sắm là β(> 0) Tính xác suất để người khách vẫn mua sắm ở của hàng A sau 1 lần mua sắm.
Giải:
Trang 11Gọi P00 là xác suất chuyển từ cửa hàng A sang cửa hàng A, P 01 là xác suất chuyển từ cửa
suất chuyển từ cửa hàng B sang cửa hàng B Dễ thấy, các xác suất chuyển lần lượt là:
Trang 12Hình 6: Ví dụ mô hình Markov (n + 1) bước
Lấy bài toán ở Ví dụ 1.2, yêu cầu tính xác suất của một khách hàng ở cửa hàng B tiếp tục
mua sắm ở của hàng B sau 4 lần mua sắm Cho α = 0.4 và β = 0.7.
P(4) = P4 = [0,40,6
=> Như vậy, xác suất để khách hàng của cửa hàng B quay lại mua sắm ở cửa hàng B sau 4 lần là P11(4 ) = 0.3637
Cho một chuỗi Markov có trạng thái thuộc 0, 1, 2, Giả sử tại thời điểm n = 0, xác
trạng thái j sau n bước chuyển là:
P ij (n) = P ij (n) với Pij là xác suất sau 1 bước chuyển từ trạng thái i sang trạng thài j của quá trình.
Xác suất quá trình ở trạng thái j sau n lần chuyển là:
Trang 13X (n+1) = P (n +1) X(0)
Ta lại lấy từ ví dụ phía trên, nếu tại n = 0, một khách hàng ở cửa hàng B, ta có thể biểu diễn
thông tin trên bằng:
chuyển từ C sang A Hỏi lượng khách hàng của siêu thị là bao nhiêu sau n tháng ?
Trang 14Ví dụ : 3 siêu thị A, B, C lần lượt có 200, 500, 300 hành khách ban đầu Sau mỗi tháng có 10% khách hàng chuyển từ A sang B; 10 % khách hàng chuyển từ A sang C ; 7% khách hàngchuyển từ B sang A; 3 % từ B sang C ; 6.7 % từ C sang B; 8.3 % chuyển từ C sang A Hỏi lượng khách hàng của siêu thị là bao nhiêu sau n tháng ? Hình
Ma trận Markov
n Dự đoán n tháng sau siêu thị có lượng khách hàng là : X n =P X0
IV ỨNG DỤNG KHÁC CỦA MÔ HÌNH MARKOV
Trang 15-Giả sử ta có game Snakes and Ladders như hình bên với luật chơi như sau:
+Trò chơi này sẽ bắt đầu từ ô số 1, số lượt di chuyển sẽ được tính theo số điểm
mà bạn xúc xắc được
+Cứ thực hiện theo cách chơi Snakes and Ladders như vậy cho đến khi nào đến ô số 100 Người nào đến ô 100 trước sẽ là người thắng
(Trong bài toán này, ta giả sử không có rắn và thang để đơn giản bài toán)
để đơn giản bài toán):
Sau 1 lượt đi, vị trí của người chơi sẽ là:
Có nghĩa là sẽ có 1/6 tỷ lệ người chơi sẽ đến ô số 2, 1/6 tỷ lệ tới ô số 3
Sau n lượt vị trí của người chơi sẽ là:
Bằng cách thay n vào phép toán trên, có thể tính được tỷ lệ vị trí của người chơi sau bất kì lượt nào
Trang 16Tiếp tục tính như vậy, ta có thể lập 1 đồ thị thể hiện xác xuất để kết thúc trò chơi với giả thiết trên:
Có thể thấy, 50% người chơi sẽ hoàn thành trò chơi này sau 29 lượt Phù hợp với thực
tế là trung bình mỗi lượt chơi người ta sẽ tiến được 3,5 bước về phía trước
Để tính trường hợp đầy đủ của trò chơi, tức có rắn và thang, ta chỉ cần thay đổi matrận Markov biểu thị nước đi cho phù hợp
Và tương tự như trên, người ta có thể sử dụng mô hình Markov để tính toán xác suất cho tất cả các trò chơi có tính ngẫu nhiên khác
2.Trong khảo sát các chuỗi trạng thái.
Như đã khảo sát ở trên, ma trận Markov có thể dung để tính nhanh các chuỗi
trạng thái phức tạp
Ví dụ 1:
Tổng thống Mỹ kể cho một người A về việc có hoặc khôngtranh cử trong cuộc tuyển cử tới Nếu A thay đổi câu trả lời và chuyển tiếp tới
B và B là người chuyển tiếp cho C,vv luôn luôn chuyển tiếp cho một người
mới Ta đặt xác suất là a với một người thay đổi câu trả lời từ có sang không
khi truyền thông điệp cho một người tiếp theo và xác suất là b mà người
Trang 17đó thay đổi từ không sang có Ta chọn các trạng thái của thông điệp là có
hoặc không Ma trận chuyển cho trường hợp này:
Yes hoặc No cuối cùng
Ví dụ 2:
Cho hình sau biểu thị xác suất diễn ra của thời tiết trong 1 tháng
Tính xác suất của từng loại thời tiết tại ngày n, biết hôm nay trời nắng
Ma trận mẫu và ma trận chuyển cho trường hợp này là:
Với hàng 1 biểu thị cho nắng, hàng 2 cho mưa và hàng 3 cho mây
Tiếp tục áp dụng công thức, ta sẽ tính được xác suất thời tiết ở ngày n trong tháng đó
3.Chính sách thay thế thiết bị vật tự
Ví dụ:
Trong một hệ thống điện kĩ thuật, các thiết bị cùng một loại được phân
ra các tình trạng sau đây: vừa mới thay, còn tốt, vẫn dùng được và đã bị hỏng.Theo số liệu thống kê được, ta có ma trận xác suất chuyển trạng thái như sau:
Trang 18trong đó, sau mỗi tuần (xem hàng đầu của ma trận P) có 0%, 80%, 20% và 0%
số các thiết bị mới thay chuyển sang tình trạng mới thay, còn tốt, vẫn dùng
được và đã bị hỏng Các hàng khác của ma trận P được giải thích một cách
tương tự Ta đi tìm phân phối dừng bằng phương pháp đã biết
Giả sử rằng chi phí thay mới một thiết bị là 25 nghìn (đồng) và thất thukhi mỗi một thiết bị hỏng là 18,5 nghìn, thì mỗi tuần hệ thống trên phải chi
trung bình trên một thiết bị số tiền là: (1/6) 25 + (1/6) 18,5 = 7,25 nghìn / thiết
bị / tuần Ta xét phương án thứ hai cho việc thay thế vật tư thiết bị với ma trận
xác suất chuyển trạng thái sau đây:
Ma trận này tương ứng với chính sách mới về thay thế vật tư thiết bị là:
Trang 19thay thế mỗi thiết bị một khi kiểm tra và phát hiện thiết bị ở tình trạng vẫndùng được Điều này có thể dẫn tới việc giảm thiểu thất thu do thiết bị hỏnggây nên Thật vậy, ứng với ma trận P trên đây, phân phối dừng = [1/4 1/2 1/4].Lúc này, mỗi tuần hệ thống trên phải chi trung bình trên một thiết bị số tiền là:(1/4) 25 + (0) 18,5 = 6,25 nghìn / thiết bị / tuần Như vậy hệ thống sẽ tiết kiệmđược 1 nghìn/ thiết bị / một tuần Nếu hệ thống có 2000 thiết bị, thì nhờ chínhsách thay thế vật tư mới, mỗi tuần hệ thống sẽ tiết kiệm được 2 triệu (đồng).
Một ứng dụng của quá trinh sinh-tử cho hệ thống hàng chờ
Quá trinh sinh-tử được ứng dụng khá rộng rãi trong Lí thuyết độ tin cậy, làmột môn học của ngành Điện / Điện tử, và một số ngành khoa học kĩ thuật khác cũng như trong Quản trị kinh doanh và Vận trù học
Quá trinh sinh – tử là trường hợp riêng của xích Markov thuần nhất thời
này có nghĩa là việc chuyển trạng thái trong quá trinh sinh-tử có thể tới “1 đơn vịlên hoặc xuống” (xem hình IV.3)
Sơ đồ chuyển trạng thái trong quá trinh sinh – tử
Từ trạng thái S n tại thời điểm t hệ X(t) chỉ có thể chuyển tới một trong các trạng thái S n+1 , S n hoặc S n-1 Vì vậy chúng ta có các cường độ chuyển:
µ 0 = λ −1 = 0=q 00 , q n, n+1 = λ n, q n, ∀ n−1 = µ n và q n, n = − (λ n + µ n ) ∀n.
ma trận cường độ Q đã biết
Ma trận chuyển vị của Q có dạng:
18