Các khái niệm căn bản về mạng máy tính doc

Chương 1:Các khái niệm căn bản 1.1 Độ không chắc chắn Mô hình truyền thông thông.. Mô hình truyền thôngthích hợp để truyền qua kênh trình này chịu sự tác động của Nhiễu mẫu tin ban đầu 7

Chương 1:

Các khái niệm căn bản

1.1 Độ không chắc chắn

Mô hình truyền thông

thông Sơ đồ như sau

Nhiễu

7/2/2010

2

Huỳnh Văn Kha

Mô hình truyền thông

thích hợp để truyền qua kênh

trình này chịu sự tác động của Nhiễu

mẫu tin ban đầu

7/2/2010

Huỳnh Văn Kha

Mục ñích của LTTT

khối trong sơ đồ truyền thông

sát chủ yếu về lý thuyết mã hóa và giải mã

truyền thông tin qua một kênh bị nhiễu theo một

định lượng truyền bất kỳ nhỏ hơn dung lượng

7/2/2010

4

Huỳnh Văn Kha

Ý nghĩa của ðịnh lý căn bản

suất như nhau với định lượng sinh 1 bit/giây Giả

sử các bit được sinh ra độc lập nhau

truyền sai 1 bit bất kỳ là ¼ Giả sử tốc độ truyền

qua kênh là 1 bit/giây

Nguồn

0

1

0

1

¾

¼

¾

¼

Ý nghĩa của ðịnh lý căn bản

giảm xác suất này xuống

kênh 3 lần và giải mã theo nguyên tắc đa số

7/2/2010

6

Huỳnh Văn Kha

Ý nghĩa của ñịnh lý căn bản

nguồn xuống còn 1/3 bit/giây

bit nguồn được truyền 2n+1 lần và giải mã theo

đa số.Thì:

7/2/2010

Huỳnh Văn Kha

Ý nghĩa của ðịnh lý cơ bản

nếu giảm định lượng sinh xuống nhỏ gần bằng 0

Không cần phải giảm định lượng sinh về 0 mà

chỉ cần giảm về một đại lượng gọi là dung lượng

kênh

7/2/2010

8

Huỳnh Văn Kha

Hàm ño ñộ không chắc chắn

xác suất tương ứng

định nghĩa (log được lấy theo cơ số 2):

cho

Hàm ño ñộ không chắc chắn

7/2/2010

Huỳnh Văn Kha

10

Hàm ño ñộ không chắc chắn

của một biến ngẫu nhiên

trong đó

xác định kết quả của X

7/2/2010

Huỳnh Văn Kha

Bổ ñề 1.1

7/2/2010

Huỳnh Văn Kha

12

Chứng minh bổ ñề 1.1

Áp dụng bất ñẳng thức (dấu

bằng xảy ra khi và chỉ khi ), với

, nhân 2 vế cho rồi lấy tổng theo :

Từ ñây ta suy ra ñiều cần chứng minh

ðịnh lý 1.2

7/2/2010

Huỳnh Văn Kha

14

, dấu bằng xảy ra

ðây là hệ quả của Bổ ñề phía trên, với tất cả

Huỳnh Văn Kha

Hàm ño ñộ không chắc chắn của ñồng

thời hai biến ngẫu nhiên

Xét hai biến ngẫu nhiên:

• Biến X lấy giá trị với xác suất lần lượt là:

• Biến Y lấy giá trị với xác suất lần lượt là:

ñồng thời của X và Y ñược ñịnh nghĩa là:

7/2/2010

Huỳnh Văn Kha

16

Dấu bằng xảy ra khi và chỉ khi ñộc lập

Chứng minh:

ðặt: ,

Thì:

Áp dụng Bổ ñề 1.1, ta ñược: