Câu 4: Cho hệ thống truyền tin có nguồn tin vào X gồm 2 tin a, b đẳng xác suất.. Hai tin này được mã hóa bằng mã nhị phân và được truyền trên kênh nhị phân đối xứng, nguồn ra Y có xác su
Trang 1Đề thi cuối kỳ môn Lý thuyết thông tin – 20122 – Đề 1
Thời gian 90 phút – Không sử dụng tài liệu
Câu 1: Kiểm tra xem bộ mã 10, 01, 101, 110, 001, 1011, 1010 có tính prefix hay không? Vẽ mặt tọa độ của bộ mã này
Câu 2: Ma trận của kênh không nhiễu có dạng như thế nào?
Câu 3: Cho nguồn tin = { , , , , , , , ℎ, , }, xác suất xuất hiện của từng tin như sau:
( ) = {0.3; 0.2; 0.15; 0.09; 0.07; 0.06; 0.05; 0.04; 0.03; 0.01}
Mã hóa nguồn này bằng mã Huffman với cơ số mã m=3 và tính độ dài trung bình của từ mã của mã lập được
Câu 4: Cho hệ thống truyền tin có nguồn tin vào X gồm 2 tin a, b đẳng xác suất Hai tin này được mã hóa bằng mã nhị phân và được truyền trên kênh nhị phân đối xứng, nguồn ra Y có xác suất truyền đúng là 0.6 và xác suất truyền sai là 0.4 Cho biết các giá trị lg(0.4)= -0.397; lg(0.6)= -0.221; lg(2)=0.301
a Tính các ma trận xác suất P(X), P(Y|X)
b Tính các ma trận xác suất P(X,Y), P(X|Y), P(Y)
c Tính các entropy H(X), H(X,Y), H(Y|X), H(X|Y)
d Tính lượng tin tương hỗ I(X; Y)
Câu 5: Giả sử bạn được định danh qua số thứ tự trong danh sách thi (với 3 chữ số thập phân) Hãy viết mã BCD của các chữ số của số thứ tự này của bạn và sử dụng các mã BCD này làm
tổ hợp vào của mã nhị phân Hamming Hãy xác định độ dài của từ mã của mã Hamming này để sửa sai trong kênh có số sai t = 1 Xác định ma trận thử H của mã Hamming này Viết các từ
mã Hamming này với từng tổ hợp vào là các mã BCD đã xác định trước đó