Điểm này che điểm ngọn • Còn lại ít nhất 1 điểm ngọn, chọn được điểm ứng với n2.. Lúc đó, do ta chọn được điểm ứng với n3.. Và cứ thế cho đến hết Định lý 2.3: Nếu bộ mã giải được có chiề
Trang 1Chương 2:
Bài toán mã trường hợp
kênh không bị nhiễu
2.2 Sự tồn tại của bộ mã tiền tố và
giải được
Mở ñầu
• Cho biến ngẫu nhiên X có các giá trị x1, x2, …, xM.
Tập các ký tự mã a1, a2, …, aD
• Cho trước các số nguyên dương n1, n2, …, nM
• Bài toán đặt ra là: có thể xây dựng bộ mã giải
được sao cho từ mã ứng với xk có chiều dài là nk?
• Mã tiền tố có thể giải mã từng bước
• Trong bài toán kênh không bị nhiễu, mã giải
7/2/2010
2
Huỳnh Văn Kha
Trang 2• Ví dụ 1:
M = 3, D = 2, n1= 1, n2= 2, n3= 3
Có thể chọn bộ mã {0, 10, 110}
• Ví dụ 2: M = 3, D = 2, n1= n2= 1, n3= 2
Không có bộ mã giải được nào thỏa yêu cầu bài
toán (sẽ chứng minh sau)
• Khi nào có thể xây dựng được bộ mã thỏa yêu
cầu, khi nào không?
ðịnh lý 2.2
Một bộ mã tiền tố với chiều dài các từ mã n1,
n2, …, nMlà tồn tại khi và chỉ khi
Trong đó D là số các ký tự mã
7/2/2010
4
Huỳnh Văn Kha
Trang 3Chứng minh ñịnh lý 2.2
• Cây bậc D kích thước k là một hệ thống các điểm
và đoạn thẳng
• Mỗi dãy s được tạo thành từ các ký tự trong {0, 1,
…, D – 1} có chiều dài không lớn hơn k được biểu
diễn bởi một điểm Vskhác nhau
• Nếu dãy t có được do thêm duy nhất một ký tự
vào sau s thì nối Vsvà Vtbằng một đoạn thẳng
• Các điểm ứng với dãy có chiều dài k gọi là các
điểm ngọn của cây kích thước k
Chứng minh ñịnh lý 2.2
0
00
01
000 001 010 011
10
100 101
Cây bậc 2
kích thước 3
0
00 01 02
1
10 11 12 20
Cây bậc
3 kích thước 2
7/2/2010
6
Huỳnh Văn Kha
Trang 4• Giả sử n1≤ n2≤ … ≤ nM
• Mỗi từ mã được đồng nhất với một điểm trên cây
bậc D kích thước nM
0
1
10
Cây ứng với bộ
mã {0, 10, 111}
Chứng minh ñịnh lý 2.2
• Do bộ mã là tiền tố nên khi điểm P đại diện cho
một từ mã, thì không điểm nào trên nhánh bắt
đầu từ P đại diện cho một từ mã khác
• Điểm ứng với từ mã chiều dài nksẽ che
điểm ngọn của cây
• Số điểm ngọn bị toàn bộ bộ mã che ≤ Tổng số các
điểm ngọn của cây
7/2/2010
8
Huỳnh Văn Kha
Trang 5Chứng minh ñịnh lý 2.2
• Ngược lại, giả sử và n1≤ n2≤ … ≤ nM
• Chọn điểm bất kỳ trên cây ứng với dãy có chiều
dài n1 Điểm này che điểm ngọn
• Còn lại ít nhất 1 điểm ngọn, chọn được điểm ứng
với n2 Lúc đó, do ta
chọn được điểm ứng với n3 Và cứ thế cho đến hết
Định lý 2.3:
Nếu bộ mã giải được có chiều dài từ mã lần
Mở rộng cho bộ mã giải ñược
• Điều kiện ở định lý 2.2 cũng là điều kiện cần và
đủ cho sự tồn tại của bộ mã giải được
• Do bộ mã tiền tố là giải được nên chỉ cần chứng
minh định lý sau là đủ
7/2/2010
10
Huỳnh Văn Kha
Trang 6• Gọi ωj là số từ mã chiều dài j và r là chiều dài lớn
nhất của các từ mã, ta có:
• Với mỗi số tự nhiên n cho trước, nhân phân phối
và rút gọn, ta được:
Chứng minh ñịnh lý 2.3
• Trong đó:
• Nkchính là tổng số mẫu tin được tạo thành từ n
trạng thái xisao cho đoạn mã của các mẫu tin này
đều có chiều dài k
• Bộ mã là giải được nên mỗi dãy ký tự mã tương
ứng với nhiều nhất một mẫu tin
• Nkkhông vượt quá tổng số các dãy ký tự mã có
chiều dài k
7/2/2010
12
Huỳnh Văn Kha
Trang 7Chứng minh ñịnh lý 2.3
• Như vậy Nk ≤ Dkvà ta có:
• Lấy căn bậc n:
• Cho n tiến ra vô cực ta được điều cần chứng minh