tailieunhanh - Giáo trình Lý thuyết thông tin: Phần 2

Giáo trình Lý thuyết thông tin: Phần 2 trình bày các nội dung chính sau: Sinh mã tách được (Decypherable Coding), Kênh truyền tin rời rạc không nhớ (Discrete Memoryless Channel) và Sửa lỗi trên kênh truyền (Error Correcting Codings). Mời các bạn cùng tham khảo để nắm nội dung chi tiết. | Giáo trình Lý thuyết thông tin. CHƯƠNG 3 SINH MÃ TÁCH ĐƯỢC Decypherable Coding Mục tiêu Phân này đề cập đến bài toán mã hóa coding các giá trị của một biến X. Khi mã các giá trị của X người ta phải sử dụng bảng ký tự mã Coding Character Table hay bảng chữ cái Code Alphabet . Như vậy một giá trị x của X sẽ được mã thành một từ mã Code Word w dưới dạng một dãy các ký tự mã với độ dài là n ký tự. Trong truyền tin một dãy các giá trị của X được phát sinh và được mã thành một dãy liên tục các từ mã hay một dãy các ký tự mã lấy từ bảng ký tự mã. Vấn đề cần giải quyết là 1. Khi nhận một dãy ký tự mã liên tục đó thì ta có thể giải mã thành một dãy các giá trị duy nhất của X hay không Nói cách khác dãy ký tự mã này có tách được thành các từ mã một cách duy nhất hay không 2. Chỉ ra phương pháp xây dựng mã tách được tối ưu. BÀI KHÁI NIỆM VỀ MÃ TÁCH ĐƯỢC Mục tiêu Sau khi hoàn tất bài học này bạn có thể - Biết yêu cầu của bài toán sinh mã - Hiểu khái niệm về bảng mã tách được và bảng mã không tách được - Hiểu khái niệm về bảng mã tức thời - Hiểu giải thuật kiểm tra tính tách được của một bảng mã - Vận dụng giải thuật kiểm tra tính tách được của một bảng mã để kiểm tra xem một bảng mã có phải là bảng mã tách được hay không. Đặt vấn đề bài toán sinh mã Giả sử nguồn tin X xuất hiện và được ghi lại thông qua một thiết bị đặc biệt. Chẳng hạn như ảnh được ghi lại bằng máy ảnh âm thanh được ghi lại bằng máy ghi âm Qua kênh truyền những thông tin này cần phải được mã hóa cho phù hợp. Để có thể mã hóa người ta cần một bảng chữ cái gồm các chữ cái quy định trước chẳng hạn bảng chữ cái la tinh bảng mã nhị phân . Mỗi giá trị của X sau đó được mã dưới dạng một dãy hữu hạn các chữ cái và ta gọi dãy hữu hạn các chữ cái gán cho một giá trị của x là một từ mã. Ta xét BNN X x1 x2 xn có phân phối p1 p2 pn được quan sát liên tục và độc lập. Dãy các giá trị nhận được gọi là thông báo Message có dạng xi1xi2 xin. Tập hợp A a1 a2 an là tập hợp ký tự mã Code Characters hay là bảng chữ cái Code .