tailieunhanh - LÝ THUYẾT THÔNG TIN - CÁC TÍNH CHẤT CỦA ENTROPY - KS. DƯƠNG VĂN HIẾU - 1

Biết kênh truyền không mất tin, Biết kênh truyền xác định, Biết kênh truyền không nhiễu, Biết kênh truyền không sử dụng được, Hiểu kênh truyền đối xứng, Hiểu định lý về dung lượng kênh truyền,Kênh truyền không mất tin Mô hình: từ tập hợp các giá trị có thể nhận được ở đầu nhận Y={y1, y2, , yL} được phân thành M nhóm Bi tương ứng với các giá trị, | Giáo trình Lý thuyết thông tin. MỤC LỤC GIỚI THIỆU TỔNG 1. MỤC 2. YÊU CẦU. 6 3. NỘI DUNG CỐT 4. KẾT THỨC TIÊN 5. TÀI LIỆU THAM 6. PHƯƠNG PHÁP HỌC CHƯƠNG 1 GIỚI 1. Mục 2. Đối tượng nghiên 3. Mô hình lý thuyết thông tin theo quan điểm 4. Lượng tin biết và chưa 5. Ví dụ về lượng tin biết và chưa 6. Định lý cơ sở của kỹ thuật truyền 7. Mô tả trạng thái truyền tin có 8. Minh họa kỹ thuật giảm 9. Chi phí phải trả cho kỹ thuật giảm 10. Khái niệm về dung lượng kênh 11. Vấn đề sinh 12. Vấn đề giải CHƯƠNG 2 ĐỘ ĐO LƯỢNG BÀI ENTROPY .15 1. Mục 2. Ví dụ về 3. Nhận xét về độ đo lượng 4. Khái niệm 5. Entropy của một sự 6. Entropy của một phân 7. Định lý dạng giải tích của 8. Ví dụ minh 9. Bài toán về cây tìm kiếm nhị phân-Đặt vấn 10. Bài toán về cây tìm kiếm nhị phân - Diễn 11. Bài BÀI CÁC Tính chất của 1. Mục tiêu .19 2. Các tính chất cơ bản của 3. Minh họa tính chất 1 và 4. Minh họa tính chất 3 và 5. Định lý cực đại của entropy .20 6. Chứng minh định lý cực đại của 7. Bài tập .21 BÀI EnTrOPY của nhiều 1. Mục tiêu. .22 2. Định nghĩa Entropy của nhiều 3. Ví dụ Entropy của nhiều 4. Định nghĩa Entropy có điều Biên soạn TS. L ê Quy ết Thắng ThS. Phan Tấn Tài Ks. Dương Văn Hiếu. 1 Giáo trình Lý thuyết thông tin. 5. Ví dụ Entropy có điều 6. Quan hệ giữa H X Y với H X và H Y khi X Y độc 7. Quan hệ giữa H X Y với H X và H Y khi X Y tương 8. Bài tập. .25 BÀI MiNh họa các 1. Mục 2. Yêu cầu của bài 3. Xác định các phân phối ngẫu nhiên của bài 4. Minh họa Entropy H X H Y và H X Y .27 5. Minh họa Entropy h x y và H Y X .27 6. Minh họa quan hệ giữa các BAI ĐO LƯỢNG TlN MESURE OF INFORMATION .