tailieunhanh - LÝ THUYẾT THÔNG TIN - CÁC TÍNH CHẤT CỦA ENTROPY - KS. DƯƠNG VĂN HIẾU - 4

CÁC DẠNG KÊNH TRUYỀN Mục tiêu Sau khi hoàn tất bài học này bạn có thể: Biết kênh truyền không mất tin, Biết kênh truyền xác định, Biết kênh truyền không nhiễu, Biết kênh truyền không sử dụng được, Hiểu kênh truyền đối xứng, Hiểu định lý về dung lượng kênh truyền,Kênh truyền không mất tin Mô hình: từ tập hợp các giá trị có thể nhận được ở đầu nhận Y={y1, y2, , yL} được phân thành M nhóm Bi tương ứng với các giá trị xi ở đầu truyền và xác suất để truyền xi với điều kiện đã nhận yj là p,. | Giáo trình Lý thuyết thông tin. BAI CÁC DẠNG KÊNH TRUYỀN Mục tiêu Sau khi hoàn tất bài học này bạn có thể Biết kênh truyền không mất tin Biết kênh truyền xác định Biết kênh truyền không nhiễu Biết kênh truyền không sử dụng được Hiểu kênh truyền đối xứng Hiểu định lý về dung lượng kênh truyền Kênh truyền không mất tin Mô hình từ tập hợp các giá trị có thể nhận được ở đầu nhận Y y1 y2 . yL được phân thành M nhóm Bi tương ứng với các giá trị xi ở đầu truyền và xác suất để truyền xi với điều kiện đã nhận yj là p X xi Y yj eBi 1 với M L . Đầu truyền Đầu nhận X1 yi yk X2 . . . ---- yk 1 yh Nhóm B1 Nhóm B2 Nhóm BM Đặc trưng của kênh truyền không mất tin là H X Y 0. Có nghĩa là lượng tin chưa biết về X khi nhận Y là bằng 0 hay ta có thể hiểu khi nhận được Y thì ta hoàn toàn có thể biết về X. Dung lượng C log2M Sinh viên tự chứng minh xem như bài tập Kênh truyền xác định Mô hình từ tập hợp các giá trị có thể truyền ở đầu truyền được phân thành L nhóm Bj tương ứng với các giá trị có thể nhận được yj ở đầu nhận và xác suất để nhận yj với điều kiện đã truyền xi là p Y yj X xi eBj 1 M L . Đầu truyền Đầu nhận Nhóm B1 Nhóm B2 --------------- . yL xl Đặc trưng của kênh truyền xác định là H Y X 0. Có nghĩa là lượng tin chưa biết về Y khi truyền X bằng 0 hay khi truyền X thì ta biết sẽ nhận được Y. Biên soạn TS. L ê Quy ết Thắng ThS. Phan Tấn Tài Ks. Dương Văn Hiếu. 49 Giáo trình Lý thuyết thông tin. Dung lượng C log2L Sinh viên tự chứng minh xem như bài tập Kênh truyền không nhiễu Mô hình là sự kết hợp của kênh truyền xác định và kênh truyền không mất thông tin truyền ký tự nào sẽ nhận được đúng ký tự đó. Đầu truyền Đầu nhận X1-------------- X1 X2 ------------- X2 XM XM Đặc trưng H X Y H Y X 0. Dung lượng C log2L log2M Sinh viên tự chứng minh xem như bài tập Ví dụ ma trận truyền tin của kênh truyền không nhiễu với M L 3 1 0 0 0 1 0 0 0 1 x1 x2 A 2 x3 y1 y 2 y3 Kênh truyền không sử dụng được. Mô hình là kênh truyền mà khi truyền giá trị nào thì mất giá trị đó hoặc Xác suất nhiễu