tailieunhanh - [Viễn Thông] Giáo Trình: Lý Thuyết Thông Tin phần 6

Do H(Y/X) không phụ thuộc vào phân phối của X = Max của I(X/Y) được quy về mã của H(Y). Hay C = Max I ( X / Y ) = Max( H (Y ) − H (Y / X )) | Giáo trình Lý thuyết thông tin. Xây dựng công thức tính dung lượng kênh truyền đối xứng Do H Y X không phụ thuộc vào phân phối của X Max của I X Y được quy về mã của H Y . Hay C MaxI X Y Max H Y - H Y X Ta có thể tính dễ dàng H Y X -ị p log p const Do đó j C MaxI X Y MaxH Y p log p7 ì i Do H Y logL ta cần chứng tỏ xảy ra khi p1 p2 . pL 1 L Xét trường hợp P X xi 1 M với mọi i chứng minh P Y yj 1 L với mọi j Thật vậy P Y y X P Y y . X x ẳP X x PY y X x MMPì Mq i 1 Từ A ta nhận thấy _f A P11 P L . E A tổng các phần tử của A. M M - k PM1 . PML 7 X hang cot Do Ẹ z A La A 1 M _ ML L M L i tqt M i i i i L P Y y H Y - p PQY y logP Y y log L Max M L L j j H Y đạt max là logL khi P Y yj 1 L hoặc P X xi 1 M Vậy C log L - H p 1 p 2 . p l hay C logL Pj logPj j 1 Chú ý trường hợp kênh 1 bit với nhiễu p Y p ì 1 - P Ma trận truyền tin A Dung lượng C 1 1-P log 1-P plogP 1- H P 1-P Biên soạn TS. L é Quy ết Thắng ThS. Phan Tấn Tài Ks. Dương Văn Hiếu. 51 Giáo trình Lý thuyết thông tin. 1 - H p 1-p Định lý về dung lượng kênh truyền Giả sử ma trạn A có dạng vuông và có ma trận nghịch đảo là A-1 Ký hiệu A pij với i 1 2 . M và j 1 2 . M A-1 qij với i 1 2 . M và j 1 2 . M Đặt tham số dk Xqjk exp2 - Xqj Y X Xi j 1 L i 1 Vk 1 M Nếu dk 0 thì dung lượng kênh truyền có dạng M C Log E exp 2 l j 1 M -X q H Y X X i 1 Giá trị cực đại đạt khi tín hiệu vào X X thỏa phân phối P X xk 2-Cdk Hay C max I X Y I X Y Chú ý - Điều kiện dk 0 cho phép hàm I X Y là hàm lồi Tồn tại Max tuyệt đối tại phân phối của X với p X xk 2-C dk pk với mọi k . - Nếu điều kiện ma trận vuông hoặc ma trận ngịch đảo không thỏa thì giá trị cực đại max sẽ nằm trên đường biên của miền xác định pk 0 và -Lpk 1 Bài tập 1. Cho một kênh truyền có ma trận truyền tin như sau X1 1 2 1 3 1 6 X2 1 3 1 6 1 2 x3 .1 6 1 2 1 3 y1 y 2 y3 Tính dung lượng kênh truyền. 2. Chứng minh các công thức tính dung lượng kênh truyền trên. Biên soạn TS. L ê Quy ết Thắng ThS. Phan Tấn Tài Ks. Dương Văn Hiếu. 52 Giáo trình Lý thuyết thông tin. BÀI LƯỢC ĐỒ .