tailieunhanh - [Viễn Thông] Giáo Trình: Lý Thuyết Thông Tin phần 2

Ta thử xét một trường hợp sau: nếu người chơi lấy ngẫu nhiên 1 đồng tiền và sau đó thực hiện việc tung đồng tiền lấy được 2 lần. | Giáo trình Lý thuyết thông tin. Ta thử xét một trường hợp sau nếu người chơi lấy ngẫu nhiên 1 đồng tiền và sau đó thực hiện việc tung đồng tiền lấy được 2 lần. Qua 2 lần tung đồng tiền ta đếm được số đầu hình xuất hiện. Dựa vào số đầu hình xuất hiện ta có thể phán đoán được người tổ chức chơi đã lấy được đồng tiền nào. Chẳng hạn Nếu số đầu hình đếm được sau 2 lần tưng là 1 thì đồng tiền đã lấy được là đồng tiền thật. Ngược lại nếu số đầu hình đếm được là 2 thì đồng tiền đã lấy được có thể là thật hay cũng có thể là giả. Như vậy ta đã nhận được một phần thông tin về loại đồng tiền qua số đầu hình đếm được sau 2 lần tung. Ta có thể tính được lượng tin đó bằng bao nhiêu Việc tính lượng tin này sẽ được thảo luận sau . Dưới đây là một số bảng phân phối của bài toán trên Gọi BNN X về loại đồng tiền X 1 nếu lấy được đồng tiền loại 1 và X 1 nếu lấy được đồng tiền loại 2 được lấy . Khi đó phân phối của X có dạng X 1 2 P Đặt BNN Y là BNN về số đầu hình đếm được sau 2 lần tung. Khi đó ta có thể xác định được phân phối của Y với điều kiện xảy ra của X trong 2 trường hợp sau. Phân phối của Y khi biết X 1 có dạng Y X 1 0 1 2 P Phân phối của Y khi biết X 2 có dạng Y X 2 0 1 2 P 0 0 1 Định lý cơ sở của kỹ thuật truyền tin Trong A New Basic of Information Theory 1954 Feinstein đã đưa ra định lý sau Trên một kênh truyền có nhiễu người ta luôn có thể thực hiện một phương pháp truyền sao cho đạt được sai số nhỏ hơn sai số cho phép nhỏ bất kỳ cho trước đối với kênh truyền. Chúng ta sẽ không chứng minh định lý thay vào đó chúng ta sẽ tham khảo đến các minh họa giảm nhiễu trong các nội dung tiếp theo của bài học. Mô tả trạng thái truyền tin có nhiễu Giả sử một thông báo được truyền đi trên một kênh truyền nhị phân rời rạc. Thông báo cần truyền được mã hóa thành dãy số nhị phân 0 1 và có độ dài được tính theo đơn vị bit. Giả sử 1 bit truyền trên kênh nhiễu với xác suất 1 4 hay tính trung bình cứ truyền 4 bit thì có thể nhiễu 1 bit . đúng 0 1 Biên soạn TS. L ê Quy ết