Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Sức khỏe - Y tế
Văn bản luật
Nông Lâm Ngư
Kỹ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Giới thiệu
Đăng ký
Đăng nhập
Tìm
Danh mục
Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Y tế sức khỏe
Văn bản luật
Nông lâm ngư
Kĩ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Thông tin
Điều khoản sử dụng
Quy định bảo mật
Quy chế hoạt động
Chính sách bản quyền
Giới thiệu
Đăng ký
Đăng nhập
0
Trang chủ
Kỹ Thuật - Công Nghệ
Kĩ thuật Viễn thông
Giáo trình: Lý thuyết thông tin part 3
tailieunhanh - Giáo trình: Lý thuyết thông tin part 3
Bài 1: Cho 2 biến ngẫu nhiên X, Y độc lập nhau có phân phối sau: X P Y P x1 1/2 y1 1/4 x2 1/2 y2 1/4 y3 1/4 y4 1/4 Tính H(X), H(Y). Bài 2: Kiểm tra lại kết quả của của bài 1 bằng tính chất 2. Bài 3: Cho biến ngẫu nhiên X có phân phối sau: X P x1 10% x2 20% x3 25% x4 25% x5 15% x6 5% Ta có thể gom các sự kiện x1, x2, x3 lại thành một sự kiện mới là x123 có xác suất xuất hiện là 55%, gom sự. | Giáo trình Lý thuyết thông tin. và đẳng thức chỉ xảy ra khi Pi Vi đpcm . M Bài tập Bài 1 Cho 2 biến ngẫu nhiên X Y độc lập nhau có phân phối sau X X1 X2 P 1 2 1 2 Y y1 y2 y3 y4 P 1 4 1 4 1 4 1 4 Tính H X H Y . Bài 2 Kiểm tra lại kết quả của của bài 1 bằng tính chất 2. Bài 3 Cho biến ngẫu nhiên X có phân phối sau X X1 X2 X3 X4 X5 X6 P 10 20 25 25 15 5 Ta có thể gom các sự kiện X1 x2 x3 lại thành một sự kiện mới là x123 có xác suất xuất hiện là 55 gom sự kiện X5 và X6 lại thành sự kiện X56 có Xác suất 20 . Ta được một nhiến ngẫu nhiên mới X có phân phối sau X X123 X4 X56 P 55 25 20 - Tính entropy của X X và kiểm tra lại tính chất 3. - Kiểm tra lại định lý cực đại từ dữ liệu cho trên. Biên soạn TS. L ê Quy ết Thắng ThS. Phan Tấn Tài Ks. Dương Văn Hiếu. 21 Giáo trình Lý thuyết thông tin. BÀI ENTROPY CỦA NHIỀU BIẾN Mục tiêu Sau khi hoàn tất bài học này bạn có thể - Hiểu biết các định nghĩa Entropy của nhiều biến và Entropy có điều kiện - Hiểu mối quan hệ giữa H X Y với H X và H Y khi X Y độc lập - Hiểu mối quan hệ giữa H X Y với H X và H Y khi X Y tương quan - Vận dụng mối quan hệ gữa các Entropy để tính các Entropy một cách hiệu quả - Vận dụng Entropy có điều kiện để làm cơ sở tính lượng tin trong bài học kế tiếp Định nghĩa Entropy của nhiều biến Giả sử X và Y là 2 biến ngẫu nhiên cho trước với pịj p X xi Y yj V i 1 . M và j 1 . L . Khi đó Entropy H X Y có dạng H X Y -ss p X y log2 p X y i 1 j 1 Hay H X Y -f ị pt. log Pj i 1 j 1 Một cách tổng quát H x1 - xn - s p X1 - Xn log p x1 X2 - Xn Ví dụ Entropy của nhiều biến Cho 2 BNN X và Y độc lập nhau và có các phân phối X 1 0 1 P Y 0 1 2 P Tính H X Y . - Lập phân phối của P X Y X Y X 0 Y 0 X 0 Y 1 X 0 Y 2 X 1 Y 0 X 1 Y 1 X 1 Y 2 P X Y - H X Y H Bit Định nghĩa Entropy có điều kiện Entropy của Y với điều kiện X xi i 1 . M được định nghĩa là H Y X Xi j p yj Xi log p y Xi Biên soạn TS. L ê Quy ết Thắng ThS. Phan Tấn Tài Ks. Dương .
Chính Thuận
158
10
pdf
Báo lỗi
Trùng lắp nội dung
Văn hóa đồi trụy
Phản động
Bản quyền
File lỗi
Khác
Upload
Tải xuống
đang nạp các trang xem trước
Bấm vào đây để xem trước nội dung
Tải xuống
TÀI LIỆU LIÊN QUAN
BÀI GIẢNG MÔN HỌC VỀ LÝ THUYẾT THÔNG TIN
63
190
5
Giáo trình môn Lý thuyết thông tin
96
270
2
Giáo trình: Lý thuyết thông tin
95
147
5
Giáo trình: Lý thuyết thông tin part 1
10
114
1
Giáo trình: Lý thuyết thông tin part 2
10
116
1
Giáo trình: Lý thuyết thông tin part 3
10
118
1
Giáo trình: Lý thuyết thông tin part 4
10
126
1
Giáo trình: Lý thuyết thông tin part 5
10
88
0
Giáo trình: Lý thuyết thông tin part 6
10
109
1
Giáo trình: Lý thuyết thông tin part 7
10
91
1
TÀI LIỆU XEM NHIỀU
Một Case Về Hematology (1)
8
461871
55
Giới thiệu :Lập trình mã nguồn mở
14
22673
60
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10897
529
Câu hỏi và đáp án bài tập tình huống Quản trị học
14
10070
446
Phân tích và làm rõ ý kiến sau: “Bài thơ Tự tình II vừa nói lên bi kịch duyên phận vừa cho thấy khát vọng sống, khát vọng hạnh phúc của Hồ Xuân Hương”
3
9534
104
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8293
1125
Tiểu luận: Nội dung tư tưởng Hồ Chí Minh về đạo đức
16
8243
423
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7866
2220
Đề tài: Dự án kinh doanh thời trang quần áo nữ
17
6692
253
Vật lý hạt cơ bản (1)
29
5775
85
TỪ KHÓA LIÊN QUAN
Kĩ thuật Viễn thông
giáo trình Lý thuyết thông tin
bài giảng Lý thuyết thông tin
tài liệu Lý thuyết thông tin
đề cương Lý thuyết thông tin
bài tập Lý thuyết thông tin
hệ thống thông tin
lý thuyết thông tin
Độ do lượng tin
sinh mã tách được
kênh thông tin rời rạc không nhớ
sửa lỗi kênh truyền
tài liệu học đại học
bài giảng về lý thuyết thông tin
kỹ thuật thông tin liên lạc
bài giảng về công nghệ viễn thông
Khoa học máy tính
Giáo trình môn học Lý thuyết thông tin
Độ đo thông tin
Đồ họa máy tính
Lý thuyết số
Giáo trình lý thuyết
bài giảng lý thuyết
lý thuyết hệ thống
thông tin liên lạc
Mô hình lý thuyết thông tin
Độ đo lượng tin
Định lý cơ sở của kỹ thuật truyền tin
Dung lượng kênh truyền
Kênh truyền tin rời rạc
Sửa lỗi trên kênh truyền
Kênh truyền tin rời rạc không nhớ
Cơ sở lý thuyết truyền tin
Hệ thống truyền tin
Mã hóa thông tin
Điều chế thông tin
Khái niệm mã hóa
TÀI LIỆU MỚI ĐĂNG
Động cơ đốt trong và máy kéo công nghiêp tập 2 part 8
32
260
0
28-04-2024
beginning Ubuntu Linux phần 1
34
212
1
28-04-2024
Lịch sử Đội TNTP Hồ Chí Minh - CHƯƠNG III VÂNG LỜI BÁC DẠY, LÀM NGHÌN VIỆC TỐT, CHỐNG MỸ, CỨU NƯỚC, THIẾU NIÊN SĂN SÀNG
45
137
0
28-04-2024
Đóng mới oto 8 chỗ ngồi part 9
10
117
0
28-04-2024
QUẢN LÝ CHẤT LƯỢNG KHÔNG KHÍ
75
138
0
28-04-2024
New Trends and Developments in Automotive Industry Part 7
35
96
0
28-04-2024
Hệ thống làm lạnh và điều hòa không khí
21
126
0
28-04-2024
Báo cáo nghiên cứu nông nghiệp " Introduction of the principles of GAP for citrus through implementation of citrus IPM using Farmer Field Schools "
12
92
0
28-04-2024
Báo cáo nghiên cứu nông nghiệp " Field control of pest fruit flies in Vietnam "
14
118
0
28-04-2024
Loading Data into a Database - 19
40
98
0
28-04-2024
TÀI LIỆU HOT
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7866
2220
Giáo trình Tư tưởng Hồ Chí Minh - Mạch Quang Thắng (Dành cho bậc ĐH - Không chuyên ngành Lý luận chính trị)
152
5755
1381
Ebook Chào con ba mẹ đã sẵn sàng
112
3770
1232
Ebook Tuyển tập đề bài và bài văn nghị luận xã hội: Phần 1
62
5326
1136
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8293
1125
Giáo trình Văn hóa kinh doanh - PGS.TS. Dương Thị Liễu
561
3503
643
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10897
529
Giáo trình Sinh lí học trẻ em: Phần 1 - TS Lê Thanh Vân
122
3688
525
Giáo trình Pháp luật đại cương: Phần 1 - NXB ĐH Sư Phạm
274
4058
516
Bài tập nhóm quản lý dự án: Dự án xây dựng quán cafe
35
4132
480
crossorigin="anonymous">
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.