Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Sức khỏe - Y tế
Văn bản luật
Nông Lâm Ngư
Kỹ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Giới thiệu
Đăng ký
Đăng nhập
Tìm
Danh mục
Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Y tế sức khỏe
Văn bản luật
Nông lâm ngư
Kĩ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Thông tin
Điều khoản sử dụng
Quy định bảo mật
Quy chế hoạt động
Chính sách bản quyền
Giới thiệu
Đăng ký
Đăng nhập
0
Trang chủ
Công Nghệ Thông Tin
Kỹ thuật lập trình
Bài giảng Xử lý ngôn ngữ tự nhiên: Chương 6 - Nguyễn Kiêm Hiếu (ĐH Bách khoa Hà Nội)
tailieunhanh - Bài giảng Xử lý ngôn ngữ tự nhiên: Chương 6 - Nguyễn Kiêm Hiếu (ĐH Bách khoa Hà Nội)
Bài giảng "Xử lý ngôn ngữ tự nhiên - Chương 6: Mô hình ngôn ngữ" cung cấp cho người học các kiến thức: Mô hình ngôn ngữ, mô hình n-gram, Perplexity, sửa lỗi chính tả. nội dung chi tiết. | Chương 6 Mô hình ngôn ngữ Mô hình ngôn ngữ Mô hình n-gram Perplexity IT4772 Xử lý ngôn ngữ tự nhiên Viện CNTT-TT, ĐHBKHN Sửa lỗi chính tả 2 Chương 6 Mô hình ngôn ngữ Mô hình ngôn ngữ INFORMATION EXTRACTION NATURAL LANGUAGE UNDERSTANDING END-TO-END APPLICATIONS ` NATURAL LANGUAGE GENERATION DATA + LINGUISTICS + MACHINE LEARNING 3 From Dan Jurafsky 2018 4 Chương 6 Mô hình ngôn ngữ Mô hình ngôn ngữ ● ● Chương 6 Mô hình ngôn ngữ Mô hình ngôn ngữ Tìm từ tiếp theo biết các từ đ ằng tr ước ● Ứng dụng “Hôm nay tôi đi.” Sửa lỗi chính tả P(học| hôm_nay tôi đi) = ? Dịch máy P(chơi| hôm_nay tôi đi) = ? Tóm tắt văn bản Biểu diễn văn bản Tính xác suất của một chuỗi P( hôm_nay tôi đi học ) = ? 5 Chương 6 Mô hình ngôn ngữ Mô hình n-gram Mô hình unigram 6 Chương 6 Mô hình ngôn ngữ Mô hình n-gram Mô hình bigram ● p(w|w1 w2 wn) = p(w) ● p(w|w1 w2 wn) = p(w|wn) ● p(w) = (count(w) + 1) / (sum count(w’) + V) ● p(w|wn) = (count(wn w) + 1) / (count(w n) + V ) p( hôm_nay tôi đi học ) = p() * p(hôm_nay) * p(tôi) * p(đi) * p(học) * p() ● Chú ý: không sử dụng đến p(wn) p( hôm_nay tôi đi h ọc ) = p(hôm_nay|) * p(tôi|hôm_nay) * p(đi|tôi) * p(học|đi) * p(|h ọc) 7 8 Chương 6 Mô hình ngôn ngữ Mô hình n-gram Mô hình bigram ● Chương 6 Mô hình ngôn ngữ Perplexity Backup ngram ● Đánh giá chất lượng của mô hình ngôn ng ữ 9 Chương 6 Mô hình ngôn ngữ Sửa lỗi chính tả Chương 6 Mô hình ngôn ngữ Perplexity ● ● ● 10 Mô hình bigram Sử dụng tập train để xác định tham s ố cho mô hình ngôn ngữ ● 1-2% lỗi đánh máy văn bản ● 10-15% lỗi gõ câu truy vấn ● 20-40% lỗi là từ có trong từ đi ển Tính perplexity trên tập test đ ộc l ập v ới t ập train 11 12 Chương 6 Mô hình ngôn ngữ Sửa lỗi chính tả Mô hình kênh nhiễu w wbest Chương 6 Mô hình ngôn ngữ Sửa lỗi chính tả Mô hình kênh nhiễu noisy channel w’ decoder 13 Chương 6 Mô hình ngôn ngữ Sửa lỗi chính tả Mô hình kênh nhiễu 14 Chương 6 Mô hình ngôn ngữ Sửa lỗi chính tả Mô hình kênh .
Hữu Hạnh
270
6
pdf
Báo lỗi
Trùng lắp nội dung
Văn hóa đồi trụy
Phản động
Bản quyền
File lỗi
Khác
Upload
Tải xuống
đang nạp các trang xem trước
Bấm vào đây để xem trước nội dung
Tải xuống
TÀI LIỆU LIÊN QUAN
Bài giảng Xử lý ngôn ngữ tự nhiên: Chương 7 - Nguyễn Kiêm Hiếu (ĐH Bách khoa Hà Nội)
7
177
2
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 1 - Lê Thanh Hương
13
147
2
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 4(tt) - Lê Thanh Hương
6
130
1
Bài giảng Xử lý ngôn ngữ tự nhiên: Chương 6 - Nguyễn Kiêm Hiếu (ĐH Bách khoa Hà Nội)
6
227
2
Bài giảng Xử lý ngôn ngữ tự nhiên: Dịch máy - Lê Thanh Hương
12
126
0
Bài giảng Xử lý ngôn ngữ tự nhiên: Dịch máy - Lê Thanh Hương
12
120
1
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural language processing): Bài 2 - Viện Công nghệ Thông tin và Truyền thông
20
10
1
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 2 - Lê Thanh Hương
5
100
2
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 3 - Lê Thanh Hương
13
118
2
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 4 - Lê Thanh Hương
19
143
0
TÀI LIỆU XEM NHIỀU
Một Case Về Hematology (1)
8
461872
55
Giới thiệu :Lập trình mã nguồn mở
14
22690
61
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10902
530
Câu hỏi và đáp án bài tập tình huống Quản trị học
14
10073
446
Phân tích và làm rõ ý kiến sau: “Bài thơ Tự tình II vừa nói lên bi kịch duyên phận vừa cho thấy khát vọng sống, khát vọng hạnh phúc của Hồ Xuân Hương”
3
9536
104
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8295
1125
Tiểu luận: Nội dung tư tưởng Hồ Chí Minh về đạo đức
16
8244
423
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7866
2220
Đề tài: Dự án kinh doanh thời trang quần áo nữ
17
6697
253
Vật lý hạt cơ bản (1)
29
5779
85
TỪ KHÓA LIÊN QUAN
Kỹ thuật lập trình
Bài giảng Xử lý ngôn ngữ tự nhiên
Xử lý ngôn ngữ tự nhiên
Ngôn ngữ tự nhiên
Kỹ thuật lập trình
Mô hình ngôn ngữ
Mô hình n gram
Xử lý nhập nhằng ngữ nghĩa
Xử lý ngữ nghĩa
Xử lý ngôn ngữ
Natural Language Processing
Ngôn ngữ lập trình
Nhập nhằng cấu trúc
Tri thức về ngôn ngữ
Phân tích ngữ nghĩa
Dịch máy
Phương pháp dịch máy
Hiểu ngôn ngữ
Mô hình ngôn ngữ Google Book N grams
Mô hình ngôn ngữ KenLM
Phương pháp làm mịn
Tách từ tiếng Việt
Gán nhãn từ loại
Phân tích cú pháp
Nghĩa từ vựng
Phân giải nhập nhằng từ
Phân loại văn bản
Lexical chain
Phản hồi thông tin
Phân loại tin tự động
Biểu diễn vị từ
Thuộc tính về sự kiện
Thuộc tính về sự kiện
Bài toán PTCP
Cấu trúc ngữ pháp
Phân tích cú pháp xác suất
CKY kết hợp xác suất
Văn phạm phi ngữ cảnh xác suất
Hình thái học
TÀI LIỆU MỚI ĐĂNG
beginning Ubuntu Linux phần 1
34
212
1
29-04-2024
Trading Strategies Profit Making Techniques For Stock_8
23
176
1
29-04-2024
The profit magic of stock Timing The Markets_5
22
121
0
29-04-2024
Phương pháp trăc nghiệm 7
6
93
0
29-04-2024
Giáo trình cấu trúc dữ liệu và giải thuât part 7
16
144
0
29-04-2024
Bí quyết trị mụn cho da bằng trái cây
6
98
0
29-04-2024
Bài giảng Lai một cặp tính trạng
12
148
0
29-04-2024
Word Games with English 1
65
87
0
29-04-2024
Báo cáo nghiên cứu khoa học " Đại hội XVI thông qua điều lệ Đảng cộng sản Trung Quốc những sửa đổi bổ sung mới "
4
114
0
29-04-2024
Đề tài " các giải pháp góp phần nâng cao hiệu quả sản xuất kinh doanh cho Công ty cổ phần mía đường 333 "
74
100
0
29-04-2024
TÀI LIỆU HOT
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7866
2220
Giáo trình Tư tưởng Hồ Chí Minh - Mạch Quang Thắng (Dành cho bậc ĐH - Không chuyên ngành Lý luận chính trị)
152
5765
1383
Ebook Chào con ba mẹ đã sẵn sàng
112
3770
1232
Ebook Tuyển tập đề bài và bài văn nghị luận xã hội: Phần 1
62
5328
1136
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8295
1125
Giáo trình Văn hóa kinh doanh - PGS.TS. Dương Thị Liễu
561
3504
643
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10902
530
Giáo trình Sinh lí học trẻ em: Phần 1 - TS Lê Thanh Vân
122
3690
525
Giáo trình Pháp luật đại cương: Phần 1 - NXB ĐH Sư Phạm
274
4062
516
Bài tập nhóm quản lý dự án: Dự án xây dựng quán cafe
35
4133
480
crossorigin="anonymous">
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.