Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Sức khỏe - Y tế
Văn bản luật
Nông Lâm Ngư
Kỹ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Giới thiệu
Đăng ký
Đăng nhập
Tìm
Danh mục
Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Y tế sức khỏe
Văn bản luật
Nông lâm ngư
Kĩ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Thông tin
Điều khoản sử dụng
Quy định bảo mật
Quy chế hoạt động
Chính sách bản quyền
Giới thiệu
Đăng ký
Đăng nhập
0
Trang chủ
Công Nghệ Thông Tin
Kỹ thuật lập trình
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural language processing): Bài 2 - Viện Công nghệ Thông tin và Truyền thông
tailieunhanh - Bài giảng Xử lý ngôn ngữ tự nhiên (Natural language processing): Bài 2 - Viện Công nghệ Thông tin và Truyền thông
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural language processing): Bài 2 cung cấp cho học viên những nội dung về: mô hình ngôn ngữ; tính xác suất bigram; mô hình ngôn ngữ Google Book N-grams; mô hình ngôn ngữ KenLM; đánh giá các mô hình ngôn ngữ; hiện tượng quá khớp dữ liệu (overfitting); . Mời các bạn cùng tham khảo chi tiết nội dung bài giảng! | 2. Mô hình ngôn ngữ Viện Công nghệ Thông tin và Truyền thông Mô hình ngôn ngữ Là phân bố xác suất trên các tập văn bản Cho biết xác suất của 1 câu hoặc 1 cụm từ thuộc 1 ngôn ngữ là bao nhiêu Mô hình ngôn ngữ tốt sẽ đánh giá đúng các câu đúng ngữ pháp trôi chảy hơn các từ có thứ tự ngẫu nhiên. vd P hôm nay trời đẹp gt P trời đẹp nay hôm Mô hình ngôn ngữ N-gram Mục tiêu tính xác suất của 1 câu hoặc một cụm từ P W P w1 w2 w3 w4 w5 wm Theo công thức Bayes P AB P B A P A Ta có P w1 w2 w3 w4 w5 wm P 1 P 2 1 P 3 1 2 P 1 2 3 1 P hôm nay trời đẹp 1 P hôm P nay hôm P trời hôm nay P đẹp hôm nay trời Mô hình ngôn ngữ N-gram Cách tính xác suất không thể lưu hết các xác suất trên đặc biệt với m là độ dài văn bản ngôn ngữ tự nhiên sử dụng chuỗi Markov bậc n với giả thiết 1 từ chỉ phụ thuộc n-1 từ đứng trước nó mô hình n-gram P 1 2 3 1 P 1 2 3 1 P w m w m-nw m-n 1w m-n 2 w m-1 Các mô hình n gram Mô hình unigram Mô hình bigram Mô hình trigram Tính xác suất bigram ví dụ Berkeley Restaurant Project sentences can you tell me about any good cantonese restaurants close by mid priced thai food is what i m looking for tell me about chez panisse can you give me a listing of the kinds of food that are available i m looking for a good place to eat breakfast when is caffe venezia open during the day Đếm các bigram Trên tổng số 9222 câu Tính xác suất bigram Chuẩn hóa theo unigrams Kết quả Tính xác suất câu dựa trên các bigram P I want english food P I P want I P english want P food english P food .000031 Các xác suất đã tính được P english want .0011 P chinese want .0065 P to want .66 P eat to .28 P food to 0 P want spend 0 P i .25 Các mô hình ngôn ngữ có sẵn Google Book N-grams http KenLM https code kenlm Google 4-Gram Release serve as the incoming 92 serve as the incubator 99 serve as the independent 794 serve as the index 223 serve as the indication 72 serve as the indicator 120 serve as the indicators 45 serve as the indispensable 111 serve as the .
Thục Trinh
36
20
pdf
Báo lỗi
Trùng lắp nội dung
Văn hóa đồi trụy
Phản động
Bản quyền
File lỗi
Khác
Upload
Tải xuống
đang nạp các trang xem trước
Không thể tạo bản xem trước, hãy bấm tải xuống
Tải xuống
TÀI LIỆU LIÊN QUAN
Bài giảng Xử lý ngôn ngữ tự nhiên: Chương 7 - Nguyễn Kiêm Hiếu (ĐH Bách khoa Hà Nội)
7
177
2
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 1 - Lê Thanh Hương
13
147
2
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 4(tt) - Lê Thanh Hương
6
130
1
Bài giảng Xử lý ngôn ngữ tự nhiên: Chương 6 - Nguyễn Kiêm Hiếu (ĐH Bách khoa Hà Nội)
6
227
2
Bài giảng Xử lý ngôn ngữ tự nhiên: Dịch máy - Lê Thanh Hương
12
126
0
Bài giảng Xử lý ngôn ngữ tự nhiên: Dịch máy - Lê Thanh Hương
12
120
1
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural language processing): Bài 2 - Viện Công nghệ Thông tin và Truyền thông
20
10
1
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 2 - Lê Thanh Hương
5
100
2
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 3 - Lê Thanh Hương
13
118
2
Bài giảng Xử lý ngôn ngữ tự nhiên (Natural Language Processing): Bài 4 - Lê Thanh Hương
19
143
0
TÀI LIỆU XEM NHIỀU
Một Case Về Hematology (1)
8
461886
55
Giới thiệu :Lập trình mã nguồn mở
14
22719
61
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10905
530
Câu hỏi và đáp án bài tập tình huống Quản trị học
14
10083
447
Phân tích và làm rõ ý kiến sau: “Bài thơ Tự tình II vừa nói lên bi kịch duyên phận vừa cho thấy khát vọng sống, khát vọng hạnh phúc của Hồ Xuân Hương”
3
9540
104
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8301
1127
Tiểu luận: Nội dung tư tưởng Hồ Chí Minh về đạo đức
16
8248
423
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7867
2220
Đề tài: Dự án kinh doanh thời trang quần áo nữ
17
6711
253
Vật lý hạt cơ bản (1)
29
5793
88
TỪ KHÓA LIÊN QUAN
Kỹ thuật lập trình
Bài giảng Xử lý ngôn ngữ tự nhiên
Xử lý ngôn ngữ tự nhiên
Natural language processing
Mô hình ngôn ngữ
Mô hình ngôn ngữ Google Book N grams
Mô hình ngôn ngữ KenLM
Phương pháp làm mịn
Ngôn ngữ tự nhiên
Kỹ thuật lập trình
Xử lý nhập nhằng ngữ nghĩa
Xử lý ngữ nghĩa
Xử lý ngôn ngữ
Ngôn ngữ lập trình
Nhập nhằng cấu trúc
Tri thức về ngôn ngữ
Phân tích ngữ nghĩa
Mô hình n gram
Dịch máy
Phương pháp dịch máy
Hiểu ngôn ngữ
Tách từ tiếng Việt
Gán nhãn từ loại
Phân tích cú pháp
Nghĩa từ vựng
Phân giải nhập nhằng từ
Phân loại văn bản
Lexical chain
Phản hồi thông tin
Phân loại tin tự động
Biểu diễn vị từ
Thuộc tính về sự kiện
Thuộc tính về sự kiện
Bài toán PTCP
Cấu trúc ngữ pháp
Phân tích cú pháp xác suất
CKY kết hợp xác suất
Văn phạm phi ngữ cảnh xác suất
Hình thái học
TÀI LIỆU MỚI ĐĂNG
Trading Strategies Profit Making Techniques For Stock_8
23
176
1
01-05-2024
Anh văn bằng C-124
8
176
0
01-05-2024
MÔN HỌC VẬT LIỆU VÀ CÔNG NGHỆ KIM LOẠI - PHẦN I: KIM LOẠI HỌC
32
179
2
01-05-2024
HƯỚNG DẪN SỬ DỤNG PHẦN MỀM CAITA part 9
18
130
0
01-05-2024
Hệ thống làm lạnh và điều hòa không khí
21
127
0
01-05-2024
Lãi suất cơ bản, công cụ quan trọng của chính sách tiền tệ
5
114
0
01-05-2024
Báo cáo khoa học: " Principaux critères économiques de gestion des forêts : analyse critique et comparative"
29
89
0
01-05-2024
Bảng màu theo chữ cái – V
11
101
0
01-05-2024
ĐỀ THI THỬ ĐH NĂM 2011 MÔN VẬT LÍ _ ĐỀ SỐ 101
7
87
0
01-05-2024
Giáo trình báo chí điều tra part 4
44
100
0
01-05-2024
TÀI LIỆU HOT
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7867
2220
Giáo trình Tư tưởng Hồ Chí Minh - Mạch Quang Thắng (Dành cho bậc ĐH - Không chuyên ngành Lý luận chính trị)
152
5790
1388
Ebook Chào con ba mẹ đã sẵn sàng
112
3772
1233
Ebook Tuyển tập đề bài và bài văn nghị luận xã hội: Phần 1
62
5333
1136
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8301
1127
Giáo trình Văn hóa kinh doanh - PGS.TS. Dương Thị Liễu
561
3518
644
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10905
530
Giáo trình Sinh lí học trẻ em: Phần 1 - TS Lê Thanh Vân
122
3694
525
Giáo trình Pháp luật đại cương: Phần 1 - NXB ĐH Sư Phạm
274
4071
516
Bài tập nhóm quản lý dự án: Dự án xây dựng quán cafe
35
4136
480
crossorigin="anonymous">
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.