Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Sức khỏe - Y tế
Văn bản luật
Nông Lâm Ngư
Kỹ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Giới thiệu
Đăng ký
Đăng nhập
Tìm
Danh mục
Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Y tế sức khỏe
Văn bản luật
Nông lâm ngư
Kĩ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Thông tin
Điều khoản sử dụng
Quy định bảo mật
Quy chế hoạt động
Chính sách bản quyền
Giới thiệu
Đăng ký
Đăng nhập
0
Trang chủ
Luận Văn - Báo Cáo
Báo cáo khoa học
Báo cáo khoa học: "Generalized Interpolation in Decision Tree LM"
tailieunhanh - Báo cáo khoa học: "Generalized Interpolation in Decision Tree LM"
In the face of sparsity, statistical models are often interpolated with lower order (backoff) models, particularly in Language Modeling. In this paper, we argue that there is a relation between the higher order and the backoff model that must be satisfied in order for the interpolation to be effective. We show that in n-gram models, the relation is trivially held, but in models that allow arbitrary clustering of context (such as decision tree models), this relation is generally not satisfied. . | Generalized Interpolation in Decision Tree LM Denis Filimonovfi ỆHuman Language Technology Center of Excellence Johns Hopkins University den@ Mary Harperf fDepartment of Computer Science University of Maryland College Park mharper@ Abstract In the face of sparsity statistical models are often interpolated with lower order backoff models particularly in Language Modeling. In this paper we argue that there is a relation between the higher order and the backoff model that must be satisfied in order for the interpolation to be effective. We show that in n-gram models the relation is trivially held but in models that allow arbitrary clustering of context such as decision tree models this relation is generally not satisfied. Based on this insight we also propose a generalization of linear interpolation which significantly improves the performance of a decision tree language model. 1 Introduction A prominent use case for Language Models LMs in NLP applications such as Automatic Speech Recognition ASR and Machine Translation MT is selection of the most fluent word sequence among multiple hypotheses. Statistical LMs formulate the problem as the computation of the model s probability to generate the word sequence w1w2 . wm w assuming that higher probability corresponds to more fluent hypotheses. LMs are often represented in the following generative form m p wm Ị Ị p wiiw1-1 i 1 In the following discussion we will refer to the function p wi wi-1 as a language model. 620 Note the context space for this function wi-1 is arbitrarily long necessitating some independence assumption which usually consists of reducing the relevant context to n 1 immediately preceding tokens p wi w1-1 p izn j These distributions are typically estimated from observed counts of n-grams w -ra 1 in the training data. The context space is still far too large therefore the models are recursively smoothed using lower order distributions. For instance in a widely used n-gram LM the .
Quốc Hòa
71
5
pdf
Báo lỗi
Trùng lắp nội dung
Văn hóa đồi trụy
Phản động
Bản quyền
File lỗi
Khác
Upload
Tải xuống
đang nạp các trang xem trước
Bấm vào đây để xem trước nội dung
Tải xuống
TÀI LIỆU LIÊN QUAN
Báo cáo khoa học: "Generalized Interpolation in Decision Tree LM"
5
54
0
TÀI LIỆU XEM NHIỀU
Một Case Về Hematology (1)
8
461868
55
Giới thiệu :Lập trình mã nguồn mở
14
22645
59
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10893
529
Câu hỏi và đáp án bài tập tình huống Quản trị học
14
10067
446
Phân tích và làm rõ ý kiến sau: “Bài thơ Tự tình II vừa nói lên bi kịch duyên phận vừa cho thấy khát vọng sống, khát vọng hạnh phúc của Hồ Xuân Hương”
3
9522
104
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8283
1125
Tiểu luận: Nội dung tư tưởng Hồ Chí Minh về đạo đức
16
8240
423
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7864
2220
Đề tài: Dự án kinh doanh thời trang quần áo nữ
17
6687
253
Vật lý hạt cơ bản (1)
29
5771
85
TỪ KHÓA LIÊN QUAN
Báo cáo khoa học
Generalized Interpolation
Decision Tree LM
Denis Filimonov
báo cáo khoa học
báo cáo ngôn ngữ
ngôn ngữ tự nhiên
Bài giảng Xử lý ngôn ngữ tự nhiên
Xử lý ngôn ngữ tự nhiên
Kỹ thuật lập trình
Mô hình ngôn ngữ
Mô hình n gram
Dịch máy
Phương pháp dịch máy
Hiểu ngôn ngữ
Phân loại tin tự động
Tạo chí tin học
Điều khiển học
Truy vấn ngôn ngữ tự nhiên
Phép dịch truy vấn ngôn ngữ tự nhiên
Truy vấn SQL
Văn phạm ngữ nghĩa
Xử lý nhập nhằng ngữ nghĩa
Xử lý ngữ nghĩa
Phân tích ngữ nghĩa
Biểu diễn vị từ
Thuộc tính về sự kiện
Thuộc tính về sự kiện
Xử lý ngôn ngữ
Natural Language Processing
Ngôn ngữ lập trình
Nhập nhằng cấu trúc
Tri thức về ngôn ngữ
Mô hình ngôn ngữ Google Book N grams
Mô hình ngôn ngữ KenLM
Phương pháp làm mịn
Bài toán PTCP
Phân tích cú pháp
Cấu trúc ngữ pháp
Phân tích cú pháp xác suất
CKY kết hợp xác suất
Văn phạm phi ngữ cảnh xác suất
Hình thái học
Gán nhãn từ loại
Ngôn ngữ tự nhiên trong dịch máy
Hệ thống dịch máy
Phương pháp xây dựng bảng từ
Tác từ
Conditional random fields
Nhận dạng thực thể có tên
Đối tượng vật lý trừu tượng
Phân lớp văn bản
Biểu diễn nhị phân
Ma trận từ văn bản
Wolfram Alpha
Trích rút thông tin
Phương pháp Snowball
TÀI LIỆU MỚI ĐĂNG
Báo cáo khoa học: Loss of kinase activity in Mycobacterium tuberculosis multidomain protein Rv1364c
14
235
0
27-04-2024
Sáng tạo trong thuật toán và lập trình với ngôn ngữ Pascal và C# Tập 2 - Chương 4
47
246
1
27-04-2024
CẤU TẠO HẠT NHÂN NGUYÊN TỬ-ĐỘ HỤT KHỐI-NĂNG LƯỢNG LIÊN KẾT-LK RIÊNG
12
268
0
27-04-2024
BÀI GIẢNG VỀ - MẠCH ĐIỆN II - Chương I: Phân tích mạch trong miền thời gian
38
140
0
27-04-2024
MÔN HỌC VẬT LIỆU VÀ CÔNG NGHỆ KIM LOẠI - PHẦN I: KIM LOẠI HỌC
32
177
2
27-04-2024
Lịch sử Đội TNTP Hồ Chí Minh - CHƯƠNG III VÂNG LỜI BÁC DẠY, LÀM NGHÌN VIỆC TỐT, CHỐNG MỸ, CỨU NƯỚC, THIẾU NIÊN SĂN SÀNG
45
137
0
27-04-2024
New Trends and Developments in Automotive Industry Part 7
35
96
0
27-04-2024
báo cáo hóa học:" Rare ligamentum flavum cyst causing incapacitating lumbar spinal stenosis: Experience with 3 Chinese patients"
4
96
0
27-04-2024
MẪU CHỨNG CHỈ QUẢN LÝ VŨ KHÍ, VẬT LIỆU NỔ, CCHT
1
117
0
27-04-2024
Báo cáo nghiên cứu nông nghiệp " Field control of pest fruit flies in Vietnam "
14
117
0
27-04-2024
TÀI LIỆU HOT
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7864
2220
Giáo trình Tư tưởng Hồ Chí Minh - Mạch Quang Thắng (Dành cho bậc ĐH - Không chuyên ngành Lý luận chính trị)
152
5738
1368
Ebook Chào con ba mẹ đã sẵn sàng
112
3767
1231
Ebook Tuyển tập đề bài và bài văn nghị luận xã hội: Phần 1
62
5321
1136
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8283
1125
Giáo trình Văn hóa kinh doanh - PGS.TS. Dương Thị Liễu
561
3500
643
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10893
529
Giáo trình Sinh lí học trẻ em: Phần 1 - TS Lê Thanh Vân
122
3685
525
Giáo trình Pháp luật đại cương: Phần 1 - NXB ĐH Sư Phạm
274
4052
516
Bài tập nhóm quản lý dự án: Dự án xây dựng quán cafe
35
4129
480
crossorigin="anonymous">
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.