Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Sức khỏe - Y tế
Văn bản luật
Nông Lâm Ngư
Kỹ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Giới thiệu
Đăng ký
Đăng nhập
Tìm
Danh mục
Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Y tế sức khỏe
Văn bản luật
Nông lâm ngư
Kĩ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Thông tin
Điều khoản sử dụng
Quy định bảo mật
Quy chế hoạt động
Chính sách bản quyền
Giới thiệu
Đăng ký
Đăng nhập
0
Trang chủ
Luận Văn - Báo Cáo
Báo cáo khoa học
Báo cáo khoa học: "Distributional Representations for Handling Sparsity in Supervised Sequence-Labeling"
tailieunhanh - Báo cáo khoa học: "Distributional Representations for Handling Sparsity in Supervised Sequence-Labeling"
Supervised sequence-labeling systems in natural language processing often suffer from data sparsity because they use word types as features in their prediction tasks. Consequently, they have difficulty estimating parameters for types which appear in the test set, but seldom (or never) appear in the training set. We demonstrate that distributional representations of word types, trained on unannotated text, can be used to improve performance on rare words. We incorporate aspects of these representations into the feature space of our sequence-labeling systems. . | Distributional Representations for Handling Sparsity in Supervised Sequence-Labeling Fei Huang Temple University 1805 N. Broad St. Wachman Hall 324 tub58431@ Abstract Supervised sequence-labeling systems in natural language processing often suffer from data sparsity because they use word types as features in their prediction tasks. Consequently they have difficulty estimating parameters for types which appear in the test set but seldom or never appear in the training set. We demonstrate that distributional representations of word types trained on unannotated text can be used to improve performance on rare words. We incorporate aspects of these representations into the feature space of our sequence-labeling systems. In an experiment on a standard chunking dataset our best technique improves a chunker from F1 to F1 on chunks beginning with rare words. On the same dataset it improves our part-of-speech tagger from 74 to 80 accuracy on rare words. Furthermore our system improves significantly over a baseline system when applied to text from a different domain and it reduces the sample complexity of sequence labeling. 1 Introduction Data sparsity and high dimensionality are the twin curses of statistical natural language processing NLP . In many traditional supervised NLP systems the feature space includes dimensions for each word type in the data or perhaps even combinations of word types. Since vocabularies can be extremely large this leads to an explosion in the number of parameters. To make matters worse language is Zipf-distributed so that a large fraction of any training data set will be hapax legom-ena very many word types will appear only a few times and many word types will be left out of the training set altogether. As a consequence for Alexander Yates Temple University 1805 N. Broad St. Wachman Hall 324 yates@ many word types supervised NLP systems have very few or even zero labeled examples from which to estimate parameters. The
Hương Xuân
48
9
pdf
Báo lỗi
Trùng lắp nội dung
Văn hóa đồi trụy
Phản động
Bản quyền
File lỗi
Khác
Upload
Tải xuống
đang nạp các trang xem trước
Bấm vào đây để xem trước nội dung
Tải xuống
TÀI LIỆU LIÊN QUAN
Báo cáo khoa học: "Distributional Representations for Handling Sparsity in Supervised Sequence-Labeling"
9
41
0
TÀI LIỆU XEM NHIỀU
Một Case Về Hematology (1)
8
461974
55
Giới thiệu :Lập trình mã nguồn mở
14
23275
64
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
11015
533
Câu hỏi và đáp án bài tập tình huống Quản trị học
14
10225
452
Phân tích và làm rõ ý kiến sau: “Bài thơ Tự tình II vừa nói lên bi kịch duyên phận vừa cho thấy khát vọng sống, khát vọng hạnh phúc của Hồ Xuân Hương”
3
9583
106
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8440
1138
Tiểu luận: Nội dung tư tưởng Hồ Chí Minh về đạo đức
16
8302
423
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7900
2237
Đề tài: Dự án kinh doanh thời trang quần áo nữ
17
6876
257
Giáo trình Tư tưởng Hồ Chí Minh - Mạch Quang Thắng (Dành cho bậc ĐH - Không chuyên ngành Lý luận chính trị)
152
6246
1517
TỪ KHÓA LIÊN QUAN
Báo cáo khoa học
Distributional Representations
Handling Sparsity
Supervised Sequence Labeling
báo cáo khoa học
báo cáo ngôn ngữ
xử lý ngôn ngữ tự nhiên
Bài giảng Xử lý ngôn ngữ tự nhiên
Ngôn ngữ tự nhiên
Kỹ thuật lập trình
Xử lý nhập nhằng ngữ nghĩa
Xử lý ngữ nghĩa
Xử lý ngôn ngữ
Natural Language Processing
Ngôn ngữ lập trình
Nhập nhằng cấu trúc
Tri thức về ngôn ngữ
Mô hình ngôn ngữ
Mô hình n gram
Dịch máy
Phương pháp dịch máy
Hiểu ngôn ngữ
Phân tích ngữ nghĩa
Phân loại tin tự động
Biểu diễn vị từ
Thuộc tính về sự kiện
Thuộc tính về sự kiện
Mô hình ngôn ngữ Google Book N grams
Mô hình ngôn ngữ KenLM
Phương pháp làm mịn
Tách từ tiếng Việt
Gán nhãn từ loại
Phân tích cú pháp
Nghĩa từ vựng
Phân giải nhập nhằng từ
Phân loại văn bản
Lexical chain
Phản hồi thông tin
Bài toán PTCP
Cấu trúc ngữ pháp
Phân tích cú pháp xác suất
CKY kết hợp xác suất
Văn phạm phi ngữ cảnh xác suất
Hình thái học
TÀI LIỆU MỚI ĐĂNG
Sáng tạo trong thuật toán và lập trình với ngôn ngữ Pascal và C# Tập 2 - Chương 4
47
269
1
29-05-2024
extremetech Hacking BlackBerry phần 9
31
266
0
29-05-2024
Posted prices versus bargaining in markets_7
23
168
0
29-05-2024
MẪU CHỨNG CHỈ QUẢN LÝ VŨ KHÍ, VẬT LIỆU NỔ, CCHT
1
132
0
29-05-2024
Báo cáo khoa học: " Biogeography of Matsucoccus josephi Bodenheimer et Harpaz in Crete and mainland Greece"
6
90
0
29-05-2024
Tự học thổi sáo và ngâm thơ part 4
11
159
1
29-05-2024
Hướng dẫn chế độ dinh dưỡng cho người bệnh viêm khớp
5
130
0
29-05-2024
The Constituents of Medicinal Plants
185
112
0
29-05-2024
MANAGING NANO-BIO-INFO-COGNO INNOVATIONS
380
104
0
29-05-2024
Báo cáo " Bàn về hành vi pháp luật và hành vi đạo đức "
11
133
0
29-05-2024
TÀI LIỆU HOT
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7900
2237
Giáo trình Tư tưởng Hồ Chí Minh - Mạch Quang Thắng (Dành cho bậc ĐH - Không chuyên ngành Lý luận chính trị)
152
6246
1517
Ebook Chào con ba mẹ đã sẵn sàng
112
3849
1274
Ebook Tuyển tập đề bài và bài văn nghị luận xã hội: Phần 1
62
5467
1141
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8440
1138
Giáo trình Văn hóa kinh doanh - PGS.TS. Dương Thị Liễu
561
3572
658
Giáo trình Sinh lí học trẻ em: Phần 1 - TS Lê Thanh Vân
122
3773
567
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
11015
533
Giáo trình Pháp luật đại cương: Phần 1 - NXB ĐH Sư Phạm
274
4210
526
Bài tập nhóm quản lý dự án: Dự án xây dựng quán cafe
35
4216
483
crossorigin="anonymous">
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.