tailieunhanh - Báo cáo khoa học: "Beam-Width Prediction for Efficient Context-Free Parsing"

Efficient decoding for syntactic parsing has become a necessary research area as statistical grammars grow in accuracy and size and as more NLP applications leverage syntactic analyses. We review prior methods for pruning and then present a new framework that unifies their strengths into a single approach. Using a log linear model, we learn the optimal beam-search pruning parameters for each CYK chart cell, effectively predicting the most promising areas of the model space to explore. | Beam-Width Prediction for Efficient Context-Free Parsing Nathan Bodenstab Aaron Dunlop Keith Hall and Brian Roark t Center for Spoken Language Understanding Oregon Health Science University Portland OR Google Inc. Zurich Switzerland bodensta dunlopa roark @ kbhall@ Abstract Efficient decoding for syntactic parsing has become a necessary research area as statistical grammars grow in accuracy and size and as more NLP applications leverage syntactic analyses. We review prior methods for pruning and then present a new framework that unifies their strengths into a single approach. Using a log linear model we learn the optimal beam-search pruning parameters for each CYK chart cell effectively predicting the most promising areas of the model space to explore. We demonstrate that our method is faster than coarse-to-fine pruning exemplified in both the Charniak and Berkeley parsers by empirically comparing our parser to the Berkeley parser using the same grammar and under identical operating conditions. 1 Introduction Statistical constituent parsers have gradually increased in accuracy over the past ten years. This accuracy increase has opened the door to automatically derived syntactic information within a number of NLP tasks. Prior work incorporating parse structure into machine translation Chiang 2010 and Semantic Role Labeling Tsai et al. 2005 Punyakanok et al. 2008 indicate that such hierarchical structure can have great benefit over shallow labeling techniques like chunking and part-of-speech tagging. Although syntax is becoming increasingly important for large-scale NLP applications constituent parsing is slow too slow to scale to the size of many potential consumer applications. The exhaustive CYK algorithm has computational complexity O n3 G where n is the length of the sentence and 440 G is the number of grammar productions a non-negligible constant. Increases in accuracy have primarily been accomplished through an increase in the size of the

• Báo cáo khoa học
• Beam Width Prediction
• Efficient Context Free Parsing
• Nathan Bodenstab
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball