tailieunhanh - Báo cáo khoa học: "Reducing Wrong Labels in Distant Supervision for Relation Extraction"

Machine learning approaches have been developed to address relation extraction, which is the task of extracting semantic relations between entities expressed in text. Supervised approaches are limited in scalability because labeled data is expensive to produce. A particularly attractive approach, called distant supervision (DS), creates labeled data by heuristically aligning entities in text with those in a knowledge base, such as Freebase (Mintz et al., 2009). | Reducing Wrong Labels in Distant Supervision for Relation Extraction Shingo Takamatsu System Technologies Laboratories Sony Corporation 5-1-12 Kitashinagawa Shinagawa-ku Tokyo Issei Sato and Hiroshi Nakagawa Information Technology Center The University of Tokyo 7-3-1 Hongo Bunkyo-ku Tokyo sato@r. n3@ Abstract In relation extraction distant supervision seeks to extract relations between entities from text by using a knowledge base such as Freebase as a source of supervision. When a sentence and a knowledge base refer to the same entity pair this approach heuristically labels the sentence with the corresponding relation in the knowledge base. However this heuristic can fail with the result that some sentences are labeled wrongly. This noisy labeled data causes poor extraction performance. In this paper we propose a method to reduce the number of wrong labels. We present a novel generative model that directly models the heuristic labeling process of distant supervision. The model predicts whether assigned labels are correct or wrong via its hidden variables. Our experimental results show that this model detected wrong labels with higher performance than baseline methods. In the experiment we also found that our wrong label reduction boosted the performance of relation extraction. 1 Introduction Machine learning approaches have been developed to address relation extraction which is the task of extracting semantic relations between entities expressed in text. Supervised approaches are limited in scalability because labeled data is expensive to produce. A particularly attractive approach called distant supervision DS creates labeled data by heuristically aligning entities in text with those in a knowledge base such as Freebase Mintz et al. 2009 . knowledge base relation entity 1 entity2 place_of_birth Michael Jackson Gary text automatic labeling Michael Jackson was born in Gary . place_of_birth Michael Jackson moved from

• Báo cáo khoa học
• Reducing Wrong Labels
• Distant Supervision
• Relation Extraction
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball