tailieunhanh - Báo cáo khoa học: "The Human Language Project: Building a Universal Corpus of the World’s Languages"

We present a grand challenge to build a corpus that will include all of the world’s languages, in a consistent structure that permits large-scale cross-linguistic processing, enabling the study of universal linguistics. The focal data types, bilingual texts and lexicons, relate each language to one of a set of reference languages. We propose that the ability to train systems to translate into and out of a given language be the yardstick for determining when we have successfully captured a language. . | The Human Language Project Building a Universal Corpus of the World s Languages Steven Abney University of Michigan abney@ Steven Bird University of Melbourne and University of Pennsylvania sbird@ Abstract We present a grand challenge to build a corpus that will include all of the world s languages in a consistent structure that permits large-scale cross-linguistic processing enabling the study of universal linguistics. The focal data types bilingual texts and lexicons relate each language to one of a set of reference languages. We propose that the ability to train systems to translate into and out of a given language be the yardstick for determining when we have successfully captured a language. We call on the computational linguistics community to begin work on this Universal Corpus pursuing the many strands of activity described here as their contribution to the global effort to document the world s linguistic heritage before more languages fall silent. 1 Introduction The grand aim of linguistics is the construction of a universal theory of human language. To a computational linguist it seems obvious that the first step is to collect significant amounts of primary data for a large variety of languages. Ideally we would like a complete digitization of every human language a Universal Corpus. If we are ever to construct such a corpus it must be now. With the current rate of language loss we have only a small window of opportunity before the data is gone forever. Linguistics may be unique among the sciences in the crisis it faces. The next generation will forgive us for the most egregious shortcomings in theory construction and technology development but they will not forgive us if we fail to preserve vanishing primary language data in a form that enables future research. The scope of the task is enormous. At present we have non-negligible quantities of machine-readable data for only about 20-30 of the world s 6 900 languages Maxwell and .

• Báo cáo khoa học
• The Human Language Project
• Building a Universal Corpus
• the World’s Languages
• báo cáo khoa học
• báo cáo ngôn ngữ
• ngôn ngữ tự nhiên
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Xử lý ngôn ngữ tự nhiên
• Kỹ thuật lập trình
• Mô hình ngôn ngữ
• Mô hình n gram
• Dịch máy
• Phương pháp dịch máy
• Hiểu ngôn ngữ
• Phân loại tin tự động
• Tạo chí tin học
• Điều khiển học
• Truy vấn ngôn ngữ tự nhiên
• Phép dịch truy vấn ngôn ngữ tự nhiên
• Truy vấn SQL
• Văn phạm ngữ nghĩa
• Xử lý nhập nhằng ngữ nghĩa
• Xử lý ngữ nghĩa
• Phân tích ngữ nghĩa
• Biểu diễn vị từ
• Thuộc tính về sự kiện
• Thuộc tính về sự kiện
• Xử lý ngôn ngữ
• Natural Language Processing
• Ngôn ngữ lập trình
• Nhập nhằng cấu trúc
• Tri thức về ngôn ngữ
• Mô hình ngôn ngữ Google Book N grams
• Mô hình ngôn ngữ KenLM
• Phương pháp làm mịn
• Bài toán PTCP
• Phân tích cú pháp
• Cấu trúc ngữ pháp
• Phân tích cú pháp xác suất
• CKY kết hợp xác suất
• Văn phạm phi ngữ cảnh xác suất
• Hình thái học
• Gán nhãn từ loại
• Ngôn ngữ tự nhiên trong dịch máy
• Hệ thống dịch máy
• Phương pháp xây dựng bảng từ
• Tác từ
• Conditional random fields
• Nhận dạng thực thể có tên
• Đối tượng vật lý trừu tượng
• Phân lớp văn bản
• Biểu diễn nhị phân
• Ma trận từ văn bản
• Wolfram Alpha
• Trích rút thông tin
• Phương pháp Snowball