Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Sức khỏe - Y tế
Văn bản luật
Nông Lâm Ngư
Kỹ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Giới thiệu
Đăng ký
Đăng nhập
Tìm
Danh mục
Kinh doanh - Marketing
Kinh tế quản lý
Biểu mẫu - Văn bản
Tài chính - Ngân hàng
Công nghệ thông tin
Tiếng anh ngoại ngữ
Kĩ thuật công nghệ
Khoa học tự nhiên
Khoa học xã hội
Văn hóa nghệ thuật
Y tế sức khỏe
Văn bản luật
Nông lâm ngư
Kĩ năng mềm
Luận văn - Báo cáo
Giải trí - Thư giãn
Tài liệu phổ thông
Văn mẫu
Thông tin
Điều khoản sử dụng
Quy định bảo mật
Quy chế hoạt động
Chính sách bản quyền
Giới thiệu
Đăng ký
Đăng nhập
0
Trang chủ
Luận Văn - Báo Cáo
Báo cáo khoa học
Báo cáo khoa học: "Assessing the Effect of Inconsistent Assessors on Summarization Evaluation"
tailieunhanh - Báo cáo khoa học: "Assessing the Effect of Inconsistent Assessors on Summarization Evaluation"
National Institute of Standards and Technology We investigate the consistency of human assessors involved in summarization evaluation to understand its effect on system ranking and automatic evaluation techniques. Using Text Analysis Conference data, we measure annotator consistency based on human scoring of summaries for Responsiveness, Readability, and Pyramid scoring. | Assessing the Effect of Inconsistent Assessors on Summarization Evaluation Karolina Owczarzak National Institute of Standards and Technology Gaithersburg MD 20899 Peter A. Rankel University of Maryland College Park Maryland rankel@ Hoa Trang Dang National Institute of Standards and Technology Gaithersburg MD 20899 John M. Conroy IDA Center for Computing Sciences Bowie Maryland conroy@ Abstract We investigate the consistency of human assessors involved in summarization evaluation to understand its effect on system ranking and automatic evaluation techniques. Using Text Analysis Conference data we measure annotator consistency based on human scoring of summaries for Responsiveness Readability and Pyramid scoring. We identify inconsistencies in the data and measure to what extent these inconsistencies affect the ranking of automatic summarization systems. Finally we examine the stability of automatic metrics ROUGE and CLASsY with respect to the inconsistent assessments. 1 Introduction Automatic summarization of documents is a research area that unfortunately depends on human feedback. Although attempts have been made at automating the evaluation of summaries none is so good as to remove the need for human assessors. Human judgment of summaries however is notper-fect either. We investigate two ways of measuring evaluation consistency in order to see what effect it has on summarization evaluation and training of automatic evaluation metrics. 2 Assessor consistency In the Text Analysis Conference TAC Summarization track participants are allowed to submit more than one run usually two and this option is often used to test different settings or versions of the same summarization system. In cases when the system versions are not too divergent they sometimes produce identical summaries for a given topic. Summaries are randomized within each topic before they are evaluated so the identical copies are usually
Ðình Hợp
54
4
pdf
Báo lỗi
Trùng lắp nội dung
Văn hóa đồi trụy
Phản động
Bản quyền
File lỗi
Khác
Upload
Tải xuống
đang nạp các trang xem trước
Bấm vào đây để xem trước nội dung
Tải xuống
TÀI LIỆU LIÊN QUAN
Báo cáo khoa học: "Assessing the Effect of Inconsistent Assessors on Summarization Evaluation"
4
40
0
Báo cáo y học: "Assessing the effect of HAART on change in quality of life among HIV-infected women."
11
31
0
Rationale, design and protocol of a longitudinal study assessing the effect of total knee arthroplasty on habitual physical activity and sedentary behavior in adults with osteoarthritis
9
22
1
Self-efficacy, perceived behavioral control and entrepreneurial intention among Polish students in the context of industry 4.0: Assessing the effect of education level
16
49
5
Master's thesis of Engineering: Assessing the effect of surfactants on activated sludge processes using sequencing batch reactors
111
1
1
Assessing the effect of grit and employability on organizational commitment mediating by job involvement
8
48
1
Assessing the effect of waiting time management strategies on waiting time satisfaction among bank customers in Ghana
13
60
0
Assessing the effect of geotextile mulch on yield and physico-chemical qualities of litchi – A new technical approach
6
64
0
Assessing the effect of organizational cultural values and employees engagement on performance excellence
19
66
2
Assessing the effect of agrometeorological indices on rainfed rice crop at Bhubaneswar (Odisha), India
7
62
1
TÀI LIỆU XEM NHIỀU
Một Case Về Hematology (1)
8
461872
55
Giới thiệu :Lập trình mã nguồn mở
14
22690
61
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10902
530
Câu hỏi và đáp án bài tập tình huống Quản trị học
14
10072
446
Phân tích và làm rõ ý kiến sau: “Bài thơ Tự tình II vừa nói lên bi kịch duyên phận vừa cho thấy khát vọng sống, khát vọng hạnh phúc của Hồ Xuân Hương”
3
9536
104
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8295
1125
Tiểu luận: Nội dung tư tưởng Hồ Chí Minh về đạo đức
16
8244
423
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7866
2220
Đề tài: Dự án kinh doanh thời trang quần áo nữ
17
6697
253
Vật lý hạt cơ bản (1)
29
5779
85
TỪ KHÓA LIÊN QUAN
Báo cáo khoa học
Assessing the Effect
Inconsistent Assessors
Summarization Evaluation
báo cáo khoa học
báo cáo ngôn ngữ
ngôn ngữ tự nhiên
trình bày báo cáo
tài liệu báo cáo khoa học
báo cáo y học
kiến thức y học
nghiên cứu y học
BMC Musculoskeletal Disorders
Sedentary behaviour
Physical activity
Knee arthroplasty
Objectively measured
Self efficacy
Perceived behavioral control
Educational level
Entrepreneurial intention
Polish students
Master's thesis of Engineering
Master's thesis
Anionic surfactant
Non ionic surfactant
Sequencing batch reactors
The effect of grit on organizational commitment mediating
Employability on organizational commitment mediating by job involvement
Organizational commitment mediating
The private higher education
Waiting time
Waiting environment
Mind engagement
Delay information
Banking services
Geotextile mulch
Yield and physico chemical qualities
Physico chemical qualities of litchi
New technical approach
Moisture conservation
Organizational cultural values
Employee culture fit
Saudi banking sector
Strong organizational culture
Employees engagement on Performance excellence
Thermal requirement
Heat use efficiency
Agro climatic indices
Rainfed rice crop at Bhubaneswar
Rainfed rice crop
Heat transfer mechanism
Gray correlation
Gas production rate
Wellhead fluid temperature
Tubing wall
Tubing insulation
TÀI LIỆU MỚI ĐĂNG
CẤU TẠO HẠT NHÂN NGUYÊN TỬ-ĐỘ HỤT KHỐI-NĂNG LƯỢNG LIÊN KẾT-LK RIÊNG
12
268
0
29-04-2024
Oreilly learning the vi Editor phần 4
19
229
0
29-04-2024
Trading Strategies Profit Making Techniques For Stock_3
23
185
0
29-04-2024
MySQL Database Usage & Administration PHẦN 9
37
142
0
29-04-2024
BÀI GIẢNG VỀ - MẠCH ĐIỆN II - Chương I: Phân tích mạch trong miền thời gian
38
141
0
29-04-2024
B2B Content Marketing: 2012 Benchmarks, Budgets & Trends
17
139
0
29-04-2024
Lịch sử Đội TNTP Hồ Chí Minh - CHƯƠNG III VÂNG LỜI BÁC DẠY, LÀM NGHÌN VIỆC TỐT, CHỐNG MỸ, CỨU NƯỚC, THIẾU NIÊN SĂN SÀNG
45
137
0
29-04-2024
QUẢN LÝ CHẤT LƯỢNG KHÔNG KHÍ
75
138
0
29-04-2024
Giáo trình tổng quan khoa học thông tin và thư viện part 7
22
144
2
29-04-2024
Giáo trình phân tích phương trình vi phân viết dưới dạng thuật toán đặc tính của hệ thống p1
5
103
0
29-04-2024
TÀI LIỆU HOT
Mẫu đơn thông tin ứng viên ngân hàng VIB
8
7866
2220
Giáo trình Tư tưởng Hồ Chí Minh - Mạch Quang Thắng (Dành cho bậc ĐH - Không chuyên ngành Lý luận chính trị)
152
5765
1383
Ebook Chào con ba mẹ đã sẵn sàng
112
3770
1232
Ebook Tuyển tập đề bài và bài văn nghị luận xã hội: Phần 1
62
5328
1136
Ebook Facts and Figures – Basic reading practice: Phần 1 – Đặng Tuấn Anh (Dịch)
249
8295
1125
Giáo trình Văn hóa kinh doanh - PGS.TS. Dương Thị Liễu
561
3504
643
Tiểu luận: Tư tưởng Hồ Chí Minh về xây dựng nhà nước trong sạch vững mạnh
13
10902
530
Giáo trình Sinh lí học trẻ em: Phần 1 - TS Lê Thanh Vân
122
3690
525
Giáo trình Pháp luật đại cương: Phần 1 - NXB ĐH Sư Phạm
274
4062
516
Bài tập nhóm quản lý dự án: Dự án xây dựng quán cafe
35
4133
480
crossorigin="anonymous">
Đã phát hiện trình chặn quảng cáo AdBlock
Trang web này phụ thuộc vào doanh thu từ số lần hiển thị quảng cáo để tồn tại. Vui lòng tắt trình chặn quảng cáo của bạn hoặc tạm dừng tính năng chặn quảng cáo cho trang web này.