tailieunhanh - Đề xuất thuật toán phân loại văn bản tiếng Việt sử dụng mạng LSTM và Word2vec

Bài viết trình bày việc sử dụng mạng Long Short Term Memory (LSTM) kết hợp với Word2vec để phân loại văn bản nhằm cải thiện hiệu suất và độ chính xác. Kết quả đánh giá mô hình trên bộ văn bản tiếng Việt VNTC đã cho thấy sự khả thi và hứa hẹn áp dụng trong thực tế. | Nghiên cứu khoa học công nghệ ĐỀ XUẤT THUẬT TOÁN PHÂN LOẠI VĂN BẢN TIẾNG VIỆT SỬ DỤNG MẠNG LSTM VÀ WORD2VEC Nguyễn Thị Minh Ánh Nguyễn Hữu Phát Tóm tắt Hiện nay phân loại văn bản là một trong những ứng dụng cơ bản của xử lý ngôn ngữ tự nhiên. Đặc biệt những thành tựu gần đây của các mạng học sâu cho thấy các phương pháp học sâu đang làm rất tốt trong việc phân loại văn bản. Các phương pháp này cho thấy hiệu quả trong việc phân loại văn bản với ngôn ngữ tiếng Anh. Tuy nhiên hiện nay trong phạm vi nghiên cứu của chúng tôi không có nhiều nghiên cứu đối với văn bản tiếng Việt. Do đó trong nghiên cứu này chúng tôi sử dụng mạng Long Short Term Memory LSTM kết hợp với Word2vec để phân loại văn bản nhằm cải thiện hiệu suất và độ chính xác. Kết quả đánh giá mô hình trên bộ văn bản tiếng Việt VNTC 1 đã cho thấy sự khả thi và hứa hẹn áp dụng trong thực tế. Từ khóa Phân loại văn bản Xử lý ngôn ngữ tự nhiên Xử lý dữ liệu Long Short Term Memory Word2vec. 1. ĐẶT VẤN ĐỀ Với xu thế bùng nổ dữ liệu như hiện nay lượng dữ liệu văn bản phải xử lý ngày càng nhiều. Vấn đề đặt ra là làm thế nào để khai thác thông tin từ nguồn dữ liệu này. Rõ ràng ta phải hiểu rõ bản chất của dữ liệu văn bản hiểu rõ đặc trưng của các dữ liệu này để có thể có được những phương pháp luận cần thiết. Việc phân loại văn bản tự động sẽ giúp tiết kiệm thời gian và công sức. Các mô hình mạng nơ-ron nhân tạo học sâu Deep Neural Network - DNN đã đạt nhiều thành công trong việc xử lý ngôn ngữ tự nhiên. Những ứng dụng của Deep Learning trong xử lý ngôn ngữ tự nhiên có thể kể đến như thuật toán phân cụm từ 12 rút trích nội dung chính của văn bản tiếng Việt 13 Đối với phân loại văn bản đã có nhiều nghiên cứu và mô hình được sử dụng. Với ngôn ngữ tiếng Anh các bài toán phân loại văn bản cũng đã được nghiên cứu dựa trên các mạng nơ-ron nhân tạo học sâu 14 19 . Trong 14 tác giả sử dụng LSTM LSTM Word2vec. Việc sử dụng mô hình LSTM Word2Vec được đào tạo trước có thể giải quyết tốt vấn đề xử lý dữ liệu nhiều chiều do các .

• Cơ sở dữ liệu
• Phân loại văn bản
• Xử lý ngôn ngữ tự nhiên
• Xử lý dữ liệu
• Long Short Term Memory
• Khoa học công nghệ
• Phân đoạn văn bản trong sách giáo khoa
• Sách giáo khoa phổ thông
• Văn bản sách giáo khoa phổ thông
• Sự phân đoạn văn bản
• Cấp độ phân đoạn văn bản
• Phân đoạn văn bản ở cấp độ nhỏ
• Tạp chí Khoa học Công nghệ và Thực phẩm
• Phân lớp văn bản
• Văn bản tiếng Việt tự động theo chủ đề
• Phân loại bài toán phân lớp văn bản
• Quá trình xây dựng bộ phân lớp văn bản
• Phân lớp khối lượng lớn văn bản
• Phân lớp văn bản theo chủ đề
• Xây dựng mô hình phân tán
• Khai thác dữ liệu
• luận văn
• thuật toán self training
• thuật toán co training
• bài toán phân lớp văn bản
• Toán học phân lớp Văn bản
• tập mờ
• lý thuyết tập mờ
• biểu diễn văn bản
• tóm tắt văn bản
• tìm kiếm văn bản
• Mô hình chủ đề
• Khai phá văn bản
• Phân loại văn bản tiếng Việt
• Văn bản tiếng Việt
• Phân loại văn bản tiếng Việt theo chủ đề
• Kỹ thuật thu thập thông tin
• Thu thập thông tin
• Phân tích văn bản
• Thông tin đánh giá
• Kỹ thuật phân tích văn bản
• Phiếu phân tích văn bản
• Bài giảng Soạn thảo văn bản hành chính
• Soạn thảo văn bản hành chính nâng cao
• Định dạng văn bản nâng cao
• Soạn thảo văn bản hành chính
• Xử lý văn bản hành chính
• Phân cấp đoạn trong văn bản
• Soạn thảo văn bản
• Giáo trình Soạn thảo văn bản
• Văn thư hành chính
• Kĩ thuật soạn thảo văn bản
• Thẩm quyền ban hành văn bản
• Kỹ thuật soạn thảo văn bản hành chính
• Tạp chí Khoa học
• Văn bản văn chương
• Văn bản thông tin
• Chương trình Ngữ văn
• truy tìm văn bản
• phân lớp cải tiến
• tìm kiếm thông tin
• thuật toán phân lớp
• phân tích cú pháp
• quản trị marketing
• báo cáo quản trị marketing
• thực trạng quản trị marketing
• luận văn quản trị
• chiến lược marketing
• tiểu luận
• Bài giảng Tin học
• Tin học đại cương
• Xử lý văn bản cơ bản
• Tổng quan về văn bản
• Hướng dẫn soạn thảo văn bản
• Định dạng văn bản
• Kết xuất và phân phối văn bản
• công nghệ thông tin
• phân lớp web
• độc lập ngôn ngữ
• phân cấp taxonomy
• nhận diện ngôn ngữ
• Hội thảo khoa học Công nghệ thông tin và truyền thông
• Information and Communication technology conference 2022
• Kỹ thuật khai thác đồ thị con
• Bài toán phân loại văn bản tiếng Việt
• Mô hình hóa văn bản
• Kỹ năng soạn thảo văn bản
• Qui tắc soạn thảo văn bản
• Bài giảng soạn thảo văn bản
• Hình thức văn bản qui chuẩn
• Công cụ soạn thảo văn bản
• Kỹ thuật soạn thảo văn bản
• Quản lý văn bản
• Thể thức văn bản
• Văn bản nhà nước
• Văn bản quản lý hành chính Nhà nước
• Xây dựng văn bản quản lý hành chính
• Ban hành văn bản quản lý hành chính
• Phân loại văn bản quản lý hành chính
• Hiệu lực văn bản quản lý hành chính
• Hệ thống văn bản quản lý hành chính
• Những thủ tục hành chính
• Văn bản hội nghị
• Văn bản hợp đồng dân sự
• Văn bản hợp đồng kinh tế
• Sử dụng văn bản
• Văn bản quản lý nhà nước
• Hệ thống văn bản nhà nước
• Văn bản hành chính
• Kế toán doanh nghiệp
• Văn bản pháp quy
• Quy trình soạn thảo văn bản
• Quản trị kinh doanh
• Phân loại văn bản quản lý nhà nước
• Kỹ thuật trình bày văn bản
• Kỹ thuật xây dựng văn bản
• Ban hành văn bản
• Quản lý hành chính nhà nước
• Chức năng của văn bản
• Ngôn ngữ văn bản
• Các trường điều kiện ngẫu nhiên
• Giải thuật phân tách
• Phân loại văn bản StarSpace
• Bài giảng Xử lý ngôn ngữ tự nhiên
• Ngôn ngữ tự nhiên
• Cách phân loại