tailieunhanh - Bài giảng Lý thuyết nhận dạng – Chương 4: Phân lớp dựa trên tối ưu hóa hàm lượng giá

"Bài giảng Lý thuyết nhận dạng – Chương 4: Phân lớp dựa trên tối ưu hóa hàm lượng giá" với các nội dung giới thiệu chung (cont); thuật toán perceptron; phương pháp tổng bình phương nhỏ nhất; support vector machnes trường hợp tuyến tính; các lớp không phân biệt . | Tối ưu hóa hàm lượng giá LÝ THUYẾT NHẬN DẠNG CHƯƠNG 4 PHÂN LỚP DỰA TRÊN TỐI ƯU HÓA HÀM LƯỢNG GIÁ 1 Biên soạn TS Ngô Hữu Phúc Bộ môn Khoa học máy tính Học viện kỹ thuật quân sự Email ngohuuphuc76@ . GIỚI THIỆU CHUNG Trong chương này tập trung vào việc thiết kế hàm phân biệt mặt quyết định có khả năng phân lớp theo một tiêu chí nào đó. Với các kỹ thuật sử dụng bộ phân lớp Bayesian dựa trên ước lượng hàm phân bố dữ liệu của mỗi lớp. Tuy nhiên đây là nhóm công việc phức tạp đối với dữ liệu có số chiều lớp. Chương này đưa ra giải pháp xây dựng mặt quyết định mà không cần sử dụng hàm phân bố của dữ liệu. Giải pháp thuộc nhóm này đơn giản hơn so với phương pháp phân lớp Bayesian ngay cả đối với dữ liệu không nhiều. Tối ưu hóa hàm lượng giá 2 . GIỚI THIỆU CHUNG CONT Để minh họa thiết kế bộ phân lớp tuyến tính được mô tả 0 0 hay có thể viết lại 0 1 Như vậy nếu được ước lượng một bộ dữ liệu x sẽ thuộc lớp 1 2 nếu 0 gt lt 0 Lưu ý để đơn giản cách viết có thể lược bỏ ký hiệu chuyển vị. Tối ưu hóa hàm lượng giá 3 . GIỚI THIỆU CHUNG CONT Với dữ liệu trên có thể dùng bộ phân lớp tuyến tính Tối ưu hóa hàm lượng giá 4 . GIỚI THIỆU CHUNG CONT Với dữ liệu trên có thể dùng bộ phân lớp tuyến tính Tối ưu hóa hàm lượng giá 5 . THUẬT TOÁN PERCEPTRON Thuật toán Perceptron thích hợp với phân 2 lớp dạng tuyến tính. Giải thuật tính giá trị của trọng số w trong bộ phân lớp tuyến tính để có thể phân biệt 2 lớp. Giải thuật bắt đầu từ một ước lượng ban đầu và hội tụ đến lời giải của bài toán sau một số bước lặp. Việc cập nhật giá trị trọng số tại bước i có dạng 1 Trong đó w đã bao gồm cả 0 Y tập bị phân lớp sai ở bước t 1 nếu 1 1 nếu 2 hệ số học tại bước t. Hệ số này do người thiết kế lựa chọn. Thuật toán dừng khi Y rỗng. Tối ưu hóa hàm lượng giá 6 . THUẬT TOÁN PERCEPTRON CONT Nguyên tắc chung của giải thuật là giảm gradient Ý tưởng chung Từ đó ta có 1 với đóng vai trò hệ số học Tối ưu hóa hàm lượng giá 7 . THUẬT TOÁN PERCEPTRON CONT Ví dụ về sự biến đổi trong ý .