tailieunhanh - Bài giảng Lý thuyết nhận dạng – Chương 5: Sự phân lớp dựa trên láng giềng gần nhất

"Bài giảng Lý thuyết nhận dạng – Chương 5: Sự phân lớp dựa trên láng giềng gần nhất" thông tin đến các bạn những kiến thức về luật K láng giềng gần nhất; quy tắc xây dựng đồ thị và/hoặc; tìm kiếm trên đồ thị và/hoặc. | LÝ THUYẾT NHẬN DẠNG Chương 5 Sự phân lớp dựa trên láng giềng gần nhất Biên soạn TS Ngô Hữu Phúc Bộ môn Khoa học máy tính Học viện kỹ thuật quân sự Email ngohuuphuc76@ 1 Chương 5 Phân lớp bằng láng giềng gần nhất Giới thiệu Việc xác định kích thước cửa sổ tốt nhất có thể áp đặt số mẫu trong khối. Ví dụ Để ước lượng p x từ n mẫu xác định phần tử trung tâm x và tăng kích thước cho đến khi có đủ kn mẫu. Các mẫu này là kn-LGGN của x. Hàm mật độ được xác định Ta mong muốn pn x kn n Vn lim kn and lim kn n 0 n n 2 Chương 5 Phân lớp bằng láng giềng gần nhất Ví dụ về ước lượng mật độ của k-LGGN Ước lượng mật độ của k-LGGN với k 3 và k 5 3 Chương 5 Phân lớp bằng láng giềng gần nhất Giới thiệu t Trong thực tế bộ phân lớp thường phi tuyến. Phương pháp phân lớp tốt có thể dựa trên ước lượng mật độ k-láng giềng gần nhất LGGN . Quy tắc về LGGN Chọn lớp của mẫu huấn luyện gần nhất. Khi N vô cùng sai số của phân lớp LGGN với xác suất PNN được giới hạn bởi M PB PNN PB 2 PB 2 PB M 1 trong đó PB là sai số Beyes. Như vậy sai số của phương pháp LGGN không quá 2 lần sai số tối ưu. 4 Chương 5 Phân lớp bằng láng giềng gần nhất . Luật k láng giềng gần nhất. Luật Tìm k-LGGN của vector chưa biết từ vector huấn luyện. Đưa vector chưa biết vào lớp mà có sự xuất hiện nhiều của vector huấn luyên. Cận của lỗi phân lớp được xác định 2 PNN PB Pk NN PB k khi k tăng giá trị này gần đến sai số tốt nhất Beyes. 5 Chương 5 Phân lớp bằng láng giềng gần nhất Ví dụ về phân lớp sử dụng k-LGGN Mẫu kiểm tra xanh lá cây được đưa vào lớp mầu đỏ nếu k 3 được đưa vào lớp mầu xanh dương nếu k 5 6 Chương 5 Phân lớp bằng láng giềng gần nhất . Luật k láng giềng gần nhất t Khoảng cách được sử dụng để tìm k-LGGN có thể dùng khoảng cách Mahalanobis hay Euclidean. Độ phức tạp của việc phân lớp Phương pháp này có độ phức tạp O lN . Có thể tăng sự hiệu quả bằng việc sử dụng cấu trúc dữ liệu dạng cây tìm kiếm. 7 Chương 5 Phân lớp bằng láng giềng gần nhất Ví dụ về đồ thị and or cho tìm kiếm Đồ thị and or được .