tailieunhanh - PPt4 Radial Basis Function Network - RBN

Radial-basis function (RBF) networks RBF = radial-basis function: là hàm phụ thuộc vào khỏang cách gốc từ một vector. RBFs là các hàm có dạng như trong hình Với f là hàm activation phi tuyến, x là các đầu vào và ti là vị trí thứ i, mẫu đầu tiên, vector cơ sở hoặc vector trung tâm. Điều này chỉ ra các điểm gần tâm sẽ có đầu ra tương tự nhau | Radial-basis function (RBF) networks RBF = radial-basis function: là hàm phụ thuộc vào khỏang cách gốc từ một vector XOR problem Khả năng phân tách theo bậc 2 (quadratically separable) NN 3 RBFs là các hàm có dạng Với f là hàm activation phi tuyến, x là các đầu vào và ti là vị trí thứ i, mẫu đầu tiên, vector cơ sở hoặc vector trung tâm. Điều này chỉ ra các điểm gần tâm sẽ có đầu ra tương tự nhau RBF NN: Kiến trúc Có một lớp ẩn với các hàm activation RBF Lớp ở đầu ra với hàm activation tuyến tính x2 xm x1 y wm1 w1 là khoảng cách của với NN 3 Các loại RBF (a) Multiquadrics Với c>0 (b) Inverse multiquadrics c>0 Gaussian với s >0 NN 3 Inverse multiquadrics và Gaussian RBFs là hai ví dụ về các hàm ‘localized’ Multiquadrics RBFs là các hàm ‘nonlocalized’ ‘Localized’: nghĩa là khoảng cách từ tâm tăng dẫn đến giảm đầu ra của RBF ‘Nonlocalized’: là khoảng cách từ tâm tăng cùng với sự gia tăng của RBF NN 3 ‘nonlocalized’ functions ‘localized’ functions HIDDEN NEURON MODEL . | Radial-basis function (RBF) networks RBF = radial-basis function: là hàm phụ thuộc vào khỏang cách gốc từ một vector XOR problem Khả năng phân tách theo bậc 2 (quadratically separable) NN 3 RBFs là các hàm có dạng Với f là hàm activation phi tuyến, x là các đầu vào và ti là vị trí thứ i, mẫu đầu tiên, vector cơ sở hoặc vector trung tâm. Điều này chỉ ra các điểm gần tâm sẽ có đầu ra tương tự nhau RBF NN: Kiến trúc Có một lớp ẩn với các hàm activation RBF Lớp ở đầu ra với hàm activation tuyến tính x2 xm x1 y wm1 w1 là khoảng cách của với NN 3 Các loại RBF (a) Multiquadrics Với c>0 (b) Inverse multiquadrics c>0 Gaussian với s >0 NN 3 Inverse multiquadrics và Gaussian RBFs là hai ví dụ về các hàm ‘localized’ Multiquadrics RBFs là các hàm ‘nonlocalized’ ‘Localized’: nghĩa là khoảng cách từ tâm tăng dẫn đến giảm đầu ra của RBF ‘Nonlocalized’: là khoảng cách từ tâm tăng cùng với sự gia tăng của RBF NN 3 ‘nonlocalized’ functions ‘localized’ functions HIDDEN NEURON MODEL Các phần tử Hidden có hàm activation là các radial basis functions NN 3 Xét hàm Gaussian RBF: φ ( || x - t||) t được gọi là tâm (center) được gọi là trải rộng (spread) center và spread là các tham số x2 x1 xm φ( || x - t||) Đầu ra phụ thuộc vào khoảng cách đầu vào x tới tâm t Gaussian RBF φ NN 3 center φ : chỉ ra mức độ trải rộng của đường cong Large Small Hidden Neurons hidden neuron nhạy hơn (more sensitive to) đối với các điểm dữ liệu gần tâm. Đối với Gaussian RBF khả năng nhạy này có thể được chỉnh bằng cách thay đổi hệ số trải , ở đó hệ số trải lớn có độ nhạy giảm. Ví dụ trong Biologic: cochlear stereocilia cells (in our ears .) have locally tuned frequency responses. NN 3 Ví dụ 1 NN 3 Các mẫu bên trong vòng tròn 1 và 2 là các lớp +, ngược lại là các lớp – Liệu ta có thể tách hai lớp này dùng RBF NN hay không? 1 2 x1 x2 - + + - - - - - - Không gian là không gian đầu vào NN 3 Lời giải như sau x1 x2 1 1 1 y Chọn các tâm t1 ,t2 cho hai vòng tròn.