เชิงเส้นตรงกับ RKHS- การถดถอย
ฉันกำลังศึกษาความแตกต่างระหว่างการทำให้เป็นปกติในการถดถอย RKHS และการถดถอยเชิงเส้น แต่ฉันมีเวลายากที่จะเข้าใจความแตกต่างที่สำคัญระหว่างทั้งสอง รับคู่อินพุต - เอาต์พุต (xi,yi)(xi,yi)(x_i,y_i)ฉันต้องการประเมินฟังก์ชั่น f(⋅)f(⋅)f(\cdot) ดังนี้ f(x)≈u(x)=∑i=1mαiK(x,xi),f(x)≈u(x)=∑i=1mαiK(x,xi),\begin{equation}f(x)\approx u(x)=\sum_{i=1}^m \alpha_i K(x,x_i),\end{equation} ที่ไหน K(⋅,⋅)K(⋅,⋅)K(\cdot,\cdot)เป็นฟังก์ชั่นเคอร์เนล ค่าสัมประสิทธิ์αmαm\alpha_m สามารถพบได้โดยการแก้ minα∈Rn1n∥Y−Kα∥2Rn+λαTKα,minα∈Rn1n‖Y−Kα‖Rn2+λαTKα,\begin{equation} {\displaystyle \min _{\alpha\in R^{n}}{\frac {1}{n}}\|Y-K\alpha\|_{R^{n}}^{2}+\lambda \alpha^{T}K\alpha},\end{equation} ที่มีการละเมิดบางส่วนของโน้ตที่i,ji,ji,j 'รายการของเมทริกซ์เคอร์เนลวันที่KKKคือK(xi,xj)K(xi,xj){\displaystyle K(x_{i},x_{j})} {J})} สิ่งนี้จะให้ α∗=(K+λnI)−1Y.α∗=(K+λnI)−1Y.\begin{equation} \alpha^*=(K+\lambda nI)^{-1}Y. \end{equation} อีกวิธีหนึ่งเราสามารถรักษาปัญหาดังกล่าวเป็นปัญหาการถดถอยแบบเส้นตรง / ปัญหาการถดถอยเชิงเส้น: minα∈Rn1n∥Y−Kα∥2Rn+λαTα,minα∈Rn1n‖Y−Kα‖Rn2+λαTα,\begin{equation} {\displaystyle \min _{\alpha\in R^{n}}{\frac {1}{n}}\|Y-K\alpha\|_{R^{n}}^{2}+\lambda \alpha^{T}\alpha},\end{equation} พร้อมทางออก α∗=(KTK+λnI)−1KTY.α∗=(KTK+λnI)−1KTY.\begin{equation} {\alpha^*=(K^{T}K +\lambda nI)^{-1}K^{T}Y}. \end{equation} …