อะไรคือความแตกต่างระหว่าง“ สัมประสิทธิ์การตัดสินใจ” และ“ หมายถึงข้อผิดพลาดกำลังสอง”?

สำหรับปัญหาการถดถอยฉันเคยเห็นผู้คนใช้ "สัมประสิทธิ์การตัดสินใจ" (aka R squared) เพื่อทำการเลือกแบบจำลองเช่นการค้นหาค่าสัมประสิทธิ์การลงโทษที่เหมาะสมสำหรับการทำให้เป็นมาตรฐาน

อย่างไรก็ตามมันเป็นเรื่องธรรมดาที่จะใช้ "mean squared error" หรือ "root Mean squared error" เป็นการวัดความแม่นยำในการถดถอย

แล้วความแตกต่างหลักระหว่างสองสิ่งนี้คืออะไร? พวกเขาสามารถใช้แทนกันได้สำหรับงาน "normalization" และ "ถดถอย" หรือไม่? และอะไรคือการใช้งานหลักของแต่ละอย่างในทางปฏิบัติเช่นในการเรียนรู้ของเครื่องจักรงานการขุดข้อมูล

SSESST$R^2=1-\frac{SSE}{SST}$โดยที่คือผลรวมของข้อผิดพลาดกำลังสอง (ส่วนที่เหลือหรือส่วนเบี่ยงเบนจากเส้นถดถอย) และคือผลรวมของการเบี่ยงเบนกำลังสองจากค่าเฉลี่ยของผู้ขึ้นกับ$SSE$$SST$$Y$

$MSE=\frac{SSE}{n-m}$โดยที่คือขนาดตัวอย่างและคือจำนวนพารามิเตอร์ในรูปแบบ (รวมถึงการสกัดกั้นหากมี)$n$$m$

$R^2$เป็นการวัดมาตรฐานของระดับการทำนายหรือพอดีในตัวอย่าง เป็นการประมาณค่าความแปรปรวนของค่าคงที่หรือไม่พอดีในประชากร การวัดทั้งสองเกี่ยวข้องกันอย่างชัดเจนดังที่เห็นในสูตรปกติที่สุดสำหรับการปรับ (ค่าประมาณสำหรับประชากร):$MSE$ R $R^2$$R^2$

$R_{adj}^2=1-(1-R^2)\frac{n-1}{n-m}=1-\frac{SSE/(n-m)}{SST/(n-1)}=1-\frac{MSE}{\sigma_y^2}$2}