ความแตกต่างระหว่างความแปรปรวนกับความคลาดเคลื่อนกำลังสองเฉลี่ยคืออะไร

ฉันประหลาดใจที่สิ่งนี้ไม่ได้ถูกถามมาก่อน แต่ฉันไม่สามารถหาคำถามเกี่ยวกับสถิติได้

นี่คือสูตรในการคำนวณความแปรปรวนของตัวอย่างที่กระจายแบบปกติ:

\frac{\sum (X - \bar{X})^{2}}{n - 1}

$\frac{\sum(X - \bar{X}) ^2}{n-1}$

นี่คือสูตรในการคำนวณความคลาดเคลื่อนเฉลี่ยกำลังสองของการสังเกตในการถดถอยเชิงเส้นอย่างง่าย:

\frac{\sum (y_{i} - {\hat{y}}_{i})^{2}}{n - 2}

$\frac{\sum(y_i - \hat{y}_i) ^2}{n-2}$

สูตรสองสูตรนี้แตกต่างกันอย่างไร? ความแตกต่างเดียวที่ฉันสามารถเห็นคือ MSE ใช้n-2ดังนั้นถ้านั่นคือความแตกต่างเท่านั้นทำไมไม่เรียกพวกเขาว่าเป็นทั้งความแปรปรวน แต่ด้วยระดับความอิสระที่แตกต่างกัน? $n-2$

variance error

— ลูเซียโน
แหล่งที่มา

มันเกี่ยวกับหน้าวิกิพีเดียที่นี่ที่ไม่ชัดเจนคืออะไร?

— TrynnaDoStat

ความแปรปรวนคือค่าเฉลี่ยของการเบี่ยงเบนกำลังสองของการสังเกตจากค่าเฉลี่ย ในทางตรงกันข้าม MSE คือค่าเฉลี่ยของการเบี่ยงเบนกำลังสองของการทำนายจากค่าจริง

— random_guy

ทั้ง "ความแปรปรวน" และ "หมายถึงข้อผิดพลาดกำลังสอง" มีหลายสูตรและแอปพลิเคชันที่แตกต่างกัน เพื่อชี้แจงคำถามของคุณคุณสามารถ (ก) อธิบายประเภทของข้อมูลที่คุณใช้กับแนวคิดเหล่านี้และ (b) ให้สูตรสำหรับพวกเขาหรือไม่ (เป็นไปได้ว่าในการทำเช่นนั้นคุณจะค้นพบคำตอบสำหรับคำถามของคุณเช่นกัน)

— whuber

มีสูตรทั่วไปมากขึ้นซึ่งทั้งสองกรณีเป็นพิเศษ:โดยที่คือจำนวนพารามิเตอร์ที่ได้รับโดยประมาณ

\frac{\sum_{i} (y_{i} - {\hat{y}}_{i})^{2}}{n - p}

$\frac{\sum_i(y_i-\hat{y}_i)^2}{n-p}$

p

$p$

\hat{y}

$\hat{y}$

— Glen_b -Reinstate Monica

@Glen_b โปรดช่วยอ้างอิงสำหรับข้อมูลเพิ่มเติมเกี่ยวกับสูตรทั่วไปนี้ได้ไหม?

— trianta2

คำตอบ:

ข้อผิดพลาดกำลังสองเฉลี่ยที่คุณเขียนไว้สำหรับ OLS กำลังซ่อนบางสิ่ง:

\frac{\sum_{i}^{n} (y_{i} - {\hat{y}}_{i})^{2}}{n - 2} = \frac{\sum_{i}^{n} {[y_{i} - ({\hat{β}}_{0} + {\hat{β}}_{x} x_{i})]}^{2}}{n - 2}

$\frac{\sum_{i}^{n}(y_i - \hat{y}_i) ^2}{n-2} = \frac{\sum_{i}^{n}\left[y_i - \left(\hat{\beta}_{0} + \hat{\beta}_{x}x_{i}\right)\right] ^2}{n-2}$

ขอให้สังเกตว่าผลรวมเศษมากกว่าฟังก์ชั่นของทั้งสองและดังนั้นคุณจะสูญเสียระดับของเสรีภาพสำหรับแต่ละตัวแปรจึงn-2ในสูตรสำหรับความแปรปรวนตัวอย่างตัวเศษเป็นฟังก์ชันของตัวแปรเดี่ยวดังนั้นคุณจึงสูญเสียอิสรภาพเพียงหนึ่งระดับในตัวส่วน $y$ $x$ $n-2$

อย่างไรก็ตามคุณกำลังติดตามว่ามีปริมาณใกล้เคียงกับแนวคิด ความแปรปรวนตัวอย่างวัดการแพร่กระจายของข้อมูลรอบค่าเฉลี่ยตัวอย่าง (ในหน่วยกำลังสอง) ในขณะที่ MSE วัดการแพร่กระจายในแนวตั้งของข้อมูลรอบ ๆ เส้นถดถอยตัวอย่าง (ในหน่วยแนวตั้งกำลังสอง)

— อเล็กซิส
แหล่งที่มา

@amoeba เฮ้! ขอบคุณสำหรับความสนใจ มีคู่มือสไตล์ CV อย่างเป็นทางการที่แจ้งให้แก้ไขนี้หรือไม่ ถ้าฉันต้องการเรียนรู้มัน ถ้าไม่เช่นนั้น Glen_b เคยตำหนิฉันอย่างถูกต้องว่าเป็นอาณานิคมด้วยการตั้งค่าสไตล์ส่วนตัวของฉันและแก้ไขให้กับผู้อื่น Qs และ As คุณคิดอย่างไร? (และฉันขอสิ่งนี้ในน้ำเสียงของฉัน: ฉันคิดว่าการแก้ไขของคุณจะเพิ่มบางสิ่งเพียงแค่ต้องการที่จะเข้าใจค่าการแก้ไขของเราดีขึ้น)

— Alexis

ฉันไม่คิดว่าจะมีคู่มือสไตล์ CV อย่างเป็นทางการที่ทำคำแนะนำนี้ แต่ใน LaTeX มีสูตรแบบอินไลน์ (ทำเครื่องหมายด้วยเครื่องหมายดอลลาร์หนึ่ง) ที่แสดงโดยตรงในบล็อกข้อความและสูตรที่แสดง (ทำเครื่องหมายด้วยเครื่องหมายดอลลาร์สองรายการ) ที่แสดงผลในบรรทัดแยกต่างหาก สูตรที่แสดงใช้เค้าโครงที่แตกต่างกัน สูตรของคุณเดิมอยู่ในบรรทัดที่แยกต่างหาก ฉันไม่คิดว่ามันสมเหตุสมผล อย่างไรก็ตามคุณถูกต้องเกี่ยวกับความชอบส่วนตัวดังนั้นอย่าลังเลที่จะย้อนกลับมาขอโทษ เหตุผลที่ฉันแก้ไขคือฉันแก้ไขข้อผิดพลาดในคำถามต่อไป

— อะมีบากล่าวว่า Reinstate Monica

หากไม่มีการสกัดกั้นเทอมในปัญหาการถดถอยดังนั้นองศาความอิสระของ MSE เท่ากับเช่นในสูตรความแปรปรวนแทน

β_{0}

$\beta_0$

n - 1

$n-1$

n - 2

$n-2$

— พัฒนาที่

ในสูตรความแปรปรวนตัวอย่างหมายถึงค่าประมาณประชากร ค่าเฉลี่ยตัวอย่างถูกคำนวณสำหรับตัวอย่างที่กำหนดด้วยจุดข้อมูลรู้ใบเฉลี่ยตัวอย่างเรามีเพียงจุดข้อมูลที่เป็นอิสระเป็น^THจุดข้อมูลจะถูก จำกัด โดยค่าเฉลี่ยของกลุ่มตัวอย่างดังนั้น ( ) องศาอิสระ (DOF) ในส่วนในสูตรที่แปรปรวน $n$ $n-1$ $n$ $n-1$

ในการรับค่าประมาณของ y ( ) ในสูตร MSE เราต้องประเมินทั้ง (เช่นการสกัดกั้น) และ (เช่นความชัน) ดังนั้นเราจึงสูญเสีย 2 อานนท์และนั่นคือเหตุผลสำหรับ ( ) ในตัวส่วนในสูตร MSE $= \beta_{0} + \beta_{1}\times x$ $\beta_{0}$ $\beta_{1}$ $n-2$

— Brajesh Kumar
แหล่งที่มา