วิธีหาข้อผิดพลาดมาตรฐานของสัมประสิทธิ์การถดถอยเชิงเส้น

20

สำหรับโมเดลการถดถอยเชิงเส้นแบบไม่ ได้รับชุดข้อมูลการประมาณค่าสัมประสิทธิ์คือ นี่คือคำถามของฉันตาม หนังสือและWikipediaข้อผิดพลาดมาตรฐานของคือ อย่างไรและทำไม

Y_{ผม} = β_{0} + β_{1} x_{ผม} + ε_{ผม}

$y_i = \beta_0 + \beta_1x_i+\epsilon_i$

D = {(x_{1}, y_{1}), . . ., (x_{n}, y_{n})}

$D=\{(x_1,y_1),...,(x_n,y_n)\}$

{\hat{β}}_{1} = \frac{\underset{ผม}{Σ} x_{ผม} Y_{ผม} - n \bar{x} \bar{Y}}{n {\bar{x}}^{2} - \underset{ผม}{Σ} x_{ผม}^{2}}

$\hat\beta_1=\frac{\sum_ix_iy_i-n\bar x\bar y}{n\bar x^2-\sum_ix_i^2}$

{\hat{β}}_{0} = \bar{Y} - {\hat{β}}_{1} \bar{x}

$\hat\beta_0=\bar y - \hat\beta_1\bar x$

{\hat{β}}_{1}

$\hat\beta_1$

s_{{\hat{β}}_{1}} = \sqrt{\frac{\underset{ผม}{Σ} {\hat{ε}}_{ผม}^{2}}{(n - 2) \underset{ผม}{Σ} (x_{ผม} - \bar{x})^{2}}}

$s_{\hat\beta_1}=\sqrt{\frac{\sum_i\hat\epsilon_i^2}{(n-2)\sum_i(x_i-\bar x)^2}}$

standard-error inference

— อาโวคาโด
แหล่งที่มา

1

stats.stackexchange.com/questions/44838/…

— ocram

@ ocram ขอบคุณ แต่ฉันไม่สามารถจัดการสิ่งเมทริกซ์ฉันจะลอง

— อะโวคาโด

1

@ocram ฉันเข้าใจอยู่แล้วว่ามันมาถึงอย่างไร แต่ก็ยังมีคำถาม: ในโพสต์ของฉัน, ข้อผิดพลาดมาตรฐานมี

(n - 2)

$(n-2)$ , ซึ่งตามคำตอบของคุณ, มันไม่, ทำไม?

— อะโวคาโด

15

ความคิดเห็นที่ 3 ด้านบน: ฉันเข้าใจแล้วว่ามันเป็นอย่างไร แต่ยังคงมีคำถาม: ในโพสต์ของฉันข้อผิดพลาดมาตรฐานมี (n − 2) ซึ่งตามคำตอบของคุณมันไม่ได้ทำไม?

ในโพสต์ของฉันพบว่า ตัวส่วนสามารถเขียนเป็น ด้วยเหตุนี้

\hat{SE} (\hat{ข}) = \sqrt{\frac{n {\hat{σ}}^{2}}{n Σ x_{ผม}^{2} - (Σ x_{ผม})^{2}}} .

$\widehat{\text{se}}(\hat{b}) = \sqrt{\frac{n \hat{\sigma}^2}{n\sum x_i^2 - (\sum x_i)^2}}.$

n \underset{ผม}{Σ} (x_{ผม} - \bar{x})^{2}

$n \sum_i (x_i - \bar{x})^2$

\hat{SE} (\hat{ข}) = \sqrt{\frac{{\hat{σ}}^{2}}{\underset{ผม}{Σ} (x_{ผม} - \bar{x})^{2}}}

$\widehat{\text{se}}(\hat{b}) = \sqrt{\frac{\hat{\sigma}^2}{\sum_i (x_i - \bar{x})^2}}$

ด้วย นั่นคือ Mean Square Error (MSE) ในตาราง ANOVA เราสิ้นสุดด้วยนิพจน์ของคุณ สำหรับ{ข}) คำว่าอธิบายถึงการสูญเสียอิสรภาพ 2 องศาในการประมาณค่าการสกัดกั้นและความชัน

{\hat{σ}}^{2} = \frac{1}{n - 2} \underset{ผม}{Σ} {\hat{ε}}_{ผม}^{2}

$\hat{\sigma}^2 = \frac{1}{n-2} \sum_i \hat{\epsilon}_i^2$

\hat{se} (\hat{b})

$\widehat{\text{se}}(\hat{b})$

n - 2

$n-2$

— ocram
แหล่งที่มา

1

ฉันคิดว่าฉันได้รับทุกสิ่งอย่างที่คาดหวังในส่วนสุดท้าย คุณสามารถแสดงทีละขั้นตอนทำไม ? ฉันก็รู้ว่ามันเกี่ยวข้องกับองศาอิสระ แต่ฉันไม่ได้คณิตศาสตร์

{\hat{σ}}^{2} = \frac{1}{n - 2} \sum_{i} {\hat{ϵ}}_{i}^{2}

$\hat{\sigma}^2 = \frac{1}{n-2} \sum_i \hat{\epsilon}_i^2$

— Mappi

2

อีกวิธีคิดเกี่ยวกับ n-2 df ก็คือเพราะเราใช้ 2 หมายถึงประมาณค่าสัมประสิทธิ์ความชัน (ค่าเฉลี่ยของ Y และ X)

df จาก Wikipedia: "... โดยทั่วไปแล้วองศาอิสระของการประมาณค่าพารามิเตอร์จะเท่ากับจำนวนคะแนนอิสระที่เข้าสู่การประมาณการลบด้วยจำนวนพารามิเตอร์ที่ใช้เป็นขั้นตอนกลางในการประมาณค่าพารามิเตอร์เอง ."

— Eivind
แหล่งที่มา

2

นี่ไม่ใช่สิ่งที่ได้มาจริง ๆ เช่นนี้แม้ว่ามันจะเป็นสัญชาตญาณ สำหรับรายละเอียดปลีกย่อยบางอย่างที่เกี่ยวข้องกับเรื่องนี้ให้ดูที่วิธีทำความเข้าใจองศาอิสระ

— Silverfish