ทำไมการแจกแจงแบบ T ใช้สำหรับการทดสอบสมมุติฐานสัมประสิทธิ์การถดถอยเชิงเส้น?

17

ในทางปฏิบัติการใช้ T-test มาตรฐานเพื่อตรวจสอบความสำคัญของสัมประสิทธิ์การถดถอยเชิงเส้นคือการปฏิบัติทั่วไป กลไกของการคำนวณนั้นสมเหตุสมผลสำหรับฉัน

ทำไมการแจกแจงแบบ T สามารถใช้เป็นแบบจำลองสถิติการทดสอบมาตรฐานที่ใช้ในการทดสอบสมมติฐานการถดถอยเชิงเส้น สถิติทดสอบมาตรฐานฉันหมายถึงที่นี่:

T_{0} = \frac{\hat{β} - β_{0}}{S E (\hat{β})}

$T_{0} = \frac{\widehat{\beta} - \beta_{0}}{SE(\widehat{\beta})}$

— เนทปาร์ก
แหล่งที่มา

คำตอบที่สมบูรณ์และสมบูรณ์สำหรับคำถามนี้จะค่อนข้างยาวฉันแน่ใจ ดังนั้นในขณะที่คุณรอสำหรับคนที่จะแก้ไขปัญหานี้คุณจะได้รับความคิดที่ดีงามของเหตุผลเป็นกรณีนี้โดยดูที่บันทึกบางอย่างที่ฉันพบได้ทั่วไปที่นี่: onlinecourses.science.psu.edu/stat501/node/297 หมายเหตุเฉพาะที่n-P)}

t_{(n - p)}^{2} = F_{(1, n - p)}

$t^2_{(n−p)}=F_{(1,n−p)}$

— StatsStudent

1

ฉันไม่เชื่อว่านี่จะไม่ซ้ำกัน แต่ยัง upvotes ทั้งหมด (ทั้งในคำถามและคำตอบ) ... แล้วเรื่องนี้ล่ะ? หรืออาจจะไม่ซ้ำกันซึ่งหมายความว่ามี (หรือมีมาจนถึงทุกวันนี้) หัวข้อพื้นฐานขั้นพื้นฐานที่ยังไม่ได้ครอบคลุมตลอดเกือบเจ็ดปีของการดำรงอยู่ของการตรวจสอบข้าม ... ว้าว ...

— Richard Hardy

@RichardHardy อืมมดูเหมือนว่าซ้ำซ้อน ในขณะที่มันละเอียดมากขึ้นคำถามนี้ก็คือ: "ฉันจะพิสูจน์ได้อย่างไรสำหรับ , " $\hat\beta_i$ $\frac{\hat{\beta}_i - \beta_i} {s_{\hat{\beta}_i}} \sim t_{n-k}$

— Firebug

26

เพื่อให้เข้าใจว่าทำไมเราถึงใช้การแจกแจงแบบ T คุณต้องรู้ว่าอะไรคือการกระจายตัวของและผลรวมที่เหลือของกำลังสอง ( ) เนื่องจากทั้งสองนี้รวมกันจะทำให้คุณกระจายตัว $\widehat{\beta}$ $RSS$

ส่วนที่ง่ายกว่าคือการกระจายของซึ่งเป็นการกระจายแบบปกติ - เพื่อดูข้อความนี้ที่ =ดังนั้นจึงเป็นฟังก์ชันเชิงเส้นของที่{n}) ดังนั้นมันจึงถูกแจกจ่ายตามปกติ - แจ้งให้เราทราบหากคุณต้องการความช่วยเหลือ อันเกิดการกระจายตัวของเบต้า} $\widehat{\beta}$ $\widehat{\beta}$ $(X^{T}X)^{-1}X^{T}Y$ $Y$ $Y\sim N(X\beta, \sigma^{2}I_{n})$ $\widehat{\beta} \sim N(\beta, \sigma^{2}(X^{T}X)^{-1})$ $\widehat{\beta}$

นอกจากนี้โดยที่คือจำนวนการสังเกตและคือจำนวนของพารามิเตอร์ที่ใช้ในการถดถอยของคุณ การพิสูจน์เรื่องนี้เกี่ยวข้องกับอีกเล็กน้อย แต่ก็ตรงไปตรงมาที่จะได้รับ (ดูข้อพิสูจน์ที่นี่เหตุใดจึงมีการแจกแจงข้อมูลไคสแควร์ไคสแควร์ np? ) $RSS \sim \sigma^{2}\chi^{2}_{n-p}$ $n$ $p$

จนถึงจุดนี้ฉันได้พิจารณาทุกอย่างในรูปของเมทริกซ์ / เวคเตอร์ แต่เพื่อความง่ายให้ใช้และใช้การกระจายแบบปกติซึ่งจะให้เรา: $\widehat{\beta}_{i}$

\frac{{\hat{β}}_{i} - β_{i}}{σ \sqrt{(X^{T} X)_{i i}^{- 1}}} \sim N (0, 1)

$\begin{equation} \frac{\widehat{\beta}_{i}-\beta_{i}}{\sigma\sqrt{(X^{T}X)^{-1}_{ii}}} \sim N(0,1) \end{equation}$

นอกจากนี้จากการแจกแจงไคสแควร์ของเรามี: $RSS$

\frac{(n - p) s^{2}}{σ^{2}} \sim χ_{n - p}^{2}

$\begin{equation} \frac{(n-p)s^{2}}{\sigma^{2}} \sim \chi^{2}_{n-p} \end{equation}$

นี้เป็นเพียงการปรับปรุงใหม่ของการแสดงออกไคสแควร์เป็นครั้งแรกและเป็นอิสระจาก(0,1) นอกจากนี้เรากำหนดซึ่งเป็นประมาณการที่เป็นกลางสำหรับ{2} โดยคำจำกัดความของคำจำกัดความที่แบ่งการแจกแจงแบบปกติโดยอิสระไคสแควร์ (เหนือระดับความเป็นอิสระ) ให้การแจกแจงแบบ t (สำหรับหลักฐานดู: ปกติหารด้วย ให้การแจกแจงแบบ t กับคุณคุณจะได้รับ: $N(0,1)$ $s^{2}=\frac{RSS}{n-p}$ $\sigma^{2}$ $t_{n-p}$ $\sqrt{\chi^2(s)/s}$

\frac{{\hat{β}}_{i} - β_{i}}{s \sqrt{(X^{T} X)_{i i}^{- 1}}} \sim t_{n - p}

$\begin{equation} \frac{\widehat{\beta}_{i}-\beta_{i}}{s\sqrt{(X^{T}X)^{-1}_{ii}}} \sim t_{n-p} \end{equation}$

ที่ไหน{i}) $s\sqrt{(X^{T}X)^{-1}_{ii}}=SE(\widehat{\beta}_{i})$

แจ้งให้เราทราบหากเหมาะสม

— francium87d
แหล่งที่มา

ช่างเป็นคำตอบที่ยอดเยี่ยม! คุณช่วยอธิบายได้ไหมว่าทำไม ?

\frac{{\hat{β}}_{i} - β_{i}}{σ \sqrt{(X^{T} X)_{i i}^{- 1}}} \sim N (0, 1)

$\begin{equation} \frac{\widehat{\beta}_{i}-\beta_{i}}{\sigma\sqrt{(X^{T}X)^{-1}_{ii}}} \sim N(0,1) \end{equation}$

— KingDingeling

4

คำตอบนั้นง่ายมาก: คุณใช้การแจกแจงแบบ t เพราะมันถูกออกแบบมาโดยเฉพาะสำหรับจุดประสงค์นี้

ตกลงความแตกต่างที่นี่คือมันไม่ได้ออกแบบมาโดยเฉพาะสำหรับการถดถอยเชิงเส้น Gossetเกิดการกระจายตัวอย่างที่ดึงมาจากประชากร ตัวอย่างเช่นคุณวาดตัวอย่างและคำนวณค่าเฉลี่ยของ n การกระจายตัวของตัวอย่างหมายถึงอะไร ? $x_1,x_2,\dots,x_n$ $\bar x=\sum_{i=1}^n x_i/n$ $\bar x$

ถ้าคุณรู้จริง (ประชากร) ส่วนเบี่ยงเบนมาตรฐานแล้วคุณจะบอกว่าตัวแปรจากการกระจายปกติมาตรฐาน1) ปัญหาที่คุณมักจะไม่ทราบว่าและสามารถประเมินมัน\ดังนั้นโกสเซทจึงหาการกระจายเมื่อคุณแทนที่ด้วยในส่วนและตอนนี้การกระจายจะถูกเรียกหลังจาก pseduonym "Student t" ของเขา $\sigma$ $\xi=(\bar x-\mu)\sqrt n/\sigma$ $\mathcal N(0,1)$ $\sigma$ $\hat\sigma$ $\sigma$ $\hat\sigma$

technicalities ของการถดถอยเชิงเส้นนำไปสู่สถานการณ์ที่เราสามารถประเมินข้อผิดพลาดมาตรฐานของการประมาณค่าสัมประสิทธิ์แต่เราไม่ทราบความจริงดังนั้นการแจกแจงของนักเรียน t จึงถูกนำมาใช้ที่นี่ด้วย $\hat\sigma_\beta$ $\hat\beta$ $\sigma$

— Aksakal
แหล่งที่มา