ตั้งแต่
เรารู้ว่า
และดังนั้นเราจึงรู้ว่าในแต่ละองค์ประกอบของ ,
ที่เป็นองค์ประกอบเส้นทแยงมุมของ1} ดังนั้นเรารู้ว่า
β^=(XTX)−1XTY=(XTX)−1XT(Xβ+ε)=β+(XTX)−1XTε
β^−β∼N(0,σ2(XTX)−1)
kβ^β^k−βk∼N(0,σ2Skk)
Skkkth(XTX)−1zk=β^k−βkσ2Skk−−−−−√∼N(0,1).
จดคำแถลงของทฤษฎีบทสำหรับการแจกแจงของรูปแบบสมการกำลังสอง Idempotent ในเวกเตอร์ปกติมาตรฐาน (ทฤษฎีบท B.8 ในกรีน):
ถ้าและเป็นสมมาตรและ idempotent แล้วมีการกระจายที่เป็นยศx∼N(0,I)AxTAxχ2ννA
ปล่อยแสดงถึงการถดถอยเวกเตอร์ที่เหลือและให้
ซึ่งเป็นเมทริกซ์ผู้ผลิตที่เหลือ (เช่น ) . มันง่ายที่จะตรวจสอบว่าเป็นสมมาตรและ idempotentε^
M=In−X(XTX)−1XT,
My=ε^M
Let
เป็นประมาณการสำหรับ 2
s2=ε^Tε^n−p
σ2
จากนั้นเราต้องทำพีชคณิตเชิงเส้น สังเกตคุณสมบัติพีชคณิตเชิงเส้นทั้งสามนี้:
- อันดับของเมทริกซ์ idempotent คือการติดตาม
- Tr(A1+A2)=Tr(A1)+Tr(A2)
- Tr(A1A2)=Tr(A2A1)ถ้าคือและคือ ( คุณสมบัตินี้มีความสำคัญต่อการทำงานด้านล่าง )A1n1×n2A2n2×n1
ดังนั้น
rank(M)=Tr(M)=Tr(In−X(XTX)−1XT)=Tr(In)−Tr(X(XTX)−1XT))=Tr(In)−Tr((XTX)−1XTX))=Tr(In)−Tr(Ip)=n−p
จากนั้น
V=(n−p)s2σ2=ε^Tε^σ2=(εσ)TM(εσ).
การใช้ทฤษฏีสำหรับการจัดจำหน่ายของ idempotent กำลังสองฟอร์มในมาตรฐานปกติเวกเตอร์ (ระบุไว้ข้างต้น) เรารู้ว่า{}V∼χ2n−p
เนื่องจากคุณสันนิษฐานว่ามีการกระจายตามปกติแล้วเป็นอิสระจากและตั้งแต่เป็นหน้าที่ของแล้วนอกจากนี้ยังมีความเป็นอิสระของ\ดังนั้นและจึงเป็นอิสระจากกันεβ^ε^s2ε^s2β^zkV
จากนั้น
คืออัตราส่วนของการแจกแจงแบบปกติมาตรฐานที่มีรากที่สองของการแจกแจงแบบไคสแควร์ ที่มีองศาอิสระเท่ากัน (เช่น ) ซึ่งเป็นลักษณะของการแจกแจงแบบดังนั้นสถิติมีกับการกระจายองศาอิสระ
tk=zkV/(n−p)−−−−−−−−√
n−pttktn−p
จากนั้นจะสามารถจัดการพีชคณิตในรูปแบบที่คุ้นเคยมากขึ้น
tk=β^k−βkσ2Skk√(n−p)s2σ2/(n−p)−−−−−−−−−−−−√=β^k−βkSkk√s2−−√=β^k−βks2Skk−−−−−√=β^k−βkse(β^k)