ความแปรปรวนของค่าสัมประสิทธิ์การถดถอยในการถดถอยเชิงเส้นอย่างง่าย


37

ในการถดถอยเชิงเส้นอย่างง่ายเรามีที่2) ฉันได้รับตัวประมาณ: ที่และเป็นวิธีการที่เป็นตัวอย่างของและy ที่y=β0+β1x+uuiidN(0,σ2)

β1^=i(xix¯)(yiy¯)i(xix¯)2 ,
x¯y¯xy

ตอนนี้ผมต้องการที่จะหาแปรปรวนของ\ฉันได้รับสิ่งต่อไปนี้: β^1

Var(β1^)=σ2(11n)i(xix¯)2 .

รากศัพท์มีดังต่อไปนี้:

Var(β1^)=Var(i(xix¯)(yiy¯)i(xix¯)2)=1(i(xix¯)2)2Var(i(xix¯)(β0+β1xi+ui1nj(β0+β1xj+uj)))=1(i(xix¯)2)2Var(β1i(xix¯)2+i(xix¯)(uijujn))=1(i(xix¯)2)2Var(i(xix¯)(uijujn))=1(i(xix¯)2)2×E[(i(xix¯)(uijujn)E[i(xix¯)(uijujn)]=0)2]=1(i(xix¯)2)2E[(i(xix¯)(uijujn))2]=1(i(xix¯)2)2E[i(xix¯)2(uijujn)2] , since ui 's are iid=1(i(xix¯)2)2i(xix¯)2E(uijujn)2=1(i(xix¯)2)2i(xix¯)2(E(ui2)2×E(ui×(jujn))+E(jujn)2)=1(i(xix¯)2)2i(xix¯)2(σ22nσ2+σ2n)=σ2i(xix¯)2(11n)

ฉันทำอะไรผิดที่นี่เหรอ?

ฉันรู้ว่าถ้าฉันทำทุกอย่างด้วยเครื่องหมายเมทริกซ์ฉันจะได้ . แต่ฉันกำลังพยายามหาคำตอบโดยไม่ใช้สัญกรณ์เมทริกซ์เพียงเพื่อให้แน่ใจว่าฉันเข้าใจแนวคิดVar(β1^)=σ2i(xix¯)2


2
ใช่สูตรของคุณจากสัญกรณ์เมทริกซ์ถูกต้อง เมื่อดูสูตรที่มีคำถามดังนั้นมันจึงดูราวกับว่าคุณอาจใช้ค่าเบี่ยงเบนมาตรฐานตัวอย่างที่ไหนสักแห่งแทนที่จะเป็นค่าเบี่ยงเบนมาตรฐานของประชากร? โดยที่ไม่ได้เห็นต้นกำเนิดมันยากที่จะพูดอะไรอีกแล้ว 11n=n1n
TooTone

คำตอบทั่วไปยังได้รับการโพสต์ในกระทู้ที่ซ้ำกันที่stats.stackexchange.com/questions/91750
whuber

คำตอบ:


35

ในช่วงเริ่มต้นของรากศัพท์ของคุณที่คุณคูณออกวงเล็บในกระบวนการขยายตัวทั้งและ{y} อดีตขึ้นอยู่กับตัวแปรผลรวมในขณะที่หลังไม่ได้ หากคุณปล่อยตามที่ได้รับมานั้นง่ายกว่ามากเพราะ i(xix¯)(yiy¯)yiy¯iy¯

i(xix¯)y¯=y¯i(xix¯)=y¯((ixi)nx¯)=y¯(nx¯nx¯)=0

ด้วยเหตุนี้

i(xix¯)(yiy¯)=i(xix¯)yii(xix¯)y¯=i(xix¯)yi=i(xix¯)(β0+β1xi+ui)

และ

Var(β1^)=Var(i(xix¯)(yiy¯)i(xix¯)2)=Var(i(xix¯)(β0+β1xi+ui)i(xix¯)2),substituting in the above=Var(i(xix¯)uii(xix¯)2),noting only ui is a random variable=i(xix¯)2Var(ui)(i(xix¯)2)2,independence of ui and, Var(kX)=k2Var(X)=σ2i(xix¯)2

ซึ่งเป็นผลลัพธ์ที่คุณต้องการ


ในฐานะที่เป็นข้อความด้านข้างฉันใช้เวลานานในการพยายามหาข้อผิดพลาดในการสืบทอดของคุณ ในที่สุดฉันตัดสินใจว่าการตัดสินใจนั้นเป็นส่วนที่ดีกว่าของความกล้าหาญและมันเป็นการดีที่สุดที่จะลองใช้วิธีที่ง่ายกว่า อย่างไรก็ตามสำหรับบันทึกฉันไม่แน่ใจว่าขั้นตอนนี้มีความชอบธรรม เพราะมันคิดถึงออกข้อกำหนดข้ามเนื่องจาก{n}

=.1(i(xix¯)2)2E[(i(xix¯)(uijujn))2]=1(i(xix¯)2)2E[i(xix¯)2(uijujn)2] , since ui 's are iid
jujn

ฉันสังเกตเห็นว่าฉันสามารถใช้วิธีการที่ง่ายกว่านี้มานานแล้ว แต่ฉันตั้งใจที่จะขุดลึกและหาคำตอบเดียวกันโดยใช้วิธีการที่แตกต่างกันเพื่อให้แน่ใจว่าฉันเข้าใจแนวคิด ฉันรู้ว่าจากสมการปกติ (FOC จากวิธีกำลังสองน้อยที่สุด) ดังนั้น , บวกดังนั้น{y}} ดังนั้นจะไม่มีคำว่าในตอนแรก juj^=0u^¯=iuin=0u^¯=y¯y^¯=0y¯=y^¯jujn
mynameisJEFF

ตกลงในคำถามของคุณการเน้นคือการหลีกเลี่ยงสัญลักษณ์เมทริกซ์
TooTone

ใช่เพราะฉันสามารถแก้ไขได้โดยใช้สัญลักษณ์เมทริกซ์ และสังเกตจากความคิดเห็นล่าสุดของฉันฉันไม่ได้ใช้พีชคณิตเชิงเส้นใด ๆ ขอบคุณสำหรับคำตอบที่ยอดเยี่ยมของคุณต่อไป ^. ^
mynameisJEFF

ขออภัยเรากำลังพูดถึงจุดตัดขวางที่นี่? ฉันไม่ได้ใช้สัญกรณ์เมทริกซ์ใด ๆ ในคำตอบของฉันและฉันคิดว่านั่นคือสิ่งที่คุณถามในคำถามของคุณ
TooTone

ขอโทษสำหรับความเข้าใจผิด haha ​​...
mynameisJEFF

2

ผมเชื่อว่าปัญหาในการพิสูจน์ของคุณเป็นขั้นตอนที่คุณใช้มูลค่าที่คาดหวังของตารางของขวา) นี่คือรูปแบบโดยที่{n} ดังนั้นเมื่อ squaring เราได้รับขวา] ตอนนี้จากการคำนวณอย่างชัดเจนดังนั้นเป็นi(xix¯)(uijujn)E[(iaibi)2]ai=xix¯;bi=uijujnE[i,jaiajbibj]=i,jaiajE[bibj]E[bibj]=σ2(δij1n)E[i,jaiajbibj]=i,jaiajσ2(δij1n)=iai2σ2iai=0.


1

เริ่มต้นจาก "การสืบทอดมาดังต่อไปนี้:" The 7th "=" ผิด

เพราะ

i(xix¯)(uiu¯)

=i(xix¯)uii(xix¯)u¯

=i(xix¯)uiu¯i(xix¯)

=i(xix¯)uiu¯(ixinx¯)

=i(xix¯)uiu¯(ixiixi)

=i(xix¯)uiu¯0

=i(xix¯)ui

ดังนั้นหลังจาก 7th "=" มันควรจะเป็น:

1(i(xix¯)2)2E[(i(xix¯)ui)2]

=1(i(xix¯)2)2E(i(xix¯)2ui2+2ij(xix¯)(xjx¯)uiuj)

=1(i(xix¯)2)2E(i(xix¯)2ui2)+2E(ij(xix¯)(xjx¯)uiuj)

=เพราะและมีความเป็นอิสระและหมายถึง 0 ดังนั้น1(i(xix¯)2)2E(i(xix¯)2ui2)uiujE(uiuj)=0

=1(i(xix¯)2)2(i(xix¯)2E(ui2))

σ2(i(xix¯)2)2


1
อาจเป็นประโยชน์หากคุณแก้ไขคำตอบเพื่อรวมบรรทัดที่ถูกต้อง
mdewey

คำตอบของคุณจะถูกตั้งค่าสถานะโดยอัตโนมัติว่ามีคุณภาพต่ำเพราะสั้นมาก โปรดลองขยายคำตอบของคุณ
Glen_b
โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.