ทำไมยอดรวมยกกำลังสองที่ไม่เพิ่มเมื่อเพิ่มตัวแปรอธิบาย?

9

ในหนังสือเรียนเศรษฐมิติของฉัน (เศรษฐมิติเบื้องต้น) ครอบคลุม OLS ผู้เขียนเขียนว่า "SSR จะต้องล้มลงเมื่อมีการเพิ่มตัวแปรอธิบายอื่น" ทำไมล่ะ

— Eric Xu
แหล่งที่มา

1

ในสาระสำคัญเพราะถ้าไม่มีความสัมพันธ์เชิงเส้นกับตัวแปรถัดไปอะไรก็ตาม (0 ตัวอย่างความสัมพันธ์บางส่วน), SSR จะยังคงเหมือนเดิม หากมีความสัมพันธ์ใด ๆ เลยคุณสามารถใช้ตัวแปรถัดไปเพื่อลด SSR

— Glen_b -Reinstate Monica

3

คำสั่งนั้นถูกต้องในใจ แต่ไม่จริง: SSR จะยังคงเหมือนเดิม (และไม่ตก) เมื่อเพิ่มตัวแปรใด ๆ ที่เป็นการรวมกันเชิงเส้นของตัวแปรที่มีอยู่ ท้ายที่สุดโดยการละเว้นตัวแปรใหม่คุณสามารถบรรลุค่าต่ำสุดของ SSR เดียวกันกับที่คุณทำกับตัวแปรเก่าดังนั้นการเพิ่มตัวแปรใหม่จะไม่ทำให้แย่ลง

— whuber

ผมตอบคำถามที่คล้ายกันที่นี่: stats.stackexchange.com/questions/306267/... คุณอาจพบว่ามีประโยชน์

— Josh

18

สมมติว่าคุณมีรูปแบบการถดถอยเชิงเส้นเพื่อความสะดวกในการพิจารณาควรคำนึงถึงอันดับแรกก่อนจากนั้นจึงเปลี่ยนสองตัวแปร สิ่งนี้ทำให้ค่าความแปรปรวนร่วมเป็นสองชุด แบบแรกคือ รุ่นที่สองคือ วิธีนี้แก้ไขได้ด้วยการลดผลรวมของส่วนที่เหลือกำลังสองให้น้อยที่สุดสำหรับแบบจำลองหนึ่งที่เราต้องการลด และสำหรับรุ่นที่สองที่คุณต้องการ ลด 2 ให้บอกว่าคุณพบตัวประมาณที่ถูกต้องสำหรับโมเดล 1 จากนั้นคุณสามารถได้รับผลรวมกำลังสองที่เหลือเหมือนกันในรูปแบบที่สองโดยเลือกค่าเดียวกันสำหรับ

ผม : Y_{ผม} = β_{0} + β_{1} x_{1 ผม} + ε_{ผม}

$I \colon y_i=\beta_0 + \beta_1 x_{1i}+\epsilon_{i}$

ผม ผม : Y_{ผม} = β_{0} + β_{1} x_{1 ผม} + β_{2} x_{2 ผม} + ε_{ผม}

$II \colon y_i = \beta_0 + \beta_1 x_{1i} + \beta_2 x_{2i} + \epsilon_i$

{SSR}_{1} = \sum_{i} (y_{i} - β_{0} - β_{1} x_{1 i})^{2}

$\text{SSR}_1 = \sum_i (y_i-\beta_0-\beta_1 x_{1i})^2$

{SSR}_{2} = \sum_{i} (y_{i} - β_{0} - β_{1} x_{1 i} - β_{2} x_{2 i})^{2}

$\text{SSR}_2 = \sum_i (y_i-\beta_0-\beta_1 x_{1i}-\beta_2 x_{2i})^2$

β_{0}, β_{1}

$\beta_0, \beta_1$ และให้ 0 ตอนนี้คุณสามารถหาได้อาจจะต่ำสี่เหลี่ยมผลรวมที่เหลือโดยการค้นหาค่าที่ดีสำหรับ\

β_{2} = 0

$\beta_2=0$

β_{2}

$\beta_2$

โดยสรุปแล้วโมเดลต่าง ๆ ซ้อนกันในแง่ที่ว่าทุกสิ่งที่เราสามารถทำโมเดลกับโมเดล 1 สามารถจับคู่โดยโมเดลสองโมเดลสองคือโมเดลทั่วไปมากกว่าโมเดล 1 ดังนั้นในการเพิ่มประสิทธิภาพเรามีอิสระมากขึ้นด้วยโมเดลสองดังนั้น หาทางออกที่ดีกว่าเสมอ

สิ่งนี้ไม่มีอะไรเกี่ยวข้องกับสถิติ แต่เป็นข้อเท็จจริงทั่วไปเกี่ยวกับการปรับให้เหมาะสม

— kjetil b halvorsen
แหล่งที่มา

1

ไม่คิดอย่างนี้มีประโยชน์จริงๆ!

— Eric Xu

1

SSR เป็นการวัดความแตกต่างระหว่างข้อมูลและแบบจำลองการประมาณค่า

หากคุณมีตัวเลือกในการพิจารณาตัวแปรอื่นหากตัวแปรนี้มีข้อมูลเพิ่มเติมความพอดีจะแน่นกว่าซึ่งหมายความว่า SSR ที่ต่ำกว่า

— Cloud Skywalker
แหล่งที่มา