วิธีที่ถูกต้องในการทดสอบความแตกต่างอย่างมีนัยสำคัญระหว่างค่าสัมประสิทธิ์คืออะไร?

18

ฉันหวังว่าบางคนสามารถช่วยชี้ประเด็นความสับสนให้ฉันได้ ว่าฉันต้องการทดสอบว่าสัมประสิทธิ์การถดถอย 2 ชุดนั้นแตกต่างกันอย่างมีนัยสำคัญหรือไม่ด้วยการตั้งค่าต่อไปนี้:

, มี 5 ตัวแปรอิสระ $y_i = \alpha + \beta x_i + \epsilon_i$
2 กลุ่มโดยมีขนาดเท่ากันโดยประมาณ (แม้ว่าอาจแตกต่างกัน) $n_1, n_2$
การถดถอยที่คล้ายกันหลายพันครั้งจะเกิดขึ้นพร้อมกันดังนั้นการแก้ไขสมมติฐานบางอย่างจึงต้องทำ

วิธีการหนึ่งที่แนะนำให้ฉันคือการใช้การทดสอบ Z:

$Z = \frac{b_1 - b_2}{\sqrt(SEb_1^2 + SEb_2^2)}$

อีกสิ่งที่ฉันได้เห็นข้อเสนอแนะในบอร์ดนี้คือการแนะนำตัวแปรจำลองสำหรับการจัดกลุ่มและเขียนแบบจำลองใหม่เป็น:

โดยที่คือตัวแปรการจัดกลุ่มซึ่งเขียนเป็น 0, 1 $y_i = \alpha + \beta x_i + \delta(x_ig_i) + \epsilon_i$ $g$

คำถามของฉันคือวิธีการทั้งสองนี้มีวิธีการที่แตกต่างกัน (เช่นสมมติฐานที่แตกต่างกันทำมีความยืดหยุ่น)? มีความเหมาะสมมากกว่าอีกอย่างหรือไม่? ฉันคิดว่ามันค่อนข้างธรรมดา แต่การชี้แจงใด ๆ จะได้รับการชื่นชมอย่างมาก

regression hypothesis-testing multiple-regression

— cashoes
แหล่งที่มา

ฉันเชื่อว่าคำตอบและความเห็นต่อคำถามที่คล้ายกันอาจให้คำอธิบายที่คุณต้องการ

— whuber

ขอบคุณมาก ฉันคุ้นเคยกับคำตอบนั้น จากการสนทนาใต้คำตอบที่ยอมรับ (และความคิดเห็นของคุณที่นั่น) ฉันรู้สึกว่าการเปรียบเทียบค่าสัมประสิทธิ์ของการแยก 2 แบบนั้นไม่เหมาะสม การทดสอบ z นำไปใช้กับสัมประสิทธิ์จากส่วนแยกที่ไม่ถูกต้องหรือว่าการเข้ารหัสตัวแปรดัมมี่นั้นง่ายกว่าและให้คำตอบที่เทียบเท่าหรือไม่

— เงินสด

1

โปรดดูย่อหน้าสุดท้ายของคำตอบของฉัน ("ข้อ จำกัด หลัก ... ") Z-การทดสอบที่ถูกต้องสมมติว่า

มีขนาดใหญ่ (มิฉะนั้นจะใช้ในการทดสอบ) และประมาณค่าเบี่ยงเบนมาตรฐาน

ไม่ได้แตกต่างกันเกินไปจากกันและกัน ทั้งสองวิธีจะดีที่สุดเมื่อค่าเบี่ยงเบนมาตรฐานแตกต่างกันมาก (โดยประมาณมากกว่าอัตราส่วน 3: 1)

n_{i}

$n_i$

S E b_{i}

$SEb_i$

— whuber

13

ทั้งสองวิธีต่างกัน

ให้ข้อผิดพลาดมาตรฐานโดยประมาณของทั้งสองถดถอยเป็นและ 2จากนั้นเนื่องจากการถดถอยแบบรวม (ที่มีค่าสัมประสิทธิ์ - ปฏิสัมพันธ์หุ่น) เหมาะกับสัมประสิทธิ์เดียวกันมันมีค่าคงที่เดียวกันดังนั้นจึงสามารถคำนวณข้อผิดพลาดมาตรฐานเป็น $s_1$ $s_2$

s = \sqrt{\frac{(n_{1} - p) s_{1}^{2} + (n_{2} - p) s_{2}^{2})}{n_{1} + n_{2} - 2 p}} .

$s = \sqrt{\frac{(n_1-p) s_1^2 + (n_2-p) s_2^2)}{n_1 + n_2 - 2 p}}.$

จำนวนพารามิเตอร์เท่ากับ $p$ $6$ ในตัวอย่าง: ห้าลาดและการสกัดกั้นในการถดถอยแต่ละครั้ง

$b_1$ $b_2$ $b$

S E (b) = s \sqrt{(S E (b_{1}) / s_{1})^{2} + (S E (b_{2}) / s_{2})^{2}} .

$SE(b) = s \sqrt{(SE(b_1)/s_1)^2 + (SE(b_2)/s_2)^2}.$

$s$ sนี่จะเป็นตัวส่วนสำหรับการทดสอบ t เห็นได้ชัดว่ามันไม่เหมือนกับตัวส่วนที่นำเสนอในคำถาม

ข้อสันนิษฐานของการถดถอยแบบรวมคือความแปรปรวนของค่าคงที่นั้นเหมือนกันทั้งในการถดถอยแบบแยกกัน หากไม่ใช่ในกรณีนี้การทดสอบ z จะไม่ดีเช่นกัน (ยกเว้นขนาดตัวอย่างที่มีขนาดใหญ่): คุณต้องการใช้การทดสอบ CABFหรือWelch-Satterthwaite t-test

— whuber
แหล่งที่มา

9

วิธีที่ตรงที่สุดในการทดสอบความแตกต่างของสัมประสิทธิ์ระหว่างสองกลุ่มคือการรวมคำการโต้ตอบลงในการถดถอยของคุณซึ่งเกือบจะเป็นสิ่งที่คุณอธิบายไว้ในคำถามของคุณ โมเดลที่คุณต้องการรันมีดังต่อไปนี้:

$y_i = \alpha + \beta x_i + \gamma g_i + \delta (x_i \times g_i) + \varepsilon_i$

$t$ $H_0: \delta = 0$ $g_i = 0$

$y_i = \alpha + \beta x_i + \varepsilon_i$

$g_i = 1$

$y_i = (\alpha + \gamma) + (\beta + \delta) x_i + \varepsilon_i$

$\delta$

— แมตต์แบล็กเวลล์
แหล่งที่มา

ขอบคุณสำหรับการแก้ไขแบบจำลอง (ฉันเชื่อว่ารุ่นของฉันด้านบนบังคับใช้เพียงจุดตัดที่เหมือนกันในทั้งสองกลุ่ม ... ) มากกว่าประเด็นนี่จะเท่ากับการทดสอบ z ที่ฉันโพสต์ไว้ด้านบนหรือไม่

— เงินสด

y_{i} = α + β x_{i} + γ g_{i} + ε_{i}

$y_i = \alpha + \beta x_i + \gamma g_i + \varepsilon_i$

y_{i} = α + β x_{i} + γ g_{i} + δ (x_{i} \times g_{i}) + ε_{i}

$y_i = \alpha + \beta x_i + \gamma g_i + \delta (x_i \times g_i) + \varepsilon_i$ เหมาะสมไหม

— miura

@ matt-blackwell แนวคิดนี้เหมือนกับการแบ่งโมเดลโดยแต่ละค่าของ g หรือไม่ (เช่น. b จะเป็นสัมประสิทธิ์ของ x เมื่อ g = 0, และ beta + delta เมื่อ g = 1) แม้ว่าฉันจะพอใจที่การแบ่งชั้นไม่อนุญาตให้มีการเปรียบเทียบทางสถิติ

— bobmcpop