ผลรวมของตัวแปรสองตัวสามารถอธิบายความแปรปรวนได้มากกว่าตัวแปรแต่ละตัวอย่างไร

ฉันได้รับผลลัพธ์ที่น่าสงสัยสำหรับความสัมพันธ์ของผลรวมกับตัวแปรที่สามเมื่อตัวทำนายสองตัวนั้นมีความสัมพันธ์เชิงลบ อะไรทำให้เกิดผลลัพธ์ที่น่างงงวยเหล่านี้

ตัวอย่างที่ 1: ความสัมพันธ์ระหว่างผลรวมของตัวแปรสองตัวกับตัวแปรตัวที่สาม

พิจารณาสูตร 16.23 ในหน้า 427 ของข้อความ 1965 ของ Guildford ดังที่แสดงด้านล่าง

การค้นหาที่น่าสงสัย: หากตัวแปรทั้งสองมีความสัมพันธ์กับ. 2 กับตัวแปรที่สามและมีความสัมพันธ์กับ -.7 ซึ่งกันและกันสูตรจะส่งผลให้มีค่าเท่ากับ. 52 ความสัมพันธ์ของผลรวมกับตัวแปรที่สามจะเป็น. 52 ได้อย่างไรถ้าทั้งสองตัวแปรนั้นสัมพันธ์กันเพียง. 2 กับตัวแปรที่สาม

ตัวอย่างที่ 2: ความสัมพันธ์หลายอย่างระหว่างตัวแปรสองตัวกับตัวแปรที่สามคืออะไร

พิจารณาสูตร 16.1 ในหน้า 404 ของข้อความ 1965 ของ Guildford (แสดงด้านล่าง)

การค้นหาที่น่าสงสัย: สถานการณ์เดียวกัน หากตัวแปรทั้งสองมีความสัมพันธ์กับ. 2 กับตัวแปรที่สามและมีความสัมพันธ์กับ -.7 ซึ่งกันและกันสูตรจะส่งผลให้มีค่าเท่ากับ. 52 ความสัมพันธ์ของผลรวมกับตัวแปรที่สามจะเป็น. 52 ได้อย่างไรถ้าทั้งสองตัวแปรนั้นสัมพันธ์กันเพียง. 2 กับตัวแปรที่สาม

ฉันลองใช้การจำลองแบบมอนติคาร์โลอย่างรวดเร็วและยืนยันผลของสูตร Guilford

แต่หากผู้ทำนายสองคนแต่ละคนทำนายความแปรปรวนของตัวแปรที่สามได้ 4% ผลรวมของพวกเขาจะทำนายความแปรปรวน 1/4 ได้อย่างไร

ที่มา: สถิติพื้นฐานทางจิตวิทยาและการศึกษา, ฉบับที่ 4, 1965

ชี้แจง

สถานการณ์ที่ฉันจัดการเกี่ยวข้องกับการคาดการณ์ผลการดำเนินงานในอนาคตของแต่ละบุคคลตามการวัดความสามารถของพวกเขาในขณะนี้

แผนภาพสองเวนน์ด้านล่างแสดงให้เห็นถึงความเข้าใจของฉันเกี่ยวกับสถานการณ์และมีความหมายที่จะชี้แจงปริศนาของฉัน

แผนภาพ Venn นี้ (รูปที่ 1) แสดงคำสั่งเป็นศูนย์ r = .2 ระหว่าง x1 และ C ในฟิลด์ของฉันมีตัวแปรตัวทำนายหลายตัวที่ทำนายเกณฑ์อย่างถ่อมตัว

แผนภาพ Venn นี้ (รูปที่ 2) สะท้อนถึงตัวทำนายสองตัว ได้แก่ x1 และ x2 แต่ละตัวทำนาย C ที่ r = .2 และตัวทำนายสองตัวมีความสัมพันธ์เชิงลบ r = -. 7

ฉันสูญเสียการมองเห็นความสัมพันธ์ระหว่างตัวทำนายสอง r = .2 ที่จะทำให้พวกเขาทำนายความแปรปรวนของ C ได้ 25%

ฉันขอความช่วยเหลือในการทำความเข้าใจความสัมพันธ์ระหว่าง x1, x2 และ C

หาก (ตามคำแนะนำของบางคนในการตอบคำถามของฉัน) x2 ทำหน้าที่เป็นตัวยับยั้งตัวแปรสำหรับ x1 พื้นที่ใดในแผนภาพ Venn ที่สองถูกระงับ

หากตัวอย่างที่เป็นรูปธรรมน่าจะมีประโยชน์เราสามารถพิจารณา x1 และ x2 เป็นความสามารถของมนุษย์สองคนและ C เป็น GPA ระดับวิทยาลัย 4 ปีหลังจาก 4 ปี

ฉันกำลังมีปัญหาในการมองเห็นว่าตัวแปรตัวยับยั้งอาจทำให้เกิดความแปรปรวน 8% ที่อธิบายได้ของสอง r = .2 ศูนย์ลำดับ r เพื่อขยายและอธิบาย 25% ของความแปรปรวนของ C ตัวอย่างที่เป็นรูปธรรมจะเป็นคำตอบที่มีประโยชน์มาก

สิ่งนี้สามารถเกิดขึ้นได้เมื่อตัวทำนายสองตัวทั้งคู่มีปัจจัยรบกวนขนาดใหญ่ แต่มีเครื่องหมายตรงข้ามดังนั้นเมื่อคุณเพิ่มพวกมันเข้าไปแล้วสิ่งรบกวนจะถูกยกเลิกและคุณจะได้ใกล้ชิดกับตัวแปรที่สามมากขึ้น

ลองยกตัวอย่างที่มีตัวอย่างมากขึ้น สมมติว่าเป็นตัวแปรสุ่มแบบอิสระมาตรฐาน ตอนนี้ให้$X, Y \sim N(0,1)$

$A = X$

$B = -X + 0.00001Y$

สมมติว่าเป็นตัวแปรที่สามของคุณA , Bเป็นตัวทำนายสองตัวและXเป็นตัวแปรแฝงที่คุณไม่รู้อะไรเลย ความสัมพันธ์ของ A กับ Y คือ 0 และความสัมพันธ์ของ B กับ Y นั้นน้อยมากใกล้กับ 0.00001 * แต่ความสัมพันธ์ของA + BกับYคือ 1$Y$$A, B$$X$$A+B$$Y$

* มีการแก้ไขเล็ก ๆ น้อย ๆ สำหรับค่าเบี่ยงเบนมาตรฐานของ B ที่เป็นมากกว่า 1 เล็กน้อย

มันจะมีประโยชน์ในการเข้าใจตัวแปรทั้งสามว่าเป็นการรวมกันเชิงเส้นของตัวแปรที่ไม่เกี่ยวข้องอื่น ๆ เพื่อปรับปรุงความเข้าใจของเราเราอาจพรรณนาเชิงเรขาคณิตทำงานกับพวกเขาเกี่ยวกับพีชคณิตและให้คำอธิบายทางสถิติตามที่เราต้องการ

$X$$Y$$Z$

$$U = X,\quad V = (- 7 X + \sqrt{51}Y )/10;\quad W=(\sqrt{3} X + \sqrt{17} Y + \sqrt{55}Z)/\sqrt{75}.$$

คำอธิบายทางเรขาคณิต

กราฟิกต่อไปนี้เกี่ยวกับสิ่งที่คุณต้องการเพื่อทำความเข้าใจความสัมพันธ์ระหว่างตัวแปรเหล่านี้

$U$$V$$W$$U+V$$X,Y,Z$$U$$V$$U$$V$$W$$U$$V$$W$สร้างมุมแหลม (ประมาณ 45 องศา): มันมีความสัมพันธ์เชิงบวกที่สูงอย่างไม่คาดคิด

---

การคำนวณพีชคณิต

สำหรับผู้ที่ต้องการความแม่นยำมากขึ้นนี่คือพีชคณิตเพื่อสำรองเรขาคณิตในกราฟิก

$U$$V$$W$

$$\operatorname{Cor}(U, V) = \operatorname{Cov}(U,V) = \mathbb{E}(UV) = \mathbb{E}(\sqrt{51}XY- 7 X^2)/10 = -7/10 = -0.7$$

$X$$Y$

$$\operatorname{Cor}(U,W) = \sqrt{3/75} = 1/5 = 0.2$$

และ

$$\operatorname{Cor}(V,W) = (-7\sqrt{3} + \sqrt{15}\sqrt{17})/(10\sqrt{75}) = 1/5 = 0.2.$$

สุดท้าย

$$\operatorname{Cor}(U+V,W) = \frac{\operatorname{Cov}(U+V,W)}{\sqrt{\operatorname{Var}(U+V)\operatorname{Var}(W)}} = \frac{1/5 + 1/5}{\sqrt{\operatorname{Var}(U) + \operatorname{Var}(V) + 2\operatorname{Cov}(U,V)}} = \frac{2/5}{\sqrt{1 + 1 - 2(7/10)}} = \frac{2/5}{\sqrt{3/5}}\approx 0.5164.$$

ดังนั้นตัวแปรทั้งสามนี้จึงมีความสัมพันธ์ที่ต้องการ

---

คำอธิบายทางสถิติ

ตอนนี้เราสามารถเห็นได้ว่าทำไมทุกอย่างทำงานเหมือน:

• $U$$V$$-7/10$$V$$U$$Y$

• $U$$W$$1/5$$W$$U$$Y$$Z$

• $V$$W$$1/5$$W$$\sqrt{75}$

  • $\sqrt{17}Y$$V$
  • $-\sqrt{3}X$$V$
  • $Z$

• $U+V = (3X + \sqrt{51}Y)/10 = \sqrt{3/100}(\sqrt{3}X + \sqrt{17}Y)$$W$$W$$Z$

อีกตัวอย่างง่ายๆ:

• $z \sim \mathcal{N}(0,1)$
• $x_1 \sim \mathcal{N}(0,1)$
• $x_2 = z - x_1$$z = x_1 + x_2$

แล้ว:

• $\mathrm{Corr}(z, x_1) = 0$
• $\mathrm{Corr}(z, x_2) \approx .7$
• $\mathrm{Corr}(z, x_1 + x_2) = 1$

เรขาคณิตสิ่งที่เกิดขึ้นเป็นเหมือนในกราฟิกของ WHuber แนวคิดอาจมีลักษณะเช่นนี้:

$E[XY]$

$x_1$$z$$\theta$

• $\mathrm{Corr}(z, x_1) = \cos \theta_{zx_1} = 0 \quad \quad \theta_{z,x_1} = \frac{\pi}{2}$
• $\mathrm{Corr}(z, x_2) = \cos \theta_{zx_2} \approx .7 \quad \quad \theta_{z,x_2} = \frac{\pi}{4}$
• $\mathrm{Corr}(z, x_1 + x_2) = \cos \theta_{z,x_1+x_2} = 1 \quad \quad \theta_{z, x_1 + x_2} = 0$

$z$$-x_1$$x_2$$z$$-x_1$$x_1$$x_2$$-x_1$$x_2$

พูดถึงความคิดเห็นของคุณ:

แม้จะมีคณิตศาสตร์ แต่ฉันก็ยังไม่เห็นตรรกะของผลรวมของตัวแปรสองตัวที่อธิบาย 25 +% ของความแปรปรวนของตัวแปรที่สามเมื่อแต่ละตัวแปรสองตัวที่ปิดลงในการทำนายผลรวม แต่ 4% ของความแปรปรวนของตัวแปรที่สามนั้น . 8% อธิบายความแปรปรวนกลายเป็น 25% อธิบายความแปรปรวนเพียงแค่เพิ่มสองตัวแปรได้อย่างไร

ปัญหาที่นี่ดูเหมือนจะเป็นคำศัพท์ "อธิบายความแปรปรวน" เช่นเดียวกับคำศัพท์ในสถิติจำนวนมากสิ่งนี้ได้รับเลือกให้ดูเหมือนว่ามีความหมายมากกว่าที่เป็นจริง

$Y$

$$y = (6, 7, 4, 8, 9, 6, 6, 3, 5, 10)$$

$U$$Y$$R$$R$$Y$

$$r = (-20, -80, 100, 90, 50, 70, 40, 30, 40, 60)$$

$U = R + 0.1Y$

$$u = (-19.4, -79.3, 100.4, 90.8, 50.9, 70.6, 40.6, 30.3, 40.5, 61.0)$$

$V=-R+0.1Y$

$$v = (20.6, 80.7, -99.6, -89.2, -49.1, -69.4, -39.4, -29.7, -39.5, -59.0)$$

$U$$V$$Y$$r$$0.2Y$$Y$

$Y$$U$$U$$R$$V$$R$$Y$$U+V$

$A$$B$$B$$A$