X และ Y ไม่มีความสัมพันธ์ แต่ X เป็นตัวทำนายที่สำคัญของ Y ในการถดถอยหลายครั้ง มันหมายความว่าอะไร?

X และ Y ไม่มีความสัมพันธ์ (-.01); อย่างไรก็ตามเมื่อฉันวาง X ลงในการพยากรณ์การถดถอยหลายครั้งพร้อมกับตัวแปร (A, B, C) อื่น (ที่เกี่ยวข้อง) ตัวแปรสามตัว, X และตัวแปรอื่นอีกสองตัว (A, B) เป็นตัวทำนายที่สำคัญของ Y โปรดทราบว่าอีกสอง ( ตัวแปร A, B) มีความสัมพันธ์อย่างมีนัยสำคัญกับ Y นอกการถดถอย

ฉันควรตีความข้อค้นพบเหล่านี้อย่างไร X ทำนายความแปรปรวนที่ไม่ซ้ำกันใน Y แต่เนื่องจากสิ่งเหล่านี้ไม่มีความสัมพันธ์ (Pearson) จึงยากที่จะตีความ

ฉันรู้กรณีตรงกันข้าม (เช่นตัวแปรสองตัวมีความสัมพันธ์กัน แต่การถดถอยไม่สำคัญ) และค่อนข้างง่ายกว่าที่จะเข้าใจจากมุมมองเชิงทฤษฎีและสถิติ โปรดทราบว่าตัวพยากรณ์บางตัวมีความสัมพันธ์กันค่อนข้างมาก (เช่น. 70) แต่ไม่ใช่ในระดับที่ฉันคาดหวังว่าจะมีความหลากหลายทางชีวภาพที่สำคัญ บางทีฉันอาจเข้าใจผิด

หมายเหตุ: ฉันถามคำถามนี้ก่อนหน้านี้และมันถูกปิด เหตุผลก็คือคำถามนี้ซ้ำซ้อนกับคำถามที่ว่า " การถดถอยจะมีความสำคัญได้อย่างไรบางทีฉันไม่เข้าใจคำถามอื่น แต่ฉันเชื่อว่าคำถามเหล่านี้เป็นคำถามที่แยกจากกันทั้งในเชิงคณิตศาสตร์และเชิงทฤษฎีคำถามของฉันไม่ขึ้นอยู่กับว่า "การถดถอยมีความสำคัญ" นอกจากนี้ตัวทำนายหลายตัวก็มีความสำคัญ สร้างความแปรปรวนให้กับตัวแปรที่ไม่สำคัญดังนั้นฉันจึงไม่เห็นการซ้อนทับกันหากคำถามเหล่านี้ซ้ำซ้อนด้วยเหตุผลที่ฉันไม่เข้าใจโปรดใส่ความคิดเห็นก่อนปิดคำถามนี้นอกจากนี้ฉันหวังว่าจะส่งข้อความถึงผู้ดูแลที่ปิดอีก คำถามเพื่อหลีกเลี่ยงคำถามที่เหมือนกัน แต่ฉันไม่พบตัวเลือกให้ทำ

ทฤษฎีเชิงสาเหตุเสนอคำอธิบายอีกวิธีหนึ่งว่าตัวแปรสองตัวสามารถมีความเป็นอิสระได้อย่างไร ฉันไม่ใช่ผู้เชี่ยวชาญเกี่ยวกับทฤษฎีเชิงสาเหตุและรู้สึกขอบคุณสำหรับคำวิจารณ์ที่จะแก้ไขข้อผิดพลาดใด ๆ ด้านล่าง

เพื่อแสดงให้เห็นว่าฉันจะใช้กราฟ acyclic โดยตรง (DAG) ในกราฟเหล่านี้ edge ( ) ระหว่างตัวแปรแสดงถึงความสัมพันธ์เชิงสาเหตุโดยตรง หัวลูกศร (หรือ ) ระบุทิศทางของความสัมพันธ์เชิงสาเหตุ ดังนั้นอนุมานว่าเป็นสาเหตุโดยตรงและอนุมานว่ามีสาเหตุโดยตรงจากBเป็นเส้นทางเชิงสาเหตุที่ infers ที่ทำให้ถึงทางอ้อม$-$$\leftarrow$$\rightarrow$$A \rightarrow B$$A$$B$$A \leftarrow B$$A$$B$$A \rightarrow B \rightarrow C$$A$$C$$B$. เพื่อให้เข้าใจง่ายสมมติว่าความสัมพันธ์เชิงสาเหตุทั้งหมดเป็นเส้นตรง

ก่อนอื่นให้พิจารณาตัวอย่างง่ายๆของอคติที่สับสน :

นี่ถดถอย bivariable ง่ายจะแนะนำการพึ่งพาอาศัยกันระหว่างและYแต่ไม่มีความสัมพันธ์เชิงสาเหตุโดยตรงระหว่างและYแต่ทั้งคู่เกิดขึ้นโดยตรงจากและในการถดถอยแบบง่าย bivariable การสังเกตทำให้เกิดความไม่พอใจระหว่างและทำให้เกิดอคติโดยการทำให้สับสน อย่างไรก็ตามเครื่องถดถอยหลายตัวแปรในจะลบอคติและแนะนำการพึ่งพาอาศัยกันระหว่างไม่มีและY$X$$Y$$X$$Y$$Z$$Z$$X$$Y$$Z$$X$$Y$

ประการที่สองลองพิจารณาตัวอย่างของcollider bias (หรือที่รู้จักกันในชื่อ Berkson bias หรือ berksonian bias ซึ่ง bias ที่เลือกเป็นแบบพิเศษ):

นี่ถดถอย bivariable ง่ายจะแนะนำการพึ่งพาอาศัยกันระหว่างไม่มีและYนี้เห็นด้วยกับ DAG ซึ่งอนุมานไม่มีความสัมพันธ์เชิงสาเหตุโดยตรงระหว่างและYอย่างไรก็ตามการปรับเงื่อนไขการถดถอยหลายตัวแปรบนจะทำให้เกิดการพึ่งพากันระหว่างและชี้ให้เห็นว่าความสัมพันธ์เชิงสาเหตุโดยตรงระหว่างตัวแปรทั้งสองนั้นอาจมีอยู่ การรวมในผลการถดถอยหลายตัวแปรในอคติคอลไลเดอร์$X$$Y$$X$$Y$$Z$$X$$Y$$Z$

ประการที่สามพิจารณาตัวอย่างของการยกเลิกโดยไม่ตั้งใจ:

ให้เราสมมติว่า ,และมีค่าสัมประสิทธิ์เส้นทางและ- ถดถอย bivariable ง่ายจะแนะนำ depenence ระหว่างไม่มีและYแม้ว่าในความเป็นจริงเป็นสาเหตุโดยตรงของผลรบกวนของในและบังเอิญยกเลิกออกผลกระทบของในYการปรับเงื่อนไขการถดถอยหลายตัวแปรบนจะลบเอฟเฟ็กต์ที่สับสนของบนและ$\alpha$$\beta$$\gamma$$\beta = -\alpha\gamma$$X$$Y$$X$$Y$$Z$$X$$Y$$X$$Y$$Z$$Z$$X$$Y$ทำให้สามารถประมาณผลกระทบโดยตรงของต่อโดยสมมติว่า DAG ของแบบจำลองเชิงสาเหตุนั้นถูกต้อง$X$$Y$

เพื่อสรุป:

ปัจจัยรบกวนเช่น: และจะขึ้นอยู่ในการถดถอย bivariable และเป็นอิสระในการปรับสภาพถดถอยหลายตัวแปรในปัจจัยรบกวนZ$X$$Y$$Z$

Collider ตัวอย่างเช่น และมีความเป็นอิสระในการถดถอย bivariable และขึ้นอยู่ในเครื่อง regresssion หลายตัวแปรใน Collider Z$X$$Y$$Z$

ยกเลิกตัวอย่าง Inicdental: และมีความเป็นอิสระในการถดถอย bivariable และขึ้นอยู่ในเครื่อง regresssion หลายตัวแปรในปัจจัยรบกวนZ$X$$Y$$Z$

Discussion:

ผลลัพธ์ของการวิเคราะห์ของคุณเข้ากันไม่ได้กับตัวอย่างที่สับสน แต่เข้ากันได้กับทั้งตัวอย่าง collider และตัวอย่างการยกเลิกโดยบังเอิญ ดังนั้นคำอธิบายที่อาจเกิดขึ้นคือการที่คุณมีเงื่อนไขไม่ถูกต้องบนตัวแปร Collider ในการถดถอยหลายตัวแปรของคุณและมีการเหนี่ยวนำให้เกิดการเชื่อมโยงระหว่างและแม้ว่าไม่ได้เป็นสาเหตุของและไม่ได้เป็นสาเหตุของXหรือคุณอาจมีเงื่อนไขถูกต้องใน confounder ในการถดถอยหลายตัวแปรที่มีการยกเลิกผลกระทบที่แท้จริงของกับในการถดถอยแบบ bivariable ของคุณ$X$$Y$$X$$Y$$Y$$X$$X$$Y$

ฉันพบว่าการใช้ความรู้พื้นฐานเพื่อสร้างแบบจำลองเชิงสาเหตุมีประโยชน์เมื่อพิจารณาว่าตัวแปรใดที่จะรวมในตัวแบบสถิติ ตัวอย่างเช่นหากการศึกษาแบบสุ่มที่มีคุณภาพสูงก่อนหน้านี้ได้ข้อสรุปว่าทำให้และเป็นสาเหตุของฉันสามารถสันนิษฐานได้ว่าเป็น collider ของและและไม่มีเงื่อนไขสำหรับมันในแบบจำลองทางสถิติ อย่างไรก็ตามถ้าฉันเพียงแค่มีสัญชาตญาณว่าทำให้และทำให้แต่ไม่มีหลักฐานทางวิทยาศาสตร์ที่แข็งแกร่งที่จะสนับสนุนสัญชาตญาณของฉันฉันจะทำได้เพียงสมมติฐานอ่อนแอที่$X$$Z$$Y$$Z$$Z$$X$$Y$$X$$Z$$Y$$Z$$Z$เป็น collider ของและเนื่องจากสัญชาติญาณของมนุษย์มีประวัติของการเข้าใจผิด ต่อจากนั้นผมจะไม่เชื่อใน infering ความสัมพันธ์เชิงสาเหตุระหว่างและโดยไม่ต้องสืบสวนต่อไปของความสัมพันธ์เชิงสาเหตุของพวกเขาด้วยZแทนหรือนอกเหนือจากความรู้พื้นฐานแล้วยังมีอัลกอริทึมที่ออกแบบมาเพื่ออนุมานโมเดลเชิงสาเหตุจากข้อมูลโดยใช้ชุดการทดสอบความสัมพันธ์ (เช่นอัลกอริทึม PC และอัลกอริทึม FCI ดูTETRADสำหรับการนำ Java, PCalg$X$$Y$$X$$Y$$Z$สำหรับการนำไปใช้ R) อัลกอริทึมเหล่านี้น่าสนใจมาก แต่ฉันจะไม่แนะนำอีกต่อไปโดยไม่ต้องพึ่งพาพวกมันหากไม่มีความเข้าใจอย่างถ่องแท้เกี่ยวกับพลังและข้อ จำกัด ของแคลคูลัสเชิงสาเหตุและตัวแบบเชิงสาเหตุในทฤษฎีเชิงสาเหตุ

สรุป:

การไตร่ตรองของแบบจำลองเชิงสาเหตุไม่ได้แก้ตัวผู้ตรวจสอบจากการพิจารณาข้อพิจารณาเชิงสถิติที่กล่าวถึงในคำตอบอื่น ๆ ที่นี่ อย่างไรก็ตามฉันรู้สึกว่าแบบจำลองเชิงสาเหตุสามารถให้กรอบการทำงานที่เป็นประโยชน์เมื่อคิดถึงคำอธิบายที่เป็นไปได้สำหรับการพึ่งพาทางสถิติและความเป็นอิสระในแบบจำลองทางสถิติโดยเฉพาะอย่างยิ่ง

อ่านเพิ่มเติม:

Gelman, Andrew 2554. " เวรกรรมและสถิติการเรียนรู้ " Am J. สังคมวิทยา 117 (3) (พฤศจิกายน): 955–966

กรีนแลนด์, S, J Pearl และ JM Robins 1999. “ แผนภาพสาเหตุสำหรับการวิจัยทางระบาดวิทยา ” ระบาดวิทยา (เคมบริดจ์, แมสซาชูเซตส์) 10 (1) (มกราคม): 37–48

กรีนแลนด์, ซานเดอร์ 2546. “ การหาจำนวนอคติในรูปแบบเชิงสาเหตุ: ความลำเอียงคลาสสิกที่น่ารำคาญเทียบกับการแบ่งชนชั้นแบบ Collider-Stratification ” ระบาดวิทยา 14 (3) (1 พฤษภาคม): 300–306

ไข่มุกจูเดีย 1998 ทำไมไม่มีสถิติการทดสอบสำหรับปัจจัยรบกวนทำไมหลายคนคิดว่ามีและทำไมพวกเขาเกือบจะขวา

ไข่มุกจูเดีย 2009 เวรกรรม: รุ่น, การใช้เหตุผลและการอนุมาน ฉบับที่ 2 สำนักพิมพ์มหาวิทยาลัยเคมบริดจ์

Spirtes, Peter, Clark Glymour และ Richard Scheines 2544. สาเหตุการพยากรณ์และการค้นหารุ่นที่สอง หนังสือแบรดฟอร์ด

ปรับปรุง:แคว้นยูเดียเพิร์ลกล่าวถึงทฤษฎีของสาเหตุการอนุมานและความจำเป็นในการอนุมานสาเหตุรวมเข้าไปในหลักสูตรสถิติเบื้องต้นในที่พฤศจิกายน 2012 ฉบับ Amstat ข่าว เขาบรรยายรางวัลทัวริงชื่อ "เครื่องจักรกลของสาเหตุการอนุมาน: การทดสอบทัวริง 'มินิ' และเกิน" ยังเป็นที่น่าสนใจ

ฉันคิดว่าวิธีการของ @ jthetzel เป็นวิธีที่ถูกต้อง (+1) ในการตีความผลลัพธ์เหล่านี้คุณจะต้องคิดถึง / มีทฤษฎีว่าทำไมความสัมพันธ์จึงแสดงออกมา นั่นคือคุณจะต้องคิดเกี่ยวกับรูปแบบของความสัมพันธ์เชิงสาเหตุที่รองรับข้อมูลของคุณ คุณต้องจำไว้ว่า @jthetzel ชี้ให้เห็นว่าผลลัพธ์ของคุณสอดคล้องกับกระบวนการสร้างข้อมูลที่แตกต่างกัน ฉันไม่คิดว่าการทดสอบทางสถิติเพิ่มเติมใด ๆในชุดข้อมูลเดียวกันจะช่วยให้คุณเห็นความแตกต่างระหว่างความเป็นไปได้เหล่านั้น (แม้ว่าการทดลองเพิ่มเติมจะทำได้แน่นอน) ดังนั้นการคิดให้ถี่ถ้วนเกี่ยวกับสิ่งที่ทราบเกี่ยวกับหัวข้อจึงมีความสำคัญที่นี่

ผมอยากจะชี้ให้เห็นอีกสถานการณ์พื้นฐานที่เป็นไปได้ที่อาจสร้างผลเช่นคุณ: ปราบปราม นี่เป็นการยากที่จะแสดงให้เห็นถึงการใช้ไดอะแกรมลูกศร แต่ถ้าฉันสามารถขยายได้เล็กน้อยเราอาจคิดได้ดังนี้:

สิ่งสำคัญเกี่ยวกับสถานการณ์นี้คือประกอบด้วยสองส่วนส่วนที่ไม่เกี่ยวข้อง ( ) และส่วนที่เกี่ยวข้อง ( ) จะ uncorrelated กับแต่ดีมากอาจจะ 'สำคัญ' ในรูปแบบการถดถอยพหุคูณ นอกจากนี้อาจมีความสัมพันธ์กับหรือได้หรือไม่ ยิ่งกว่านั้นตัวแปร X ของคุณอาจเล่นเป็นบทบาทของหรือ$\text{Other Variable}$$\text{U}$$\text{R}$$\text{Suppressor}$$\text{Y}$$\text{Other Variable}$$\text{Suppressor}$$\text{Y}$$\text{Suppressor}$$\text{Other Variable}$ ในสถานการณ์นี้ (และอีกครั้งคุณต้องคิดเกี่ยวกับรูปแบบพื้นฐานที่อาจจะขึ้นอยู่กับความรู้ของคุณของพื้นที่)

ฉันไม่รู้ว่าคุณสามารถอ่านรหัส R ได้หรือไม่ แต่นี่คือตัวอย่างที่ฉันใช้ (โดยเฉพาะอย่างยิ่งเหมาะกับตัวอย่างที่ดีกับ X เล่นบทบาทของแต่ทั้งสองไม่ได้ 'อย่างมีนัยสำคัญ' ความสัมพันธ์กับนั้นควรจะเป็นไปได้ที่จะได้รับความสัมพันธ์ระหว่างและใกล้กับ 0 และจับคู่คำอธิบายอื่น ๆ ด้วยการตั้งค่าที่เหมาะสม) $\text{Suppressor}$$\text{Y}$$\text{Other Variable}$$\text{Y}$

set.seed(888)                            # for reproducibility

S  =         rnorm(60, mean=0, sd=1.0)   # the Suppressor is normally distributed
U  = 1.1*S + rnorm(60, mean=0, sd=0.1)   # U (unrelated) is Suppressor plus error
R  =         rnorm(60, mean=0, sd=1.0)   # related part; normally distributed
OV = U + R                               # the Other Variable is U plus R
Y  = R +     rnorm(60, mean=0, sd=2)     # Y is R plus error

cor.test(S, Y)                           # Suppressor uncorrelated w/ Y
# t = 0.0283, df = 58, p-value = 0.9775
# cor 0.003721616 

cor.test(S, OV)                          # Suppressor correlated w/ Other Variable
# t = 8.655, df = 58, p-value = 4.939e-12
# cor 0.7507423

cor.test(OV,Y)                           # Other Var not significantly cor w/ Y
# t = 1.954, df = 58, p-value = 0.05553
# cor 0.2485251

summary(lm(Y~OV+S))                      # both Suppressor & Other Var sig in mult reg
# Coefficients:
#              Estimate Std. Error t value Pr(>|t|)   
# (Intercept)   0.2752     0.2396   1.148  0.25557   
# OV            0.7232     0.2390   3.026  0.00372 **
# S            -0.7690     0.3415  -2.251  0.02823 * 

จุดของฉันที่นี่ไม่ใช่ว่าสถานการณ์นี้เป็นสิ่งที่รองรับข้อมูลของคุณ ฉันไม่รู้ว่านี่น่าจะเป็นตัวเลือกมากกว่าหรือน้อยกว่า @jthetzel แนะนำหรือไม่ ฉันเสนอแค่นี้เพื่อเป็นอาหารสำหรับความคิด ในการตีความผลลัพธ์ปัจจุบันของคุณคุณต้องคิดถึงความเป็นไปได้เหล่านี้และตัดสินใจว่าอะไรเหมาะสมที่สุด เพื่อยืนยันการเลือกของคุณจะต้องทำการทดลองอย่างระมัดระวัง

การสร้างภาพข้อมูลบางอย่างที่เป็นไปได้

บนภาพ (a)สถานการณ์การถดถอย "ปกติ" หรือ "ใช้งานง่าย" จะปรากฏขึ้น รูปนี้เป็นเช่นเดียวกับตัวอย่างพบ (และอธิบาย) ที่นี่หรือที่นี่

ตัวแปรถูกวาดเป็นเวกเตอร์ มุมระหว่างพวกเขา (โคไซน์ของพวกเขา) เป็นความสัมพันธ์ของตัวแปร ที่นี่กำหนดตัวแปรของค่าที่คาดการณ์ไว้ (มักระบุเป็น ) พิกัดเอียงของขอบลงบนเวกเตอร์ตัวทำนาย (การฉายภาพเอียงขนานกับตัวทำนายอื่น) - บาก - เป็นสัดส่วนกับสัมประสิทธิ์การถดถอยของตัวทำนายนั้น$Y'$$\hat Y$$b$

ใน pic (a) ตัวแปรทั้งสามนั้นมีความสัมพันธ์เชิงบวกและทั้งและนั้นเป็นสัมประสิทธิ์การถดถอยเชิงบวกเช่นกัน และ "แข่งขัน" ในการถดถอยโดยมีสัมประสิทธิ์การถดถอยเป็นคะแนนของพวกเขาในการแข่งขันครั้งนั้น$b_1$$b_2$$X_1$$X_2$

ภาพ (ข)แสดงให้เห็นว่าเป็นสถานการณ์ที่ทำนายมีความสัมพันธ์กับบวกยังคงเป็นของค่าสัมประสิทธิ์การถดถอยเป็นศูนย์: ปลายทางของการทำนายโครงการที่จุดกำเนิดของเวกเตอร์X_1โปรดทราบว่านี้เกิดขึ้นจริงกับและซ้อนซึ่งหมายความว่าค่าที่คาดการณ์ไว้อย่างมีความสัมพันธ์กับที่ทำนายอื่น ๆ$X_1$$Y$$Y'$$X_1$$Y'$$X_2$

ภาพ (ค)เป็นสถานการณ์ที่ไม่สัมพันธ์กับ (เวกเตอร์ของพวกเขาจะตั้งฉาก) แต่ค่าสัมประสิทธิ์การถดถอยของการทำนายที่ไม่ได้เป็นศูนย์: มันเป็นลบ (การฉายตรงหลังเวกเตอร์)$X_1$$Y$$X_1$

ข้อมูลและการวิเคราะห์โดยประมาณที่สอดคล้องกับ pic (b):

       y       x1       x2
1.644540 1.063845  .351188
1.785204 1.203146  .200000
-1.36357 -.466514 -.961069
 .314549 1.175054  .800000
 .317955  .100612  .858597
 .970097 2.438904 1.000000
 .664388 1.204048  .292670
-.870252 -.993857 -1.89018
1.962192  .587540 -.275352
1.036381 -.110834 -.246448
 .007415 -.069234 1.447422
1.634353  .965370  .467095
 .219813  .553268  .348095
-.285774  .358621  .166708
1.498758 -2.87971 -1.13757
1.671538 -.310708  .396034
1.462036  .057677 1.401522
-.563266  .904716 -.744522
 .297874  .561898 -.929709
-1.54898 -.898084 -.838295

ข้อมูลและการวิเคราะห์โดยประมาณที่สอดคล้องกับ pic (c):

       y       x1       x2
1.644540 1.063845  .351188
1.785204 -1.20315  .200000
-1.36357 -.466514 -.961069
 .314549 1.175054  .800000
 .317955 -.100612  .858597
 .970097 1.438904 1.000000
 .664388 1.204048  .292670
-.870252 -.993857 -1.89018
1.962192 -.587540 -.275352
1.036381 -.110834 -.246448
 .007415 -.069234 1.447422
1.634353  .965370  .467095
 .219813  .553268  .348095
-.285774  .358621  .166708
1.498758 -2.87971 -1.13757
1.671538 -.810708  .396034
1.462036 -.057677 1.401522
-.563266  .904716 -.744522
 .297874  .561898 -.929709
-1.54898 -1.26108 -.838295

สังเกตว่าในตัวอย่างที่ผ่านมาทำหน้าที่เป็นต้าน ความสัมพันธ์เป็นศูนย์การสั่งซื้อของกับเป็นศูนย์จริง แต่ความสัมพันธ์ส่วนของตนมีขนาดใหญ่มากโดยขนาด-.224มันมีความแข็งแกร่งในระดับที่คาดการณ์ของ (จาก.ซึ่งจะเป็นเบต้าในการถดถอยอย่างง่ายด้วยถึงเบต้าในการถดถอยหลายครั้ง)$X_1$$Y$$-.224$$X_2$$.419$$.538$

ฉันเห็นด้วยกับคำตอบก่อนหน้านี้ แต่หวังว่าฉันจะสามารถให้รายละเอียดเพิ่มเติมได้

ค่าสัมประสิทธิ์สหสัมพันธ์เป็นเพียงการวัดการพึ่งพาเชิงเส้นระหว่างและและมันไม่ได้ควบคุมเพราะความจริงที่ว่าตัวแปรอื่น ๆ อาจเกี่ยวข้องกับความสัมพันธ์เช่นกัน ในความเป็นจริงค่าสัมประสิทธิ์สหสัมพันธ์เท่ากับพารามิเตอร์ความชันของการถดถอยต่อไปนี้ปรับขนาดโดยค่าเบี่ยงเบนมาตรฐานและ :$X$$Y$$x$$y$

$Y = a + \beta x + u$

โดยที่$\hat \rho_{yx} = \hat \beta \hat\sigma_x/\hat\sigma_y$

แต่จะเกิดอะไรขึ้นถ้าถูกสร้างขึ้นโดยตัวแปรอื่นเช่นกันดังนั้นโมเดลที่แท้จริงคืออะไร:$Y$

$Y = a + \beta x + \sum_j\alpha_jz_j + u$

ภายใต้แบบจำลองที่แท้จริงนี้จะเห็นได้ชัดว่าการประมาณค่าตัวแรก (เฉพาะกับ x) จะให้ค่าประมาณแบบbiased เนื่องจากตัวแบบนั้นถดถอยของ (นี่ก็หมายความว่ายังลำเอียง!) ดังนั้นผลลัพธ์ของคุณสอดคล้องกับความจริงที่ว่าตัวแปรที่ละเว้นนั้นมีความเกี่ยวข้อง เพื่อจัดการกับปัญหานี้ทฤษฎีในการวิเคราะห์ความสัมพันธ์ให้ค่าสัมประสิทธิ์สหสัมพันธ์บางส่วน (ฉันแน่ใจว่าคุณจะพบการอ้างอิงเกี่ยวกับเรื่องนี้) ซึ่งโดยทั่วไปคำนวณจากสมการประเมินหลังว่าการควบคุมสำหรับz_j $\beta$$z_j$$\rho$$\rho_{xy|z}$$z_j$