ความสัมพันธ์ระหว่างและค่าสัมประสิทธิ์สหสัมพันธ์

สมมติว่าผมมีอาร์เรย์สอง 1 มิติและA_2แต่ละจุดมี 100 จุดข้อมูล เป็นข้อมูลจริงและคือการทำนายแบบจำลอง ในกรณีนี้ค่าจะเป็น: ในขณะเดียวกันนี่จะเท่ากับค่ากำลังสองของสัมประสิทธิ์สหสัมพันธ์ ตอนนี้ถ้าฉันสลับทั้งสอง:เป็นข้อมูลจริงและคือการทำนายแบบจำลอง จากสมการ , เนื่องจากค่าสัมประสิทธิ์สหสัมพันธ์ไม่สนใจซึ่งมาก่อน,$a_1$$a_2$$a_1$$a_2$$R^2$

$$R^2 = 1 - \frac{SS_{res}}{SS_{tot}} \quad\quad\quad\quad\quad\ \ \quad\quad(1).$$ $$R^2 = (\text{Correlation Coefficient})^2 \quad (2).$$ $a_2$$a_1$$(2)$$R^2$จะเหมือนกัน อย่างไรก็ตามจากสมการ , , ค่าจะเปลี่ยนเนื่องจากSS_ {tot}เปลี่ยนถ้าเราเปลี่ยนyจากa_1เป็นa_2 ; ในขณะเดียวกันSS_ {res} = \ sum_i (f_i- \ bar y) ^ 2จะไม่เปลี่ยนแปลง$(1)$$SS_{tot}=\sum_i(y_i - \bar y )^2$$R^2$$SS_{tot}$a 1 a 2 S S r e s = ∑ i ( f i - ˉ y ) $y$$a_1$$a_2$$SS_{res}=\sum_i(f_i-\bar y)^2$

คำถามของฉันคือ: สิ่งเหล่านี้ขัดแย้งกันได้อย่างไร?

แก้ไข :

1. ฉันสงสัยว่าจะมีความสัมพันธ์ใน Eq (2) ยังคงอยู่ถ้ามันไม่ใช่การถดถอยเชิงเส้นอย่างง่ายนั่นคือความสัมพันธ์ระหว่าง IV และ DV ไม่ใช่เชิงเส้น (อาจเป็นเลขชี้กำลัง / เลขชี้กำลัง)

2. ความสัมพันธ์นี้จะยังคงอยู่หรือไม่หากผลรวมของข้อผิดพลาดการทำนายไม่เท่ากับศูนย์?

นี่เป็นความจริงที่จะเปลี่ยน ... แต่คุณลืมความจริงที่ว่าผลรวมการถดถอยของกำลังสองจะเปลี่ยนเช่นกัน ลองพิจารณาตัวแบบการถดถอยอย่างง่ายและแสดงว่าสัมประสิทธิ์สหสัมพันธ์เป็นซึ่งฉันใช้ sub-indexเพื่อ เน้นข้อเท็จจริงที่ว่าเป็นตัวแปรอิสระและเป็นตัวแปรตาม เห็นได้ชัดว่าจะไม่เปลี่ยนแปลงถ้าคุณสลับกับYเราสามารถแสดงให้เห็นได้อย่างง่ายดายว่าโดยที่เป็นผลรวมการถดถอยของกำลังสองและ R 2 x Y = S 2 x $SS_{tot}$ xYxYR2 x Y xYSSRxY=SYY(R2 x Y )SSRxYSYYxYR2 x Y =SSRx$r_{xy}^2=\dfrac{S_{xy}^2}{S_{xx}S_{yy}}$$xy$$x$$y$$r_{xy}^2$$x$$y$$SSR_{xy}=S_{yy}(R_{xy}^2)$$SSR_{xy}$$S_{yy}$คือผลรวมทั้งหมดของกำลังสองที่เป็นอิสระและเป็นตัวแปรตาม ดังนั้น:ที่คือ ผลรวมตกค้างที่สอดคล้องกันของกำลังสองที่เป็นอิสระและเป็นตัวแปรตาม โปรดทราบว่าในกรณีนี้เรามีด้วย (ดูเช่น Eq. (34) - ( 41) ที่นี่ ) ดังนั้น:สมการข้างต้นชัดเจนสมมาตรเทียบกับ$x$$y$SSExYxYSSExY=ข2 x Y SxxB=Sx

$$R_{xy}^2=\dfrac{SSR_{xy}}{S_{yy}}=\dfrac{S_{yy}-SSE_{xy}}{S_{yy}},$$ $SSE_{xy}$$x$$y$$SSE_{xy}=b^2_{xy}S_{xx}$ R2 x y =Syy- S 2 x $b=\dfrac{S_{xy}}{S_{xx}}$ $$R_{xy}^2=\dfrac{S_{yy}-\dfrac{S^2_{xy}}{S^2_{xx}}.S_{xx}}{S_{yy}}=\dfrac{S_{yy}S_{xx}-S^2_{xy}}{S_{xx}.S_{yy}}.$$ $x$และYกล่าวอีกนัยหนึ่ง:เพื่อสรุปเมื่อคุณเปลี่ยนด้วยในรูปแบบการถดถอยอย่างง่ายทั้งตัวเศษและตัวหารของจะเปลี่ยนไปในทางที่$y$ $$R_{xy}^2=R_{yx}^2.$$ $x$$y$$R_{xy}^2=\dfrac{SSR_{xy}}{S_{yy}}$$R_{xy}^2=R_{yx}^2.$

วิธีหนึ่งในการแปลความหมายของค่าสัมประสิทธิ์การตัดสินใจคือการมองไปที่มันเป็นค่าสัมประสิทธิ์สหสัมพันธ์เพียร์สัน Squared ระหว่างค่าสังเกตและค่าติดตั้ง{i}$R^{2}$$y_{i}$$\hat{y}_{i}$

หลักฐานที่สมบูรณ์ของวิธีการหาค่าสัมประสิทธิ์ของการกำหนด R2 จากค่าสัมประสิทธิ์สหสัมพันธ์ Squared Pearson ระหว่างค่าที่สังเกตได้ yi และค่าที่ติดตั้ง y ^ i สามารถพบได้ในลิงค์ต่อไปนี้:

http://economictheoryblog.wordpress.com/2014/11/05/proof/

ในสายตาของฉันมันควรจะเข้าใจได้ง่ายเพียงแค่ทำตามขั้นตอนเดียว ฉันคิดว่าการมองว่ามันเป็นสิ่งสำคัญที่จะต้องเข้าใจว่า realtionship ระหว่างตัวเลขสองหลักนั้นใช้งานได้จริงอย่างไร

ในกรณีของการถดถอยเชิงเส้นอย่างง่ายที่มีเพียงหนึ่งทำนาย 2 แต่ในการถดถอยเชิงเส้นหลายครั้งพร้อมตัวทำนายมากกว่าหนึ่งแนวคิดของความสัมพันธ์ระหว่างตัวทำนายและการตอบสนองจะไม่ขยายโดยอัตโนมัติ สูตรได้รับ: $R^2 = r^2 = Corr(x,y)^2$

$$R^2 = Corr(y_{estimated},y_{observed})^2$$

กำลังสองของความสัมพันธ์ระหว่างการตอบสนองและโมเดลเชิงเส้นที่พอดี

@Stat ได้ให้คำตอบโดยละเอียด ในคำตอบสั้น ๆ ของฉันฉันจะแสดงสั้น ๆ ในลักษณะที่แตกต่างกันบ้างความเหมือนและความแตกต่างระหว่างและคืออะไร$r$$r^2$

$r$คือมาตรฐานค่าสัมประสิทธิ์เบต้าของโดยหรือโดยและเป็นเช่นนี้มันเป็นตัวชี้วัดของการ (รวม) ขนาดของผล ซึ่งจะเห็นได้อย่างชัดเจนที่สุดเมื่อตัวแปรต่างกันไป จากนั้นตัวอย่างเช่นหมายความว่า 30% ของเคสจะเปลี่ยนค่าเป็นตรงกันข้ามในตัวแปรหนึ่งเมื่อตัวแปรอื่นเปลี่ยนค่าเป็นตรงกันข้าม$Y$$X$$X$$Y$$r$$.30$

$r^2$ตรงกันข้ามคือการแสดงออกถึงสัดส่วนของความแปรปรวนร่วมในความแปรปรวนทั้งหมด:2} โปรดทราบว่านี่เป็นผลคูณของสองสัดส่วนหรือแม่นยำยิ่งขึ้นที่จะบอกว่าสองอัตราส่วน (อัตราส่วนสามารถ> 1) ถ้าหากบอกเป็นนัยถึงสัดส่วนหรืออัตราส่วนใด ๆ ที่จะเป็นความน่าจะเป็นแบบกึ่งหรือกึ่งดังนั้นแสดง "ความน่าจะเป็นร่วม (ความเป็นไปได้)" อื่นและการแสดงออกที่ถูกต้องสำหรับผลิตภัณฑ์ร่วมกันของสองสัดส่วน (หรืออัตราส่วน) จะเป็นค่าเฉลี่ยของพวกเขาเรขาคณิตซึ่งเป็นมากR$r^2 = (\frac {cov}{\sigma_x \sigma_y})^2 = \frac {|cov|} {\sigma_x^2} \frac {|cov|} {\sigma_y^2}$$r^2$$\sqrt{prop*prop}$$r$

(อัตราส่วนสองตัวคือ multiplicative ไม่ใช่สารเติมแต่งเพื่อเน้นความคิดที่ว่าพวกเขาทำงานร่วมกันและไม่สามารถชดเชยซึ่งกันและกันในการทำงานเป็นทีมของพวกเขาพวกเขาจะต้องทวีคูณเพราะขนาดของขึ้นอยู่กับทั้งขนาดและและ conformably,จะต้องมีการแบ่งออกสองครั้งในครั้งเดียว - เพื่อแปลงตัวเองไป "สัดส่วนของความแปรปรวนร่วมกัน" เหมาะสม แต่.ที่ "ข้ามแปรปรวน" หุ้นที่หน่วยการวัดเดียวกันกับทั้งและ , "ความแปรปรวนตนเอง" และไม่ใช่กับ$cov$$\sigma_x^2$$\sigma_y^2$$cov$$cov$$\sigma_x^2$$\sigma_y^2$$\sigma_x \sigma_y$, "ความแปรปรวนแบบผสม"; นั่นคือเหตุผลที่ , ไม่ใช่ , มีความเพียงพอมากกว่าในฐานะ "สัดส่วนของความแปรปรวนร่วม")$r^2$$r$

ดังนั้นคุณจะเห็นว่าความหมายของและเป็นตัวชี้วัดปริมาณของการเชื่อมโยงที่แตกต่างกัน (ทั้งความหมายที่ถูกต้อง) แต่ก็ยังคงสัมประสิทธิ์เหล่านี้ในทางที่ไม่ขัดแย้งกัน และทั้งสองจะเหมือนกันไม่ว่าคุณจะคาดการณ์หรือ Y$r$$r^2$$Y\text~X$$X\text~Y$

ฉันคิดว่าคุณอาจเข้าใจผิด ถ้าฉันถือว่าคุณมีรูปแบบ bivariate: หนึ่ง DV หนึ่ง IV ฉันไม่คิดว่าจะเปลี่ยนแปลงหากคุณสลับสิ่งเหล่านี้และหากคุณแทนที่ IV ด้วยการคาดการณ์ของ DV ที่ยึดตาม IV นี่คือรหัสสำหรับการสาธิตใน R:$R^2=r^2$$R^2$

x=rnorm(1000); y=rnorm(1000)              # store random data
summary(lm(y~x))                          # fit a linear regression model (a)
summary(lm(x~y))                          # swap variables and fit the opposite model (b)
z=lm(y~x)$fitted.values; summary(lm(y~z)) # substitute predictions for IV in model (a)

หากคุณไม่ได้ทำงานกับรูปแบบ bivariate การเลือก DV ของคุณจะมีผลกับ ... ยกเว้นว่าตัวแปรของคุณมีความสัมพันธ์เหมือนกันทั้งหมดฉันคิดว่า แต่นี่ไม่ใช่ข้อยกเว้นมากมาย หากตัวแปรทั้งหมดมีจุดแข็งที่เหมือนกันของความสัมพันธ์และแบ่งส่วนเดียวกันของความแปรปรวนของ DV (เช่น [หรืออาจจะ "ie"] ถ้าตัวแปรบางตัวมีความเหมือนกันทั้งหมด) คุณสามารถลดสิ่งนี้ลงในรูปแบบ bivariate ได้โดยไม่สูญเสีย ข้อมูลใด ๆ. ไม่ว่าคุณจะทำหรือไม่ทำก็ตามยังคงไม่เปลี่ยนแปลง$R^2$$R^2$

ในกรณีอื่น ๆ ทั้งหมดฉันสามารถคิดได้ว่ามีตัวแปรมากกว่าสองตัวคือโดยที่คือสัมประสิทธิ์การตัดสินใจและคือสัมประสิทธิ์สหสัมพันธ์แบบ bivariate ทุกชนิด (ไม่จำเป็นต้องเป็นของ Pearson; a Spearman's )R 2 r $R^2\ne r^2$$R^2$$r$$\rho$