สัมประสิทธิ์สหสัมพันธ์ต่างจากความชันถดถอยอย่างไร

69

ฉันคาดว่าค่าสัมประสิทธิ์สหสัมพันธ์จะเหมือนกับความชันถดถอย (เบต้า) แต่เมื่อเปรียบเทียบกับทั้งสองมันต่างกัน พวกเขาต่างกันอย่างไร - พวกเขาให้ข้อมูลที่แตกต่างกันอย่างไร

regression correlation

— ลูเซียโน
แหล่งที่มา

3

หากพวกเขาเป็นปกติพวกเขาจะเหมือนกัน แต่คิดว่าสิ่งที่เกิดขึ้นเมื่อคุณทำการเปลี่ยนแปลงของหน่วย ...

— นิโคลัส

ฉันคิดว่าคำตอบที่ให้คะแนนสูงสุดสำหรับคำถามนี้ (และอาจเป็น A ของฉันซึ่งฉันแสดงให้เห็นว่าสัมประสิทธิ์สหสัมพันธ์สามารถมองเห็นได้ว่าเป็นค่าสัมบูรณ์ของค่าเฉลี่ยทางเรขาคณิตของเนินเขาทั้งสองที่เราได้รับถ้าเราถดถอย y บน x และ x y ตามลำดับ) มีความเกี่ยวข้องที่นี่ด้วย

— statmerkur

82

สมมติว่าคุณกำลังพูดถึงรูปแบบการถดถอยง่ายประมาณโดยสี่เหลี่ยมอย่างน้อยเรารู้จากวิกิพีเดียว่า

Y_{i} = α + β X_{i} + ε_{i}

$Y_i = \alpha + \beta X_i + \varepsilon_i$

ดังนั้นทั้งสองเท่านั้นตรงเมื่อ

)

นั่นคือพวกเขาเกิดขึ้นเฉพาะเมื่อตัวแปรทั้งสองอยู่ในระดับเดียวกันในบางแง่ วิธีที่พบได้บ่อยที่สุดคือการสร้างมาตรฐานตามที่ระบุโดย @gung

\hat{β} = c o r (Y_{i}, X_{i}) \cdot \frac{S D (Y_{i})}{S D (X_{i})}

$\hat {\beta} = {\rm cor}(Y_i, X_i) \cdot \frac{ {\rm SD}(Y_i) }{ {\rm SD}(X_i) }$

S D (Y_{i}) = S D (X_{i})

${\rm SD}(Y_i) = {\rm SD}(X_i)$

ทั้งสองในความรู้สึกบางให้ข้อมูลเดียวกัน - พวกเขาแต่ละคนบอกคุณความแข็งแรงของเส้นตรงความสัมพันธ์ระหว่างและฉันแต่พวกเขาแต่ละคนจะให้ข้อมูลที่แตกต่าง (ยกเว้นแน่นอนเมื่อพวกเขาเหมือนกันทุกประการ): $X_i$ $Y_i$

ความสัมพันธ์ช่วยให้คุณมีขอบเขตการวัดที่สามารถตีความได้อย่างอิสระจากสเกลของตัวแปรทั้งสอง ใกล้ชิดความสัมพันธ์ประมาณคือการ , ใกล้ชิดทั้งสองจะมีความสัมพันธ์เชิงเส้นที่สมบูรณ์แบบ การแยกความชันแบบแยกส่วนไม่ได้บอกข้อมูลชิ้นนั้นกับคุณ $\pm 1$
ความลาดชันการถดถอยให้ปริมาณประโยชน์ตีความได้ว่าการเปลี่ยนแปลงประมาณมูลค่าที่คาดหวังของสำหรับค่ากำหนดของฉัน บอกคุณเปลี่ยนแปลงมูลค่าที่คาดหวังของสอดคล้องกับการเพิ่มขึ้น 1 หน่วยในฉันข้อมูลนี้ไม่สามารถอนุมานได้จากค่าสัมประสิทธิ์สหสัมพันธ์เพียงอย่างเดียว $Y_i$ $X_i$ $\hat \beta$ $Y_i$ $X_i$

— มาโคร
แหล่งที่มา

ในฐานะที่เป็นข้อพิสูจน์ของคำตอบนี้ให้สังเกตว่าการถดถอย x กับ y ไม่ใช่การย้อนกลับของการถอย y ต่อ x

— aginensky

23

$\beta_1$ $r$

— gung
แหล่งที่มา

14

ค่าสัมประสิทธิ์สหสัมพันธ์มาตรการ"ตึง"ของความสัมพันธ์เชิงเส้นตรงระหว่างสองตัวแปรและมีขอบเขตระหว่าง -1 และ 1, รวม ความสัมพันธ์ใกล้กับศูนย์แสดงว่าไม่มีการเชื่อมโยงเชิงเส้นระหว่างตัวแปรในขณะที่ความสัมพันธ์ใกล้เคียงกับ -1 หรือ +1 บ่งบอกถึงความสัมพันธ์เชิงเส้นที่แข็งแกร่ง โดยสัญชาตญาณยิ่งง่ายขึ้นสำหรับคุณที่จะวาดเส้นที่ดีที่สุดผ่านสแกตเตอร์ล็อตยิ่งมีความสัมพันธ์มากขึ้น

$-\infty$ $+\infty$

ดังนั้นค่าสัมประสิทธิ์สหสัมพันธ์และความชันการถดถอยจะต้องมีเครื่องหมายเดียวกัน (+ หรือ -) แต่แทบจะไม่เคยมีค่าเท่ากัน

สำหรับความเรียบง่ายคำตอบนี้ถือว่าการถดถอยเชิงเส้นอย่างง่าย

— Underminer
แหล่งที่มา

- inf, inf

$-\inf, \inf$

1

สัมประสิทธิ์สหสัมพันธ์ของเพียร์สันนั้นมีขนาดและไร้มิติระหว่าง -1 ถึง 1 โดยไม่คำนึงถึงมิติและขนาดของตัวแปรอินพุต

$r$ $r$

การสาธิตอย่างง่าย (ขอโทษที่ใช้ Python!):

import numpy as np
x = [10, 20, 30, 40]
y = [3, 5, 10, 11]
np.corrcoef(x,y)[0][1]
x = [1, 2, 3, 4]
np.corrcoef(x,y)[0][1]

$r = 0.969363$

$r$

$b = r(\frac{\sigma_{y}}{\sigma_{x}})$ $r$

$r$ $r$ $\sigma_{y}$

$x,y$

$y=3x$ $b=3$ $r=1$ $\sigma_{x}=2.89$ $\sigma_{y}=8.66$ $\frac{\sigma_{y}}{\sigma_{x}}=3$
$r = 0.2447$ $\sigma_{x}=2.89$ $\sigma_{y}=34.69$ $b= 2.94$
$y=15x$ $b=15$ $r=1$ $\sigma_{x}=0.58$ $\sigma_{y}=8.66$
$x$ $b= 14.70$ $r = 0.2447$ $\sigma_{x}=0.58$ $\sigma_{y}=34.69$

$r$ $b$ $b$ $r$

— เจมส์
แหล่งที่มา