สูตรสำหรับสร้างตัวแปรสุ่มที่สัมพันธ์กันทำงานอย่างไร

19

หากเรามีตัวแปรสุ่มแบบธรรมดา 2 ตัวตัวแปรที่ไม่เกี่ยวข้อง $X_1, X_2$ เราสามารถสร้างตัวแปรสุ่มที่สัมพันธ์กัน 2 สูตร

$Y=\rho X_1+ \sqrt{1-\rho^2} X_2$

แล้วจะมีความสัมพันธ์กับ 1 $Y$ $\rho$ $X_1$

บางคนสามารถอธิบายได้ว่าสูตรนี้มาจากไหน

correlation normal-distribution covariance

1

การอภิปรายอย่างกว้างขวางของปัญหานี้และที่เกี่ยวข้องปรากฏในคำตอบของฉันที่stats.stackexchange.com/a/71303 เหนือสิ่งอื่นใดมันทำให้เป็นธรรมดาว่า (1) ข้อสันนิษฐานทั่วไปนั้นไม่เกี่ยวข้องและ (2) คุณจำเป็นต้องตั้งสมมติฐานเพิ่มเติม: ความแปรปรวนของ

และ

จะต้องเท่ากันเพื่อให้ความสัมพันธ์ของ

กับ

เท่ากับρ

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

X_{1}

$X_1$

ρ

$\rho$

— whuber

ลิงค์ที่น่าสนใจมาก ฉันไม่แน่ใจว่าฉันเข้าใจสิ่งที่คุณหมายถึงโดยปกติจะไม่เกี่ยวข้อง ถ้า

หรือ

ไม่ปกติและมันยากที่จะควบคุมความหนาแน่นของ

ผ่านอัลกอริทึม Kaiser-Dickman นี่คือเหตุผลทั้งหมดสำหรับอัลกอริทึมเฉพาะในการสร้างข้อมูลที่สัมพันธ์กันแบบไม่ปกติ (เช่น Headrick, 2002; Ruscio & Kaczetow, 2008; Vale & Maurelli, 1983) ตัวอย่างเช่นจินตนาการว่าเป้าหมายของคุณคือสร้าง

~ Normal,

~ uniform ด้วย

= .5 ใช้

ผล ~ เครื่องแบบใน

ที่ไม่สม่ำเสมอ (

สิ้นสุดขึ้นเป็นเชิงเส้นของการรวมกันปกติและสม่ำเสมอ)

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

X

$X$

Y

$Y$

ρ

$\rho$

X_{2}

$X_2$

Y

$Y$

Y

$Y$

— Anthony

@ แอนโธนีคำถามจะถามเฉพาะเกี่ยวกับสหสัมพันธ์ซึ่งเป็นหน้าที่ของช่วงเวลาที่หนึ่งและสองเท่านั้น คำตอบไม่ได้ขึ้นอยู่กับคุณสมบัติอื่นใดของการแจกแจง สิ่งที่คุณกำลังถกกันนั้นเป็นวิชาที่ต่างออกไปโดยสิ้นเชิง

— whuber

17

สมมติว่าคุณต้องการหาชุดค่าผสมเชิงเส้นของและเช่นนั้น $X_1$ $X_2$

corr (α X_{1} + β X_{2}, X_{1}) = ρ

$\text{corr}(\alpha X_1 + \beta X_2, X_1) = \rho$

โปรดสังเกตว่าถ้าคุณคูณทั้งและด้วยค่าคงที่ (ไม่เป็นศูนย์) เดียวกันความสัมพันธ์จะไม่เปลี่ยนแปลง ดังนั้นเราจะเพิ่มเงื่อนไขเพื่อรักษาความแปรปรวน: $\alpha$ $\beta$ $\text{var}(\alpha X_1 + \beta X_2) = \text{var}(X_1)$

สิ่งนี้เทียบเท่า

ρ = \frac{cov (α X_{1} + β X_{2}, X_{1})}{\sqrt{var (α X_{1} + β X_{2}) var (X_{1})}} = \frac{α \overset{= var (X_{1})}{\overset{⏞}{cov (X_{1}, X_{1})}} + \overset{= 0}{\overset{⏞}{β COV (X_{2}, X_{1})}}}{\sqrt{var (α X_{1} + β X_{2}) var (X_{1})}} = α \sqrt{\frac{var (X_{1})}{α^{2} var (X_{1}) + β^{2} var (X_{2})}}

$\rho = \frac{\text{cov}(\alpha X_1 + \beta X_2, X_1)}{\sqrt{\text{var}(\alpha X_1 + \beta X_2) \text{var}(X_1)}} = \frac{\alpha \overbrace{\text{cov}(X_1, X_1)}^{=\text{var}(X_1)} + \overbrace{\beta \text{cov}(X_2, X_1)}^{=0}}{\sqrt{\text{var}(\alpha X_1 + \beta X_2) \text{var}(X_1)}} = \alpha \sqrt{\frac{\text{var}(X_1)}{\alpha^2 \text{var}(X_1) + \beta^2 \text{var}(X_2)}}$

สมมติว่าตัวแปรสุ่มทั้งสองมีความแปรปรวนเหมือนกัน (นี่เป็นข้อสมมติฐานที่สำคัญ!) ( ) เราจะได้รับ $\text{var}(X_1) = \text{var}(X_2)$

ρ \sqrt{α^{2} + β^{2}} = α

$\rho \sqrt{\alpha^2 + \beta^2} = \alpha$

มีคำตอบมากมายสำหรับสมการนี้ดังนั้นถึงเวลาที่ต้องระลึกถึงเงื่อนไขการรักษาความแปรปรวน:

var (X_{1}) = var (α X_{1} + β X_{2}) = α^{2} var (X_{1}) + β^{2} var (X_{2}) \Rightarrow α^{2} + β^{2} = 1

$\text{var}(X_1) = \text{var}(\alpha X_1 + \beta X_2) = \alpha^2 \text{var}(X_1) + \beta^2 \text{var}(X_2) \Rightarrow \alpha^2 + \beta^2 = 1$

และสิ่งนี้ทำให้เรา

α = ρ β = \pm \sqrt{1 - ρ^{2}}

$\alpha = \rho \\ \beta = \pm \sqrt{1-\rho^2}$

UPD เกี่ยวกับคำถามที่สอง: ใช่นี้เป็นที่รู้จักกันเป็นไวท์เทนนิ่ง

— Artem Sobolev
แหล่งที่มา

9

สมการเป็นรูปแบบที่สองตัวแปรที่เรียบง่ายของการสลายตัว Cholesky สมการที่ง่ายนี้บางครั้งเรียกว่าอัลกอริทึม Kaiser-Dickman (Kaiser & Dickman, 1962)

โปรดทราบว่าและต้องมีความแปรปรวนเดียวกันสำหรับอัลกอริทึมนี้เพื่อให้ทำงานได้อย่างถูกต้อง นอกจากนี้อัลกอริทึมมักจะใช้กับตัวแปรปกติ ถ้าหรือมีความไม่ปกติอาจจะไม่ได้มีรูปแบบการกระจายเดียวกับ 2 $X_1$ $X_2$ $X_1$ $X_2$ $Y$ $X_2$

อ้างอิง:

Kaiser, HF, & Dickman, K. (1962) เมทริกซ์คะแนนตัวอย่างและประชากรและเมทริกซ์สหสัมพันธ์ตัวอย่างจากเมทริกซ์สหสัมพันธ์ประชากรโดยอำเภอใจ Psychometrika, 27 (2), 179-182

— แอนโทนี่
แหล่งที่มา

2

ฉันคิดว่าคุณไม่ต้องการตัวแปรปกติที่ได้มาตรฐานเพียงแค่การแปรปรวนเท่ากันควรจะเพียงพอ

— Artem Sobolev

2

ไม่มีการกระจายของ

คือไม่ส่วนผสมกระจายในขณะที่คุณเรียกร้อง

Y

$Y$

— Dilip Sarwate

ณ จุดที่ @Dilip Sarwate หาก

หรือ

นั้นไม่ใช่แบบปกติแล้ว

จะกลายเป็นชุดเส้นตรงของตัวแปรสองตัวที่อาจไม่ส่งผลให้เกิดการกระจายตัวที่ต้องการ นี่คือเหตุผลสำหรับอัลกอริธึมพิเศษ (แทนที่จะเป็น Kaiser-Dickman) สำหรับข้อมูลที่มีความสัมพันธ์ที่ไม่ปกติ

X_{1}

$X_1$

X_{2}

$X_2$

Y

$Y$

— Anthony

3

ค่าสัมประสิทธิ์สหสัมพันธ์เป็นระหว่างสองชุดถ้าพวกเขาจะถือว่าเป็นพาหะ (กับจุดข้อมูลที่ถูกมิติของเวกเตอร์) สูตรข้างต้นสร้างการสลายตัวของเวกเตอร์ลงในส่วนประกอบ , (เทียบกับ ) ถ้าดังนั้น $\cos$ $n^{th}$ $n^{th}$ $\cos\theta$ $sin\theta$ $X_1,X_2$
$\rho = cos \theta$ θ $\sqrt{1-{\rho}^2}=\pm sin \theta$

$X_1, X_2$

— Dmitry Rubanovich
แหล่งที่มา

2

T E X

$\TeX$