การกระจายของผลรวมของตัวแปรที่ไม่ใช่ iid gaussian คืออะไร?

ถ้ากระจาย , กระจาย และ , ฉันรู้ว่ากระจายถ้า X และ Y เป็นอิสระ $X$ $N(\mu_X, \sigma^2_X)$ $Y$ $N(\mu_Y, \sigma^2_Y)$ $Z = X + Y$ $Z$ $N(\mu_X + \mu_Y, \sigma^2_X + \sigma^2_Y)$

แต่จะเกิดอะไรขึ้นถ้า X และ Y ไม่เป็นอิสระเช่น $(X, Y) \approx N\big( (\begin{smallmatrix} \mu_X\\\mu_Y \end{smallmatrix}) , (\begin{smallmatrix} \sigma^2_X && \sigma_{X,Y}\\ \sigma_{X,Y} && \sigma^2_Y \end{smallmatrix}) \big)$

สิ่งนี้จะส่งผลกระทบต่อการกระจายผลรวมของหรือไม่ $Z$

normal-distribution mathematical-statistics

— JCWong
แหล่งที่มา

เพียงแค่ต้องการชี้ให้เห็นว่ามีการแจกแจงข้อต่อสำหรับ

ประเภทนอกเหนือจากค่า bivariate ปกติที่ยังคงมี

และ

เล็กน้อยปกติ และความแตกต่างนี้จะสร้างความแตกต่างอย่างมากต่อคำตอบ

(X, Y)

$(X,Y)$

X

$X$

Y

$Y$

@ G.JayKerns ฉันเห็นด้วยว่าถ้า

และ

เป็นเรื่องปกติ แต่ไม่จำเป็นว่าจะต้องร่วมกันดังนั้น

จึงสามารถมีการแจกแจงแบบอื่นนอกเหนือจากปกติ แต่คำสั่งของ OP ว่า "

กระจาย

ถ้า

และ

เป็นอิสระ" ถูกต้องอย่างแน่นอน ถ้า

และ

X

$X$

Y

$Y$

X + Y

$X+Y$

Z

$Z$

N (μ_{x} + μ_{y}, σ_{x}^{2} + σ_{y}^{2})

$N(\mu_x + \mu_y, \sigma^2_x + \sigma^2_y)$

X

$X$

Y

$Y$

X

$X$

Y

$Y$ เป็นเรื่องปกติเล็กน้อย (ตามส่วนแรกของประโยคที่พูด) และเป็นอิสระ (ตามข้อสมมติในส่วนที่สองของประโยค) จากนั้นพวกเขาก็จะร่วมกันเป็นปกติ ในคำถามของ OP นั้นจะมีการสันนิษฐานร่วมกันอย่างชัดเจนดังนั้นการรวมกันเชิงเส้นของ

และ

จึงเป็นเรื่องปกติ

X

$X$

Y

$Y$

— Dilip Sarwate

@dilip ให้ฉันชัดเจนว่าไม่มีอะไรผิดปกติกับคำถามและไม่มีอะไรผิดปกติกับคำตอบของคุณ (+1) (หรือความน่าจะเป็นของทั้ง (+1)) ฉันแค่ชี้ให้เห็นว่าถ้า

และ

นั้นขึ้นอยู่กับว่ามันไม่จำเป็นที่พวกเขาจะอยู่ร่วมกันและไม่ชัดเจนว่า OP ได้พิจารณาความเป็นไปได้นั้นหรือไม่ นอกจากนี้ฉันกลัว (แม้ว่าฉันไม่ได้ใช้เวลาคิดอย่างมาก) ว่าหากไม่มีข้อสันนิษฐานอื่น ๆ (เช่นความปกติร่วม) คำถามอาจจะไม่สามารถตอบได้

X

$X$

Y

$Y$

ในฐานะที่เป็น @ G.JayKerns กล่าวถึงแน่นอนว่าเราสามารถรับพฤติกรรมที่น่าสนใจได้ทุกประเภทหากเราพิจารณาเพียงเล็กน้อย นี่คือตัวอย่างง่ายๆ: Let

จะเป็นมาตรฐานปกติและ

ที่มีความน่าจะเป็น 1/2 แต่ละอิสระจากX

Let

จากนั้น

ก็เป็นมาตรฐานปกติ แต่

เท่ากับศูนย์โดยมีความน่าจะเป็น 1/2 และเท่ากับ

ด้วยความน่าจะเป็น 1/2

X

$X$

ε = \pm 1

$\varepsilon = \pm 1$

X

$X$

Y = ε X

$Y = \varepsilon X$

Y

$Y$

Z = X + Y

$Z = X+Y$

2 X

$2X$

— พระคาร์ดินัล

เราสามารถได้รับความหลากหลายทั้งพฤติกรรมที่แตกต่างกันโดยพิจารณาเชื่อมสองตัวแปรที่มีความเกี่ยวข้องกับ

ผ่านทฤษฎีบท Sklar ของ ถ้าเราใช้แบบเกาส์เกาส์จากนั้นเราจะได้

เป็นค่าปกติและดังนั้น

จะถูกกระจายตามปกติ ถ้า copula ไม่ใช่ cop แบบ Gaussian แล้ว

และ

จะยังคงถูกกระจายเป็นขอบเขตอย่างปกติ แต่จะไม่ปกติร่วมกันดังนั้นผลรวมจะไม่ได้รับการกระจายตามปกติโดยทั่วไป

(X, Y)

$(X,Y)$

(X, Y)

$(X,Y)$

Z = X + Y

$Z = X + Y$

X

$X$

Y

$Y$

— สำคัญ

คำตอบ:

ดูความคิดเห็นของฉันในคำตอบ probabilityislogic เพื่อคำถามนี้ ที่นี่ ที่คือความแปรปรวนของและYไม่มีใครเขียนรายการที่ปิดขวางเมทริกซ์ความแปรปรวนเป็นที่คุณได้ทำ รายการนอกแนวทแยงมุมคือความแปรปรวนร่วมซึ่งอาจเป็นค่าลบ

\begin{aligned} X + Y & \sim N (μ_{X} + μ_{Y}, σ_{X}^{2} + σ_{Y}^{2} + 2 σ_{X, Y}) \\ a X + b Y & \sim N (a μ_{X} + b μ_{Y}, a^{2} σ_{X}^{2} + b^{2} σ_{Y}^{2} + 2 a b σ_{X, Y}) \end{aligned}

$\begin{align*} X + Y &\sim N(\mu_X + \mu_Y,\; \sigma_X^2 + \sigma_Y^2 + 2\sigma_{X,Y})\\ aX + bY &\sim N(a\mu_X + b\mu_Y,\; a^2\sigma_X^2 + b^2\sigma_Y^2 + 2ab\sigma_{X,Y}) \end{align*}$

σ_{X, Y}

$\sigma_{X,Y}$

X

$X$

Y

$Y$

σ_{x y}^{2}

$\sigma_{xy}^2$

— Dilip Sarwate
แหล่งที่มา

@Kodiologist ขอบคุณ! ฉันประหลาดใจที่ไม่มีการพิมพ์ผิดมานานกว่า 4 ปี

— Dilip Sarwate

@ คำตอบของ dilip เพียงพอ แต่ฉันแค่คิดว่าฉันจะเพิ่มรายละเอียดบางอย่างเกี่ยวกับวิธีที่คุณได้รับผล เราสามารถใช้วิธีการของฟังก์ชั่นลักษณะ สำหรับการใด ๆมิติหลายตัวแปรปกติกระจายที่และ $d$ $X\sim N_{d}(\mu,\Sigma)$ $\mu=(\mu_1,\dots,\mu_d)^T$ , ฟังก์ชั่นพิเศษถูกกำหนดโดย: $\Sigma_{jk}=cov(X_j,X_k)\;\;j,k=1,\dots,d$

φ_{X} (t) = E [\exp (i t^{T} X)] = \exp (i t^{T} μ - \frac{1}{2} t^{T} Σ t)

$\varphi_{X}({\bf{t}})=E\left[\exp(i{\bf{t}}^TX)\right]=\exp\left(i{\bf{t}}^T\mu-\frac{1}{2}{\bf{t}}^T\Sigma{\bf{t}}\right)$

= \exp (i \sum_{j = 1}^{d} t_{j} μ_{j} - \frac{1}{2} \sum_{j = 1}^{d} \sum_{k = 1}^{d} t_{j} t_{k} Σ_{j k})

$=\exp\left(i\sum_{j=1}^{d}t_j\mu_j-\frac{1}{2}\sum_{j=1}^{d}\sum_{k=1}^{d}t_jt_k\Sigma_{jk}\right)$

สำหรับตัวแปรปกติหนึ่งมิติเราจะได้รับ: $Y\sim N_1(\mu_Y,\sigma_Y^2)$

φ_{Y} (t) = \exp (i t μ_{Y} - \frac{1}{2} t^{2} σ_{Y}^{2})

$\varphi_Y(t)=\exp\left(it\mu_Y-\frac{1}{2}t^2\sigma_Y^2\right)$

$Z={\bf{a}}^TX=\sum_{j=1}^{d}a_jX_j$ $d=2$ $a_1=a_2=1$ $Z$ $X$

φ_{Z} (t) = E [\exp (i t Z)] = E [\exp (i t a^{T} X)] = φ_{X} (t a)

$\varphi_{Z}(t)=E\left[\exp(itZ)\right]=E\left[\exp(it{\bf{a}}^TX)\right]=\varphi_{X}(t{\bf{a}})$

= \exp (i t \sum_{j = 1}^{d} a_{j} μ_{j} - \frac{1}{2} t^{2} \sum_{j = 1}^{d} \sum_{k = 1}^{d} a_{j} a_{k} Σ_{j k})

$=\exp\left(it\sum_{j=1}^{d}a_j\mu_j-\frac{1}{2}t^2\sum_{j=1}^{d}\sum_{k=1}^{d}a_ja_k\Sigma_{jk}\right)$

$\varphi_Y(t)$ $\mu_Y$ $\mu_Z=\sum_{j=1}^{d}a_j\mu_j$ $\sigma_Y^2$ $\sigma^2_Z=\sum_{j=1}^{d}\sum_{k=1}^{d}a_ja_k\Sigma_{jk}$ $Z$ $Y$ $Z$ $\Sigma_{jk}=\Sigma_{kj}$

σ_{Z}^{2} = \sum_{j = 1}^{d} a_{j}^{2} Σ_{j j} + 2 \sum_{j = 2}^{d} \sum_{k = 1}^{j - 1} a_{j} a_{k} Σ_{j k}

$\sigma^2_Z=\sum_{j=1}^{d}a_j^2\Sigma_{jj}+2\sum_{j=2}^{d}\sum_{k=1}^{j-1}a_ja_k\Sigma_{jk}$

$\Sigma_{jj}=var(X_j)$ $\Sigma_{jk}=cov(X_j,X_k)$ $d=2$ $a_1=a_2=1$

σ_{Z}^{2} = \sum_{j = 1}^{2} (1)^{2} Σ_{j j} + 2 \sum_{j = 2}^{2} \sum_{k = 1}^{j - 1} (1) (1) Σ_{j k} = Σ_{11} + Σ_{22} + 2 Σ_{21}

$\sigma^2_Z=\sum_{j=1}^{2}(1)^2\Sigma_{jj}+2\sum_{j=2}^{2}\sum_{k=1}^{j-1}(1)(1)\Sigma_{jk}=\Sigma_{11}+\Sigma_{22}+2\Sigma_{21}$

— probabilityislogic
แหล่งที่มา

+1 ขอบคุณที่สละเวลาเขียนรายละเอียด คำถามนี้สามารถเป็นส่วนหนึ่งของคำถามที่พบบ่อยได้หรือไม่?

— Dilip Sarwate