สืบทอดการแจกแจงแบบมีเงื่อนไขของการแจกแจงปกติหลายตัวแปร

114

เรามีเวกเตอร์ปกติหลายตัวแปรSigma) พิจารณาการแบ่งและลงใน ${\boldsymbol Y} \sim \mathcal{N}(\boldsymbol\mu, \Sigma)$ $\boldsymbol\mu$ ${\boldsymbol Y}$

μ = [\begin{matrix} μ_{1} \\ μ_{2} \end{matrix}]

$\boldsymbol\mu = \begin{bmatrix} \boldsymbol\mu_1 \\ \boldsymbol\mu_2 \end{bmatrix}$

Y = [\begin{matrix} y_{1} \\ y_{2} \end{matrix}]

${\boldsymbol Y}=\begin{bmatrix}{\boldsymbol y}_1 \\ {\boldsymbol y}_2 \end{bmatrix}$

กับพาร์ติชันที่คล้ายกันของ $\Sigma$ เป็น

[\begin{matrix} Σ_{11} & Σ_{12} \\ Σ_{21} & Σ_{22} \end{matrix}]

$\begin{bmatrix} \Sigma_{11} & \Sigma_{12}\\ \Sigma_{21} & \Sigma_{22} \end{bmatrix}$ จากนั้น

(y_{1} | y_{2} = a)

$({\boldsymbol y}_1|{\boldsymbol y}_2={\boldsymbol a})$ การแจกแจงแบบมีเงื่อนไขของพาร์ติชั่นแรกที่ได้รับสองคือ

N (\bar{μ}, \bar{Σ})

$\mathcal{N}(\overline{\boldsymbol\mu},\overline{\Sigma})$ มีค่าเฉลี่ย

\bar{μ} = μ_{1} + Σ_{12} {Σ_{22}}^{- 1} (a - μ_{2})

$\overline{\boldsymbol\mu}=\boldsymbol\mu_1+\Sigma_{12}{\Sigma_{22}}^{-1}({\boldsymbol a}-\boldsymbol\mu_2)$ และเมทริกซ์ความแปรปรวนร่วม

\bar{Σ} = Σ_{11} - Σ_{12} {Σ_{22}}^{- 1} Σ_{21}

$\overline{\Sigma}=\Sigma_{11}-\Sigma_{12}{\Sigma_{22}}^{-1}\Sigma_{21}$

ที่จริงแล้วผลลัพธ์เหล่านี้มีให้ใน Wikipedia ด้วย แต่ฉันไม่รู้ว่า $\overline{\boldsymbol\mu}$ และ $\overline{\Sigma}$ มาจากไหน ผลลัพธ์เหล่านี้มีความสำคัญเนื่องจากพวกเขาเป็นสูตรทางสถิติที่สำคัญสำหรับ deriving กรองคาลมาน ใครบ้างจะให้ขั้นตอนที่ได้มาของฉัน $\overline{\boldsymbol\mu}$ และ $\overline{\Sigma}$ ขอบคุณมาก!

normal-distribution conditional-probability

— หมูบิน
แหล่งที่มา

ความคิดที่จะใช้ความหมายของเงื่อนไขความหนาแน่น(ก)} คุณรู้ไหมว่าข้อต่อเป็นตัวแปรปกติและว่าส่วนปลายเป็นเรื่องปกติแล้วคุณต้องเปลี่ยนค่าและทำพีชคณิตอันไม่พึงประสงค์ หมายเหตุเหล่านี้อาจช่วยได้บ้าง นี่คือหลักฐานที่สมบูรณ์

f (y_{1} | y_{2} = a) = \frac{f_{Y_{1}, Y_{2}} (y_{1}, a)}{f_{Y_{2}} (a)}

$f(y_1\vert y_2=a)=\dfrac{f_{Y_1,Y_2}(y_1,a)}{f_{Y_2}(a)}$

f_{Y_{1}, Y_{2}}

$f_{Y_1,Y_2}$

f_{Y_{2}}

$f_{Y_2}$

ลิงก์ที่สองของคุณตอบคำถาม (+1) ทำไมไม่คิดว่ามันเป็นคำตอบ @Procrastinator?

— gui11aume

ฉันไม่ได้ตระหนักถึงมัน แต่ฉันคิดว่าฉันใช้สมการนี้ใน PCA ที่มีเงื่อนไข PCA แบบมีเงื่อนไขจำเป็นต้องมีการแปลงที่คำนวณหาค่าความแปรปรวนร่วมแบบมีเงื่อนไขซึ่งให้ทางเลือกของ A.

(I - A^{'} {(A A^{'})}^{- 1} A) Σ

$\left(I-A'\left(AA'\right)^{-1}A\right)\Sigma$

— John

@Procrastinator - แนวทางของคุณต้องการความรู้เกี่ยวกับตัวตนของเมทริกซ์วูดเบอรีและความรู้เกี่ยวกับการผกผันบล็อกที่ชาญฉลาด สิ่งเหล่านี้ส่งผลให้พีชคณิตเมทริกซ์ซับซ้อนโดยไม่จำเป็น

— ความน่าจะเป็นที่เป็นไปได้

@probabilityislogic ที่จริงแล้วผลลัพธ์ได้รับการพิสูจน์ในลิงก์ที่ฉันให้ไว้ แต่มันก็น่านับถือถ้าคุณพบว่ามันซับซ้อนกว่าวิธีอื่น นอกจากนี้ผมก็ไม่ได้พยายามที่จะให้เป็นทางออกที่ดีที่สุดของฉันในการแสดงความคิดเห็น นอกจากนี้ความคิดเห็นของฉันยังอยู่ก่อนหน้าคำตอบของมาโคร (ซึ่งฉันอัปเกรดอย่างที่คุณเห็น)

คำตอบ:

111

คุณสามารถพิสูจน์ได้โดยการคำนวณความหนาแน่นของเงื่อนไขอย่างชัดเจนโดยใช้กำลังดุร้ายเช่นในลิงก์ของ Procrastinator (+1) ในความคิดเห็น แต่ก็มีทฤษฎีบทที่บอกว่าการแจกแจงแบบมีเงื่อนไขทั้งหมดของการแจกแจงแบบหลายตัวแปรตามปกตินั้นเป็นเรื่องปกติ ดังนั้นสิ่งที่เหลืออยู่ก็คือการคำนวณเมทริกซ์ค่าเฉลี่ยและเมทริกซ์ความแปรปรวนร่วม ฉันจำได้ว่าเราได้สิ่งนี้ในคลาสอนุกรมเวลาในวิทยาลัยโดยการกำหนดตัวแปรที่สามอย่างชาญฉลาดและใช้คุณสมบัติของมันเพื่อให้ได้ผลลัพธ์มากกว่าการแก้ปัญหากำลังดุร้ายในลิงค์ (ตราบใดที่คุณพอใจกับพีชคณิตเมทริกซ์) ฉันไปจากความทรงจำ แต่มันเป็นอะไรแบบนี้:

ให้เป็นพาร์ติชั่นแรกและที่สอง ตอนนี้กำหนดโดยที่ ${\bf x}_{1}$ ${\bf x}_2$ ${\bf z} = {\bf x}_1 + {\bf A} {\bf x}_2$ ${\bf A} = -\Sigma_{12} \Sigma^{-1}_{22}$ . ตอนนี้เราสามารถเขียน

\begin{aligned} c o v (z, x_{2}) & = c o v (x_{1}, x_{2}) + c o v (A x_{2}, x_{2}) \\ = Σ_{12} + A v a r (x_{2}) \\ = Σ_{12} - Σ_{12} Σ_{22}^{- 1} Σ_{22} \\ = 0 \end{aligned}

$\begin{align*} {\rm cov}({\bf z}, {\bf x}_2) &= {\rm cov}( {\bf x}_{1}, {\bf x}_2 ) + {\rm cov}({\bf A}{\bf x}_2, {\bf x}_2) \\ &= \Sigma_{12} + {\bf A} {\rm var}({\bf x}_2) \\ &= \Sigma_{12} - \Sigma_{12} \Sigma^{-1}_{22} \Sigma_{22} \\ &= 0 \end{align*}$

ดังนั้นและมี uncorrelated และเนื่องจากพวกเขามีกันปกติพวกเขามีความเป็นอิสระ ตอนนี้เห็นได้ชัดว่า ${\bf z}$ ${\bf x}_2$ $E({\bf z}) = {\boldsymbol \mu}_1 + {\bf A} {\boldsymbol \mu}_2$ ดังนั้นจึงเป็นไปตามนั้น

\begin{aligned} E (x_{1} | x_{2}) & = E (z - A x_{2} | x_{2}) \\ = E (z | x_{2}) - E (A x_{2} | x_{2}) \\ = E (z) - A x_{2} \\ = μ_{1} + A (μ_{2} - x_{2}) \\ = μ_{1} + Σ_{12} Σ_{22}^{- 1} (x_{2} - μ_{2}) \end{aligned}

$\begin{align*} E({\bf x}_1 | {\bf x}_2) &= E( {\bf z} - {\bf A} {\bf x}_2 | {\bf x}_2) \\ & = E({\bf z}|{\bf x}_2) - E({\bf A}{\bf x}_2|{\bf x}_2) \\ & = E({\bf z}) - {\bf A}{\bf x}_2 \\ & = {\boldsymbol \mu}_1 + {\bf A} ({\boldsymbol \mu}_2 - {\bf x}_2) \\ & = {\boldsymbol \mu}_1 + \Sigma_{12} \Sigma^{-1}_{22} ({\bf x}_2- {\boldsymbol \mu}_2) \end{align*}$

ซึ่งพิสูจน์ส่วนแรก สำหรับเมทริกซ์ความแปรปรวนร่วมทราบว่า

\begin{aligned} v a r (x_{1} | x_{2}) & = v a r (z - A x_{2} | x_{2}) \\ = v a r (z | x_{2}) + v a r (A x_{2} | x_{2}) - A c o v (z, - x_{2}) - c o v (z, - x_{2}) A^{'} \\ = v a r (z | x_{2}) \\ = v a r (z) \end{aligned}

$\begin{align*} {\rm var}({\bf x}_1|{\bf x}_2) &= {\rm var}({\bf z} - {\bf A} {\bf x}_2 | {\bf x}_2) \\ &= {\rm var}({\bf z}|{\bf x}_2) + {\rm var}({\bf A} {\bf x}_2 | {\bf x}_2) - {\bf A}{\rm cov}({\bf z}, -{\bf x}_2) - {\rm cov}({\bf z}, -{\bf x}_2) {\bf A}' \\ &= {\rm var}({\bf z}|{\bf x}_2) \\ &= {\rm var}({\bf z}) \end{align*}$

ตอนนี้เราเกือบจะเสร็จแล้ว:

\begin{aligned} v a r (x_{1} | x_{2}) = v a r (z) & = v a r (x_{1} + A x_{2}) \\ = v a r (x_{1}) + A v a r (x_{2}) A^{'} + A c o v (x_{1}, x_{2}) + c o v (x_{2}, x_{1}) A^{'} \\ = Σ_{11} + Σ_{12} Σ_{22}^{- 1} Σ_{22} Σ_{22}^{- 1} Σ_{21} - 2 Σ_{12} Σ_{22}^{- 1} Σ_{21} \\ = Σ_{11} + Σ_{12} Σ_{22}^{- 1} Σ_{21} - 2 Σ_{12} Σ_{22}^{- 1} Σ_{21} \\ = Σ_{11} - Σ_{12} Σ_{22}^{- 1} Σ_{21} \end{aligned}

$\begin{align*} {\rm var}({\bf x}_1|{\bf x}_2) = {\rm var}( {\bf z} ) &= {\rm var}( {\bf x}_1 + {\bf A} {\bf x}_2 ) \\ &= {\rm var}( {\bf x}_1 ) + {\bf A} {\rm var}( {\bf x}_2 ) {\bf A}' + {\bf A} {\rm cov}({\bf x}_1,{\bf x}_2) + {\rm cov}({\bf x}_2,{\bf x}_1) {\bf A}' \\ &= \Sigma_{11} +\Sigma_{12} \Sigma^{-1}_{22} \Sigma_{22}\Sigma^{-1}_{22}\Sigma_{21} - 2 \Sigma_{12} \Sigma_{22}^{-1} \Sigma_{21} \\ &= \Sigma_{11} +\Sigma_{12} \Sigma^{-1}_{22}\Sigma_{21} - 2 \Sigma_{12} \Sigma_{22}^{-1} \Sigma_{21} \\ &= \Sigma_{11} -\Sigma_{12} \Sigma^{-1}_{22}\Sigma_{21} \end{align*}$

ซึ่งพิสูจน์ส่วนที่สอง

หมายเหตุ:สำหรับผู้ที่ไม่คุ้นเคยกับพีชคณิตเมทริกซ์ใช้ที่นี่นี้เป็นทรัพยากรที่ดี

แก้ไข:หนึ่งคุณสมบัติที่ใช้ที่นี่สิ่งนี้ไม่ได้อยู่ในตำราอาหารเมทริกซ์ (good catch @FlyingPig) คือคุณสมบัติ 6 ในหน้าวิกิพีเดียเกี่ยวกับเมทริกซ์ความแปรปรวนร่วม:ซึ่งเป็นสองเวกเตอร์สุ่ม ,สำหรับ scalars แน่นอนแต่สำหรับเวกเตอร์พวกมันต่างกันตราบเท่าที่เมทริกซ์จัดเรียงต่างกัน $\bf x, y$

v a r (x + y) = v a r (x) + v a r (y) + c o v (x, y) + c o v (y, x)

${\rm var}({\bf x}+{\bf y}) = {\rm var}({\bf x})+{\rm var}({\bf y}) + {\rm cov}({\bf x},{\bf y}) + {\rm cov}({\bf y},{\bf x})$

c o v (X, Y) = c o v (Y, X)

${\rm cov}(X,Y)={\rm cov}(Y,X)$

— มาโคร
แหล่งที่มา

ขอบคุณสำหรับวิธีการอันยอดเยี่ยมนี้! มีพีชคณิตเมทริกซ์หนึ่งตัวที่ฉันไม่คุ้นเคยฉันจะหาสูตรสำหรับการเปิดที่ไหน ฉันไม่พบมันในลิงค์ที่คุณส่ง

v a r (x_{1} + A x_{2})

$var(x_1+Ax_2)$

— หมูบินได้

@ Flyingpig ยินดีต้อนรับ ฉันเชื่อว่านี่เป็นผลมาจากสมการ , รวมกับคุณสมบัติเพิ่มเติมของความแปรปรวนของผลรวมของเวกเตอร์สุ่มที่ไม่ได้เขียนใน Matrix Cookbook - ฉันได้เพิ่มข้อเท็จจริงนี้ลงในคำตอบของฉัน - ขอบคุณสำหรับการจับ ที่!

(291), (292)

$(291),(292)$

— มาโคร

นี่เป็นคำตอบที่ดีมาก (+1) แต่สามารถปรับปรุงได้ในแง่ของการเรียงลำดับของวิธีการ เราเริ่มต้นด้วยการบอกว่าเราต้องการการรวมกันเชิงเส้นของเวกเตอร์ทั้งที่เป็นอิสระ / uncorrelated กับx_2นี้เป็นเพราะเราสามารถใช้ความจริงที่ว่าซึ่งหมายความว่าและ(z) เหล่านี้ในการเปิดนำไปสู่การแสดงออกสำหรับและx_2) ซึ่งหมายความว่าเราควรจะใช้เวลาฉัน ตอนนี้เราต้อง 0 หาก

z = C x = C_{1} x_{1} + C_{2} x_{2}

$z=Cx=C_1x_1+C_2x_2$

x_{2}

$x_2$

p (z | x_{2}) = p (z)

$p(z|x_2)=p(z)$

v a r (z | x_{2}) = v a r (z)

$var(z|x_2)=var(z)$

E (z | x_{2}) = E (z)

$E(z|x_2)=E(z)$

v a r (C_{1} x_{1} | x_{2})

$var(C_1x_1|x_2)$

E (C_{1} x_{1} | x_{2})

$E(C_1x_1|x_2)$

C_{1} = I

$C_1=I$

c o v (z, x_{2}) = Σ_{12} + C_{2} Σ_{22} = 0

$cov(z,x_2)=\Sigma_{12}+C_2\Sigma_{22}=0$

Σ_{22}

$\Sigma_{22}$ กลับกันเราก็มี

C_{2} = - Σ_{12} Σ_{22}^{- 1}

$C_2=-\Sigma_{12}\Sigma_{22}^{-1}$ 1}

— ความน่าจะเป็นที่เป็นไปได้

@jakeoung - ไม่ได้พิสูจน์ว่ามันตั้งค่าเป็นค่านี้เพื่อให้เราได้รับการแสดงออกที่มีตัวแปรที่เราต้องการรู้เกี่ยวกับ

C_{1} = I

$C_1=I$

— ความน่าจะเป็นทาง

@ jakeoung ฉันยังไม่เข้าใจคำพูดนั้นมากนัก ผมเข้าใจในลักษณะนี้: ถ้าแล้ว 0 ดังนั้นค่าของจึงเป็นมาตราส่วนโดยพลการ ดังนั้นเราจึงตั้งเพื่อความเรียบง่าย

c o v (z, x_{2}) = 0

$cov(z, x_2)=0$

c o v (C_{1}^{- 1} z, x_{2}) = C_{1}^{- 1} c o v (z, x_{2}) = 0

$cov(C_1^{-1} z, x_2) = C_1^{-1} cov( z, x_2)=0$

C_{1}

$C_1$

C_{1} = I

$C_1=I$

— Ken T

คำตอบของมาโครนั้นยอดเยี่ยม แต่นี่เป็นวิธีที่ง่ายกว่าซึ่งไม่ต้องการให้คุณใช้ทฤษฎีบทภายนอกใด ๆ เพื่อยืนยันการแจกแจงแบบมีเงื่อนไข มันเกี่ยวข้องกับการเขียนระยะทาง Mahanalobis ในรูปแบบที่แยกตัวแปรอาร์กิวเมนต์สำหรับคำสั่งการปรับอากาศและจากนั้นจึงแยกตัวประกอบความหนาแน่นปกติตามลำดับ

เขียนใหม่ระยะทาง Mahanalobis สำหรับเวกเตอร์แบบมีเงื่อนไข: การสืบทอดนี้ใช้สูตรเมทริกซ์ผกผันที่ใช้Schur complement {21} ก่อนอื่นเราใช้สูตรผกผัน Blockwiseเพื่อเขียนเมทริกซ์ผกผันแปรปรวนดังนี้ $\boldsymbol{\Sigma}_\text{S} = \boldsymbol{\Sigma}_{11} - \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1} \boldsymbol{\Sigma}_{21}$

\begin{aligned} Σ^{- 1} = {[\begin{matrix} Σ_{11} & Σ_{12} \\ Σ_{21} & Σ_{22} \end{matrix}]}^{- 1} = [\begin{matrix} Σ_{11}^{*} & Σ_{12}^{*} \\ Σ_{21}^{*} & Σ_{22}^{*} \end{matrix}], \end{aligned}

$\begin{equation} \begin{aligned} \boldsymbol{\Sigma}^{-1} = \begin{bmatrix} \boldsymbol{\Sigma}_{11} & \boldsymbol{\Sigma}_{12} \\ \boldsymbol{\Sigma}_{21} & \boldsymbol{\Sigma}_{22} \\ \end{bmatrix}^{-1} = \begin{bmatrix} \boldsymbol{\Sigma}_{11}^* & \boldsymbol{\Sigma}_{12}^* \\ \boldsymbol{\Sigma}_{21}^* & \boldsymbol{\Sigma}_{22}^* \\ \end{bmatrix}, \end{aligned} \end{equation}$

ที่อยู่:

\begin{aligned} \begin{matrix} Σ_{11}^{*} = Σ_{S}^{- 1} & Σ_{12}^{*} = - Σ_{S}^{- 1} Σ_{12} Σ_{22}^{- 1}, \\ Σ_{21}^{*} = - Σ_{22}^{- 1} Σ_{12} Σ_{S}^{- 1} & Σ_{22}^{*} = Σ_{22}^{- 1} Σ_{12} Σ_{S}^{- 1} Σ_{12} Σ_{22}^{- 1} . \end{matrix} \end{aligned}

$\begin{equation} \begin{aligned} \begin{matrix} \boldsymbol{\Sigma}_{11}^* = \boldsymbol{\Sigma}_\text{S}^{-1} \text{ } \quad \quad \quad \quad & & & & & \boldsymbol{\Sigma}_{12}^* = -\boldsymbol{\Sigma}_\text{S}^{-1} \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1}, \quad \quad \quad \\[6pt] \boldsymbol{\Sigma}_{21}^* = - \boldsymbol{\Sigma}_{22}^{-1} \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_\text{S}^{-1} & & & & & \boldsymbol{\Sigma}_{22}^* = \boldsymbol{\Sigma}_{22}^{-1} \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_\text{S}^{-1} \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1}. \text{ } \\[6pt] \end{matrix} \end{aligned} \end{equation}$

การใช้สูตรนี้เราสามารถเขียนระยะทาง Mahanalobis เป็น:

\begin{aligned} (y - μ)^{T} Σ^{- 1} (y - μ) & = {[\begin{matrix} y_{1} - μ_{1} \\ y_{2} - μ_{2} \end{matrix}]}^{T} [\begin{matrix} Σ_{11}^{*} & Σ_{12}^{*} \\ Σ_{21}^{*} & Σ_{22}^{*} \end{matrix}] [\begin{matrix} y_{1} - μ_{1} \\ y_{2} - μ_{2} \end{matrix}] \\ = (y_{1} - μ_{1})^{T} Σ_{11}^{*} (y_{1} - μ_{1}) + (y_{1} - μ_{1})^{T} Σ_{12}^{*} (y_{2} - μ_{2}) \\ + (y_{2} - μ_{2})^{T} Σ_{21}^{*} (y_{1} - μ_{1}) + (y_{2} - μ_{2})^{T} Σ_{22}^{*} (y_{2} - μ_{2}) \\ = (y_{1} - (μ_{1} + Σ_{12} Σ_{22}^{- 1} (y_{2} - μ_{2})))^{T} Σ_{S}^{- 1} (y_{1} - (μ_{1} + Σ_{12} Σ_{22}^{- 1} (y_{2} - μ_{2}))) \\ = (y_{1} - μ_{*})^{T} Σ_{*}^{- 1} (y_{1} - μ_{*}), \end{aligned}

$\begin{equation} \begin{aligned} (\boldsymbol{y} - \boldsymbol{\mu})^\text{T} \boldsymbol{\Sigma}^{-1} (\boldsymbol{y} - \boldsymbol{\mu}) &= \begin{bmatrix} \boldsymbol{y}_1 - \boldsymbol{\mu}_1 \\ \boldsymbol{y}_2 - \boldsymbol{\mu}_2 \end{bmatrix}^\text{T} \begin{bmatrix} \boldsymbol{\Sigma}_{11}^* & \boldsymbol{\Sigma}_{12}^* \\ \boldsymbol{\Sigma}_{21}^* & \boldsymbol{\Sigma}_{22}^* \\ \end{bmatrix} \begin{bmatrix} \boldsymbol{y}_1 - \boldsymbol{\mu}_1 \\ \boldsymbol{y}_2 - \boldsymbol{\mu}_2 \end{bmatrix} \\[6pt] &= \quad (\boldsymbol{y}_1 - \boldsymbol{\mu}_1)^\text{T} \boldsymbol{\Sigma}_{11}^* (\boldsymbol{y}_1 - \boldsymbol{\mu}_1) + (\boldsymbol{y}_1 - \boldsymbol{\mu}_1)^\text{T} \boldsymbol{\Sigma}_{12}^* (\boldsymbol{y}_2 - \boldsymbol{\mu}_2) \\[6pt] &\quad + (\boldsymbol{y}_2 - \boldsymbol{\mu}_2)^\text{T} \boldsymbol{\Sigma}_{21}^* (\boldsymbol{y}_1 - \boldsymbol{\mu}_1) + (\boldsymbol{y}_2 - \boldsymbol{\mu}_2)^\text{T} \boldsymbol{\Sigma}_{22}^* (\boldsymbol{y}_2 - \boldsymbol{\mu}_2) \\[6pt] &= (\boldsymbol{y}_1 - (\boldsymbol{\mu}_1 + \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1} (\boldsymbol{y}_2 - \boldsymbol{\mu}_2)))^\text{T} \boldsymbol{\Sigma}_\text{S}^{-1} (\boldsymbol{y}_1 - (\boldsymbol{\mu}_1 + \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1} (\boldsymbol{y}_2 - \boldsymbol{\mu}_2))) \\[6pt] &= (\boldsymbol{y}_1 - \boldsymbol{\mu}_*)^\text{T} \boldsymbol{\Sigma}_*^{-1} (\boldsymbol{y}_1 - \boldsymbol{\mu}_*), \\[6pt] \end{aligned} \end{equation}$

ที่อยู่:

\begin{aligned} μ_{*} & \equiv μ_{1} + Σ_{12} Σ_{22}^{- 1} (y_{2} - μ_{2}), \\ Σ_{*} & \equiv Σ_{11} - Σ_{12} Σ_{22}^{- 1} Σ_{21} . \end{aligned}

$\begin{equation} \begin{aligned} \boldsymbol{\mu}_* &\equiv \boldsymbol{\mu}_1 + \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1} (\boldsymbol{y}_2 - \boldsymbol{\mu}_2), \\[8pt] \boldsymbol{\Sigma}_* &\equiv \boldsymbol{\Sigma}_{11} - \boldsymbol{\Sigma}_{12} \boldsymbol{\Sigma}_{22}^{-1} \boldsymbol{\Sigma}_{21}. \\[6pt] \end{aligned} \end{equation}$

โปรดทราบว่าผลลัพธ์นี้เป็นผลลัพธ์ทั่วไปที่ไม่ถือว่าปกติของเวกเตอร์สุ่ม มันให้วิธีที่มีประโยชน์ในการกำหนดกรอบระยะทาง Mahanalobis อีกครั้งเพื่อให้มันเป็นรูปแบบสมการกำลังสองที่เกี่ยวกับเวกเตอร์เพียงอันเดียวในการสลายตัว (ที่มีการดูดซึมเข้าสู่เวกเตอร์เฉลี่ยและเมทริกซ์แปรปรวน)

ได้รับการแจกแจงแบบมีเงื่อนไข:ตอนนี้เรามีรูปแบบข้างต้นสำหรับระยะทาง Mahanalobis ที่เหลือก็ง่าย เรามี:

\begin{aligned} p (y_{1} | y_{2}, μ, Σ) & \overset{y_{1}}{\propto} p (y_{1}, y_{2} | μ, Σ) \\ = N (y | μ, Σ) \\ \overset{y_{1}}{\propto} \exp (- \frac{1}{2} (y - μ)^{T} Σ^{- 1} (y - μ)) \\ = \exp (- \frac{1}{2} (y_{1} - μ_{*})^{T} Σ_{*}^{- 1} (y_{1} - μ_{*})) \\ \overset{y_{1}}{\propto} N (y_{1} | μ_{*}, Σ_{*}) . \end{aligned}

$\begin{equation} \begin{aligned} p(\boldsymbol{y}_1 | \boldsymbol{y}_2, \boldsymbol{\mu}, \boldsymbol{\Sigma}) &\overset{\boldsymbol{y}_1}{\propto} p(\boldsymbol{y}_1 , \boldsymbol{y}_2 | \boldsymbol{\mu}, \boldsymbol{\Sigma}) \\[12pt] &= \text{N}(\boldsymbol{y} | \boldsymbol{\mu}, \boldsymbol{\Sigma}) \\[10pt] &\overset{\boldsymbol{y}_1}{\propto} \exp \Big( - \frac{1}{2} (\boldsymbol{y} - \boldsymbol{\mu})^\text{T} \boldsymbol{\Sigma}^{-1} (\boldsymbol{y} - \boldsymbol{\mu}) \Big) \\[6pt] &= \exp \Big( - \frac{1}{2} (\boldsymbol{y}_1 - \boldsymbol{\mu}_*)^\text{T} \boldsymbol{\Sigma}_*^{-1} (\boldsymbol{y}_1 - \boldsymbol{\mu}_*) \Big) \\[6pt] &\overset{\boldsymbol{y}_1}{\propto}\text{N}(\boldsymbol{y}_1 | \boldsymbol{\mu}_*, \boldsymbol{\Sigma}_*). \\[6pt] \end{aligned} \end{equation}$

นี่เป็นการพิสูจน์ว่าการแจกแจงแบบมีเงื่อนไขเป็นหลายตัวแปรปกติด้วยเวกเตอร์ค่าเฉลี่ยตามเงื่อนไขที่ระบุและเมทริกซ์ความแปรปรวนแบบมีเงื่อนไข

— เบน
แหล่งที่มา