วิธีการตีความความแปรปรวนร่วมหรือเมทริกซ์ความแม่นยำ?

64

ฉันสงสัยว่าใครสามารถชี้ให้ฉันดูการอ้างอิงบางอย่างที่อธิบายการตีความองค์ประกอบของเมทริกซ์ความแปรปรวนร่วมแบบผกผันหรือที่เรียกว่าเมทริกซ์ความเข้มข้นหรือเมทริกซ์ความแม่นยำ

ฉันสามารถเข้าถึงการพึ่งพาหลายตัวแปรของ Cox และ Wermuth แต่สิ่งที่ฉันกำลังมองหาคือการตีความของแต่ละองค์ประกอบในเมทริกซ์ผกผัน วิกิพีเดียระบุ "องค์ประกอบของเมทริกซ์ความแม่นยำมีการตีความในแง่ของความสัมพันธ์บางส่วนและความแปรปรวนบางส่วน" ซึ่งทำให้ผมนี้หน้า มีการตีความโดยไม่ใช้การถดถอยเชิงเส้นหรือไม่? IE ในแง่ของความแปรปรวนร่วมหรือรูปทรงเรขาคณิต?

interpretation covariance-matrix

— หวิงห์เหวียน
แหล่งที่มา

4

คุณอ่านหน้า Wikipedia ทั้งหมดหรือยัง? มีส่วนเกี่ยวกับเรขาคณิตและความเป็นอิสระตามเงื่อนไขสำหรับการแจกแจงแบบปกติ คุณสามารถหาข้อมูลเพิ่มเติมในหนังสือเล่มนี้

— NRH

@NRH เรขาคณิตถูกอธิบายในหน้าสหสัมพันธ์บางส่วนซึ่งฉันไม่แน่ใจด้วยซ้ำว่ามันเกี่ยวข้องกับเมทริกซ์ความเข้มข้นอย่างไร แบบจำลองกราฟิกนั้นมีคำอธิบายเกี่ยวกับองค์ประกอบของเมทริกซ์ความเข้มข้นหรือไม่? ขอบคุณ!

— Vinh Nguyen

ดูคำตอบด้านล่าง

— NRH

2

ดูเพิ่มเติมเหตุใดการผกผันของเมทริกซ์ความแปรปรวนร่วมจึงให้สหสัมพันธ์บางส่วนระหว่างตัวแปรสุ่ม

— อะมีบาพูดว่า Reinstate Monica

34

\exp (- \frac{1}{2} x^{T} P x)

$\exp\left(-\frac{1}{2}x^T P x\right)$

P = Σ^{- 1}

$P = \Sigma^{-1}$

(x, y) \mapsto x^{T} P y

$(x,y) \mapsto x^T P y$

R^{p}

$\mathbb{R}^p$

P

$P$

$P$ $P$ $X_i$ $X_j$ $i,j$ $P$ $X_i$ $X_j$ รับตัวแปรอื่น ๆ ทั้งหมด นี่คือสิ่งที่หนังสือของ Steffens ที่ฉันอ้างถึงในความคิดเห็นด้านบนเป็นข้อมูลเกี่ยวกับ ความเป็นอิสระตามเงื่อนไขและแบบจำลองกราฟิก มันมีวิธีการรักษาแบบกระจายที่ค่อนข้างสมบูรณ์ แต่อาจไม่ง่ายที่จะติดตาม

— NRH
แหล่งที่มา

1

- \frac{p_{i j}}{\sqrt{p_{i i} p_{j j}}}

${\bf\color{red} -} \frac{p_{ij}}{ \sqrt{p_{ii} p_{jj}}}$

1

@ Sh3ljohn คุณพูดถูก มีจำนวนลบหายไปในสูตร Wikipedia

— NRH

ไม่ใช่คำตอบแรกที่พูดถึงข้อมูลฟิชเชอร์มากกว่าเมทริกซ์ความแม่นยำหรือไม่ ฉันหมายถึงพวกเขาเหมือนกันในกรณี Gaussian ที่พิเศษ / ดีจริงๆ แต่พวกเขาไม่ตรงกัน เห็นได้ชัดว่าทั้งสองแนวคิดมีความสัมพันธ์กัน (Cramer-Rao ขอบเขตล่าง, การกระจายแบบไม่ระบุชื่อของ MLE, ฯลฯ ) แต่ดูเหมือนว่าจะไม่มีประโยชน์ที่จะทำให้พวกเขาสับสน (โดยเฉพาะฉันมาที่คำถามนี้เพื่อค้นหาคำถามของเขาเกี่ยวกับ เมทริกซ์สหสัมพันธ์ผกผัน)

— Chill2Macht

24

ฉันชอบแบบจำลองความน่าจะเป็นแบบกราฟิกนี้เพื่อแสดงให้เห็นถึงจุดของ NRH ที่ความสัมพันธ์บางส่วนเป็นศูนย์ถ้าและถ้า X เป็นเงื่อนไขจาก Y ที่ได้รับจาก Z โดยมีสมมติฐานว่าตัวแปรที่เกี่ยวข้องทั้งหมดเป็นตัวแปรหลายตัวแปรเกาส์ (คุณสมบัติไม่ได้เก็บไว้ในกรณีทั่วไป) :

ป้อนคำอธิบายรูปภาพที่นี่

$y_i$

ที่มา: การพูดคุยของ David MacKay เกี่ยวกับ Gaussian Process Basics , 25 นาที

— Franck Dernoncourt
แหล่งที่มา

12

การตีความตามความสัมพันธ์บางส่วนน่าจะเป็นประโยชน์ทางสถิติมากที่สุดเนื่องจากนำไปใช้กับการแจกแจงหลายตัวแปรทั้งหมด ในกรณีพิเศษของการแจกแจงปกติหลายตัวแปรความสัมพันธ์บางส่วนเป็นศูนย์สอดคล้องกับความเป็นอิสระตามเงื่อนไข

คุณสามารถได้รับการตีความนี้โดยใช้ส่วนประกอบ Schur เพื่อรับสูตรสำหรับรายการของเมทริกซ์ความเข้มข้นในแง่ของรายการของเมทริกซ์ความแปรปรวนร่วม ดูhttp://en.wikipedia.org/wiki/Schur_complement#Applications_to_probability_theory_and_statistics

— vqv
แหล่งที่มา

11

เมทริกซ์ความแปรปรวนร่วมสามารถเป็นตัวแทนของความสัมพันธ์ระหว่างตัวแปรทั้งหมดในขณะที่ความแปรปรวนร่วมผกผันรองเท้าความสัมพันธ์ขององค์ประกอบกับเพื่อนบ้านของพวกเขา (ตามที่วิกิพีเดียกล่าวว่าความสัมพันธ์ที่ชาญฉลาดบางส่วน / คู่)

ฉันยืมตัวอย่างต่อไปนี้จากที่นี่ใน 24:10 จินตนาการว่ามีมวล 5 อันเชื่อมต่อกันและสระรอบ ๆ ด้วยสปริง 6 ตัวเมทริกซ์ความแปรปรวนร่วมจะมีความสัมพันธ์กับมวลทั้งหมดถ้ามีใครไปทางขวา แต่เมทริกซ์ความแปรปรวนร่วมแบบผกผันเป็นความสัมพันธ์ของมวลชนที่เชื่อมต่อกันด้วยสปริงเดียวกัน (เพื่อนบ้าน) และมันประกอบด้วยศูนย์จำนวนมากและไม่จำเป็นต้องเป็นค่าบวก

— user4581
แหล่งที่มา

1

สิ่งนี้อธิบายได้ที่ไหนในวิดีโอ มันยาวหนึ่งชั่วโมง ขอบคุณ!

— Vinh Nguyen

คุณพูดถูกใน 24:10 ฉันคิดว่านี่เป็นตัวอย่างที่ดีที่สุดในการทำความเข้าใจธรรมชาติของเมทริกซ์

— โคเวิร์ท

5

Bar-Shalom และ Fortmann (1988) ได้กล่าวถึงความแปรปรวนร่วมแบบผกผันในบริบทของตัวกรองคาลมานดังนี้

... [T] นี่คือการสอบถามซ้ำสำหรับความแปรปรวนร่วมแบบผกผัน (หรือเมทริกซ์ข้อมูล )

$\mathbf{P}^{-1}(k+1|k+1) = \mathbf{P}^{-1}(k+1|k) + \mathbf{H}'(k+1) \mathbf{R}^{-1}(k+1)\mathbf{H}(k+1)$

$\mathbf{P}^{-1}\hat{\mathbf{x}}$

หนังสือเล่มนี้จัดทำดัชนีในGoogle

— สดใสดาว
แหล่งที่มา