เมทริกซ์ความสัมพันธ์ทุกตัวเป็นค่าบวกแน่นอนหรือไม่

11

ฉันกำลังพูดถึงที่นี่เกี่ยวกับเมทริกซ์ของเพียร์สันสหสัมพันธ์

ฉันมักจะได้ยินว่ามันบอกว่าการฝึกอบรมความสัมพันธ์ทั้งหมดจะต้องเป็น semidefinite บวก ความเข้าใจของฉันอยู่ที่การฝึกอบรมที่ชัดเจนในเชิงบวกจะต้องมีลักษณะเฉพาะในขณะที่การฝึกอบรม semidefinite บวกจะต้องมีลักษณะเฉพาะ0 นี่ทำให้ฉันคิดว่าคำถามของฉันสามารถใช้ถ้อยคำใหม่เป็น "เป็นไปได้ไหมที่เมทริกซ์สหสัมพันธ์จะมีค่า eigenvalue " $> 0$ $\ge 0$ $= 0$

เป็นไปได้สำหรับเมทริกซ์สหสัมพันธ์ (สร้างจากข้อมูลเชิงประจักษ์โดยไม่มีข้อมูลขาดหายไป) เพื่อให้มีค่าลักษณะเฉพาะหรือค่าลักษณะเฉพาะหรือไม่ จะเป็นอย่างไรถ้าเป็นเมทริกซ์สหสัมพันธ์ของประชากรแทน $= 0$ $< 0$

ฉันอ่านคำตอบที่ดีที่สุดสำหรับคำถามนี้เกี่ยวกับเมทริกซ์ความแปรปรวนร่วมนั้น

พิจารณาสามตัวแปร, ,และ Y เมทริกซ์ความแปรปรวนร่วมของพวกเขา, , ไม่ใช่บวกแน่นอนเนื่องจากมีเวกเตอร์ ( ) ซึ่งมีค่าไม่เป็นบวก $X$ $Y$ $Z = X+Y$ $M$ $z$ $= (1, 1, -1)'$ $z'Mz$

อย่างไรก็ตามถ้าแทนที่จะเป็นเมทริกซ์ความแปรปรวนร่วมฉันทำการคำนวณเหล่านั้นบนเมทริกซ์สหสัมพันธ์แล้วจะออกมาเป็นค่าบวก ดังนั้นฉันคิดว่าบางทีสถานการณ์อาจแตกต่างกันสำหรับเมทริกซ์สหสัมพันธ์และความแปรปรวนร่วม $z'Mz$

เหตุผลของฉันสำหรับถามคือฉันถูกถามมากกว่าในstackoverflowเกี่ยวกับคำถามที่ฉันถามที่นั่น

covariance-matrix eigenvalues correlation-matrix

— user1205901 - Reinstate Monica
แหล่งที่มา

ตัวอย่างเช่นถ้าสองคุณสมบัติเป็นสิ่งเดียวที่มีชื่อต่างกันเมทริกซ์นั้นจะเป็นเอกพจน์ หากสองแอตทริบิวต์เพิ่มค่าคงที่มันจะเป็นเอกพจน์อีกครั้งและอื่นๆ

— ttnphns

หากเมทริกซ์ความแปรปรวนร่วมเป็นเมทริกซ์สหสัมพันธ์เอกพจน์ก็จะเป็นเอกพจน์เช่นกัน

— ttnphns

2

ใกล้เคียงกัน: ทุกเมทริกซ์สหสัมพันธ์เป็นบวกกึ่งแน่นอน? ซึ่งให้ความสำคัญกับมุมที่แน่นอนน้อยกว่าเมื่อเทียบกับมุมกึ่งแน่นอนและเมทริกซ์ความแปรปรวนร่วมเป็นบวกแน่นอนหรือไม่ ซึ่งมีความเกี่ยวข้องเพราะความแปรปรวนร่วมเป็นหลักความสัมพันธ์ช่วย

— Silverfish

16

เมทริกซ์สหสัมพันธ์นั้นไม่จำเป็นต้องเป็นค่าบวกแน่นอน

พิจารณาตัวแปรสเกลาร์แบบสุ่ม X ที่มีความแปรปรวนที่ไม่ใช่ศูนย์ จากนั้นเมทริกซ์สหสัมพันธ์ของ X กับตัวเองคือเมทริกซ์ของทุกคนซึ่งเป็นกึ่งบวกแน่นอน แต่ไม่ใช่บวกแน่นอน

สำหรับความสัมพันธ์ของกลุ่มตัวอย่างให้พิจารณาข้อมูลตัวอย่างข้างต้นโดยมีการสังเกตครั้งแรก 1 และ 1 และการสังเกตครั้งที่ 2 2 และ 2 ซึ่งส่งผลให้ความสัมพันธ์ตัวอย่างเป็นเมทริกซ์ของทุกคนดังนั้นจึงไม่แน่นอนบวก

เมทริกซ์สหสัมพันธ์ตัวอย่างหากคำนวณด้วยเลขคณิตที่แน่นอน (เช่นไม่มีข้อผิดพลาด roundoff) จะไม่สามารถมีค่าลักษณะเฉพาะเชิงลบได้

— หินมาร์คแอล
แหล่งที่มา

4

อาจจะมีมูลค่าการกล่าวขวัญผลกระทบที่เป็นไปได้ของค่าที่ขาดหายไปในเมทริกซ์ความสัมพันธ์ของกลุ่มตัวอย่าง ตัวเลขเชิงฝอยไม่ใช่เหตุผลเดียวที่จะได้ค่าลักษณะเฉพาะเชิงลบในเมทริกซ์สหสัมพันธ์ตัวอย่าง / เมทริกซ์ความแปรปรวนร่วม

— Silverfish

1

ใช่ฉันไม่ได้อธิบายอย่างชัดเจน แต่ฉันคิดตามคำสั่งคำถาม "โดยไม่มีข้อมูลหายไป" เมื่อคุณเข้าสู่โลกแห่งธรรมชาติข้อมูลที่ขาดหายไปและการปรับเปลี่ยนนั้นจะไม่มีอะไรเกิดขึ้น

— Mark L. Stone

ใช่ขออภัยคุณพูดถูกคำถามว่า "ไม่มีข้อมูลที่หายไป" - แค่คิดว่ามันควรค่าแก่การพูดถึงที่ไหนสักแห่งเนื่องจากผู้ค้นหาในอนาคตอาจสนใจแม้ว่า OP ของผู้มีความอยากอาหารจะพอเพียง!

— Silverfish

7

คำตอบโดย @yoki และ @MarkLStone (+1 ทั้งคู่) ชี้ให้เห็นว่าเมทริกซ์สหสัมพันธ์ของประชากรสามารถมีค่าลักษณะเฉพาะเป็นศูนย์ได้หากตัวแปรมีความสัมพันธ์เชิงเส้น (เช่นในตัวอย่างของ @MarkLStone และในตัวอย่างของ @yoki) $X_1 = X_2$ $X_1 = 2X_2$

นอกจากนั้นเมทริกซ์สหสัมพันธ์ตัวอย่างจะต้องมีค่าลักษณะเฉพาะเป็นศูนย์ถ้าคือถ้าขนาดตัวอย่างเล็กกว่าจำนวนของตัวแปร ในกรณีนี้ความแปรปรวนร่วมและเมทริกซ์สหสัมพันธ์จะอยู่ในอันดับที่มากที่สุดดังนั้นอย่างน้อยจะมีค่าลักษณะเฉพาะเป็นศูนย์ ดูเหตุใดเมทริกซ์ความแปรปรวนร่วมตัวอย่างเป็นเอกเทศเมื่อขนาดตัวอย่างน้อยกว่าจำนวนตัวแปร และเป็นตำแหน่งของความแปรปรวนเมทริกซ์ที่มากที่สุดทำไม ? $n<p$ $n-1$ $p-n+1$ $n-1$

— อะมีบา
แหล่งที่มา

มันก็เป็นจริง. ฉันคิดว่าฉันควรจะมีและควรให้ข้อมูลนี้เช่นกัน แต่เป้าหมายของฉันคือการสร้างตัวอย่างเพื่อลบล้างสมมติฐานของ OP ดังนั้นจึงแสดงความไม่ถูกต้องอย่างไรก็ตามคุณควรปรับประโยคที่สองของคุณให้เป็น "ในกรณีนี้ความแปรปรวนร่วมและเมทริกซ์สหสัมพันธ์ จะอยู่ในอันดับสูงสุด n − 1 ดังนั้นจะมีอย่างน้อย (p − n + 1) ศูนย์ค่าลักษณะเฉพาะ "

— Mark L. Stone

4

พิจารณาจะเป็น RV ที่มีค่าเฉลี่ย 0 และความแปรปรวนของ 1. Let และคำนวณเมทริกซ์ความแปรปรวนของ )ตั้งแต่ , , และ $X$ $Y=2X$ $(X,Y)$ $2X=Y$ $E[Y^2]=4E[X^2]=\sigma_Y^2$ $E[XY]=2E[X^2]$ . เนื่องจากการกำหนดค่าเฉลี่ยศูนย์ช่วงเวลาที่สองจะเท่ากับ covariances เหมาะสมเช่น: ] $\mbox{Cov}(X,Y)=E[XY]-EXEY=E[XY]$

ดังนั้นเมทริกซ์ความแปรปรวนร่วมจะเป็น: มีค่าศูนย์เป็นศูนย์ เมทริกซ์สหสัมพันธ์จะเป็น: มีค่า eigenvalue เป็นศูนย์เช่นกัน เนื่องจากความสัมพันธ์เชิงเส้นระหว่างและมันง่ายที่จะเห็นว่าทำไมเราถึงได้เมทริกซ์สหสัมพันธ์นี้ - เส้นทแยงมุมจะเป็น 1 เสมอ, และเส้นทแยงมุมเท่ากับ 1 เพราะความสัมพันธ์เชิงเส้น

Λ = (\begin{matrix} 1 & 2 \\ 2 & 4 \end{matrix}),

$\Lambda = \left(\array{1 & 2 \\ 2 & 4 }\right),$

Λ = (\begin{matrix} 1 & 1 \\ 1 & 1 \end{matrix}),

$\Lambda = \left(\array{1 & 1 \\ 1 & 1 }\right),$

X

$X$

Y

$Y$

— Yoki
แหล่งที่มา

2

Λ

$\Lambda$

c o v (X, Y) = E (X Y) - E (X) E (Y) = 2 E [X^{2}] = 2 (σ_{X}^{2} + [E (X)]^{2})

$cov(X,Y)= \mathbb{E}(XY)-\mathbb{E}(X)\mathbb{E}(Y)= 2\mathbb{E}[X^2]=2\left(\sigma_X^2+[E(X)]^2\right)$

E (X^{2}) = Var (X) + [E (X)]^{2}

$E(X^2)=\text{Var}(X)+[E(X)]^2$

d i a g Λ^{- 1 / 2} Λ d i a g Λ^{1 / 2}

$diag \Lambda^{-1/2}\,\Lambda\, diag \Lambda^{1/2}$

@ AntoniParellada ฉันไม่แน่ใจว่าคุณหมายถึงอะไร - ความแปรปรวนร่วมที่นี่เป็นการคำนวณโดยตรง แต่ฉันจะแก้ไขและทำให้ชัดเจนยิ่งขึ้น ขอบคุณ

— yoki