ค่าผกผันของเมทริกซ์ความแปรปรวนร่วมพูดถึงข้อมูลอย่างไร (สัญชาตญาณ)

ฉันอยากรู้เกี่ยวกับธรรมชาติของ $\Sigma^{-1}$ 1ใครสามารถบอกอะไรบางอย่างที่ใช้งานง่ายเกี่ยวกับ "อะไร $\Sigma^{-1}$ พูดเกี่ยวกับข้อมูล?"

แก้ไข:

ขอบคุณสำหรับการตอบกลับ

หลังจากเรียนจบหลักสูตรที่ยอดเยี่ยมฉันต้องการเพิ่มคะแนน:

มันเป็นตัวชี้วัดของข้อมูลเช่น $x^T\Sigma^{-1}x$ คือปริมาณของข้อมูลตามทิศทางx $x$
ความเป็นคู่:เนื่องจาก $\Sigma$ เป็นค่าบวกแน่นอนดังนั้นจึงเป็น $\Sigma^{-1}$ ดังนั้นพวกมันจึงเป็นบรรทัดฐานของดอทโปรดัคยิ่งแม่นยำกว่าพวกเขาจึงเป็นสองมาตรฐานของกันและกันดังนั้นเราสามารถหาเฟนเนลคู่สำหรับปัญหากำลังสองน้อยที่สุด ปัญหา. เราสามารถเลือกอย่างใดอย่างหนึ่งของพวกเขาขึ้นอยู่กับเงื่อนไขของพวกเขา
พื้นที่ Hilbert:คอลัมน์ (และแถว) ของ $\Sigma^{-1}$ และ $\Sigma$ ขยายพื้นที่เดียวกัน ดังนั้นจึงไม่มีข้อได้เปรียบใด ๆ (อื่น ๆ ที่เมื่อหนึ่งในเมทริกซ์เหล่านี้ไม่มีเงื่อนไข) ระหว่างการแสดงด้วย $\Sigma^{-1}$ หรือ $\Sigma$
$\Sigma^{-1}$ $\|\Sigma^{-1}\|\rightarrow 0$
สถิติผู้ใช้บ่อย:มันเกี่ยวข้องอย่างใกล้ชิดกับข้อมูลฟิชเชอร์โดยใช้Cramér – Rao ในความเป็นจริงเมทริกซ์ข้อมูลการตกปลา (ผลิตภัณฑ์ชั้นนอกของการไล่ระดับสีของความน่าจะเป็นกับตัวมันเอง) คือCramér – Rao ผูกไว้นั่นคือ (wrt บวกกึ่งกรวยแน่นอน ellipsoids) ดังนั้นเมื่อตัวประมาณความเป็นไปได้สูงสุดนั้นมีประสิทธิภาพนั่นคือข้อมูลสูงสุดที่มีอยู่ในข้อมูล ในคำที่ง่ายขึ้นสำหรับฟังก์ชั่นความเป็นไปได้บางอย่าง (โปรดทราบว่ารูปแบบการทำงานของความน่าจะเป็นล้วนขึ้นอยู่กับแบบจำลอง probablistic ซึ่งสร้างข้อมูลที่รู้จักกันว่าแบบจำลองกำเนิด) aka ความน่าจะเป็นที่มีประสิทธิภาพสูงสุด (ขออภัยที่ทำให้มากเกินไป) $\Sigma^{-1}\preceq \mathcal{F}$ $\Sigma^{-1}=\mathcal{F}$

— อารี
แหล่งที่มา

ฉันคิดว่า PCA เลือกค่าลักษณะเฉพาะที่มีขนาดใหญ่มากกว่าค่าลักษณะเฉพาะขนาดเล็ก

— wdg

(3) ไม่ถูกต้องเพราะมันเท่ากับการยืนยันคอลัมน์ของเป็นของ (จนถึงการเปลี่ยนแปลง) ซึ่งเป็นความจริงสำหรับเมทริกซ์เอกลักษณ์เท่านั้น

Σ^{- 1}

$\Sigma^{-1}$

Σ

$\Sigma$

— whuber

คำตอบ:

มันเป็นการวัดความแม่นยำเช่นเดียวกับเป็นการวัดการกระจายตัว $\Sigma$

ยิ่งไปกว่านั้นคือการวัดว่าตัวแปรกระจายตัวอย่างไรรอบ ๆ ค่าเฉลี่ย (องค์ประกอบแนวทแยงมุม) และวิธีที่พวกมันร่วมแปรผันไปกับองค์ประกอบอื่น ๆ (องค์ประกอบนอกแนวทแยงมุม) ยิ่งการกระจายตัวยิ่งห่างจากค่าเฉลี่ยมากเท่าไรพวกเขาก็ยิ่งแปรปรวนร่วม (ในค่าสัมบูรณ์) กับตัวแปรอื่น ๆ ยิ่งแข็งแกร่งยิ่งมีแนวโน้มที่พวกเขาจะ 'เคลื่อนที่ไปด้วยกัน' (ในทิศทางเดียวกันหรือตรงกันข้ามขึ้นอยู่กับ สัญลักษณ์แห่งความแปรปรวนร่วม) $\Sigma$

ในทำนองเดียวกัน คือการวัดว่ากลุ่มตัวแปรแน่นอยู่รอบค่าเฉลี่ย (องค์ประกอบเส้นทแยงมุม) และขอบเขตที่พวกเขาไม่ได้ร่วมกับตัวแปรอื่น ๆ (องค์ประกอบนอกแนวทแยงมุม) ดังนั้นยิ่งองค์ประกอบของเส้นทแยงมุมสูงเท่าไรตัวแปรก็จะกระจุกตัวกันโดยรอบ การตีความองค์ประกอบนอกแนวทแยงนั้นลึกซึ้งยิ่งขึ้นและฉันแนะนำคุณให้ตอบคำตอบอื่น ๆ สำหรับการตีความนั้น $\Sigma^{-1}$

— เสา
แหล่งที่มา

ตัวอย่างที่แข็งแกร่งในคำสั่งสุดท้ายของคุณเกี่ยวกับองค์ประกอบนอกแนวขวางในสามารถทำได้โดยตัวอย่างที่ไม่ซับซ้อนในสองมิติ ที่มีขนาดใหญ่ค่าปิดเส้นทแยงมุมตรงตามลักษณะที่มากขึ้นค่ามากของค่าสัมประสิทธิ์สหสัมพันธ์ซึ่งอยู่ตรงข้ามกับสิ่งที่คุณจะปรากฏที่จะบอกว่า

Σ^{- 1}

$\Sigma^{-1}$

Σ^{- 1} = (\begin{array}{cc} \frac{1}{1 - ρ^{2}} & - \frac{ρ}{1 - ρ^{2}} \\ - \frac{ρ}{1 - ρ^{2}} & \frac{1}{1 - ρ^{2}} \end{array}) .

$\Sigma^{-1}=\left( \begin{array}{cc} \frac{1}{1-\rho ^2} & -\frac{\rho }{1-\rho ^2} \\ -\frac{\rho }{1-\rho ^2} & \frac{1}{1-\rho ^2} \\ \end{array} \right).$

ρ,

$\rho,$

— whuber

@whuber ถูกต้อง ฉันควรกำจัดคำว่า 'สมบูรณ์' ในประโยคสุดท้าย ขอบคุณ

— prop

ขอบคุณ แต่นั่นยังไม่สามารถแก้ปัญหาได้: ความสัมพันธ์ที่คุณยืนยันระหว่างองค์ประกอบนอกแนวทแยงของอินเวอร์สกับการแปรปรวนร่วมไม่มีอยู่

— whuber

@ เมื่อฉันคิดว่ามันทำ ในตัวอย่างของคุณองค์ประกอบนอกแนวทแยงมุมเป็นลบ ดังนั้นเมื่อเพิ่มองค์ประกอบนอกแนวทแยงจึงลดลง คุณสามารถตรวจสอบสิ่งนี้ได้โดยสังเกตสิ่งต่อไปนี้: ที่องค์ประกอบนอกแนวทแยงมุมคือ ; เมื่อเข้าใกล้องค์ประกอบแบบทแยงมุมเข้าหาและอนุพันธ์ขององค์ประกอบนอกแนวเส้นทแยงมุมเทียบกับเป็นค่าลบ

ρ

$\rho$

ρ = 0

$\rho = 0$

0

$0$

ρ

$\rho$

1

$1$

- \infty

$-\infty$

ρ

$\rho$

— prop

องค์ประกอบแบบทแยงมุมของฉันเป็นค่าบวกเมื่อ

ρ < 0.

$\rho\lt 0.$

— whuber

การใช้ตัวยกเพื่อแสดงองค์ประกอบของค่าผกผันคือความแปรปรวนขององค์ประกอบของตัวแปรที่ไม่เกี่ยวข้องกับตัวแปรอื่น ๆ ของและเป็นความสัมพันธ์บางส่วนของตัวแปรและ , การควบคุมสำหรับตัวแปรอื่น ๆ ของ $1/\sigma^{ii}$ $i$ $p-1$ $-\sigma^{ij}/\sqrt{\sigma^{ii}\sigma^{jj}}$ $i$ $j$ $p-2$

— Ray Koopman
แหล่งที่มา