เมทริกซ์ความแปรปรวนร่วมผกผันกับเมทริกซ์ความแปรปรวนร่วมใน PCA

ใน PCA มันสร้างความแตกต่างหรือไม่ถ้าเราเลือกส่วนประกอบหลักของเมทริกซ์ความแปรปรวนร่วมผกผันหรือถ้าเราปล่อยค่าลักษณะเฉพาะความแปรปรวนร่วมของเมทริกซ์ความแปรปรวนร่วมที่สอดคล้องกับค่าลักษณะเฉพาะขนาดใหญ่

สิ่งนี้เกี่ยวข้องกับการสนทนาในโพสต์นี้

สังเกตว่าสำหรับบวกแน่นอนแปรปรวนเมทริกซ์$\mathbf \Sigma = \mathbf{UDU}'$ความแม่นยำเป็น$\boldsymbol \Sigma^{-1} = \mathbf {U D}^{-1} \mathbf U'$U'

ดังนั้นค่าลักษณะเฉพาะที่เหมือนกัน แต่ค่าลักษณะเฉพาะของความแม่นยำคือค่าส่วนกลับของค่าลักษณะเฉพาะของความแปรปรวนร่วม นั่นหมายความว่าค่าลักษณะเฉพาะที่ใหญ่ที่สุดของความแปรปรวนร่วมจะเป็นค่าลักษณะเฉพาะที่เล็กที่สุดของความแม่นยำ เมื่อคุณมีค่าผกผันความชัดเจนเชิงบวกรับประกันว่าค่าลักษณะเฉพาะทั้งหมดมีค่ามากกว่าศูนย์

ดังนั้นถ้าคุณเก็บ eigenvectors ที่เกี่ยวข้องกับค่าลักษณะเฉพาะที่เล็กที่สุดของความแม่นยำตรงนี้เพื่อ PCA สามัญ เนื่องจากเราได้ทำการแลกเปลี่ยน ( ) ไปแล้วจึงควรใช้เฉพาะรากที่สองของค่าลักษณะเฉพาะที่แม่นยำเพื่อให้การฟอกสีฟันของข้อมูลที่แปลงเสร็จสมบูรณ์$k$$\bf D^{-1}$

นอกจากนี้เมทริกซ์ความแปรปรวนร่วมผกผันเป็นสัดส่วนกับความสัมพันธ์บางส่วนระหว่างเวกเตอร์:

Corr(Xi, Xj | (Xothers )

ความสัมพันธ์ระหว่าง Xi และ Xj เมื่อคนอื่น ๆ ได้รับการแก้ไขมันมีประโยชน์มากสำหรับอนุกรมเวลา