PCA มีความโดดเด่นหรือไม่?

12

เมื่อฉันเรียกใช้ PCA ในชุดข้อมูลบางอย่างฉันจะได้รับโซลูชันที่ไม่ซ้ำกันหรือไม่

นั่นคือฉันได้รับชุดพิกัด 2d ตามระยะทางระหว่างจุด เป็นไปได้หรือไม่ที่จะหาจุดจัดเรียงอย่างน้อยหนึ่งจุดที่จะตรงตามข้อ จำกัด เหล่านี้?

หากคำตอบคือใช่ฉันจะหาวิธีแก้ปัญหาที่แตกต่างได้อย่างไร

pca

— raygozag
แหล่งที่มา

11

คำตอบสำหรับคำถามที่ไม่เหมือนใครคือทั้งใช่และไม่ใช่ มันคือ "ใช่" ในแง่ที่ว่าค่า eigenspaces และ eigenvalues นั้นถูกต้องตามหลักคณิตศาสตร์และไม่ซ้ำกัน มันเป็น "ไม่" ในความรู้สึกว่า (ก) มีหลายวิธีที่จะเป็นตัวแทนของ eigenspaces เหล่านั้น (แม้จะเป็นวิคเตอร์ปกติสามารถเมื่อตะกี้และมีทางเลือกหลายพื้นฐานสำหรับ eigenspaces เลว) และ (ข) ที่แตกต่างกันขั้นตอนวิธีการอาจให้ผลลัพธ์ที่แตกต่าง เนื่องจากการสะสมของข้อผิดพลาดจุดลอยในการคำนวณ

— whuber

Ramsay และ Silverman ในหนังสือ "การวิเคราะห์ข้อมูล Functinal" กล่าวถึงการหมุน VARIMAX ท่านพูดถึงการแบ่งชุดข้อมูลของฟังก์ชั่น (แสดงเป็นเมทริกซ์) เป็นองค์ประกอบหลัก

— พลังงาน

ดูเหมือนว่าคุณต้องการใช้ PCA เป็นเครื่องมือสำหรับการลดขนาด คุณอาจเริ่มต้นด้วยการดูการลดขนาด ...

— Elvis

7

ไม่คำตอบไม่ซ้ำกัน มีหลายวิธีในการแสดงสิ่งนี้ หนึ่งเป็นไปได้คือการแจ้งให้ทราบว่าการสลายตัวสเปกตรัมของตารางโดยเมทริกซ์เป็นวิธีการแก้เพื่อประโยชน์สูงสุดของฟังก์ชันนูนWพิจารณา eigen-vector / value แรก: $p$ $p$ $X$ $w$

λ_{1} = max_{w \in R^{p} : | | w | | = 1} w^{'} X w

$\lambda_1=\underset{w\in\mathbb{R}^{p}:||w||=1}{\max} w'Xw$

(โดยที่เป็นค่า eigen แรกและ eigen-vector แรก) $\lambda_1$ $w^*$

วิธีการแก้ปัญหาดังกล่าว (เช่นค่าของบรรลุสูงสุดที่) โดยทั่วไปไม่ซ้ำกัน $w$

อย่างไรก็ตามอัลกอริทึมสำหรับการคำนวณโซลูชันเหล่านี้เป็นแบบกำหนดขึ้นมาซึ่งหมายความว่าประหยัดสำหรับกรณีมุมตัวเลขการแก้ปัญหาที่คุณได้รับควรเหมือนกัน

ตัวอย่างของกรณีมุมที่เป็นตัวเลข: กรณีที่ค่า eigen หลายค่า (ตัวเลข) เหมือนกันกรณีที่มีอันดับไม่เพียงพอ ... $X$

— user603
แหล่งที่มา

7

สิ่งที่ยังไม่ได้สังเกตก็คือการย้อนกลับสัญญาณของพีซีสร้างโซลูชันที่แตกต่าง นั่นคือถ้าเป็นองค์ประกอบหลักที่ดังนั้นก็เป็นโซลูชันสำหรับองค์ประกอบหลักที่ด้วย สิ่งนี้ทำให้เกิดความสับสนมาก่อนโดยเฉพาะอย่างยิ่งเมื่อคอมพิวเตอร์ของคุณเอาท์พุทพีซีสำรอง ดูคำถามนี้ $\mathbf{w}$ $n$ $-\mathbf{w}$ $n$

— Cam.Davidson.Pilon
แหล่งที่มา

3

สำหรับการใช้งานจริงที่น่าสนใจของความคลุมเครือนี้โปรดดูstats.stackexchange.com/questions/34396 (BTW การกลับเข้าสู่ระบบได้รับการสังเกตดูความคิดเห็นแรกกับคำถามนี้.)

— whuber