อะไรคือสิ่งที่เรียกว่า "องค์ประกอบหลัก" ใน PCA

สมมติว่าเป็นเวกเตอร์ที่เพิ่มความแปรปรวนของการประมาณการของข้อมูลที่มีการออกแบบเมทริกซ์X$u$$X$

ตอนนี้ฉันได้เห็นวัสดุที่อ้างถึงว่าเป็นองค์ประกอบหลัก (แรก) ของข้อมูลซึ่งเป็นไอเก็นเวกเตอร์ที่มีค่าลักษณะเฉพาะที่ใหญ่ที่สุด$u$

แต่ผมยังได้เห็นว่าองค์ประกอบหลักของข้อมูลที่เป็นยู$X u$

เห็นได้ชัดว่ากับเป็นคนละเรื่องกัน ใครสามารถช่วยฉันออกจากที่นี่และบอกฉันว่าอะไรคือความแตกต่างระหว่างคำจำกัดความสององค์ประกอบหลักX $u$$Xu$

คุณถูกต้องอย่างยิ่งในการสังเกตว่าแม้ว่า (หนึ่งใน eigenvectors ของเมทริกซ์ความแปรปรวนร่วมเช่นอันแรก) และ (การคาดการณ์ข้อมูลลงบนมิติ 1 มิติ subspace ที่ครอบคลุมโดย ) เป็นสองสิ่งที่แตกต่างกันซึ่งทั้งคู่มักจะถูกเรียกว่า "ส่วนประกอบหลัก" บางครั้งแม้แต่ในข้อความเดียวกัน$\mathbf{u}$$\mathbf{X}\mathbf{u}$$\mathbf{u}$

ในกรณีส่วนใหญ่เป็นที่ชัดเจนจากบริบทสิ่งที่ตั้งใจ ในบางกรณี แต่มันสามารถจริงจะค่อนข้างสับสนเช่นเมื่อบางเทคนิคที่เกี่ยวข้อง (เช่น PCA เบาบางหรือ CCA) จะกล่าวถึงที่ทิศทางที่แตกต่างไม่จำเป็นต้องเป็นมุมฉาก ในกรณีนี้คำแถลงเช่น "component is orthogonal" มีความหมายแตกต่างกันมากขึ้นอยู่กับว่ามันหมายถึงแกนหรือเส้นโครง$\mathbf{u}_i$

ฉันจะสนับสนุนการเรียก "แกนหลัก" หรือ "ทิศทางหลัก" และ a "องค์ประกอบหลัก"$\mathbf{u}$$\mathbf{X}\mathbf{u}$

ฉันเคยเห็นเรียกว่า "เวกเตอร์องค์ประกอบหลัก"$\mathbf u$

ฉันควรพูดถึงว่าอนุสัญญาทางเลือกคือการเรียก "องค์ประกอบหลัก" และ "คะแนนองค์ประกอบหลัก"$\mathbf u$$\mathbf{Xu}$

บทสรุปของอนุสัญญาทั้งสอง:

$$\begin{array}{c|c|c} & \text{Convention 1} & \text{Convention 2} \\ \hline \mathbf u & \begin{cases}\text{principal axis}\\ \text{principal direction}\\ \text{principal component vector}\end{cases} & \text{principal component} \\ \mathbf{Xu} & \text{principal component} & \text{principal component scores} \end{array}$$

---

หมายเหตุ:เฉพาะไอคิวเวกเตอร์ของเมทริกซ์ความแปรปรวนร่วมที่สอดคล้องกับค่าลักษณะเฉพาะที่ไม่เป็นศูนย์เท่านั้นที่สามารถเรียกได้ว่าทิศทาง / ส่วนประกอบหลัก ถ้าเมทริกซ์ความแปรปรวนร่วมอยู่ในระดับต่ำมันจะมีค่าลักษณะเฉพาะอย่างน้อยหนึ่งศูนย์ eigenvectors ที่สอดคล้องกัน (และการคาดการณ์ที่สอดคล้องกันซึ่งเป็นศูนย์คงที่) ไม่ควรเรียกว่าทิศทาง / ส่วนประกอบหลัก ดูการสนทนาในคำตอบของฉันที่นี่