PCA, LDA, CCA และ PLS

PCA, LDA, CCA และ PLS เกี่ยวข้องกันอย่างไร พวกเขาดูเหมือน "เชิงสเปกตรัม" และเชิงพีชคณิตเชิงเส้นและเข้าใจเป็นอย่างดี (พูดมากกว่า 50 ปีของทฤษฎีที่สร้างขึ้นรอบ ๆ พวกเขา) พวกเขาจะใช้สำหรับสิ่งที่แตกต่างกันมาก (PCA สำหรับการลดขนาด, LDA สำหรับการจัดหมวดหมู่, PLS สำหรับการถดถอย) แต่พวกเขาก็ยังรู้สึกเกี่ยวข้องอย่างใกล้ชิด

Tijl De Bie เขียนบทที่น่าสนใจ " Eigenproblems ในการจดจำรูปแบบ " ซึ่งพูดถึงสิ่งเหล่านี้จากมุมมองดั้งเดิม / คู่ สามตารางท้ายที่สุดสรุปอย่างแท้จริงจากมุมมองการเพิ่มประสิทธิภาพ: