อัลกอริทึม PCA ที่เร็วที่สุดสำหรับข้อมูลมิติสูง

ฉันต้องการแสดง PCA บนชุดข้อมูลซึ่งประกอบด้วยตัวอย่างประมาณ 40,000 ตัวอย่างแต่ละตัวอย่างแสดงคุณสมบัติประมาณ 10,000 รายการ

การใช้ฟังก์ชั่น princomp Matlab ใช้เวลาอย่างต่อเนื่องมากกว่าครึ่งชั่วโมงซึ่งเป็นจุดที่ฉันฆ่ากระบวนการ ฉันต้องการค้นหาการนำไปใช้ / อัลกอริทึมที่ใช้เวลาน้อยกว่า 10 นาที อัลกอริทึมที่เร็วที่สุดคืออะไร ต้องใช้เวลานานเท่าไรกับ i7 dual core / 4GB Ram?

ก่อนอื่นคุณควรระบุว่าคุณต้องการส่วนประกอบทั้งหมดหรือส่วนประกอบที่สำคัญที่สุดหรือไม่?

$A \in \mathbb{R}^{N \times M}$$N$$M$

$C \in \mathbb{R}^{M\times M}$$O(NM^2)$$O(M^3)$$O(2M^2)$$\approx 1.5$$A$

$A$$A$

$C$

ฉันเดาว่าคุณต้องการเพียงคู่หรือคู่เอกฐาน (หรือไม่กี่ร้อย) ที่โดดเด่นมูลค่า จากนั้นจึงเป็นการดีที่สุดที่จะใช้วิธีการวนซ้ำซึ่งจะเร็วกว่ามากและใช้หน่วยความจำน้อยกว่ามาก

ใน Matlab ดู

ช่วย svds

คุณสามารถตรวจสอบคำตอบของฉันบนไม้กางเขนในการตรวจสอบ ฉันไม่ต้องการคัดลอกที่นี่ โดยทั่วไปคุณสามารถใช้ SVD ที่เร็วและสุ่มเพื่อคำนวณพื้นฐาน PCA และค่าสัมประสิทธิ์

คุณสามารถลองใช้อัลกอริธึม Fast PCA ซึ่งใช้วิธีการคำนวณซ้ำ ๆ กันสองสามไอจีอี เห็นA.Sharma และ KK paliwal, การวิเคราะห์องค์ประกอบหลักได้อย่างรวดเร็วโดยใช้การวิเคราะห์จุดคงที่, การจดจำรูปแบบตัวอักษร, 28, 1151-1155, 2007