การเลือกจำนวนขององค์ประกอบหลักที่กระจัดกระจายเพื่อรวมไว้ในการถดถอย

ไม่มีใครมีประสบการณ์กับวิธีการเลือกจำนวนขององค์ประกอบหลักที่กระจัดกระจายเพื่อรวมไว้ในแบบจำลองการถดถอยหรือไม่?

ในขณะที่ฉันไม่มีความเข้าใจอย่างถ่องแท้เกี่ยวกับคำถามของคุณ แต่ฉันพบบทความวิจัยบางเรื่องซึ่งอาจเป็นที่สนใจของคุณ นั่นคือแน่นอนถ้าผมเข้าใจอย่างถูกต้องว่าคุณกำลังพูดคุยเกี่ยวกับPCA เบาบาง , ถดถอยองค์ประกอบหลักและหัวข้อที่เกี่ยวข้อง ในกรณีนี้นี่คือเอกสาร:

• PCA แบบกระจายสำหรับข้อมูลมิติสูงที่มีค่าผิดปกติ
• การวิเคราะห์องค์ประกอบหลักที่กระจัดกระจายที่แข็งแกร่ง
• การถดถอยองค์ประกอบหลักที่กระจัดกระจายที่มีประสิทธิภาพภายใต้โมเดลรูปไข่เชิงมิติสูง
• การวิเคราะห์องค์ประกอบหลักที่กระจัดกระจายแบบโครงสร้าง
• การวิเคราะห์องค์ประกอบหลักที่แข็งแกร่ง

ผลการตรวจสอบความถูกต้องไขว้ถูกใช้เพื่อกำหนดจำนวนมิติที่เหมาะสมที่สุดสำหรับพื้นที่ LSI มิติน้อยเกินไปไม่ได้ใช้ประโยชน์จากพลังการทำนายของข้อมูล ในขณะที่มีหลายมิติมากเกินไป รูปที่ 4 แสดงการกระจายของข้อผิดพลาดเฉลี่ยสำหรับรุ่นที่มีขนาด LSI แตกต่างกัน โมเดลที่มีช่องว่าง LSI สี่มิติให้ทั้งจำนวนข้อผิดพลาดเฉลี่ยน้อยที่สุดและจำนวนข้อผิดพลาดเฉลี่ยน้อยที่สุดดังนั้นโมเดลสุดท้ายจึงถูกสร้างโดยใช้พื้นที่ LSI สี่มิติ

http://ieeexplore.ieee.org/xpl/login.jsp?tp=&arnumber=5876870&url=http%3A%2F%2Fieeexplore.ieee.org%2Fxpls%2Fabs_all.jsp%3Farnumber%3D5876870

ฉันสามารถโพสต์สำเนาได้หากคุณไม่ได้เป็นสมาชิกของ ieee

นี่คือจากกระดาษที่ฉันเขียนในระดับปริญญาตรี ฉันมีปัญหาที่ฉันต้องตัดสินใจว่าจะใช้มิติข้อมูลจำนวนเท่าใด (Latent Semantic Indexing คล้ายกับ PCA) เพื่อใช้ในโมเดลการถดถอยโลจิสติกของฉัน สิ่งที่ฉันทำคือเลือกตัวชี้วัด (เช่นอัตราความผิดพลาดเมื่อใช้ความน่าจะเป็นที่ตั้งค่าสถานะเป็น. 5) และดูการกระจายตัวของอัตราความผิดพลาดนี้สำหรับรุ่นต่างๆที่ผ่านการฝึกอบรมในมิติที่แตกต่างกัน ฉันเลือกรุ่นที่มีอัตราความผิดพลาดต่ำที่สุด คุณสามารถใช้เมตริกอื่น ๆ เช่นพื้นที่ใต้เส้นโค้ง ROC

คุณสามารถใช้บางอย่างเช่นการถดถอยแบบขั้นตอนเพื่อเลือกจำนวนมิติสำหรับคุณ การถดถอยแบบไหนที่คุณ preforming โดยเฉพาะ?

คุณหมายถึงอะไรโดย sparse btw?