การทดสอบการเปลี่ยนแปลงแบบสุ่มสำหรับการเลือกคุณสมบัติ

ฉันสับสนเกี่ยวกับการวิเคราะห์การเปลี่ยนแปลงสำหรับการเลือกคุณสมบัติในบริบทการถดถอยโลจิสติก
คุณสามารถให้คำอธิบายที่ชัดเจนเกี่ยวกับการทดสอบการเปลี่ยนรูปแบบสุ่มและนำไปใช้กับการเลือกคุณสมบัติได้อย่างไร อาจเป็นไปได้ด้วยอัลกอริทึมและตัวอย่างที่แน่นอน

ในที่สุดมันเปรียบเทียบกับวิธีการหดตัวแบบอื่นเช่น Lasso หรือ LAR อย่างไร

(ไม่มีเวลามากตอนนี้ดังนั้นฉันจะตอบสั้น ๆ แล้วขยายในภายหลัง)

สมมติว่าเรากำลังพิจารณาปัญหาการจำแนกเลขฐานสองและมีชุดฝึกตัวอย่างคลาส 1 และตัวอย่าง class 2 การทดสอบการเปลี่ยนรูปสำหรับการเลือกคุณลักษณะจะดูที่แต่ละคุณลักษณะ สถิติการทดสอบเช่นการได้รับข้อมูลหรือความแตกต่างที่เป็นมาตรฐานระหว่างค่าเฉลี่ยนั้นถูกคำนวณสำหรับคุณลักษณะ ข้อมูลสำหรับคุณสมบัติจะถูกสุ่มและแบ่งเป็นสองชุดหนึ่งขนาดและขนาดหนึ่ง การทดสอบสถิติคำนวณแล้วขึ้นอยู่กับพาร์ทิชันใหม่นี้$m$$n$$\theta$$m$$n$$\theta_p$$p$. ทั้งนี้ขึ้นอยู่กับความซับซ้อนของการคำนวณของปัญหาจากนั้นทำซ้ำในพาร์ติชันที่เป็นไปได้ทั้งหมดของคุณสมบัติออกเป็นสองชุดของคำสั่งและหรือเซตย่อยของสิ่งเหล่านี้$m$$n$

ตอนนี้เราได้สร้างการแจกแจงแบบแล้วเราคำนวณค่า p-value ที่สถิติการทดสอบที่สังเกตเห็นเกิดขึ้นจากพาร์ติชันแบบสุ่มของคุณสมบัติ สมมติฐานว่างคือตัวอย่างจากแต่ละชั้นเรียนมาจากการแจกแจงพื้นฐานเดียวกัน (คุณลักษณะไม่เกี่ยวข้อง)$\theta_p$$\theta$

กระบวนการนี้เกิดขึ้นซ้ำกับคุณสมบัติทั้งหมดและจากนั้นสามารถเลือกชุดย่อยของคุณสมบัติที่ใช้สำหรับการจำแนกประเภทได้สองวิธี:

• ให้บริการกับต่ำสุด P-ค่า$N$
• คุณลักษณะทั้งหมดที่มีค่า p$<\epsilon$