การถดถอยแบบลอจิสติกและการสุ่มตัวอย่าง

ฉันเหมาะสมการถดถอยโลจิสติกแบบขั้นตอนในชุดของข้อมูลใน SPSS ในขั้นตอนนี้ฉันปรับโมเดลของฉันเป็นชุดย่อยแบบสุ่มที่มีค่าประมาณ 60% ของกลุ่มตัวอย่างทั้งหมดมีประมาณ 330 ราย

สิ่งที่ฉันคิดว่าน่าสนใจคือทุกครั้งที่ฉันสุ่มตัวอย่างข้อมูลของฉันอีกครั้งฉันจะได้รับตัวแปรที่แตกต่างกันออกมาในรูปแบบสุดท้าย มีผู้ทำนายไม่กี่คนที่ปรากฏตัวในรุ่นสุดท้ายเสมอ

คำถามของฉันคือสิ่งนี้ วิธีที่ดีที่สุดในการจัดการกับสิ่งนี้คืออะไร? ฉันหวังว่าจะเห็นการรวมกันของตัวแปรทำนาย แต่นั่นไม่ใช่กรณี บางรุ่นมีความรู้สึกที่เข้าใจง่ายกว่ามากจากมุมมองด้านปฏิบัติการ (และจะอธิบายได้ง่ายกว่ากับผู้มีอำนาจตัดสินใจ) และคนอื่น ๆ ก็พอดีกับข้อมูลที่ดีกว่าเล็กน้อย

ในระยะสั้นเนื่องจากมีการสับเปลี่ยนตัวแปรคุณจะแนะนำให้จัดการกับสถานการณ์ของฉันได้อย่างไร

ขอบคุณมากล่วงหน้า

หากคุณกำลังจะใช้ขั้นตอนแบบขั้นตอนอย่าลองใหม่ สร้างหนึ่งตัวอย่างย่อยแบบสุ่มหนึ่งครั้งและทั้งหมด ทำการวิเคราะห์ของคุณกับมัน ตรวจสอบผลลัพธ์กับข้อมูลที่ถูกระงับ เป็นไปได้ว่าตัวแปร "สำคัญ" ส่วนใหญ่จะกลายเป็นไม่สำคัญ

( แก้ไข 12/2015:คุณสามารถไปไกลกว่าวิธีง่าย ๆ เช่นโดยการ resampling ทำซ้ำขั้นตอนตามขั้นตอนและตรวจสอบซ้ำอีกครั้ง: สิ่งนี้จะนำคุณไปสู่รูปแบบของการตรวจสอบความถูกต้องไขว้กัน แต่ในกรณีเช่นนี้ การเลือกเช่นการถดถอยของสัน, Lasso และ Elastic Net น่าจะดีกว่าการถดถอยแบบขั้นตอน)

มุ่งเน้นไปที่ตัวแปรที่สมเหตุสมผลไม่ใช่ตัวที่เหมาะสมกับข้อมูลดีกว่าเล็กน้อย หากคุณมีตัวแปรจำนวนไม่น้อยกว่า 330 รายการคุณมีความเสี่ยงสูงที่จะได้รับข้อมูลมากเกินไปตั้งแต่แรก พิจารณาใช้เกณฑ์การเข้าและออกอย่างรุนแรงสำหรับการถดถอยแบบขั้นตอน ยึดตาม AIC หรือแทนเกณฑ์สำหรับการทดสอบหรือการทดสอบ$C_p$$F$$t$

(ฉันคิดว่าคุณได้ทำการวิเคราะห์และสำรวจแล้วเพื่อระบุการแสดงออกที่เหมาะสมของตัวแปรอิสระว่าคุณได้ระบุปฏิสัมพันธ์ที่น่าจะเป็นไปได้และคุณได้พิสูจน์แล้วว่ามีความสัมพันธ์เชิงเส้นโดยประมาณระหว่าง logit ของตัวแปรตาม และ regressors ถ้าไม่ให้ทำขั้นตอนเบื้องต้นที่จำเป็นและจากนั้นกลับไปที่การถดถอยแบบขั้นตอน)

ระมัดระวังเกี่ยวกับการปฏิบัติตามคำแนะนำทั่วไปเช่นเดียวกับที่ฉันให้ไว้โดย :-) แนวทางของคุณควรขึ้นอยู่กับวัตถุประสงค์ของการวิเคราะห์ (การคาดการณ์การคาดการณ์ความเข้าใจทางวิทยาศาสตร์การตัดสินใจรวมถึงลักษณะของข้อมูลจำนวนตัวแปร ฯลฯ

คำถามที่สำคัญคือ "ทำไมคุณถึงต้องการโมเดลที่มีตัวแปรน้อยที่สุดเท่าที่จะเป็นไปได้" หากคุณต้องการให้มีตัวแปรน้อยที่สุดเท่าที่จะเป็นไปได้เพื่อลดต้นทุนในการรวบรวมข้อมูลสำหรับการใช้งานแบบจำลองของคุณคำตอบที่ได้รับจาก whuber และ mbq คือการเริ่มต้นที่ยอดเยี่ยม

หากประสิทธิภาพการทำนายเป็นสิ่งที่สำคัญจริง ๆ แล้วคุณน่าจะดีกว่าถ้าไม่เลือกคุณลักษณะใด ๆ เลยและใช้การถดถอยโลจิสติกเป็นประจำแทน (cf ridge regression) ในความเป็นจริงหากประสิทธิภาพการคาดการณ์เป็นสิ่งที่มีความสำคัญอันดับแรกฉันจะใช้การถดถอยโลจิสติกเป็นประจำที่จัดเป็นกลยุทธ์ "สายพานและเหล็กดัด" เพื่อหลีกเลี่ยงชุดข้อมูลขนาดเล็ก มิลลาร์ในหนังสือของเขาเกี่ยวกับการเลือกชุดย่อยในการถดถอยให้คำแนะนำในภาคผนวกและฉันพบว่ามันเป็นคำแนะนำที่ดีเยี่ยมสำหรับปัญหาเกี่ยวกับคุณสมบัติมากมายและไม่ได้สังเกตมากนัก

หากการทำความเข้าใจข้อมูลนั้นมีความสำคัญแล้วก็ไม่จำเป็นต้องใช้แบบจำลองเพื่อทำความเข้าใจข้อมูลที่จะเป็นแบบเดียวกับที่ใช้ในการทำนาย ในกรณีนั้นฉันจะสุ่มข้อมูลซ้ำหลายครั้งและดูรูปแบบของตัวแปรที่เลือกในตัวอย่างเพื่อค้นหาว่าตัวแปรใดเป็นข้อมูล (ตามที่ mbq แนะนำหากการเลือกคุณลักษณะไม่เสถียรตัวอย่างเดียวจะไม่ให้ภาพเต็ม) แต่ฉันจะยังคงใช้ชุดการถดถอยโลจิสติกส์โลจิสติกส์แบบปกติในการทำนาย

โดยทั่วไปการเลือกคุณลักษณะมีสองปัญหา:

• น้อยที่สุดที่ดีที่สุดที่คุณค้นหาชุดของตัวแปรที่เล็กที่สุดที่ทำให้คุณมีข้อผิดพลาดน้อยที่สุด
• ทั้งหมดที่เกี่ยวข้องซึ่งคุณค้นหาตัวแปรทั้งหมดที่เกี่ยวข้องในปัญหา

การบรรจบกันของการเลือกผู้ทำนายอยู่ในโดเมนของปัญหาที่เกี่ยวข้องทั้งหมดซึ่งเป็นเรื่องยากและต้องใช้เครื่องมือที่มีประสิทธิภาพมากกว่าการถดถอยโลจิสติกการคำนวณอย่างหนักและการรักษาอย่างระมัดระวัง

แต่ดูเหมือนว่าคุณกำลังทำปัญหาแรกดังนั้นคุณไม่ควรกังวลเกี่ยวกับเรื่องนี้ โดยทั่วไปฉันสามารถคำตอบของ whuber ที่สอง แต่ฉันไม่เห็นด้วยกับการเรียกร้องที่คุณควรปล่อย resampling - ที่นี่มันจะไม่เป็นวิธีที่จะทำให้การเลือกคุณลักษณะมีเสถียรภาพ ดังนั้นจะให้ข้อมูลเชิงลึกเกี่ยวกับความมั่นใจในความถูกต้องของคุณ

คุณอาจเหลียวมองดูกระดาษStability Selectionโดย Meinshausen และ Buhlmann ใน JR Statist Soc B (2010) 72 ส่วนที่ 4 และการสนทนาหลังจากนั้น พวกเขาพิจารณาว่าจะเกิดอะไรขึ้นเมื่อคุณแบ่งชุดของจุดข้อมูลแบบสุ่มเป็นสองส่วนและค้นหาคุณลักษณะในแต่ละครึ่ง โดยสมมติว่าสิ่งที่คุณเห็นในครึ่งหนึ่งนั้นเป็นอิสระจากสิ่งที่คุณเห็นในการจับคู่อีกครึ่งหนึ่งคุณสามารถพิสูจน์ขอบเขตของจำนวนตัวแปรที่เลือกอย่างผิด ๆ

อย่าใช้ขั้นตอน! ดูกระดาษของฉัน