ทำความเข้าใจกับการบูตสแตรปสำหรับการตรวจสอบความถูกต้องและการเลือกรุ่น

ฉันคิดว่าฉันเข้าใจว่าพื้นฐานของการบูตสแตรปทำงานอย่างไร แต่ฉันไม่แน่ใจว่าฉันเข้าใจว่าฉันสามารถใช้การบูตสแตรปเพื่อการเลือกรูปแบบหรือเพื่อหลีกเลี่ยงการ overfitting ได้อย่างไร

ตัวอย่างเช่นสำหรับการเลือกแบบจำลองคุณจะเลือกแบบจำลองที่ให้ข้อผิดพลาดต่ำสุด (อาจแปรปรวนหรือไม่) ในตัวอย่างบูตสแตรป

มีข้อความใดบ้างที่กล่าวถึงวิธีใช้การบูตสแตรปปิ้งสำหรับการเลือกรุ่นหรือการตรวจสอบความถูกต้อง?

แก้ไข:ดูกระทู้นี้และคำตอบโดย @ mark999 สำหรับบริบทเพิ่มเติมหลังคำถามนี้

ก่อนอื่นคุณต้องตัดสินใจว่าคุณจำเป็นต้องเลือกแบบจำลองจริง ๆ หรือคุณแค่ต้องสร้างแบบจำลอง ในสถานการณ์ส่วนใหญ่ขึ้นอยู่กับความต้องการมิติจำเป็นต้องมีโมเดลที่มีความยืดหยุ่นที่เหมาะสม

bootstrap เป็นวิธีที่ดีในการประเมินประสิทธิภาพของแบบจำลอง สิ่งที่ง่ายที่สุดในการประมาณความแปรปรวน มากกว่าจุดเริ่มต้นของคุณ bootstrap สามารถประเมินประสิทธิภาพในอนาคตของกระบวนการสร้างแบบจำลองที่กำหนดในข้อมูลใหม่ที่ยังไม่ได้รับรู้

หากใช้ resampling (bootstrap หรือ cross-validation) เพื่อเลือกพารามิเตอร์การปรับแต่งโมเดลและเพื่อประเมินโมเดลคุณจะต้องใช้ bootstrap หรือ double-validation ซ้อนกัน

โดยทั่วไป bootstrap ต้องการรุ่นที่พอดีน้อยกว่า (มักจะประมาณ 300) กว่าการตรวจสอบความถูกต้องข้าม (การตรวจสอบความถูกต้องแบบ 10 เท่าจะต้องทำซ้ำ 50-100 ครั้งเพื่อความเสถียร)

การศึกษาแบบจำลองบางอย่างอาจพบได้ที่http://biostat.mc.vanderbilt.edu/rms

พิจารณาใช้บูตสำหรับรุ่นเฉลี่ย

กระดาษด้านล่างนี้สามารถช่วยได้เมื่อเปรียบเทียบวิธีการเฉลี่ยแบบจำลองบูตสแตรปกับ (โดยทั่วไปใช้มากขึ้นหรือไม่?) การสร้างแบบจำลองแบบเบย์เฉลี่ยและวางสูตรการแสดงค่าเฉลี่ยของแบบจำลอง

แบบจำลองการบูตโดยเฉลี่ยในการศึกษาอนุกรมเวลาของมลพิษทางอากาศของอนุภาคและการเสียชีวิต