ความขัดแย้งในการเลือกรูปแบบ (AIC, BIC, เพื่ออธิบายหรือทำนาย)

หลังจากอ่าน Galit Shmueli "เพื่ออธิบายหรือทำนาย" (2010) ฉันรู้สึกสับสนกับความขัดแย้งที่เห็นได้ชัด มีสามสถานที่

1. AIC- เมื่อเทียบกับ BIC ตามทางเลือกรูปแบบ (ในตอนท้ายของหน้า 300 - จุดเริ่มต้นของ P 301..) ใส่เพียง AIC ควรจะใช้สำหรับการเลือกรูปแบบที่มีไว้สำหรับการคาดการณ์ในขณะที่ BIC ควรจะใช้สำหรับการเลือกรูปแบบการหาคำอธิบาย นอกจากนี้ (ไม่ใช่ในกระดาษด้านบน) เรารู้ว่าภายใต้เงื่อนไขบางอย่าง BIC เลือกรูปแบบที่แท้จริงในชุดของแบบจำลองที่มีตัวเลือก; รูปแบบที่แท้จริงคือสิ่งที่เราแสวงหาในการสร้างแบบจำลองที่อธิบาย (ตอนท้ายของหน้า 293)
2. Simple arithmetics: AIC จะเลือกแบบจำลองที่มีขนาดใหญ่กว่า BIC สำหรับตัวอย่างที่มีขนาด 8 หรือใหญ่กว่า (ที่น่าพอใจ$\text{ln}(n)>2$เนื่องจากการปรับความซับซ้อนแตกต่างกันใน AIC กับ BIC)
3. "true"รูปแบบ (เช่นรุ่นที่มี regressors ที่ถูกต้องและรูปแบบการทำงานที่ถูกต้อง แต่ค่าสัมประสิทธิ์ประมาณไม่สมบูรณ์) อาจจะไม่เป็นแบบที่ดีที่สุดในการทำนาย (หน้า 307.) รูปแบบการถดถอยที่มีการทำนายที่หายไปอาจจะเป็นรูปแบบการคาดการณ์ที่ดีกว่า - การแนะนำของอคติเนื่องจากการคาดการณ์ที่ขาดหายไปอาจมีน้ำหนักเกินโดยการลดลงของความแปรปรวนเนื่องจากความไม่แน่นอนของการประมาณ

คะแนน 1 และ 2 แนะนำว่าแบบจำลองขนาดใหญ่อาจจะดีกว่าสำหรับการทำนายแบบจำลองแบบจำลอง ในขณะเดียวกันประเด็นที่ 3 ให้ตัวอย่างที่ตรงกันข้ามซึ่งแบบจำลองที่ดีกว่าสำหรับการคาดการณ์ดีกว่าแบบจำลองขนาดใหญ่ ฉันพบว่ามันทำให้งง

คำถาม:

1. ความแตกต่างที่ชัดเจนระหว่างคะแนน {1 ได้อย่างไร และ 2. } และ 3 ถูกอธิบาย / แก้ไข?
2. ในแง่ของจุดที่ 3 คุณสามารถให้คำอธิบายที่เข้าใจง่ายสำหรับสาเหตุและรูปแบบที่เลือกโดย AIC ที่ดีกว่าสำหรับการคาดการณ์ได้ดีกว่าแบบจำลองที่มีการเลือกโดย BIC หรือไม่

ไม่ควรนำมาใช้ในบริบทเดียวกัน คะแนน 1 และ 2 มีบริบทแตกต่างกัน สำหรับทั้ง AIC และ BIC ก่อนอื่นให้สำรวจว่าการรวมกันของพารามิเตอร์ที่จำนวนใดให้ดัชนีที่ดีที่สุด (ผู้เขียนบางคนมีโรคลมชักพอดีเมื่อฉันใช้ดัชนีคำในบริบทนี้. เพิกเฉยพวกเขาหรือค้นหาดัชนีในพจนานุกรม) ในจุดที่ 2 AIC คือโมเดลที่สมบูรณ์ยิ่งขึ้นโดยที่ Richer หมายถึงการเลือกรุ่นที่มีพารามิเตอร์มากขึ้นบางครั้งเท่านั้นเพราะรูปแบบ AIC ที่เหมาะสมที่สุดบ่อยครั้งคือ BIC การเลือก นั่นคือถ้า AIC และ BIC เลือกรุ่นที่มีจำนวนพารามิเตอร์เหมือนกันการอ้างสิทธิ์คือ AIC จะดีกว่าสำหรับการทำนายกว่า BIC อย่างไรก็ตามสิ่งที่ตรงกันข้ามอาจเกิดขึ้นได้หาก BIC สูงสุดด้วยรูปแบบพารามิเตอร์ที่เลือกน้อยลง (แต่ไม่รับประกัน) Sober (2002) ได้ข้อสรุปว่า AIC ทำการวัดความแม่นยำในการทำนายในขณะที่ BIC ทำการวัดความดีของความพอดี เมื่ออยู่ข้างนอก บ่อยครั้งที่ AIC ที่ดีที่สุดที่น้อยกว่าที่มีพารามิเตอร์การคาดการณ์ที่อ่อนแอลดลงจะทำนายค่าการคาดการณ์ได้ดีกว่าดัชนี AIC ที่ดีที่สุดจากพารามิเตอร์เพิ่มเติมในรูปแบบที่เลือก ฉันทราบว่าในการผ่าน AIC และ ML ไม่ได้ยกเลิกความจำเป็นในการทดสอบข้อผิดพลาดการคาดการณ์ซึ่งเป็นการทดสอบแยกต่างหากสำหรับแบบจำลอง สิ่งนี้สามารถทำได้โดยการหักล้างค่าสุดขีดจากชุด "การฝึกอบรม" และคำนวณข้อผิดพลาดระหว่างแบบจำลอง "หลังการฝึกอบรม" และข้อมูลที่ถูกระงับ

$f(x)-y$ของเหลือ (คิดว่ามีของเหลือตกค้างที่เป็นลบมากกว่าด้านหนึ่งและอีกด้านที่เหลืออีกบวก) ซึ่งจะช่วยลดข้อผิดพลาดทั้งหมด ดังนั้นในกรณีนี้เราจะถามหาค่า y ที่ดีที่สุดที่ได้รับค่า x และสำหรับ AIC เราจะขอความสัมพันธ์การทำงานที่ดีที่สุดระหว่าง x และ y หนึ่งความแตกต่างระหว่างสิ่งเหล่านี้คือตัวอย่างเช่น BIC ตัวเลือกพารามิเตอร์อื่น ๆ ที่เท่ากันจะมีค่าสัมประสิทธิ์สหสัมพันธ์ที่ดีขึ้นระหว่างแบบจำลองและข้อมูลและ AIC จะมีข้อผิดพลาดการคาดการณ์ที่ดีกว่าวัดเป็นข้อผิดพลาด

จุดที่ 3 เป็นข้อความบางครั้งภายใต้เงื่อนไขบางอย่าง

• $σ$

• 
  $β_2$

• เมื่อตัวทำนายมีความสัมพันธ์สูง และ

• เมื่อขนาดตัวอย่างมีขนาดเล็กหรือช่วงของตัวแปรซ้ายออกมีขนาดเล็ก

$^2$$^2$$^2$$^2$

ฉันอยากจะชี้ให้เห็นว่าข้อความเหล่านี้เป็นแง่ดี โดยทั่วไปแล้วตัวแบบผิดและบ่อยครั้งที่ตัวแบบที่ดีกว่านั้นจะบังคับใช้บรรทัดฐานที่ไม่สามารถใช้กับ AIC หรือ BIC ได้หรือมีการสันนิษฐานว่ามีโครงสร้างตกค้างที่ไม่ถูกต้องสำหรับการใช้งานของพวกเขา ในงานของฉันนี่เป็นกรณีเสมอ