สามารถแนะนำหนังสือ Burnham-Anderson เกี่ยวกับการอนุมานแบบหลายรุ่นได้หรือไม่?


14

จากการเปลี่ยนแปลงล่าสุดของสถิติการเลือกแบบจำลองเริ่มต้นในแพ็คเกจการพยากรณ์ของ R จาก AIC เป็น AICc ฉันสงสัยว่าอันหลังนั้นสามารถใช้งานได้ทุกที่ในอดีต ฉันมีคำถามหลายข้อเกี่ยวกับความเคารพและนี่คือคำถามแรก

ฉันรู้ว่าการแทนที่ AIC ด้วย AICc ทุกที่เป็นสิ่งที่หนังสือที่มีชื่อเสียงใน (1)โดย Burnham และ Anderson (ไม่ใช่นักสถิติ) ตามที่สรุปไว้ที่นี่แนะนำ บางครั้งหนังสือเล่มนี้ถูกอ้างถึงโดยนักสถิติรุ่นเยาว์อย่างไร้ความปราณีดูความคิดเห็นต่อบล็อกโพสต์นี้โดย Rob Hyndmanแต่นักสถิติ Brian Brian Ripley ได้ให้คำแนะนำในลักษณะที่แตกต่างกันอย่างสิ้นเชิง:

“Burnham and Anderson (2002) is a book I would recommend people NOT read until 
they have read the primary literature. I see no evidence that the authors have 
actually read Akaike’s papers." [quoted from [AIC MYTHS AND MISUNDERSTANDINGS][4] by
Burnham-Anderson]

มันทำตามสิ่งที่ริปลีย์เขียนไว้ใน AIC และทฤษฎีที่เกี่ยวข้องว่าควรมีการเตือนอย่างจริงจัง ฉันมีทั้งชุดสะสมของเอกสารของ Akaike และหนังสือ Burnham-Anderson ในที่สุดฉันก็จะมีความคิดเห็นของตัวเองเกี่ยวกับคุณภาพของหนังสือ แต่มันจะช่วยให้รู้ว่าชุมชนของนักสถิติทั้งเด็กและผู้ใหญ่คิดในสิ่งนั้น โดยเฉพาะอย่างยิ่งมีอาจารย์สถิติ (หรือนักเรียนที่ดีด้านสถิติ) ที่แนะนำหนังสือเล่มนี้อย่างชัดเจนว่าเป็นบทสรุปที่เป็นประโยชน์ของความรู้เกี่ยวกับการใช้ AIC สำหรับการเลือกแบบจำลองหรือไม่?

อ้างอิง:

(1) อัม, KP & แอนเดอร์สัน, การเลือกโมเดล DR และการอนุมานแบบหลายโมเดล: วิธีการปฏิบัติที่ให้ข้อมูลเชิงทฤษฎี Springer, 2002

PS ในการตอบกลับ "คำตอบ" ล่าสุดที่ระบุว่า "Dr.Burnham เป็นนักสถิติดุษฎีบัณฑิต" ฉันต้องการเพิ่มคำอธิบายนี้ ใช่ด้วยตัวเขาเองเขาเป็นนักสถิติเพื่อนของ ASA และผู้รับรางวัลระดับมืออาชีพมากมายรวมถึงเหรียญรางวัลความสำเร็จที่โดดเด่นจาก ASA แต่ใครบอกว่าเขาไม่ใช่ ทั้งหมดที่ฉันได้กล่าวไว้ข้างต้นคือในฐานะนักเขียนคู่หนึ่งพวกเขาไม่ใช่นักสถิติและหนังสือเล่มนี้สะท้อนความจริงนี้


2
กระดาษ "AIC ตำนานและความเข้าใจผิด" สามารถพบได้ที่นี่ ฉันไม่ได้เห็นมัน (แม้ว่าฉันเคยเห็นความคิดเห็นของ Ripley มาก่อน)
Glen_b

3
คำถามมีการเชื่อมโยง แต่ฉันคิดว่ามันจะเป็นประโยชน์สำหรับผู้อ่านหากคำถามตัวเองให้คำใบ้ว่าสิ่งที่อาจจะไม่ดีเกี่ยวกับเนื้อหาของหนังสือของ Burnham และ Anderson (ถ้าสิ่งที่พวกเขาพูดนั้นถูกต้องชัดเจนมีประโยชน์ ฯลฯ มันก็ไม่สำคัญว่าพวกเขาจะอ่านเอกสารของ Akaike จริง ๆ ) นอกจากนี้ดูเหมือนว่าฉันว่า AIC และวิธีการที่เกี่ยวข้องยังคงเป็นที่ถกเถียงกันอยู่ ถ้าเป็นเช่นนั้นหนังสือที่นำเสนอพวกเขาจะมีผู้ว่า และข้อเสนอแนะที่ทุกคนต้องอ่านเอกสารต้นฉบับก่อนที่จะอ่านหนังสือที่ต้องการให้คำแนะนำในหัวข้อที่ดูเหมือนจะเป็นปัญหา
ดาวอังคาร

7
ฉันได้อ่านบทความหลักสองเรื่องของ Akaike และหนังสือ Schwarz เรื่อง BIC และหนังสือของ Burnham and Anderson (มันอยู่ในชั้นวางของฉันตอนนี้) และ (ตามที่คุณเห็น) บทวิจารณ์สั้น ๆ ของ Ripley ฉันอยากจะดูริบลีย์อธิบายการวิจารณ์อย่างละเอียด (โดยไม่มีความทะเยอทะยานว่าใครจะอ่านอะไร) - ในขณะที่สิ่งต่าง ๆ มีอยู่จริงไม่มีอะไรสำคัญสำหรับเบิร์นแฮมและแอนเดอร์สันที่จะตอบกลับ หากมีบางสิ่งที่มัน (และอาจมีสำหรับทุกอย่างที่ฉันรู้) มันสมควรได้รับมากกว่าสองสามบรรทัดในรายการส่งเมล์ R-help
Glen_b

2
@Gleb_b มุมมองของริบลีย์สามารถอนุมานได้จากหนังสือ 1996 ของเขาเกี่ยวกับการจดจำรูปแบบซึ่งเขาอ้างถึงในโพสต์รายการ R ที่ดูตัวอย่างบทที่ 2 รายละเอียดทางคณิตศาสตร์และความคิดเห็นในด้านอื่น ๆ ของงาน Akaike (เช่น A ใน AIC ย่อมาจากอะไร) สำหรับ) ทำให้ฉันคิดว่าเขาเข้าใจเรื่องนี้ดีและอ่านมากกว่าเอกสารของ Akaike
ไฮเบอร์เนต

3
การใส่สองเซ็นต์ที่แตกต่างกัน: AIC และ AIC ให้คำแนะนำต่างกันบ่อยแค่ไหน? จากประสบการณ์ของฉันพวกเขาแนะนำรุ่นเดียวกัน
Peter Flom - Reinstate Monica

คำตอบ:


3

OP ดูเหมือนว่ากำลังมองหาแบบสำรวจคุณภาพสูงของนักสถิติที่มีคุณภาพสูงเพื่อช่วยในการประเมินว่าหนังสือเล่มใดเล่มหนึ่งมีคุณภาพสูงโดยเฉพาะอย่างยิ่งในแง่ของการอภิปราย AIC กับ AICc หรือไม่ ไซต์นี้ไม่ได้มุ่งเน้นไปที่การสำรวจอย่างเป็นระบบ แต่ฉันจะพยายามตอบคำถามพื้นฐานโดยตรง

AIC และ AICc ทั้งสองแบบจำลองคะแนนตามการแลกเปลี่ยนแบบฮิวริสติกระหว่างแบบพอดี (ในแง่ของความน่าจะเป็น) และ overfit (ในแง่ของจำนวนพารามิเตอร์) ในการแลกเปลี่ยนนี้ AICc ให้โทษมากกว่าเล็กน้อยกับจำนวนของพารามิเตอร์ ดังนั้น AICc มักแนะนำให้ใช้แบบจำลองที่มีความซับซ้อนน้อยกว่าหรือเท่ากับความซับซ้อนของแบบจำลอง AIC ที่ดีที่สุด ในแง่นี้ความสัมพันธ์ระหว่างทั้งสองนั้นง่ายมากแม้จะมีข้อโต้แย้งที่ซับซ้อนอย่างน่ากลัวเป็นรากฐานของการพิสูจน์

AIC และ AICc เป็นเพียงสองในเกณฑ์ข้อมูลผู้สมัครจำนวนมากโดยที่BIC และ DICอาจเป็นทางเลือกชั้นนำ BIC นั้นมีความระมัดระวังมากกว่า (การลงโทษพารามิเตอร์ของแบบจำลองจำนวนมาก) มากกว่า AIC หรือ AICc ในกรณีส่วนใหญ่ คำถามที่เกณฑ์ดีที่สุดคือปัญหาเฉพาะอย่างแท้จริง หนึ่งอาจชอบเกณฑ์อนุรักษ์นิยมอย่างยิ่งในกรณีที่จำเป็นต้องใช้การทำนายตัวอย่างที่มีประสิทธิภาพ

FWIW ฉันพบระดับอนุรักษ์ของ AICc โดยทั่วไปแล้วจะดีกว่า AIC ในการศึกษาการจำลองสถานการณ์ที่ครอบคลุมเกี่ยวกับข้อผิดพลาดในการทำนายในแบบจำลองการดักจับภาพ

โดยการใช้ไซต์ของเรา หมายความว่าคุณได้อ่านและทำความเข้าใจนโยบายคุกกี้และนโยบายความเป็นส่วนตัวของเราแล้ว
Licensed under cc by-sa 3.0 with attribution required.