จะเปรียบเทียบแบบจำลองบนพื้นฐานของ AIC ได้อย่างไร

เรามีสองรุ่นที่ใช้วิธีการเดียวกันเพื่อคำนวณโอกาสในการบันทึกและ AIC สำหรับหนึ่งต่ำกว่าอีกรุ่นหนึ่ง อย่างไรก็ตามผู้ที่มี AIC ที่ต่ำกว่านั้นตีความได้ยากกว่ามาก

เรากำลังประสบปัญหาในการตัดสินใจว่ามันคุ้มค่าที่จะนำเสนอปัญหาและเราตัดสินโดยใช้ความแตกต่างเปอร์เซ็นต์ใน AIC เราพบว่าความแตกต่างระหว่าง AIC ทั้งสองนั้นมีเพียง 0.7% โดยมีรูปแบบที่ซับซ้อนมากขึ้นซึ่งมี AIC ที่ต่ำกว่า 0.7%

1. ความแตกต่างเปอร์เซ็นต์ต่ำระหว่างสองเหตุผลที่ดีในการหลีกเลี่ยงการใช้แบบจำลองกับ AIC ที่ต่ำกว่าคืออะไร

2. เปอร์เซ็นต์ของความแตกต่างอธิบายว่า 0.7% ข้อมูลหายไปในรูปแบบที่ซับซ้อนน้อยลงหรือไม่?

3. รุ่นสองรุ่นสามารถมีผลลัพธ์ที่แตกต่างกันมากได้หรือไม่

เราไม่ได้เปรียบเทียบค่าสัมบูรณ์ของ AICs สองอัน (ซึ่งอาจเหมือนกับแต่ยัง ) แต่พิจารณาถึงความแตกต่าง : ที่คือ AIC ของ -th model และเป็น AIC ที่ต่ำที่สุดที่ได้รับจากชุดของโมเดลที่ตรวจสอบ (เช่นโมเดลที่ต้องการ) กฎของหัวแม่มือที่ระบุไว้เช่นในBurnham & Anderson 2004คือ:$\sim 100$$\sim 1000000$

1. ถ้ามีการสนับสนุนรูปแบบ th เป็นจำนวนมาก(หรือหลักฐานที่แสดงว่ามีค่าเพียงการกล่าวถึงเปล่า) และข้อเสนอที่เป็นคำอธิบายที่เหมาะสมมีความเป็นไปได้สูง$\Delta_i<2$$i$
2. ถ้าว่ามีการสนับสนุนที่แข็งแกร่งสำหรับโมเดล th;$2<\Delta_i<4$$i$
3. ถ้าว่ามีการสนับสนุนน้อยกว่ามากสำหรับโมเดล th;$4<\Delta_i<7$$i$
4. รุ่นที่มีไม่มีการสนับสนุนเป็นหลัก$\Delta_i>10$

ตอนนี้เกี่ยวกับ 0.7% ที่กล่าวถึงในคำถามให้พิจารณาสองสถานการณ์:

1. $AIC_1=AIC_{\rm min}=100$และมีขนาดใหญ่ 0.7%: AIC_2จากนั้นดังนั้นจึงไม่มีความแตกต่างอย่างมีนัยสำคัญระหว่างแบบจำลอง$AIC_2$$AIC_2=100.7$$\Delta_2=0.7<2$
2. $AIC_1=AIC_{\rm min}=100000$และมีขนาดใหญ่ 0.7%: AIC_2จากนั้นดังนั้นจึงไม่รองรับรุ่นที่ 2$AIC_2$$AIC_2=100700$$\Delta_2=700\gg 10$

ดังนั้นการบอกว่าความแตกต่างระหว่าง AICs คือ 0.7% ไม่ได้ให้ข้อมูลใด ๆ

ค่า AIC ประกอบด้วยค่าคงที่ที่ปรับมาจาก log-likelihood และไม่มีค่าคงที่ดังกล่าว หนึ่งอาจพิจารณาการเปลี่ยนแปลง rescaling ว่ากองกำลังรุ่นที่ดีที่สุดที่จะมี0$\mathcal{L}$$\Delta_i$$\Delta_i = AIC_i − AIC_{\rm min}$$AIC_{\rm min} := 0$

การกำหนดของ AIC เป็นการลงโทษการใช้พารามิเตอร์จำนวนมากเกินไปทำให้หมดกำลังใจมากเกินไป มันชอบรุ่นที่มีพารามิเตอร์น้อยกว่าตราบใดที่รุ่นอื่นไม่ได้ให้พอดีที่ดีกว่าอย่างมาก AIC พยายามที่จะเลือกแบบจำลอง (ในบรรดาแบบทดสอบ) ที่อธิบายความเป็นจริงได้อย่างเพียงพอที่สุด (ในรูปแบบของข้อมูลภายใต้การตรวจสอบ) ซึ่งหมายความว่าในความเป็นจริงรูปแบบที่เป็นคำอธิบายที่แท้จริงของข้อมูลจะไม่ถูกพิจารณา โปรดทราบว่า AIC ให้ข้อมูลซึ่งรูปแบบการอธิบายข้อมูลที่ดีกว่าก็ไม่ได้ให้การใด ๆการตีความ

โดยส่วนตัวแล้วฉันจะบอกว่าถ้าคุณมีแบบจำลองที่เรียบง่ายและแบบซับซ้อนที่มี AIC ที่ต่ำกว่ามากโมเดลแบบง่าย ๆ ก็ไม่ดีพอ ถ้าแบบจำลองที่ซับซ้อนมากขึ้นมีความซับซ้อนมากขึ้น แต่นั้นไม่ใหญ่มาก (อาจอาจจะ - ขึ้นอยู่กับสถานการณ์เฉพาะ) ฉันจะยึดแบบจำลองที่ง่ายกว่าถ้ามันง่ายกว่าที่จะทำงานด้วย .$\Delta_i$$\Delta_i<2$$\Delta_i<5$

นอกจากนี้คุณสามารถกำหนดความน่าจะเป็นสำหรับโมเดล th ได้$i$

ซึ่งให้ความน่าจะเป็นแบบสัมพัทธ์ (เทียบกับ ) ความน่าจะเป็นที่โมเดล th จะลด AIC ตัวอย่างเช่นสอดคล้องกับ (ค่อนข้างสูง) และสอดคล้องกับ (ค่อนข้างต่ำ) กรณีแรกหมายความว่ามีความน่าจะเป็น 47% ที่แบบจำลอง th อาจเป็นคำอธิบายที่ดีกว่าแบบจำลองที่ให้ผลและในกรณีที่สองความน่าจะเป็นนี้เพียง 0.05%ฉันΔ i = 1.5 p i = 0.47 Δ i = 15 p i = 0.0005 i A I C m i $AIC_{\rm min}$$i$$\Delta_i=1.5$$p_i=0.47$$\Delta_i=15$$p_i=0.0005$$i$$AIC_{\rm min}$

ในที่สุดเกี่ยวกับสูตรสำหรับ AIC:

มันเป็นเรื่องสำคัญที่จะต้องทราบว่าเมื่อทั้งสองรุ่นที่มีความคล้ายคลึงกันได้รับการพิจารณาขึ้นอยู่กับจำนวนของพารามิเตอร์เนื่องจากเทอมเดียว ดังนั้นเมื่อการปรับปรุงแบบสัมพัทธ์เกิดจากการปรับปรุงแบบพอดีไม่ใช่การเพิ่มจำนวนพารามิเตอร์เท่านั้นΔ ฉัน 2 k Δ $\mathcal{L}$$\Delta_i$$2k$$\frac{\Delta_i}{2\Delta k} < 1$

TL; DR

1. มันเป็นเหตุผลที่ไม่ดี ใช้ความแตกต่างระหว่างค่าสัมบูรณ์ของ AICs
2. เปอร์เซ็นต์ไม่ได้พูดอะไร
3. ไปไม่ได้ที่จะตอบคำถามนี้เนื่องจากไม่มีข้อมูลในรูปแบบข้อมูลและสิ่งที่ไม่ผลที่แตกต่างกันหมายถึง