การตีความหมายเลข AIC & BIC

23

ฉันกำลังมองหาตัวอย่างของวิธีการตีความ AIC (เกณฑ์ข้อมูล Akaike) และการประเมิน BIC (เกณฑ์ข้อมูล Bayesian)

ความแตกต่างเชิงลบระหว่าง BIC สามารถตีความได้ว่าเป็นราคาต่อรองของรุ่นหนึ่งมากกว่าอีกรุ่นหนึ่งหรือไม่ ฉันจะใส่คำนี้เป็นคำพูดได้อย่างไร ตัวอย่างเช่น BIC = -2 อาจบอกเป็นนัยว่าอัตราต่อรองของแบบจำลองที่ดีกว่ารุ่นอื่น ๆ คือประมาณ ? $e^2= 7.4$

คำแนะนำพื้นฐานใด ๆ ที่ชื่นชมโดย neophyte นี้

interpretation aic bic

— ฮวน
แหล่งที่มา

ลองดูที่บทที่ 2 ส่วนที่ 2.6 ซึ่งมีอยู่ในหนังสือ google บางส่วนอาจช่วยคุณได้เป็นพิเศษ books.google.se/… (การอ้างอิง: การเลือกรูปแบบและการอนุมานแบบหลายรุ่นโดย Kenneth P. Burnham และ David R. Anderson. Springer Verlag)

— boscovich

6

สำหรับรูปแบบที่เป็นเบื้องต้นชุดรูปแบบสามารถ recaled เพื่อที่รุ่นที่ดีที่สุดของการตั้งค่ารูปแบบจะมี 0เราสามารถใช้ค่าเพื่อประเมินความแข็งแกร่งของหลักฐาน ( ) สำหรับทุกรุ่นในชุดรูปแบบโดยที่: $AIC$ $i$ $\mathsf{\Delta}_i=AIC_i-minAIC$ $\mathsf{\Delta}=0$ $\mathsf{\Delta}_i$ $w_i$ สิ่งนี้มักถูกอ้างถึงว่าเป็น "น้ำหนักหลักฐาน" สำหรับแบบจำลองได้รับชุดแบบจำลองเบื้องต้น ในฐานะที่เป็นเพิ่มขึ้นลดลงแสดงให้เห็นรูปแบบเป็นไปได้น้อย ค่าเหล่านี้สามารถตีความได้ว่าเป็นความน่าจะเป็นที่โมเดลเป็นโมเดลที่ดีที่สุดที่กำหนดชุดโมเดลนิรนัย เราสามารถคำนวณความน่าจะเป็นของแบบจำลองเทียบกับแบบจำลองเป็น

W_{ผม} = \frac{{อี}^{(- 0.5 Δ_{ผม})}}{Σ_{R = 1}^{R} {อี}^{(- 0.5 Δ_{ผม})}} .

$w_i = \frac{e^{(-0.5\mathsf{\Delta}_i)}}{\sum_{r=1}^Re^{(-0.5\mathsf{\Delta}_i)}}.$

i

$i$

Δ_{i}

$\mathsf{\Delta}_i$

w_{i}

$w_i$

i

$i$

w_{i}

$w_i$

i

$i$

i

$i$

j

$j$

. ตัวอย่างเช่นถ้า

และ

แล้วเราอาจจะบอกว่ารูปแบบ

เป็นครั้งที่ 8 จะมีโอกาสมากกว่ารุ่นJ

w_{i} / w_{j}

$w_i/w_j$

w_{i} = 0.8

$w_i = 0.8$

w_{j} = 0.1

$w_j = 0.1$

i

$i$

j

$j$

หมายเหตุเมื่อรุ่น 1 เป็นรุ่นที่ดีที่สุด ( เล็กที่สุด) Burnham and Anderson (2002) คำนี้เป็นอัตราส่วนหลักฐาน ตารางนี้แสดงให้เห็นว่าอัตราส่วนของหลักฐานเปลี่ยนแปลงอย่างไรเมื่อเทียบกับแบบจำลองที่ดีที่สุด $w_1/w_2 = e^{0.5\Delta_2}$ $AIC$

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

การอ้างอิง

Burnham, KP และ DR Anderson 2545. การเลือกแบบจำลองและการอนุมานแบบหลายมิติ: วิธีการเชิงทฤษฎีและสารสนเทศเชิงปฏิบัติ ฉบับที่สอง Springer, New York, USA

Anderson, DR 2008 การอนุมานเชิงโมเดลในวิทยาศาสตร์สิ่งมีชีวิต: ไพรเมอร์เกี่ยวกับหลักฐาน Springer, New York, USA

— RioRaider
แหล่งที่มา

r

$r$

R

$R$

มีรุ่น R ในชุดรูปแบบ

— RioRaider

3

ฉันไม่คิดว่าจะมีการตีความอย่างง่าย ๆ ของ AIC หรือ BIC เช่นนั้น เป็นปริมาณทั้งสองที่ใช้โอกาสในการบันทึกและใช้ค่าปรับกับจำนวนพารามิเตอร์ที่ประมาณไว้ บทลงโทษที่เฉพาะเจาะจงได้อธิบายไว้สำหรับ AIC โดย Akaike ในเอกสารของเขาที่เริ่มต้นในปี 1974 BIC ได้รับเลือกจาก Gideon Schwarz ในบทความของเขาในปี 1978 และได้แรงบันดาลใจจากการโต้แย้งแบบเบย์

— Michael R. Chernick
แหล่งที่มา

2

การลงโทษสามารถตีความได้ว่าเป็นรูปแบบที่เป็นที่นิยมมาก่อนในขนาดที่เฉพาะเจาะจง หากคุณเคยยอมรับก่อนหน้านี้ (ซึ่งมีเหตุผลทางข้อมูลบางอย่าง) คุณสามารถคำนวณอัตราส่วนอัตราต่อรองหลังโดยตรงจากค่า IC นอกจากนี้ @RioRaider ยังกล่าวถึงน้ำหนักของ Akaike ซึ่งทำให้คุณมีความน่าจะเป็นที่โมเดลที่กำหนดเป็นโมเดลที่ดีที่สุดจากชุดในแง่ของ KL divergence ( อ้างอิง -ดูหน้า 800)

— เดวิดเจแฮร์ริส

1

คุณอาจใช้ BIC อันเป็นผลมาจากการประมาณค่ากับ Bayes ดังนั้นคุณจะไม่พิจารณาการกระจายก่อนหน้า (มากหรือน้อย) BIC ในระยะการเลือกรูปแบบจะมีประโยชน์เมื่อคุณเปรียบเทียบแบบจำลอง เพื่อให้เข้าใจอย่างสมบูรณ์ใน BIC ปัจจัย Bayes ฉันขอแนะนำให้อ่านบทความ (วินาที 4): http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf เพื่อเสริมความรู้ด้วย: http: // www .stat.washington.edu / Raftery / วิจัย / PDF / kass1995.pdf

— โรเบิร์ต
แหล่งที่มา