นิยาม AIC ที่แตกต่าง

12

จากวิกิพีเดียมีคำนิยามของ Akaike's Information Criterion (AIC) เป็นโดยที่คือจำนวนพารามิเตอร์และคือความเป็นไปได้ของโมเดล $AIC = 2k -2 \log L$ $k$ $\log L$

อย่างไรก็ตามบันทึกเศรษฐเราในมหาวิทยาลัยของรัฐที่นับหน้าถือตาที่ . นี่คือความแปรปรวนโดยประมาณสำหรับข้อผิดพลาดในรูปแบบ ARMA และคือจำนวนของการสังเกตในชุดข้อมูลชุดเวลา $AIC = \log (\hat{\sigma}^2) + \frac{2 \cdot k}{T}$ $\hat{\sigma}^2$ $T$

คำจำกัดความหลังนี้เทียบเท่ากับคำว่าแรก แต่ปรับสำหรับรุ่น ARMA หรือไม่? หรือมีความขัดแย้งบางอย่างระหว่างคำจำกัดความทั้งสองหรือไม่

— pir
แหล่งที่มา

3

สำหรับบันทึก: เกณฑ์เอกพจน์เกณฑ์พหูพจน์ (แก้ไขให้ถูกต้อง)

— Nick Cox

15

สูตรที่คุณอ้างจากบันทึกย่อของคุณไม่ใช่ AIC

AIC เป็น k $-2\log\mathcal{L}+2k$

ที่นี่ฉันจะให้เค้าร่างของการประมาณที่มาซึ่งทำให้ชัดเจนพอสิ่งที่เกิดขึ้น

หากคุณมีโมเดลที่มีข้อผิดพลาดปกติอิสระที่มีความแปรปรวนคงที่

L \propto σ^{- n} e^{- \frac{1}{2 σ^{2}} \sum ε_{i}^{2}}

$\mathcal{L}\propto \sigma^{-n} \: e^{-\frac{1}{2\sigma^2}\sum \varepsilon_i^2}$

ซึ่งสามารถประมาณได้ภายใต้โอกาสสูงสุดเช่น

\begin{array}{rcl} \propto & ({\hat{σ}}^{2})^{- n / 2} e^{- \frac{1}{2} n {\hat{σ}}^{2} / {\hat{σ}}^{2}} \\ \propto & ({\hat{σ}}^{2})^{- n / 2} e^{- \frac{1}{2} n} \\ \propto & ({\hat{σ}}^{2})^{- n / 2} \end{array}

$\begin{eqnarray} & \propto &(\hat{\sigma}^2)^{-n/2} e^{-\frac12 n\hat{\sigma}^2/\hat{\sigma}^2}\\ & \propto &(\hat{\sigma}^2)^{-n/2} e^{-\frac12 n}\\ & \propto &(\hat{\sigma}^2)^{-n/2} \end{eqnarray}$

(สมมติว่าค่าประมาณคือค่าประมาณ ML) $\sigma^2$

ดังนั้น (ถึงขยับโดยคงที่) $-2\log\mathcal{L} +2k = n\log{\hat{\sigma}^2} + 2k$

ตอนนี้ในรูปแบบ ARMA ถ้ามีขนาดใหญ่มากเมื่อเทียบกับและดังนั้นโอกาสที่จะถูกประมาณโดยกรอบการทำงานแบบเกาส์เซียน (เช่นคุณสามารถเขียน ARMA โดยประมาณว่าเป็น AR ที่ยาวกว่าและมีเงื่อนไขเพียงพอที่จะเขียน AR นั้น เป็นรูปแบบการถดถอย) ดังนั้นด้วยแทน : $T$ $p$ $q$ $T$ $n$

$AIC \approx T\log{\hat{\sigma}^2} + 2k$

ด้วยเหตุนี้

$AIC/T \approx \log{\hat{\sigma}^2} + 2k/T$

$T$

อย่างไรก็ตามหากคุณใช้ AIC เพื่อวัตถุประสงค์อื่นที่ต้องอาศัยมูลค่าที่แท้จริงของความแตกต่างใน AIC (เช่นการอนุมานมัลติโมเดลตามที่อธิบายโดย Burnham และ Anderson) มันสำคัญ

ตำราเศรษฐมิติจำนวนมากดูเหมือนจะใช้แบบฟอร์ม AIC / T นี้ ผิดปกติหนังสือบางเล่มดูเหมือนจะอ้างอิง Hurvich และ Tsai 1989 หรือ Findley 1985 สำหรับรูปแบบนั้น แต่ Hurvich & Tsai และ Findley ดูเหมือนจะพูดคุยเกี่ยวกับรูปแบบดั้งเดิม ใน Findley)

$\sigma^2$

คุณอาจต้องการดูรายการข้อเท็จจริงและความล้มเหลวของ Rob Hyndman ของรายการAICโดยเฉพาะอย่างยิ่งรายการที่ 3 ถึง 7 บางประเด็นอาจทำให้คุณระวังอย่างน้อยเกี่ยวกับการพึ่งพาอย่างมากเกี่ยวกับโอกาสแบบเกาส์ แต่ อาจมีเหตุผลที่ดีกว่าที่ฉันเสนอให้ที่นี่

ฉันไม่แน่ใจว่ามีเหตุผลที่ดีที่จะใช้การประมาณนี้กับความน่าจะเป็นบันทึกแทนที่จะเป็น AIC จริงเนื่องจากแพ็คเกจอนุกรมเวลาจำนวนมากในวันนี้มีแนวโน้มที่จะคำนวณ (/ ขยาย) โอกาสในการบันทึกจริงสำหรับโมเดล ARMA ดูเหมือนมีเหตุผลเล็กน้อยที่จะไม่ใช้

— Glen_b -Reinstate Monica
แหล่งที่มา

1

ไม่ช้าก็เร็วการอภิปรายเกี่ยวกับ * IC ทุกครั้งจะเปลี่ยนเป็น "นี่เป็นเกณฑ์ที่คุณควรใช้ยกเว้นว่ามันมักจะให้คำตอบที่ผิดในสถานการณ์แบบนี้และแบบนั้น" การเป็นคนแดกดันไม่ใช่คำตอบที่สำคัญอย่างยิ่ง นี่เป็นเหมือนชีวิตจริงที่บางคนมักใช้คำว่า "รักทุกคน" มักจะถูกแทนที่โดยคำแนะนำอื่น ๆ หากใครบางคนพยายามที่จะเอาชนะคุณหรือฉีกคุณออก

— Nick Cox

1

n

$n$

2

ฉันเชื่อว่านี่เป็นไปตามข้อสันนิษฐานของข้อผิดพลาดปกติ ในเศรษฐมิติคุณใช้งาน asymptotics โดยเฉพาะอย่างยิ่งในแอปพลิเคชันอนุกรมเวลาโดยใช้ AIC เป็นผลให้สมมติฐานปกติควรถือ asymptotically เพื่อปรับรูปแบบการเลือกแบบจำลอง (asymptotic) นี้

$ln(L) = -(T/2)ln(2\pi) -(T/2)ln(\sigma^2) - (1/2\sigma^2)\sum(x_i - \mu)$ $\mathbb{E}(X) = \mu$ $Var(X) = \sigma^2$ $x_1, ..., x_T$

$L$ $Tln(\sigma^2)$ $(1/\sigma^2)(T\hat{\sigma}^2)$ $\hat{\sigma}^2 = T^{-1} \sum(x_i - \bar{x})$ $\sigma^2$ $(1/\sigma^2)(T\hat{\sigma}^2) = (1/\hat{\sigma}^2)(T\hat{\sigma}^2)$

$AIC = 2k + Tln(\sigma^2) + 1$ $1$ $T$ $T$ $AIC$ $AIC/T$

— Jeremias K
แหล่งที่มา