ผลที่ตามมาของการสร้างแบบจำลองกระบวนการที่ไม่หยุดนิ่งโดยใช้ ARMA?

ฉันเข้าใจว่าเราควรใช้ ARIMA สำหรับการสร้างแบบจำลองชุดเวลาที่ไม่หยุดนิ่ง นอกจากนี้ทุกสิ่งที่ฉันอ่านบอกว่า ARMA ควรใช้สำหรับอนุกรมเวลาที่อยู่กับที่เท่านั้น

สิ่งที่ฉันพยายามจะทำความเข้าใจคืออะไรจะเกิดขึ้นในทางปฏิบัติเมื่อทำการแยกแยะแบบจำลองและสมมติว่าd = 0เป็นอนุกรมเวลาที่ไม่หยุดนิ่ง ตัวอย่างเช่น:

controlData <- arima.sim(list(order = c(1,1,1), ar = .5, ma = .5), n = 44)

ข้อมูลการควบคุมมีลักษณะดังนี้:

 [1]   0.0000000   0.1240838  -1.4544087  -3.1943094  -5.6205257
 [6]  -8.5636126 -10.1573548  -9.2822666 -10.0174493 -11.0105225
[11] -11.4726127 -13.8827001 -16.6040541 -19.1966633 -22.0543414
[16] -24.8542959 -25.2883155 -23.6519271 -21.8270981 -21.4351267
[21] -22.6155812 -21.9189036 -20.2064343 -18.2516852 -15.5822178
[26] -13.2248230 -13.4220158 -13.8823855 -14.6122867 -16.4143756
[31] -16.8726071 -15.8499558 -14.0805114 -11.4016515  -9.3330560
[36]  -7.5676563  -6.3691600  -6.8471371  -7.5982880  -8.9692152
[41] -10.6733419 -11.6865440 -12.2503202 -13.5314306 -13.4654890

สมมติว่าผมไม่ทราบว่าข้อมูลคือผมอาจจะมีลักษณะที่ARIMA(1,1,1)pacf(controlData)

pacf (controlData)

จากนั้นฉันใช้ Dickey-Fuller เพื่อดูว่าข้อมูลไม่คงที่:

require('tseries')
adf.test(controlData)

# Augmented Dickey-Fuller Test
#
# data:  controlData
# Dickey-Fuller = -2.4133, Lag order = 3, p-value = 0.4099
# alternative hypothesis: stationary

adf.test(controlData, k = 1)

# Augmented Dickey-Fuller Test
#
#data:  controlData
# Dickey-Fuller = -3.1469, Lag order = 1, p-value = 0.1188
# alternative hypothesis: stationary

ดังนั้นฉันอาจสันนิษฐานว่าข้อมูลคือ ARIMA (2,0, *) จากนั้นauto.arima(controlData)ลองใช้เพื่อให้ได้พอดีที่สุด?

require('forecast')
naiveFit <- auto.arima(controlData)
naiveFit
# Series: controlData 
# ARIMA(2,0,1) with non-zero mean 
# 
# Coefficients:
#          ar1      ar2     ma1  intercept
#      1.4985  -0.5637  0.6427   -11.8690
# s.e.  0.1508   0.1546  0.1912     3.2647
#
# sigma^2 estimated as 0.8936:  log likelihood=-64.01
# AIC=138.02   AICc=139.56   BIC=147.05

ดังนั้นแม้ว่าข้อมูลในอดีตและอนาคตจะเป็น ARIMA (1,1,1) แต่ฉันอาจถูกจัดให้เป็น ARIMA (2,0,1) tsdata(auto.arima(controlData))ดูดีเหมือนกัน

นี่คือสิ่งที่ผู้สร้างแบบจำลองข้อมูลจะพบ:

informedFit <- arima(controlData, order = c(1,1,1))
# informedFit
# Series: controlData 
# ARIMA(1,1,1)                    
#
# Coefficients:
#          ar1     ma1
#       0.4936  0.6859
# s.e.  0.1564  0.1764
#
# sigma^2 estimated as 0.9571:  log likelihood=-62.22
# AIC=130.44   AICc=131.04   BIC=135.79

1) ทำไมข้อมูลเหล่านี้เกณฑ์ที่ดีขึ้นกว่ารุ่นที่เลือกโดยauto.arima(controlData)?

ตอนนี้ฉันเพิ่งเปรียบเทียบข้อมูลจริงและแบบจำลอง 2 แบบ:

plot(controlData)
lines(fitted(naiveFit), col = "red")
lines(fitted(informedFit), col = "blue")

tsPlots

2) เล่นเป็นทนายของปีศาจฉันจะจ่ายผลอะไรแบบใดโดยใช้ ARIMA (2, 0, 1) เป็นตัวอย่าง? อะไรคือความเสี่ยงของข้อผิดพลาดนี้?

3) ฉันส่วนใหญ่กังวลเกี่ยวกับความหมายใด ๆ สำหรับการทำนายล่วงหน้าหลายช่วง ฉันคิดว่าพวกเขาจะมีความแม่นยำน้อยลงหรือไม่ ฉันแค่มองหาหลักฐานบางอย่าง

4) คุณจะแนะนำวิธีการอื่นในการเลือกแบบจำลองหรือไม่? มีปัญหาใด ๆ กับการใช้เหตุผลของฉันในฐานะผู้สร้างแบบจำลอง

ฉันอยากรู้จริงๆว่าอะไรคือผลที่ตามมาของการจำแนกประเภทนี้ ฉันหาแหล่งข้อมูลมาแล้วและหาอะไรไม่เจอ วรรณกรรมทั้งหมดที่ฉันสามารถพบได้เพียงแค่สัมผัสกับเรื่องนี้ แต่เพียงแค่ระบุว่าข้อมูลควรจะอยู่กับที่ก่อนที่จะทำการแสดง ARMA และถ้ามันไม่อยู่กับที่

ขอบคุณ!

r time-series arima stationarity

— คลาร์กเฮนรี่
แหล่งที่มา

ความประทับใจของฉันคือว่ามันคล้ายกับ "ข้อผิดพลาด orthogonal" ในการถดถอยข้ามส่วน (นั่นคืออคติข้อผิดพลาดมาตรฐาน แต่ไม่ใช่ค่าสัมประสิทธิ์) แต่ฉันสนใจฟังคำตอบจริง

— shadowtalker

คำตอบ:

ความประทับใจของฉันคือว่าคำถามนี้ไม่มีคำตอบทั่วไปที่ไม่เหมือนใครดังนั้นฉันจะสำรวจเฉพาะกรณีที่ง่ายที่สุดและอย่างไม่เป็นทางการ

สมมติว่ากลไกการสร้างข้อมูลที่แท้จริงคือ กับปกติศูนย์หมายถึงองค์ประกอบเสียงสีขาว IID,\ ด้านบนยังบอกเป็นนัยว่า

\begin{matrix} (1) & y_{t} = y_{t - 1} + u_{t}, t = 1, . . ., T, y_{0} = 0 \end{matrix}

$y_t = y_{t-1} + u_t,\;\; t=1,...,T,\;\; y_0 =0 \tag{1}$

u_{t}

$u_t$

E (u_{t}^{2}) = σ_{u}^{2}

$E(u_t^2)= \sigma^2_u$

\begin{matrix} (2) & Y_{เสื้อ} = Σ_{ผม = 1}^{เสื้อ} {ยู}_{ผม} \end{matrix}

$y_t = \sum_{i=1}^tu_i \tag{2}$

เราระบุรูปแบบเรียกมันว่ารุ่น $A$

\begin{matrix} (3) & Y_{เสื้อ} = β Y_{เสื้อ - 1} + {ยู}_{เสื้อ}, เสื้อ = 1, . . ., T, Y_{0} = 0 \end{matrix}

$y_t = \beta y_{t-1} + u_t,\;\; t=1,...,T,\;\; y_0 =0 \tag{3}$

และเราได้รับการประมาณสำหรับ postulated (เรามาพูดถึงวิธีการประมาณค่าหากจำเป็นต้องเกิดขึ้น) $\hat \beta$ $\beta$

ดังนั้นการคาดคะเนล่วงหน้า -steps- จะเป็น $k$

\begin{matrix} (4) & {\hat{Y}}_{T + k} = {\hat{β}}^{k} Y_{T} \end{matrix}

$\hat y_{T+k} = \hat \beta^k y_T \tag{4}$

และMSEจะเป็นเช่นนั้น

M S E_{A} [{\hat{Y}}_{T + k}] = E {({\hat{β}}^{k} Y_{T} - Y_{T + k})}^{2}

$MSE_A[\hat y_{T+k}] = E\left(\hat \beta^k y_T-y_{T+k}\right)^2$

\begin{matrix} (5) & = E {[({\hat{β}}^{k} - 1) Y_{T} - Σ_{ผม = T + 1}^{T + k} {ยู}_{ผม}]}^{2} = E [({\hat{β}}^{k} - 1)^{2} Y_{T}^{2}] + k σ_{ยู}^{2} \end{matrix}

$=E\left[(\hat \beta^k-1) y_T -\sum_{i=T+1}^{T+k}u_i \right]^2 = E\big[(\hat\beta^k-1)^2 y_T^2\big]+ k\sigma^2_u \tag{5}$

(เทอมกลางของสี่เหลี่ยมจัตุรัสหายไปเช่นเดียวกับข้อผิดพลาดในอนาคตของผลิตภัณฑ์)

ตอนนี้สมมติว่าเราทำการจำแนกข้อมูลของเราแล้วระบุโมเดล $B$

\begin{matrix} (6) & Δ Y_{เสื้อ} = γ Δ Y_{เสื้อ - 1} + {ยู}_{เสื้อ} \end{matrix}

$\Delta y_t = \gamma \Delta y_{t-1} + u_t \tag{6}$

และได้รับการประมาณการ\ โมเดลที่แตกต่างของเราสามารถเขียนได้ $\hat \gamma$

\begin{matrix} (7) & Y_{เสื้อ} = Y_{เสื้อ - 1} + γ (Y_{เสื้อ - 1} - Y_{เสื้อ - 2}) + {ยู}_{เสื้อ} \end{matrix}

$y_t = y_{t-1} + \gamma (y_{t-1}-y_{t-2}) + u_t \tag{7}$

ดังนั้นการคาดการณ์ระดับของกระบวนการเราจะมี

{\hat{Y}}_{T + 1} = Y_{T} + \hat{γ} (Y_{T} - Y_{T - 1})

$\hat y_{T+1} = y_{T} + \hat \gamma (y_{T}-y_{T-1})$

ซึ่งในความเป็นจริงให้ DGP ที่แท้จริงจะเป็น

\begin{matrix} (8) & {\hat{Y}}_{T + 1} = Y_{T} + \hat{γ} {ยู}_{T} \end{matrix}

$\hat y_{T+1} = y_{T} + \hat \gamma u_T \tag {8}$

มันเป็นเรื่องง่ายในการตรวจสอบแล้วว่าสำหรับรุ่น , $B$

{\hat{Y}}_{T + k} = Y_{T} + (\hat{γ} + {\hat{γ}}^{2} + . . . + {\hat{γ}}^{k}) {ยู}_{T}

$\hat y_{T+k} = y_{T} + \big(\hat \gamma + \hat \gamma^2+...+\hat \gamma^k)u_T$

ตอนนี้เราคาดหวังอย่างสมเหตุสมผลว่าด้วยกระบวนการประเมิน "ทดสอบและลอง" เราจะได้รับเนื่องจากค่าที่แท้จริงคือยกเว้นในกรณีที่เรามีข้อมูลน้อยเกินไปหรือมีรูปร่าง "แย่" มาก . ดังนั้นเราสามารถพูดได้ว่าในกรณีส่วนใหญ่เราจะมี $|\hat \gamma|<1$ $0$

\begin{matrix} (9) & {\hat{Y}}_{T + k} = Y_{T} + \frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}} {ยู}_{T} \end{matrix}

$\hat y_{T+k} = y_{T} + \frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}u_T \tag{9}$

และอื่น ๆ

\begin{matrix} (10) & M S E_{B} [{\hat{Y}}_{T + k}] = E [{(\frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}})}^{2} {ยู}_{T}^{2}] + k σ_{ยู}^{2} \end{matrix}

$MSE_B[\hat y_{T+k}] = E\left[\left(\frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}\right)^2u_T^2\right] + k\sigma^2_u \tag{10}$

ในขณะที่ฉันทำซ้ำเพื่อความสะดวก

\begin{matrix} (5) & M S E_{A} [{\hat{Y}}_{T + k}] = E [({\hat{β}}^{k} - 1)^{2} Y_{T}^{2}] + k σ_{ยู}^{2} \end{matrix}

$MSE_A[\hat y_{T+k} ] = E\big[(\hat\beta^k-1)^2 y_T^2\big]+ k\sigma^2_u \tag{5}$

ดังนั้นเพื่อให้โมเดลที่ต่างกันทำงานได้ดีขึ้นในแง่ของการทำนาย MSE เราต้องการ

M S E_{B} [{\hat{Y}}_{T + k}] \leq M S E_{A} [{\hat{Y}}_{T + k}]

$MSE_B[\hat y_{T+k}] \leq MSE_A[\hat y_{T+k}]$

\Rightarrow E [{(\frac{\hat{γ} - {\hat{γ}}^{k + 1}}{1 - \hat{γ}})}^{2} {ยู}_{T}^{2}] \leq E [({\hat{β}}^{k} - 1)^{2} Y_{T}^{2}]

$\Rightarrow E\left[\left(\frac {\hat \gamma - \hat \gamma ^{k+1}}{1-\hat \gamma}\right)^2u_T^2\right] \leq E\big[(\hat\beta^k-1)^2 y_T^2\big]$

เช่นเดียวกับตัวประมาณค่าในโมเดลเราขยายความอนุเคราะห์เดียวกันกับตัวประมาณในรุ่น : เราคาดว่าจะ "ใกล้เคียงกับความสามัคคี" อย่างสมเหตุสมผล $B$ $A$ $\hat \beta$

เห็นได้ชัดว่าถ้ามันเกิดขึ้นที่ปริมาณในด้านขวามือของความไม่เท่าเทียมกันจะมีแนวโน้มเพิ่มขึ้นโดยไม่ผูกมัดเป็นจำนวนขั้นตอนการพยากรณ์ล่วงหน้าจะเพิ่มขึ้น บนมืออื่น ๆ ปริมาณทางด้านซ้ายมือของความไม่เท่าเทียมกันที่ต้องการอาจเพิ่มขึ้นเป็นเพิ่มขึ้น แต่ก็มีขอบเขตบน ดังนั้นในสถานการณ์นี้เราคาดว่ารุ่น differencedจะยุติธรรมดีกว่าในแง่ของการทำนาย MSE เมื่อเทียบกับรุ่น $\hat \beta >1$ $k$ $k$ $B$ $A$

แต่ถือว่าได้เปรียบมากขึ้นในการจำลองกรณีที่<1 จากนั้นปริมาณด้านขวาก็มีค่า จำกัด ถ้าอย่างนั้นเราต้องตรวจสอบดูว่า $A$ $\hat \beta <1$ $k \rightarrow \infty$

E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2} {ยู}_{T}^{2}] \leq E [Y_{T}^{2}] = T σ_{ยู}^{2} ? ?

$E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2u_T^2\right] \leq E\big[y_T^2\big]= T\sigma^2_u\;\; ??$

(คือความสะดวกสบาย - ในความเป็นจริงทั้งสองขนาดจะเข้าใกล้ suprema แล้วสำหรับค่า ) $k \rightarrow \infty$ $k$

โปรดทราบว่าคำว่า คาดว่าจะเป็น "ค่อนข้างใกล้" ถึงดังนั้นโมเดลจึงได้เปรียบจากด้านนี้ $\left(\frac {\hat \gamma }{1-\hat \gamma}\right)^2$ $0$ $B$

เราไม่สามารถแยกค่าที่คาดหวังที่เหลืออยู่เพราะประมาณการไม่ได้เป็นอิสระจากu_Tแต่เราสามารถเปลี่ยนความไม่เท่าเทียมเป็น $\hat \gamma$ $u_T$

Cov [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}, {ยู}_{T}^{2}] + E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}] \cdot σ_{ยู}^{2} \leq T σ_{ยู}^{2} ? ?

$\operatorname{Cov}\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2,\,u_T^2\right] + E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2\right]\cdot \sigma^2_u \leq T\sigma^2_u\;\; ??$

\Rightarrow Cov [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}, {ยู}_{T}^{2}] \leq (T - E [{(\frac{\hat{γ}}{1 - \hat{γ}})}^{2}]) \cdot σ_{ยู}^{2} ? ?

$\Rightarrow \operatorname{Cov}\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2,\,u_T^2\right] \leq \left (T-E\left[\left(\frac {\hat \gamma}{1-\hat \gamma}\right)^2\right]\right)\cdot \sigma^2_u \;\; ??$

ตอนนี้ความแปรปรวนทางด้านซ้ายมือที่คาดว่าจะมีขนาดเล็กเนื่องจากประมาณการขึ้นอยู่กับทุกข้อผิดพลาด ในอีกด้านหนึ่งของความไม่เท่าเทียมกันที่มาจากชุดข้อมูลนิ่งและอื่น ๆ มูลค่าที่คาดหวังของฟังก์ชั่นข้างต้นของมันเป็นที่คาดว่าจะมากน้อยกว่าขนาดของกลุ่มตัวอย่าง (ตั้งแต่มากกว่าฟังก์ชั่นนี้จะอยู่ในช่วง ใน ) $\hat \gamma$ $T$ $\hat \gamma$ $(0,1)$

ดังนั้นโดยไม่ต้องพูดถึงวิธีการประมาณค่าใด ๆ โดยเฉพาะฉันเชื่อว่าเราสามารถแสดงแบบไม่เป็นทางการได้ว่าแบบจำลองที่แตกต่างกันควรคาดว่าจะทำงานได้ดีขึ้นในแง่ของการทำนาย MSE

— Alecos Papadopoulos
แหล่งที่มา

นั่นเป็นคำถามที่ดี

เมื่อฉันรู้ว่าคุณเพิ่งคิดว่า pacf แต่นั่นยังไม่เพียงพอ ACF และ PACF นั้นจำเป็นสำหรับการเลือกรุ่นที่ดีที่สุด

ในทางกลับกันการทดสอบแบบอยู่กับที่จะอ่อนแอและละเอียดอ่อนและต้องการจำนวนมากในการทดสอบความล่าช้า

นอกจากนี้ยังเป็นที่ต้องการเพื่อให้อนุกรมเวลาหยุดนิ่งก่อนที่จะใช้รูปแบบใด ๆ พูดโดยประมาณว่ารุ่นของ ARIMA เพียงแค่พิจารณากรณีพิเศษที่ไม่ใช่แบบนิ่ง (โดยเฉพาะในแนวโน้ม)

เกี่ยวกับคำถามของคุณฉันไม่แน่ใจเกี่ยวกับฟังก์ชั่น auto.arima แต่ฉันมั่นใจว่าจำนวนจุดข้อมูลในตัวอย่างของคุณมีขนาดเล็ก แบบจำลองที่ใช้จุดข้อมูลจำนวนมากจะตอบคำถามของคุณได้ดี นอกจากนี้ฉันขอแนะนำให้คุณพิจารณา ACF ของอนุกรมเวลาเช่นเดียวกับ PACF เกี่ยวกับการเลือกรูปแบบกฎของหัวแม่มือคือการเลือกรูปแบบที่ง่ายที่สุด (โปรดทราบว่ารูปแบบที่ง่ายที่สุดหลังจากทำการตั้งค่าอนุกรมเวลาให้นิ่ง)

ผมหมายถึงคุณนี้อ้างอิง หนังสือเล่มนี้ไม่ตอบคำถามของคุณ แต่ให้เบาะแสกับคุณ

----- ส่วนเสริม ------- @nsw พิจารณาแนวโน้มในข้อมูลของคุณ หากคุณพิจารณาแบบจำลองที่อยู่กับที่มันจะส่งผลให้เกิดการทำนายขึ้น / ลง แต่ที่จริงแล้วแบบจำลอง ARMA ได้รับการออกแบบมาเพื่อทำนายข้อมูลแบบคงที่ ฉันได้เปลี่ยนรหัสของคุณเพื่อสะท้อนถึงความแตกต่างนี้:

ต้อง (คาดการณ์)

ต้อง ( 'tseries')

controlData <- arima.sim (รายการ (คำสั่ง = c (1,1,1)), ar = .5, ma = .5), n = 1,000 )

acf (controlData)

ts.plot (controlData)

naiveFit <- arima (controlData, order = c (2,0,1))

trueFit <- arima (controlData, order = c (1,1,1))

PrnaiveFit <-forecast.Arima (naiveFit, 10)

PrtrueFit <- forecast.Arima (trueFit, 10)

matplot (cbind (PrnaiveFit $ Mean, PrtrueFit $ mean), พิมพ์ = 'b', col = c ('red', 'green'), ylab = c ('ทำนายไอออน'), pch = c ('n', 'T'))

— TPArrow
แหล่งที่มา

คำถามถามว่าทำไมจึงเป็นที่ต้องการ "ทำให้อนุกรมเวลาหยุดนิ่ง" นี่ไม่ได้ตอบคำถามนั้นจริงๆ

— shadowtalker

@ssdecontrol คุณพูดถูก ฉันกังวลมากขึ้นเกี่ยวกับผลที่ตามมาต่อการทำนายหลังจากการสะกดผิด แต่ฉันไม่ต้องการตี Hamed.HM มากเกินไป เขายังตอบคำถามสุดท้ายของฉันเกี่ยวกับ "นี่เป็นวิธีที่ถูกต้องในการเลือกแบบจำลองหรือไม่" แต่เพื่อย้ำนั่นเป็นข้อกังวลของฉันที่นี่

— Clark Henry