คำศัพท์เกี่ยวกับข้อผิดพลาดของโมเดลค่าเฉลี่ยเคลื่อนที่

17

นี่เป็นคำถามพื้นฐานสำหรับรุ่น Box-Jenkins MA ตามที่ผมเข้าใจแบบจำลอง MA เป็นพื้นถดถอยเชิงเส้นของอนุกรมเวลาค่าที่ $Y$ กับก่อนหน้านี้เงื่อนไขข้อผิดพลาด $e_t,..., e_{t-n}$ nนั่นคือการสังเกต $Y$ จะถดถอยครั้งแรกกับค่าก่อนหน้านี้ $Y_{t-1}, ..., Y_{t-n}$ แล้วหนึ่งหรือมากกว่า $Y - \hat{Y}$ ค่าจะถูกใช้เป็นเงื่อนไขข้อผิดพลาดสำหรับรุ่นซาชูเซตส์

แต่ข้อผิดพลาดถูกคำนวณในรูปแบบ ARIMA (0, 0, 2) อย่างไร หากใช้โมเดล MA โดยไม่มีชิ้นส่วนตอบรับอัตโนมัติและไม่มีค่าโดยประมาณฉันจะมีคำผิดได้อย่างไร

— Robert Kubrick
แหล่งที่มา

1

ไม่ฉันคิดว่าคุณกำลังสับสนกับคำจำกัดความของแบบจำลอง MA (n) ซึ่งการถดถอยมีเฉพาะในรูปของ

ด้วยการประมาณค่าของมันโดยที่

ถูกประเมินจากข้อมูล .

e_{t - i}

$e_{t-i}$

e_{t - i}

$e_{t-i}$

— ซีอาน

1

ปัญหาหลักในคำถามของคุณคือคุณบอกว่าแบบจำลอง MA นั้นเป็นการถดถอยเชิงเส้น สิ่งนี้ไม่เป็นความจริงเนื่องจากเราไม่ปฏิบัติตามข้อกำหนดข้อผิดพลาด

— mpiktas

ผมคิดว่าคำข้อผิดพลาดเป็นจริง

ที่

คือ

หรือเพียงแค่

1

นั่นคือเหตุผลที่การประมาณค่าพารามิเตอร์ตัวแบบ MA นั้นได้มาจากรูปแบบที่เกิดซ้ำในฟังก์ชั่น autocorrelation บางส่วนของ

ซึ่งเป็นพฤติกรรมของส่วนที่เหลือ การประมาณค่าพารามิเตอร์ AR แทนจะขึ้นอยู่กับรูปแบบที่เกิดขึ้นประจำของ acf (Y)

Y_{t} - \hat{Y_{t}}

$Y_t - \hat{Y_t}$

\hat{Y}

$\hat{Y}$

E (Y | Y_{t, . . ., t - n})

$E(Y|Y_{t,...,t-n})$

Y_{t} - Y_{t - 1}

$Y_t - Y_{t-1}$

Y

$Y$

— โรเบิร์ตคูบริก

20

การประมาณค่ารุ่น MA:

ให้เราสมมติอนุกรมที่มี 100 เวลาและบอกว่านี่เป็นลักษณะของโมเดล MA (1) ที่ไม่มีการสกัดกั้น จากนั้นแบบจำลองจะถูกกำหนดโดย

y_{t} = ε_{t} - θ ε_{t - 1}, t = 1, 2, \dots, 100 (1)

$y_t=\varepsilon_t-\theta\varepsilon_{t-1},\quad t=1,2,\cdots,100\quad (1)$

ไม่พบข้อผิดพลาดที่นี่ เพื่อให้ได้สิ่งนี้Box et al การวิเคราะห์อนุกรมเวลา: การพยากรณ์และการควบคุม (ฉบับที่ 3) ,หน้า 228แสดงให้เห็นว่าระยะข้อผิดพลาดคือการคำนวณซ้ำโดย

ε_{t} = y_{t} + θ ε_{t - 1}

$\varepsilon_t=y_t+\theta\varepsilon_{t-1}$

ดังนั้นระยะข้อผิดพลาดสำหรับคือ ตอนนี้เราไม่สามารถคำนวณนี้โดยไม่ทราบว่าค่าของθดังนั้นเพื่อให้ได้สิ่งนี้เราจำเป็นต้องคำนวณการประมาณค่าเริ่มต้นหรือเบื้องต้นของโมเดลอ้างอิงที่ Box และคณะ จากหนังสือดังกล่าว $t=1$

ε_{1} = y_{1} + θ ε_{0}

$\varepsilon_{1}=y_{1}+\theta\varepsilon_{0}$

θ

$\theta$ มาตรา 6.3.2 หน้า 202ระบุว่า

มันแสดงให้เห็นว่าครั้งแรกที่ autocorrelations ของซาชูเซตส์ ( กระบวนการ) เป็นภัณฑ์และสามารถเขียนได้ในแง่ของพารามิเตอร์ของแบบจำลองเป็น $q$ $q$ สำนวนข้างต้นสำหรับ ในแง่ , อุปกรณ์สมการราชวงศ์ ประมาณการเบื้องต้นของ s สามารถรับได้โดยการแทนประมาณการสำหรับในสมการข้างต้น
$ρ_{k} = \frac{- θ_{k} + θ_{1} θ_{k + 1} + θ_{2} θ_{k + 2} + \dots + θ_{q - k} θ_{q}}{1 + θ_{1}^{2} + θ_{2}^{2} + \dots + θ_{q}^{2}} k = 1, 2, \dots, q$ $\rho_k=\displaystyle\frac{-\theta_{k}+\theta_1\theta_{k+1}+\theta_2\theta_{k+2}+\cdots+\theta_{q-k}\theta_q}{1+\theta_1^2+\theta_2^2+\cdots+\theta_q^2}\quad k=1,2,\cdots, q$ $\rho_1,\rho_2\cdots,\rho_q$ $\theta_1,\theta_2,\cdots,\theta_q$ $q$ $q$ $\theta$ $r_k$ $\rho_k$

โปรดทราบว่าคือค่าสัมพันธ์อัตโนมัติโดยประมาณ มีการอภิปรายเพิ่มเติมในหัวข้อ 6.3 - การประมาณค่าเริ่มต้นสำหรับพารามิเตอร์โปรดอ่าน ตอนนี้สมมติว่าเราได้รับการประมาณการเบื้องต้น 0.5จากนั้น ทีนี้ปัญหาอื่นคือเราไม่มีค่าสำหรับเพราะเริ่มที่ 1 และเราไม่สามารถคำนวณได้ โชคดีที่มีสองวิธีที่สองได้รับนี้ $r_k$ $\theta=0.5$

ε_{1} = y_{1} + 0.5 ε_{0}

$\varepsilon_{1}=y_{1}+0.5\varepsilon_{0}$

ε_{0}

$\varepsilon_0$

t

$t$

ε_{1}

$\varepsilon_1$

ความน่าจะเป็นเงื่อนไข
โอกาสที่ไม่มีเงื่อนไข

อ้างอิงจาก Box et al. ส่วนที่ 7.1.3 หน้า 227ค่าของสามารถทดแทนให้เป็นศูนย์ได้โดยประมาณหากอยู่ในระดับปานกลางหรือใหญ่วิธีนี้เป็นความน่าจะเป็นตามเงื่อนไข มิฉะนั้นโอกาสที่ไม่มีเงื่อนไขที่จะใช้นั้นค่าของคือได้รับกลับโดยการคาดการณ์กล่อง et al, แนะนำวิธีนี้ อ่านเพิ่มเติมเกี่ยวกับหลังการคาดการณ์ที่มาตรา 7.1.4 หน้า 231 $\varepsilon_0$ $n$ $\varepsilon_0$

หลังจากได้รับการประมาณการเบื้องต้นและมูลค่าของแล้วในที่สุดเราสามารถดำเนินการกับการคำนวณ recursive คำข้อผิดพลาด ขั้นตอนสุดท้ายคือการประมาณค่าพารามิเตอร์ของแบบจำลอง $\varepsilon_0$ $(1)$ โปรดจำไว้ว่านี่ไม่ใช่การประมาณการเบื้องต้นอีกต่อไป

ในการประมาณค่าพารามิเตอร์ $\theta$ ฉันใช้ขั้นตอนการประมาณค่าแบบไม่เชิงเส้นโดยเฉพาะอัลกอริทึม Levenberg-Marquardt เนื่องจากตัวแบบ MA ไม่เชิงเส้นบนพารามิเตอร์

โดยรวมแล้วฉันขอแนะนำให้คุณอ่านBox และคณะ การวิเคราะห์อนุกรมเวลา: การพยากรณ์และการควบคุม (ฉบับที่ 3)

— Al-Ahmadgaid Asaad
แหล่งที่มา

r_{k}

$r_k$

4

Y_{t} = - \sum_{i = 1}^{q} ϑ_{i} e_{t - i} + σ e_{t}, e_{t} \overset{iid}{\sim} N (0, 1)

$Y_t = -\sum_{i=1}^q \vartheta_i e_{t-i} + \sigma e_t,\quad e_t\stackrel{\text{iid}}{\sim} \mathcal{N}(0,1)$ so the MA(q) model is a "pure" error model, the degree

q

$q$ defining how far the correlation goes back.

— Xi'an
แหล่งที่มา

1

I'm still not clear on where

e_{t}

$e_t$ comes from. Is

e_{t}

$e_t$ a random variable? I don't think so, otherwise why to bother looking for

q

$q$ correlations?

— Robert Kubrick

1

Why is there a minus in your formula? Usually the minus is for AR models. Mathematically is not an issue, I'm just curious, since I've never seen minus in MA models.

— mpiktas

3

@RobertKubrick, are you aware of Wold decomposition theorem? Each stationary process has its corresponding innovation process, that is from where terms

e_{t}

$e_t$ come.

— mpiktas

1

@mpiktas Thanks, that gives some background on the error term, but I am still not clear on where the innovation process comes from, for an innovation to exist there's got to be a forecast somewhere (en.wikipedia.org/wiki/Innovation_(signal_processing)). Is the optimal

Y

$Y$ forecast simply

E (Y)

$E(Y)$ , that is the mean of the series?

— Robert Kubrick

1

You say "the observation $Y$ is first regressed against its previous values $Y_{t−1},...,Y_{t−n}$ and then one or more $Y−\hat{Y}$ values are used as the error terms for the MA model." What I say is that $Y$ is regressed against two predictor series $e_{t-1}$ and $e_{t−2}$ yielding an error process $e_t$ which will be uncorrelated for all i=3,4,,,,t .We then have two regression coefficients: $\theta_1$ representing the impact of $e_{t-1}$ and $\theta_2$ representing the impact of $e_{t-2}$ . Thus $e_t$ is a white noise random series containing n-2 values. Since we have n-2 estimable relationships we start with the assumption that e1 and e2 are equal to 0.0 . Now for any pair of $\theta_1$ and $\theta_2$ we can estimate the t-2 residual values. The combination that yields the smallest error sum of squares would then be the best estimates of $\theta_1$ and $\theta_2$ .

— IrishStat
แหล่งที่มา

What are the 2 other predictor series? I am asking because when I look at the literature I have it's never clearly specified. Are these 2 other series unrelated to

Y

$Y$ ? I had the impression that all ARIMA formulation is limited to the

Y

$Y$ series.

— Robert Kubrick

1

The 2 predictors are the lags of the error terms. Since these are not known a priori since we do not know the error terms before we begin is why this has to be treated by non-linear estimation.The confusion you are having is that a model that is finite in the past ( i.e. an AR MODEL ) is potentially infinite in the errors AND a model that is finite in the errors ( i.e. an MA MODEL) is potentially infinite in the past of Y.The reason one selects an AR MODEL versus an MA MODEL is for parsimony. Sometimes we construct an ARMA MODEL which blends both the history of Y and the history of the errors.

— IrishStat

1

As I commented in the other answer, what I am still missing is what's the optimal forecast for

Y

$Y$ , which is used to calculate the innovation

e_{t - n}

$e_{t-n}$ .

— Robert Kubrick

1

See my post here for an explanation of how to understand the disturbance terms in a MA series.

You need different estimation techniques to estimate them. This is because you cannot first get the residuals of a linear regression and then include the lagged residual values as explanatory variables because the MA process uses the residuals of the current regression. In your example you are making two regression equations and using residuals from one into the other. This is not what an MA process is. It cannot be estimated with OLS.

— JoeDanger
แหล่งที่มา