ARMA
În statistici , modelele ARMA ( modele autoregresive și media mobilă ) sau modelul Box- Jenkins sunt principalele modele ale seriilor temporale .
Având în vedere o serie de timp X t , modelul ARMA este un instrument pentru a înțelege și, eventual, a prezice valorile viitoare ale acestei serii. Modelul este compus din două părți: o parte autoregresivă (AR) și o parte medie mobilă (MA). Modelul este în general denumit ARMA ( p , q ), unde p este ordinea părții AR și q ordinea părții MA.
Definiție - un model mediu autoregresiv și mobil de ordine ( p , q ) (abreviat ca ARMA ( p , q ) ) este un proces temporal discret ( X t , t ∈ ℕ) care îndeplinește:
Xt=εt+∑eu=1pφeuXt-eu+∑eu=1qθeuεt-eu{\ displaystyle X_ {t} = \ varepsilon _ {t} + \ sum _ {i = 1} ^ {p} \ varphi _ {i} X_ {ti} + \ sum _ {i = 1} ^ {q} \ theta _ {i} \ varepsilon _ {ti}}
unde φ i și θ i sunt parametrii modelului și ε i sunt termenii de eroare.
Un model autoregresiv AR ( p ) este un ARMA ( p , 0)
Un model mediu mobil MA ( q ) este un ARMA (0, q )
Model autoregresiv
Un model autoregresiv de ordine p , prescurtat AR ( p ), este scris:
Xt=vs.+∑eu=1pφeuXt-eu+εt{\ displaystyle X_ {t} = c + \ sum _ {i = 1} ^ {p} \ varphi _ {i} X_ {ti} + \ varepsilon _ {t} \,}
unde sunt parametrii modelului, este un zgomot constant și un zgomot alb . Constanta este adesea omisă în literatură, procesul fiind apoi spus că este centrat.
φ1,...,φp{\ displaystyle \ varphi _ {1}, \ ldots, \ varphi _ {p}}vs.{\ displaystyle c}εt{\ displaystyle \ varepsilon _ {t}}
Sunt necesare constrângeri suplimentare asupra parametrilor pentru a garanta staționaritatea . De exemplu, pentru modelul AR (1), procese precum | φ 1 | ≥ 1 nu sunt staționare.
Exemplu: un proces AR (1)
Un model AR (1) este dat de:
Xt=vs.+φXt-1+εt{\ displaystyle X_ {t} = c + \ varphi X_ {t-1} + \ varepsilon _ {t} \,}
unde este zgomotul alb, cu medie și varianță zero .
εt{\ displaystyle \ varepsilon _ {t}}σ2{\ displaystyle \ sigma ^ {2}}
- Dacă , modelul este staționar în varianță .|φ|<1{\ displaystyle | \ varphi | <1}
- Dacă , atunci procesul prezintă o unitate rădăcină (în) , ceea ce înseamnă că este o mers aleatoriu și că nu este stațională în varianță.φ=1{\ displaystyle \ varphi = 1}
- Deci să presupunem . Așteptarea , varianța , autocovariance procesului sunt respectiv egale cu:|φ|<1{\ displaystyle | \ varphi | <1}
E[Xt]=vs.1-φ{\ displaystyle \ mathrm {E} \ left [X_ {t} \ right] = {\ frac {c} {1- \ varphi}}}
Vlar[Xt]=σ21-φ2{\ displaystyle \ mathrm {Var} \ left [X_ {t} \ right] = {\ frac {\ sigma ^ {2}} {1- \ varphi ^ {2}}}}
Bnu=VSov[Xt,Xt-nu]=σ21-φ2φ|nu|{\ displaystyle B_ {n} = \ mathrm {Cov} \ left [X_ {t}, X_ {tn} \ right] = {\ frac {\ sigma ^ {2}} {1- \ varphi ^ {2}} } \ varphi ^ {| n |}}
A lua înseamnă a avea o medie zero. Introducem o rată de descompunere a funcției de autocovarianță
vs.=0{\ displaystyle c = 0}τ=-1/ln(φ){\ displaystyle \ tau = -1 / \ ln (\ varphi)}
Densitatea spectrală de putere este transformata Fourier a funcției autocovariance. În cazul discret, acesta este scris:
Φ(ω)=12π∑nu=-∞∞Bnue-euωnu=12π(σ21+φ2-2φcos(ω)).{\ displaystyle \ Phi (\ omega) = {\ frac {1} {\ sqrt {2 \ pi}}} \, \ sum _ {n = - \ infty} ^ {\ infty} B_ {n} e ^ { -i \ omega n} = {\ frac {1} {\ sqrt {2 \ pi}}} \, \ left ({\ frac {\ sigma ^ {2}} {1+ \ varphi ^ {2} -2 \ varphi \ cos (\ omega)}} \ right).}Această dezvoltare este periodică datorită prezenței termenului cosinus în numitor. Presupunând că timpul de eșantionare ( ) este mai mic decât rata de descompunere ( ), atunci putem folosi o aproximare continuă a :
Δt=1{\ displaystyle \ Delta t = 1}τ{\ displaystyle \ tau}Bnu{\ displaystyle B_ {n}}
B(t)≈σ21-φ2φ|t|{\ displaystyle B (t) \ approx {\ frac {\ sigma ^ {2}} {1- \ varphi ^ {2}}} \, \, \ varphi ^ {| t |}}care prezintă o formă lorentziană pentru densitatea spectrală:
Φ(ω)=12πσ21-φ2γπ(γ2+ω2){\ displaystyle \ Phi (\ omega) = {\ frac {1} {\ sqrt {2 \ pi}}} \, {\ frac {\ sigma ^ {2}} {1- \ varphi ^ {2}}} \, {\ frac {\ gamma} {\ pi (\ gamma ^ {2} + \ omega ^ {2})}}}unde este frecvența unghiulară asociată .
γ=1/τ{\ displaystyle \ gamma = 1 / \ tau}τ{\ displaystyle \ tau}
O expresie alternativă pentru poate fi derivată prin înlocuirea cu în ecuația definitorie. Prin continuarea acestei manipulări, N ori oferă
Xt{\ displaystyle X_ {t}}Xt-1{\ displaystyle X_ {t-1}}vs.+φXt-2+εt-1{\ displaystyle c + \ varphi X_ {t-2} + \ varepsilon _ {t-1}}
Xt=vs.∑k=0NU-1φk+φNUXt-NU+∑k=0NU-1φkεt-k.{\ displaystyle X_ {t} = c \ sum _ {k = 0} ^ {N-1} \ varphi ^ {k} + \ varphi ^ {N} X_ {tN} + \ sum _ {k = 0} ^ {N-1} \ varphi ^ {k} \ varepsilon _ {tk}.}Pentru că N devine foarte mare, se apropie de 0 și:
φNU{\ displaystyle \ varphi ^ {N}}
Xt=vs.1-φ+∑k=0∞φkεt-k.{\ displaystyle X_ {t} = {\ frac {c} {1- \ varphi}} + \ sum _ {k = 0} ^ {\ infty} \ varphi ^ {k} \ varepsilon _ {tk}.}Putem vedea că acesta este zgomotul alb conturiat cu nucleul plus o medie constantă. Dacă zgomotul alb este gaussian , atunci este și un proces normal. În caz contrar, teorema limitei centrale spune că va fi aproximativ normal atunci când este aproape de unitate.
Xt{\ displaystyle X_ {t}}φk{\ displaystyle \ varphi ^ {k}}Xt{\ displaystyle X_ {t}}Xt{\ displaystyle X_ {t}}φ{\ displaystyle \ varphi}
Estimarea parametrilor RA
Modelul AR ( p ) este dat de
Xt=∑eu=1pφeuXt-eu+εt.{\ displaystyle X_ {t} = \ sum _ {i = 1} ^ {p} \ varphi _ {i} X_ {ti} + \ varepsilon _ {t}. \,}Parametrii care trebuie evaluați sunt unde i = 1,…, p . Există o corespondență directă între acești parametri și funcția covarianței (și, prin urmare, a autocorelației) și se pot deriva parametrii prin inversarea acestor relații. Acestea sunt ecuațiile Yule- Walker :
φeu{\ displaystyle \ varphi _ {i}}
γm=∑k=1pφkγm-k+σε2δm{\ displaystyle \ gamma _ {m} = \ sum _ {k = 1} ^ {p} \ varphi _ {k} \ gamma _ {mk} + \ sigma _ {\ varepsilon} ^ {2} \ delta _ { m}}unde m = 0,…, p , care dă în toate ecuațiile p + 1. Coeficienții este funcția de autocorelare a X , este deviația (deviație standard) de zgomot alb, iar δ m este simbolul Kronecker .
γm{\ displaystyle \ gamma _ {m}}σε{\ displaystyle \ sigma _ {\ varepsilon}}
Ultima parte a ecuației este diferită de zero dacă m = 0; luând m > 0, ecuația anterioară este scrisă ca un sistem matricial
[γ1γ2γ3⋮]=[γ0γ-1γ-2...γ1γ0γ-1...γ2γ1γ0...⋮⋮⋮⋱][φ1φ2φ3⋮]{\ displaystyle {\ begin {bmatrix} \ gamma _ {1} \\\ gamma _ {2} \\\ gamma _ {3} \\\ vdots \\\ end {bmatrix}} = {\ begin {bmatrix} \ gamma _ {0} & \ gamma _ {- 1} & \ gamma _ {- 2} & \ dots \\\ gamma _ {1} & \ gamma _ {0} & \ gamma _ {- 1} & \ dots \\\ gamma _ {2} & \ gamma _ {1} & \ gamma _ {0} & \ dots \\\ vdots & \ vdots & \ vdots & \ ddots \\\ end {bmatrix}} {\ begin {bmatrix} \ varphi _ {1} \\\ varphi _ {2} \\\ varphi _ {3} \\\ vdots \\\ end {bmatrix}}}Pentru m = 0, avem
γ0=∑k=1pφkγ-k+σε2{\ displaystyle \ gamma _ {0} = \ sum _ {k = 1} ^ {p} \ varphi _ {k} \ gamma _ {- k} + \ sigma _ {\ varepsilon} ^ {2}}care ajută la găsire .
σε2{\ displaystyle \ sigma _ {\ varepsilon} ^ {2}}
Ecuațiile Yule-Walker oferă o modalitate de a estima parametrii modelului AR ( p ), înlocuind covarianțele teoretice cu valorile estimate. O modalitate de a obține aceste valori este să ia în considerare regresia liniară a X t pe sale p primele GAL - uri.
Obținerea ecuațiilor Yule-Walker
Ecuația definitorie a procesului AR este
Xt=∑eu=1pφeuXt-eu+εt.{\ displaystyle X_ {t} = \ sum _ {i = 1} ^ {p} \ varphi _ {i} \, X_ {ti} + \ varepsilon _ {t}. \,}Înmulțind cei doi membri cu X t - m și luând așteptările, obținem
E[XtXt-m]=E[∑eu=1pφeuXt-euXt-m]+E[εtXt-m].{\ displaystyle E [X_ {t} X_ {tm}] = E \ left [\ sum _ {i = 1} ^ {p} \ varphi _ {i} \, X_ {ti} X_ {tm} \ right] + E [\ varepsilon _ {t} X_ {tm}].}Acum, se dovedește că E [ X t X t - m ] = γ m prin definiția funcției de autocovarianță. Termenii de zgomot alb sunt independenți unul de celălalt și, în plus, X t - m este independent de ε t unde m este mai mare decât zero. Pentru m > 0, E [ε t X t - m ] = 0. Pentru m = 0,
E[εtXt]=E[εt(∑eu=1pφeuXt-eu+εt)]=∑eu=1pφeuE[εtXt-eu]+E[εt2]=0+σε2,{\ displaystyle E [\ varepsilon _ {t} X_ {t}] = E \ left [\ varepsilon _ {t} \ left (\ sum _ {i = 1} ^ {p} \ varphi _ {i} \, X_ {ti} + \ varepsilon _ {t} \ right) \ right] = \ sum _ {i = 1} ^ {p} \ varphi _ {i} \, E [\ varepsilon _ {t} \, X_ { ti}] + E [\ varepsilon _ {t} ^ {2}] = 0+ \ sigma _ {\ varepsilon} ^ {2},}Acum, avem pentru m ≥ 0,
γm=E[∑eu=1pφeuXt-euXt-m]+σε2δm.{\ displaystyle \ gamma _ {m} = E \ left [\ sum _ {i = 1} ^ {p} \ varphi _ {i} \, X_ {ti} X_ {tm} \ right] + \ sigma _ { \ varepsilon} ^ {2} \ delta _ {m}.}In caz contrar,
E[∑eu=1pφeuXt-euXt-m]=∑eu=1pφeuE[XtXt-m+eu]=∑eu=1pφeuγm-eu,{\ displaystyle E \ left [\ sum _ {i = 1} ^ {p} \ varphi _ {i} \, X_ {ti} X_ {tm} \ right] = \ sum _ {i = 1} ^ {p } \ varphi _ {i} \, E [X_ {t} X_ {tm + i}] = \ sum _ {i = 1} ^ {p} \ varphi _ {i} \, \ gamma _ {mi}, }care oferă ecuațiile Yule-Walker:
γm=∑eu=1pφeuγm-eu+σε2δm.{\ displaystyle \ gamma _ {m} = \ sum _ {i = 1} ^ {p} \ varphi _ {i} \ gamma _ {mi} + \ sigma _ {\ varepsilon} ^ {2} \ delta _ { m}.}pentru m ≥ 0. Pentru m <0,
γm=γ-m=∑eu=1pφeuγ|m|-eu+σε2δm.{\ displaystyle \ gamma _ {m} = \ gamma _ {- m} = \ sum _ {i = 1} ^ {p} \ varphi _ {i} \ gamma _ {| m | -i} + \ sigma _ {\ varepsilon} ^ {2} \ delta _ {m}.}
Model mediu în mișcare
Notarea MA ( q ) se referă la modelul mediu mobil de ordine q :
Xt=εt+∑eu=1qθeuεt-eu{\ displaystyle X_ {t} = \ varepsilon _ {t} + \ sum _ {i = 1} ^ {q} \ theta _ {i} \ varepsilon _ {ti} \,}unde θ 1 ,…, θ q sunt parametrii modelului și ε t , ε t-1 ,… sunt din nou termeni de eroare.
O notă privind termenii de eroare
Termenii de eroare ε t sunt, în general, presupuși a fi independenți și distribuiți identic (iid) conform unei distribuții normale cu medie zero: ε t ~ N (0, σ 2 ) unde σ 2 este varianța. Aceste ipoteze pot fi relaxate, dar acest lucru ar schimba proprietățile modelului, cum ar fi asumarea caracterului iid unic
Specificații în termeni de operator de întârziere
Modelele ARMA pot fi scrise în termeni de L , care este operatorul de întârziere . Este scris modelul autoregresiv AR ( p )
εt=(1-∑eu=1pφeuLeu)Xt=φXt{\ displaystyle \ varepsilon _ {t} = \ left (1- \ sum _ {i = 1} ^ {p} \ varphi _ {i} L ^ {i} \ right) X_ {t} = \ varphi X_ { t} \,}unde φ reprezintă polinomul
φ=1-∑eu=1pφeuLeu.{\ displaystyle \ varphi = 1- \ sum _ {i = 1} ^ {p} \ varphi _ {i} L ^ {i}. \,}Pentru modelul mediu mobil MA ( q ), avem
Xt=(1+∑eu=1qθeuLeu)εt=θεt{\ displaystyle X_ {t} = \ left (1+ \ sum _ {i = 1} ^ {q} \ theta _ {i} L ^ {i} \ right) \ varepsilon _ {t} = \ theta \ varepsilon _ {t} \,}unde θ reprezintă polinomul
θ=1+∑eu=1qθeuLeu.{\ displaystyle \ theta = 1 + \ sum _ {i = 1} ^ {q} \ theta _ {i} L ^ {i}. \,}În cele din urmă, prin combinarea celor două aspecte, obținem scrierea modelului ARMA ( p , q ):
(1-∑eu=1pφeuLeu)Xt=(1+∑eu=1qθeuLeu)εt{\ displaystyle \ left (1- \ sum _ {i = 1} ^ {p} \ varphi _ {i} L ^ {i} \ right) X_ {t} = \ left (1+ \ sum _ {i = 1} ^ {q} \ theta _ {i} L ^ {i} \ right) \ varepsilon _ {t} \,}unde mai scurt:
φXt=θεt.{\ displaystyle \ varphi X_ {t} = \ theta \ varepsilon _ {t}. \,}
Model potrivit
Modelele ARMA, odată alese ordinele p și q , pot fi adaptate la date prin metoda celor mai mici pătrate : căutăm parametrii care minimizează suma pătratelor reziduale. Luarea celor mai mici valori p și q este în general văzută ca o bună practică (principiul parsimonii ). Pentru un model AR pur, ecuațiile Yule-Walker permit efectuarea ajustării.
Note și referințe
Bibliografie
-
(fr) Jean-Jacques Droesbeke, Bernard Fichet, Philippe Tassi, Seria cronologică - Teoria și practica modelelor ARIMA , Economica , 1989 ( ISBN 2-7178-1549-X )
-
(ro) George EP Box , Gwilym Jenkins și Gregory C. Reinsel, Time Series Analysis: Forecasting and Control , ediția a treia. Prentice-Hall, 1994.
-
(ro) Terence C. Mills, Time Series Techniques for Economists , Cambridge University Press, 1990.
-
(ro) Donald B. Percival și Andrew T. Walden, Analiza spectrală pentru aplicații fizice. Cambridge University Press, 1993.
-
(ro) Sudhakar M. Pandit și Shien-Ming Wu, Seria temporală și Analiza sistemelor cu aplicații. John Wiley & Sons, 1983.
-
(ro) James D. Hamilton, Time Series Analysis , Princeton University Press, 1994
<img src="https://fr.wikipedia.org/wiki/Special:CentralAutoLogin/start?type=1x1" alt="" title="" width="1" height="1" style="border: none; position: absolute;">