Proces stacjonarny - Stationary process

W matematyce i statystyce , A stacjonarny proces (lub ścisłe / proces ściśle stacjonarny lub silny / silnie stacjonarny proces ) jest stochastyczny proces , którego bezwarunkową wspólne prawdopodobieństwo dystrybucja nie zmienia się, gdy przesunięty w czasie. W konsekwencji parametry takie jak średnia i wariancja również nie zmieniają się w czasie. Aby uzyskać intuicję stacjonarności, można wyobrazić sobie wahadło bez tarcia . Kołysze się w przód i w tył w ruchu oscylacyjnym, ale amplituda i częstotliwość pozostają stałe. Chociaż wahadło się porusza, proces jest nieruchomy, ponieważ jego „ statystyki ” są stałe (częstotliwość i amplituda). Jeśli jednak do wahadła przyłożona zostanie siła , zmieni się albo częstotliwość, albo amplituda, czyniąc proces niestacjonarnym.

Ponieważ stacjonarność jest założeniem leżącym u podstaw wielu procedur statystycznych stosowanych w analizie szeregów czasowych , dane niestacjonarne są często przekształcane w stacjonarne. Najczęstszą przyczyną naruszenia stacjonarności jest trend średniej, który może wynikać z obecności pierwiastka jednostkowego lub trendu deterministycznego. W pierwszym przypadku pierwiastka jednostkowego wstrząsy stochastyczne mają trwałe skutki, a proces nie jest średnio-odwracający . W tym ostatnim przypadku trendu deterministycznego proces ten nazywa się procesem trendowo-stacjonarnym , a szoki stochastyczne mają jedynie skutki przejściowe, po których zmienna dąży do deterministycznie ewoluującej (niestałej) średniej.

Proces stacjonarny trendu nie jest ściśle stacjonarny, ale można go łatwo przekształcić w proces stacjonarny, usuwając leżący u jego podłoża trend, który jest wyłącznie funkcją czasu. Podobnie procesy z jednym lub większą liczbą pierwiastków jednostkowych mogą stać się stacjonarne poprzez różnicowanie. Ważnym rodzajem procesu niestacjonarnego, który nie obejmuje zachowania podobnego do trendu, jest proces cyklostacjonarny , który jest procesem stochastycznym, który zmienia się cyklicznie w czasie.

W wielu zastosowaniach stacjonarność w ścisłym sensie jest zbyt restrykcyjna. Stosuje się wówczas inne formy stacjonarności, takie jak stacjonarność szeroko rozumianą lub stacjonarność N -tego rzędu . Definicje różnych rodzajów stacjonarności nie są spójne wśród różnych autorów (patrz Inna terminologia ).

Stacjonarność ścisłego sensu

Definicja

Formalnie, niech będzie stochastycznego procesu i pozwolić stanowią dystrybuanty z następujących bezwarunkowe (czyli bez odniesienia do konkretnej wartości wyjściowej) łącznego rozkładu z czasem . Wtedy mówi się, że jest ściśle stacjonarny , silnie stacjonarny lub ściśle określony stacjonarny, jeśli ${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$${\ Displaystyle F_ {X} (x_ {t_ {1} + \ tau}, \ ldots, x_ {t_ {n} + \ tau})}$${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$${\displaystyle t_{1}+\tau,\ldots,t_{n}+\tau}$${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$

${\ Displaystyle F_ {X} (x_ {t_ {1} + \ tau}, \ ldots, x_ {t_ {n} + \ tau}) = F_ {X} (x_ {t_ {1}}, \ ldots, x_{t_{n}})\quad {\text{dla wszystkich }}\tau ,t_{1},\ldots ,t_{n}\in \mathbb {R} {\text{ i dla wszystkich }}n \w \mathbb {N} }$

( Równanie 1 )

Ponieważ nie ma wpływu , nie jest funkcją czasu. ${\ Displaystyle \ tau}$${\ Displaystyle F_ {X} (\ cdot )}$${\ Displaystyle F_ {X}}$

Przykłady

Powyżej pokazano dwa symulowane procesy szeregów czasowych, jeden stacjonarny, a drugi niestacjonarny. Rozszerzona statystyka testu Dickeya-Fullera (ADF) jest raportowana dla każdego procesu; niestacjonarność nie może być odrzucona dla drugiego procesu przy 5% poziomie istotności .

Szum biały jest najprostszym przykładem procesu stacjonarnego.

Przykładem procesu stacjonarnego w czasie dyskretnym , w którym przestrzeń próbki jest również dyskretna (tak, że zmienna losowa może przyjąć jedną z N możliwych wartości) jest schemat Bernoulliego . Inne przykłady stacjonarnego procesu w czasie dyskretnym z ciągłą przestrzenią próbkowania obejmują pewne procesy autoregresji i średniej ruchomej , które są podzbiorami modelu autoregresyjnej średniej ruchomej . Modele z nietrywialną składową autoregresyjną mogą być stacjonarne lub niestacjonarne, w zależności od wartości parametrów, a ważnymi niestacjonarnymi przypadkami specjalnymi są przypadki, w których w modelu występują pierwiastki jednostkowe .

Przykład 1

Niech będzie dowolną skalarną zmienną losową i zdefiniujemy szereg czasowy , by ${\ Displaystyle Y}$${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$

${\ Displaystyle X_ {t} = Y \ qquad {\ tekst {dla wszystkich}} t.}$

Następnie jest stacjonarny szereg czasowy, dla którego realizacje składają się z szeregu stałych wartości, o różnej wartości stałej dla każdej realizacji. Prawo wielkich liczb nie ma zastosowania w tej sprawie, jako wartość ograniczenia średnio z jednego realizacji przyjmuje wartość określoną przez losową , zamiast podjęcia oczekiwanej wartości z . ${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$${\ Displaystyle Y}$${\ Displaystyle Y}$

Średnia czasowa nie jest zbieżna, ponieważ proces nie jest ergodyczny . ${\ Displaystyle X_ {t}}$

Przykład 2

Jako dalszy przykład stacjonarnego procesu, dla których każdy pojedynczy realizacja posiada wyraźnie wolna od szumów strukturę pozwolić mieć rozkład jednolity na i zdefiniować szereg czasowy przez ${\ Displaystyle Y}$${\displaystyle (0,2\pi]}$${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$

${\ Displaystyle X_ {t} = \ cos (t + Y) \ quad {\ tekst {dla}} t \ w \ mathbb {R}.}$

Wtedy jest ściśle stacjonarny. ${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$

Przykład 3

Pamiętaj, że biały szum niekoniecznie jest nieruchomy. Niech będzie zmienną losową równomiernie rozłożoną w przedziale i zdefiniujemy szereg czasowy${\ Displaystyle \ omega}$${\displaystyle (0,2\pi)}$${\ Displaystyle \ lewo \ {z_ {t} \ prawo \}}$

${\ Displaystyle Z_ {t} = \ cos (t \ omega) \ quad (t = 1,2,...)}$

Następnie

${\ Displaystyle {\ zacząć {wyrównany} \ mathbb {e} (z_ {t}) i = {\ Frac {1} {2 \ pi}} \ int _ {0} ^ {2 \ pi} \ cos (t \omega )d\omega =0\\Var(z_{t})&={\frac {1}{2\pi }}\int _{0}^{2\pi }\cos ^{2}( t\omega )d\omega =1/2\\Cov(z_{t},z_{j})&={\frac {1}{2\pi }}\int _{0}^{2\pi }\cos(t\omega )\cos(j\omega )d\omega =0\quad \forall t\neq j\\\end{aligned}}}$.

Podobnie jest z białym szumem, ale nie jest on ściśle nieruchomy. ${\ Displaystyle \ lewo \ {z_ {t} \ prawo \}}$

Stacjonarność N -tego rzędu

W równaniu 1 rozkład próbek procesu stochastycznego musi być równy rozkładowi próbek przesuniętych w czasie dla wszystkich . Stacjonarność N -tego rzędu jest słabszą formą stacjonarności, gdzie wymagana jest tylko dla wszystkich do pewnego rzędu . Mówimy, że proces losowy jest stacjonarny N -tego rzędu, jeśli: ${\ Displaystyle n}$ ${\ Displaystyle n}$${\ Displaystyle n}$${\ Displaystyle N}$${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$

${\ Displaystyle F_ {X} (x_ {t_ {1} + \ tau}, \ ldots, x_ {t_ {n} + \ tau}) = F_ {X} (x_ {t_ {1}}, \ ldots, x_{t_{n}})\quad {\text{dla wszystkich }}\tau ,t_{1},\ldots ,t_{n}\in \mathbb {R} {\text{ i dla wszystkich }}n \w \{1,\ldots ,N\}}$

( Równanie 2 )

Słaba lub szeroko rozumiana stacjonarność

Definicja

Słabsza forma stacjonarności powszechnie stosowane w przetwarzaniu sygnału jest znana jako słabo poczucie stacjonarności , stacjonarności szerokim sensie (WSS) lub kowariancji stacjonarności . Procesy losowe WSS wymagają jedynie, aby 1. moment (tj. średnia) i autokowariancja nie różniły się w czasie i aby 2. moment był skończony dla wszystkich czasów. Każdy ściśle stacjonarny proces, który ma skończoną średnią i kowariancję, jest również WSS.

Tak więc ciągły proces losowy w czasie , jakim jest WSS, ma następujące ograniczenia dotyczące jego funkcji średniej i funkcji autokowariancji : ${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$${\ Displaystyle m_ {X} (t) \ triangleq \ operatorname {E} [X_ {t}]}$${\ Displaystyle K_ {XX} (t_ {1}, t_ {2}) \ triangleq \ operatorname {E} [(X_ {t_ {1}}-m_ {X} (t_ {1})) (X_ {t_ {2}}-m_{X}(t_{2}))]}$

${\ Displaystyle {\ zacząć {wyrównany} i m_ {X} (t) = m_ {X} (t + \ tau) i {\ tekst {dla wszystkich}} \ tau \ w \ mathbb {R} \ \ & K_ {XX} (t_{1},t_{2})=K_{XX}(t_{1}-t_{2},0)&&{\text{dla wszystkich }}t_{1},t_{2}\in \ mathbb {R} \\&\operatorname {E} [|X(t)|^{2}]<\infty &&{\text{dla wszystkich }}t\in \mathbb {R} \end{wyrównany}} }$

( Równanie 3 )

Pierwsza właściwość implikuje, że funkcja średniej musi być stała. Druga właściwość implikuje, że funkcja kowariancji zależy tylko od różnicy między i i musi być indeksowana tylko przez jedną zmienną, a nie dwie zmienne. Dlatego zamiast pisać, ${\ Displaystyle m_ {X} (t)}$${\displaystyle t_{1}}$${\displaystyle t_{2}}$

${\displaystyle \,\!K_{XX}(t_{1}-t_{2},0)\,}$

zapis jest często skracany przez podstawienie : ${\ Displaystyle \ tau = t_ {1}-t_ {2}}$

${\ Displaystyle K_ {XX} (\ tau) \ triangleq K_ {XX} (t_ {1}-t_ {2}, 0)}$

Oznacza to również, że autokorelacja zależy tylko od , czyli ${\ Displaystyle \ tau = t_ {1}-t_ {2}}$

${\ Displaystyle \, \! R_ {X} (t_ {1}, t_ {2}) = R_ {X} (t_ {1}-t_ {2}, 0) \ triangleq R_ {X} (\ tau) .}$

Trzecia własność mówi, że momenty drugie muszą być skończone w dowolnym czasie . ${\displaystyle t}$

Motywacja

Główną zaletą szeroko rozumianej stacjonarności jest to, że umieszcza szeregi czasowe w kontekście przestrzeni Hilberta . Niech H będzie przestrzenią Hilberta generowaną przez { x ( t )} (czyli domknięciem zbioru wszystkich kombinacji liniowych tych zmiennych losowych w przestrzeni Hilberta wszystkich całkowalnych do kwadratu zmiennych losowych w danej przestrzeni prawdopodobieństwa). Z dodatniej określoności funkcji autokowariancji wynika z twierdzenia Bochnera, że istnieje dodatnia miara na prostej rzeczywistej taka, że H jest izomorficzny z podprzestrzenią Hilberta L ² ( μ ) wygenerowaną przez { e ^{−2 π iξ⋅t} } . Daje to następującą dekompozycję typu Fouriera dla stacjonarnego procesu stochastycznego w czasie ciągłym: istnieje proces stochastyczny z przyrostami ortogonalnymi, tak że dla wszystkich${\ Displaystyle \ mu}$${\ Displaystyle \ omega _ {\ xi}}$${\displaystyle t}$

${\ Displaystyle X_ {t} = \ int e ^ {-2 \ pi ja \ lambda \ cdot t} \ d \ omega _ {\ lambda}}$

gdzie całka po prawej stronie jest interpretowana w odpowiednim (Riemann) sensie. Ten sam wynik dotyczy procesu stacjonarnego w czasie dyskretnym, z miarą widmową zdefiniowaną teraz na okręgu jednostkowym.

Podczas przetwarzania losowych sygnałów WSS za pomocą filtrów liniowych , niezmienniczych w czasie ( LTI ) , warto myśleć o funkcji korelacji jako o operatorze liniowym . Ponieważ jest to operator cyrkulacyjny (zależy tylko od różnicy między dwoma argumentami), jego funkcjami własnymi są złożone wykładniki Fouriera . Dodatkowo, ponieważ funkcje własne operatorów LTI są również złożonymi wykładnikami , przetwarzanie LTI losowych sygnałów WSS jest wysoce wykonalne — wszystkie obliczenia mogą być wykonywane w dziedzinie częstotliwości . Założenie WSS jest więc szeroko stosowane w algorytmach przetwarzania sygnałów .

Definicja złożonego procesu stochastycznego

W przypadku, gdy jest to złożony proces stochastyczny, funkcję autokowariancji definiuje się jako i oprócz wymagań w równaniu 3 wymagane jest, aby funkcja pseudo-autokowariancji zależała tylko od opóźnienia. We wzorach jest WSS, jeśli ${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$${\ Displaystyle K_ {XX} (t_ {1}, t_ {2}) = \ operatorname {E} [(X_ {t_ {1}}-m_ {X} (t_ {1})) {\ overline {( X_{t_{2}}-m_{X}(t_{2}))}}]}$${\ Displaystyle J_ {XX} (t_ {1}, t_ {2}) = \ operatorname {E} [(X_ {t_ {1}}-m_ {X} (t_ {1})) (X_ {t_ { 2}}-m_{X}(t_{2}))]}$${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$

${\ Displaystyle {\ zacząć {wyrównany} i m_ {X} (t) = m_ {X} (t + \ tau) i {\ tekst {dla wszystkich}} \ tau \ w \ mathbb {R} \ \ & K_ {XX} (t_{1},t_{2})=K_{XX}(t_{1}-t_{2},0)&&{\text{dla wszystkich }}t_{1},t_{2}\in \ mathbb {R} \\&J_{XX}(t_{1},t_{2})=J_{XX}(t_{1}-t_{2},0)&&{\text{dla wszystkich }}t_{ 1},t_{2}\in \mathbb {R} \\&\operator {E} [|X(t)|^{2}]<\infty &&{\text{dla wszystkich }}t\in \ mathbb {R} \end{wyrównany}}}$

( Równanie 4 )

Wspólna stacjonarność

Pojęcie stacjonarności można rozszerzyć na dwa procesy stochastyczne.

Wspólna stacjonarność w ścisłym sensie

Dwa procesy stochastyczne i są łącznie nazywane stacjonarnymi ściśle sensu, jeśli ich wspólny skumulowany rozkład pozostaje niezmieniony w czasie, tj. jeśli ${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$${\ Displaystyle \ lewo \ {Y_ {t} \ prawo \}}$${\ Displaystyle F_ {XY} (x_ {t_ {1}}, \ ldots, x_ {t_ {m}}, y_ {t_ {1} ^ {'}}, \ ldots, y_ {t_ {n} ^ { '}})}$

${\ Displaystyle F_ {XY} (x_ {t_ {1}}, \ ldots, x_ {t_ {m}}, y_ {t_ {1} ^ {'}}, \ ldots, y_ {t_ {n} ^ { '}})=F_{XY}(x_{t_{1}+\tau },\ldots ,x_{t_{m}+\tau },y_{t_{1}^{'}+\tau }, \ldots ,y_{t_{n}^{'}+\tau })\quad {\text{dla wszystkich }}\tau ,t_{1},\ldots ,t_{m},t_{1}^{ '},\ldots ,t_{n}^{'}\in \mathbb {R} {\text{ i dla wszystkich }}m,n\in \mathbb {N} }$

( Równanie 5 )

Stacjonarność połączenia ( M + N )-tego rzędu

Dwa procesy losowe i uważa się, że są one łącznie ( M  +  N )-tego rzędu stacjonarne, jeżeli: ${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$${\ Displaystyle \ lewo \ {Y_ {t} \ prawo \}}$

${\ Displaystyle F_ {XY} (x_ {t_ {1}}, \ ldots, x_ {t_ {m}}, y_ {t_ {1} ^ {'}}, \ ldots, y_ {t_ {n} ^ { '}})=F_{XY}(x_{t_{1}+\tau },\ldots ,x_{t_{m}+\tau },y_{t_{1}^{'}+\tau }, \ldots ,y_{t_{n}^{'}+\tau })\quad {\text{dla wszystkich }}\tau ,t_{1},\ldots ,t_{m},t_{1}^{ '},\ldots ,t_{n}^{'}\in \mathbb {R} {\text{ i dla wszystkich }}m\in \{1,\ldots ,M\},n\in \{1 ,\ldots ,N\}}$

( Równanie 6 )

Stała słaba lub szeroko rozumiana stacjonarność

Dwa procesy stochastyczne i są nazywane łącznie stacjonarnymi szeroko rozumianymi, jeśli oba są stacjonarnymi szeroko rozumianymi, a ich funkcja kowariancji krzyżowej zależy tylko od różnicy czasu . Można to podsumować w następujący sposób: ${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$${\ Displaystyle \ lewo \ {Y_ {t} \ prawo \}}$${\ Displaystyle K_ {XY} (t_ {1}, t_ {2}) = \ operatorname {E} [(X_ {t_ {1}}-m_ {X} (t_ {1})) (Y_ {t_ { 2}}-m_{Y}(t_{2}))]}$${\ Displaystyle \ tau = t_ {1}-t_ {2}}$

${\ Displaystyle {\ zacząć {wyrównany} i m_ {X} (t) = m_ {X} (t + \ tau) i {\ tekst {dla wszystkich}} \ tau \ w \ mathbb {R} \ \ i m_ {Y} (t)=m_{Y}(t+\tau )&&{\text{dla wszystkich }}\tau \in \mathbb {R} \\&K_{XX}(t_{1},t_{2})=K_ {XX}(t_{1}-t_{2},0)&&{\text{dla wszystkich }}t_{1},t_{2}\in \mathbb {R} \\&K_{YY}(t_{ 1},t_{2})=K_{YY}(t_{1}-t_{2},0)&&{\text{dla wszystkich }}t_{1},t_{2}\in \mathbb {R } \\&K_{XY}(t_{1},t_{2})=K_{XY}(t_{1}-t_{2},0)&&{\text{dla wszystkich }}t_{1}, t_{2}\in \mathbb {R} \end{wyrównany}}}$

( Równanie 7 )

Związek między typami stacjonarności

• Jeśli proces stochastyczny jest stacjonarny N -tego rzędu, to dla wszystkich jest również stacjonarny M -tego rzędu .${\ Displaystyle M \ leq N}$
• Jeśli proces stochastyczny jest stacjonarny drugiego rzędu ( ) i ma skończone momenty sekundowe, to jest również stacjonarny szerokorozumiany.${\ Displaystyle N = 2}$
• Jeśli proces stochastyczny jest stacjonarny o szerokim znaczeniu, to niekoniecznie jest stacjonarny drugiego rzędu.
• Jeśli proces stochastyczny jest stacjonarny w sensie ścisłym i ma skończone sekundy sekundowe, jest stacjonarny w sensie szerokorozumianym.
• Jeżeli dwa procesy stochastyczne są łącznie stacjonarne ( M  +  N )-tego rzędu, nie gwarantuje to, że poszczególne procesy są stacjonarne odpowiednio M- tego i N -tego rzędu.

Inna terminologia

Terminologia stosowana dla typów stacjonarności innych niż stacjonarność ścisła może być raczej mieszana. Oto kilka przykładów.

• Priestley używa stacjonarności do rzędu m , jeśli warunki podobne do tych podanych tutaj dla stacjonarności szerokiego sensu odnoszą się do momentów do rzędu m . Stacjonarność szerokiego sensu byłaby więc równoznaczna z „stacjonarnością do rzędu 2”, co różni się od podanej tutaj definicji stacjonarności drugiego rzędu.
• Honarkhah i Caers stosują również założenie stacjonarności w kontekście geostatystyki wielopunktowej, gdzie zakłada się, że wyższe statystyki n-punktowe są stacjonarne w dziedzinie przestrzennej.
• Tahmasebi i Sahimi przedstawili metodę adaptacyjnej Shannon opartego na który może być używany do modelowania dowolnych systemów niestacjonarnych.

Różnice

Jednym ze sposobów uczynienia pewnych szeregów czasowych stacjonarnymi jest obliczenie różnic między kolejnymi obserwacjami. Nazywa się to różnicowaniem . Różnicowanie może pomóc ustabilizować średnią szeregu czasowego poprzez usunięcie zmian w poziomie szeregu czasowego, a tym samym wyeliminowanie trendu i sezonowości.

Transformacje, takie jak logarytmy, mogą pomóc ustabilizować wariancję szeregu czasowego.

Jednym ze sposobów identyfikacji niestacjonarnych szeregów czasowych jest wykres ACF . Dla stacjonarnych szeregów czasowych ACF spadnie do zera stosunkowo szybko, podczas gdy ACF danych niestacjonarnych maleje powoli.

Zobacz też

• Proces Lévy'ego
• Stacjonarny proces ergodyczny
• Twierdzenie Wienera-Khinchina
• Ergodyczność
• Prawidłowość statystyczna
• Autokorelacja
• Zmniejszone prawdopodobieństwo

Bibliografia

Dalsza lektura

• Enders, Walter (2010). Stosowane ekonometryczne szeregi czasowe (wyd. trzecie). Nowy Jork: Wiley. s. 53–57. Numer ISBN 978-0-470-50539-7.
• Jestrovic, I.; Coyle'a, JL; Sejdic, E (2015). „Wpływ zwiększonej lepkości płynu na stacjonarną charakterystykę sygnału EEG u zdrowych osób dorosłych” . Badania mózgu . 1589 : 45–53. doi : 10.1016/j.brainres.2014.09.035 . PMC  4253861 . PMID  25245522 .
• Hyndman, Athanasopoulos (2013). Prognozowanie: zasady i praktyka. Oteksty. https://www.otexts.org/fpp/8/1

Zewnętrzne linki

• Rozkład spektralny funkcji losowej (Springer)