Autokorelacja - Autocorrelation

Część serii poświęconej statystyce
Korelacja i kowariancja
Dla wektorów losowych Macierz autokorelacji Macierz korelacji krzyżowych Macierz autokowariancji Macierz kowariancji krzyżowej
Do procesów stochastycznych Funkcja autokorelacji Funkcja korelacji krzyżowej Funkcja autokowariancji Funkcja kowariancji krzyżowej
Dla sygnałów deterministycznych Funkcja autokorelacji Funkcja korelacji krzyżowej Funkcja autokowariancji Funkcja kowariancji krzyżowej
v T mi

Powyżej: Wykres serii 100 liczb losowych kryjących funkcję sinus . Poniżej: funkcja sinus ujawniona na korelogramie uzyskanym przez autokorelację.

Wizualne porównanie splotu, korelacji krzyżowej i autokorelacji . W przypadku operacji obejmujących funkcję f i zakładając, że wysokość f wynosi 1,0, wartość wyniku w 5 różnych punktach jest oznaczona zacienionym obszarem poniżej każdego punktu. Ponadto, symetria f jest przyczyną i są identyczne w tym przykładzie.${\ Displaystyle g * f}$${\displaystyle f\gwiazda g}$

Autokorelacji , czasami nazywany korelacji szeregowym w czasie dyskretnym przypadku, to związek o sygnał z opóźnioną kopią jako funkcji opóźnienia. Nieformalnie jest to podobieństwo między obserwacjami jako funkcja odstępu czasowego między nimi. Analiza autokorelacji jest matematycznym narzędziem do znajdowania powtarzających się wzorców, takich jak obecność okresowego sygnału przesłoniętego szumem lub identyfikowanie brakującej częstotliwości podstawowej sygnału wynikającej z jego częstotliwości harmonicznych . Jest często używany w przetwarzaniu sygnałów do analizy funkcji lub serii wartości, takich jak sygnały w dziedzinie czasu .

Różne kierunki studiów różnie definiują autokorelację i nie wszystkie te definicje są równoważne. W niektórych dziedzinach termin ten jest używany zamiennie z autokowariancją .

Jednostka korzeniowe procesy, procesy Trend-stacjonarny , procesy autoregresji i średniej ruchomej procesy są szczególne formy procesów o autokorelacji.

Autokorelacja procesów stochastycznych

W statystyce autokorelacją rzeczywistego lub złożonego procesu losowego jest korelacja Pearsona między wartościami procesu w różnym czasie, jako funkcja dwukrotności lub opóźnienia czasowego. Niech będzie procesem losowym i będzie dowolnym punktem w czasie ( może być liczbą całkowitą dla procesu w czasie dyskretnym lub liczbą rzeczywistą dla procesu w czasie ciągłym ). Wtedy jest wartość (lub realizacja ) wytworzona przez dany przebieg procesu w czasie . Załóżmy , że proces ma średnią i wariancję w czasie , dla każdego . Następnie definicja funkcji autokorelacji między czasami i is ${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$${\displaystyle t}$${\displaystyle t}$${\ Displaystyle X_ {t}}$${\displaystyle t}$ ${\ Displaystyle \ mu _ {t}}$ ${\ Displaystyle \ sigma _ {t} ^ {2}}$${\displaystyle t}$${\displaystyle t}$${\displaystyle t_{1}}$${\displaystyle t_{2}}$

${\ Displaystyle \ nazwa operatora {R} _ {XX} (t_ {1}, t_ {2}) = \ nazwa operatora {E} \ lewo [X_ {t_ {1}} {\ nadkreślenie {X}} _ { t_ { 2}}\prawo]}$

( Równanie 1 )

gdzie jest operatorem wartości oczekiwanej , a słupek reprezentuje złożoną koniugację . Zauważ, że oczekiwanie może nie być dobrze zdefiniowane . ${\ Displaystyle \ Operatorname {E} }$

Odjęcie średniej przed pomnożeniem daje funkcję autokowariancji między czasami i : ${\displaystyle t_{1}}$${\displaystyle t_{2}}$

${\ Displaystyle \ nazwa operatora {K} _ {XX} (t_ {1}, t_ {2}) = \ nazwa operatora {E} \ lewo [(X_ {t_ {1}} - \ mu _ {t_ {1}} ){\overline {(X_{t_{2}}-\mu _{t_{2}})}}\right]=\nazwa operatora {E} \left[X_{t_{1}}{\overline {X }}_{t_{2}}\right]-\mu _{t_{1}}{\overline {\mu }}_{t_{2}}}$

( Równanie 2 )

Zwróć uwagę, że wyrażenie to nie jest dobrze zdefiniowane dla wszystkich szeregów czasowych lub procesów, ponieważ średnia może nie istnieć lub wariancja może być zerowa (dla procesu stałego) lub nieskończona (dla procesów z rozkładem, w których brakuje prawidłowych momentów, takich jak pewne rodzaje prawa energetycznego ).

Definicja szeroko rozumianego stacjonarnego procesu stochastycznego

Jeśli jest szeroko rozumianym procesem stacjonarnym, to średnia i wariancja są niezależne od czasu, a ponadto funkcja autokowariancji zależy tylko od opóźnienia między i : autokowariancja zależy tylko od odległości czasowej między parą wartości, ale nie od ich pozycja w czasie. To dalej implikuje, że autokowariancję i autokorelację można wyrazić jako funkcję opóźnienia i że byłaby to parzysta funkcja opóźnienia . Daje to bardziej znane formy funkcji autokorelacji${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$${\ Displaystyle \ mu}$${\ Displaystyle \ sigma ^ {2}}$${\displaystyle t_{1}}$${\displaystyle t_{2}}$${\ Displaystyle \ tau = t_ {2}-t_ {1}}$

${\ Displaystyle \ operatorname {R} _ {XX} (\ tau ) = \ operatorname {E} \ lewo [X_ {t + \ tau} {\ overline {X}} _ {t} \ prawo]}$

( Równanie 3 )

oraz funkcja autokowariancji :

${\ Displaystyle \ operatorname {K} _ {XX} (\ tau) = \ operatorname {E} \ lewo [(X_ {t + \ tau} - \ mu) {\ overline {(X_ {t} - \ mu)} }\right]=\operatorname {E} \left[X_{t+\tau }{\overline {X}}_{t}\right]-\mu {\overline {\mu }}}$

( Równanie 4 )

Normalizacja

Powszechną praktyką w niektórych dyscyplinach (np. statystyce i analizie szeregów czasowych ) jest normalizowanie funkcji autokowariancji w celu uzyskania zależnego od czasu współczynnika korelacji Pearsona . Jednak w innych dyscyplinach (np. inżynierskich) zwykle odchodzi się od normalizacji, a terminy „autokorelacja” i „autokowariancja” są używane zamiennie.

Definicja współczynnika autokorelacji procesu stochastycznego to

$${\ Displaystyle \ rho _ {XX} (t_ {1}, t_ {2}) = {\ Frac {\ Operator {K} _ {XX} (t_ {1}, t_ {2})} {\ Sigma _ {t_{1}}\sigma _{t_{2}}}}={\frac {\nazwa operatora {E} \left[(X_{t_{1}}-\mu _{t_{1}}){ \overline {(X_{t_{2}}-\mu _{t_{2}})}}\right]}{\sigma _{t_{1}}\sigma _{t_{2}}}}. }$$

Jeśli funkcja jest dobrze zdefiniowana, jej wartość musi leżeć w zakresie , gdzie 1 oznacza idealną korelację, a -1 oznacza idealną antykorelację . ${\ Displaystyle \ rho _ {XX}}$${\displaystyle [-1,1]}$

W przypadku procesu stacjonarności o słabym znaczeniu i procesu stacjonarności o szerokim znaczeniu (WSS) definicja to:

$${\ Displaystyle \ rho _ {XX} (\ tau) = {\ Frac {\ Operator {K} _ {XX} (\ tau)} {\ Sigma ^ {2}}} = {\ Frac {\ Operator {E } \left[(X_{t+\tau }-\mu ){\overline {(X_{t}-\mu )}}\right]}{\sigma ^{2}}}}$$

gdzie

$${\ Displaystyle \ Operatorname {K} _ {XX} (0) = \ Sigma ^ {2}.}$$

Normalizacja jest ważna zarówno dlatego, że interpretacja autokorelacji jako korelacji zapewnia bezskalową miarę siły zależności statystycznej , jak i dlatego, że normalizacja ma wpływ na statystyczne właściwości oszacowanych autokorelacji.

Nieruchomości

Właściwość symetrii

Fakt, że funkcja autokorelacji jest funkcją parzystą można określić jako ${\ Displaystyle \ Operatorname {R} _ {XX}}$

$${\ Displaystyle \ nazwa operatora {R} _ {XX} (t_ {1}, t_ {2}) = {\ overline {\ nazwa operatora {R} _ {XX} (t_ {2}, t_ {1})}} }$$

$${\ Displaystyle \ operatorname {R} _ {XX} (\ tau) = {\ overline {\ operatorname {R} _ {XX} (-\ tau)}}.}$$

Maksimum przy zerze

W przypadku procesu WSS:

$${\ Displaystyle \ left | \ operatorname {R} _ {XX} (\ tau) \ right | \ leq \ operatorname {R} _ {XX} (0)}$$

${\ Displaystyle \ Operatorname {R} _ {XX} (0)}$

nierówność Cauchy-Schwarza

Nierówność Cauchy'ego-Schwarza , nierówność dla procesów stochastycznych:

$${\ Displaystyle \ left | \ operatorname {R} _ {XX} (t_ {1}, t_ {2}) \ right | ^ {2} \ leq \ operatorname {E} \ left [| X_ {t_ {1} }|^{2}\right]\operatorname {E} \left[|X_{t_{2}}|^{2}\right]}$$

Autokorelacja białego szumu

Autokorelacja sygnału białego szumu w czasie ciągłym będzie miała silny pik (reprezentowany przez deltę Diraca ) przy i będzie dokładnie równy 0 dla wszystkich innych . ${\ Displaystyle \ tau = 0}$${\ Displaystyle \ tau}$

Twierdzenie Wienera-Khinchina

Twierdzenie Wienera-Khinchina odnosi funkcję autokorelacji do gęstości widmowej mocy poprzez transformację Fouriera : ${\ Displaystyle \ Operatorname {R} _ {XX}}$ ${\ Displaystyle S_ {XX}}$

$${\ Displaystyle \ operatorname {R} _ {XX} (\ tau ) = \ inft _ {- \ infty} ^ {\ infty} S_ {XX} (f) e ^ {i2 \ pi f \ tau} \ { \rm {d}}f}$$

$${\ Displaystyle S_ {XX} (f) = \ int _ {- \ infty} ^ {\ infty} \ operatorname {R} _ {XX} (\ tau) e ^ {-i2 \ pi f \ tau} \, {\rm {d}}\tau.}$$

W przypadku funkcji o wartościach rzeczywistych symetryczna funkcja autokorelacji ma rzeczywistą transformację symetryczną, więc twierdzenie Wienera-Khinchina można ponownie wyrazić w kategoriach rzeczywistych cosinusów:

$${\ Displaystyle \ operatorname {R} _ {XX} (\ tau ) = \ inft _ {- \ infty} ^ {\ infty} S_ {XX} (f) \ cos (2 \ pi f \ tau) \ { \rm {d}}f}$$

$${\ Displaystyle S_ {XX} (f) = \ int _ {- \ infty} ^ {\ infty} \ nazwa operatora {R} _ {XX} (\ tau) \ cos (2 \ pi f \ tau) \ { \rm {d}}\tau.}$$

Autokorelacja wektorów losowych

Macierz (potencjalnie zależna od czasu) autokorelacji (zwana również drugim momentem) losowego wektora (potencjalnie zależnego od czasu) jest macierzą zawierającą jako elementy autokorelacje wszystkich par elementów wektora losowego . Macierz autokorelacji jest wykorzystywana w różnych algorytmach przetwarzania sygnałów cyfrowych. ${\ Displaystyle \ mathbf {X} = (X_ {1}, \ ldots, X_ {n}) ^ {\ rm {T}}}$${\displaystyle n\razy n}$${\ Displaystyle \ mathbf {X}}$

Dla wektora losowego zawierającego elementy losowe, których wartość oczekiwana i wariancja istnieją, macierz autokorelacji jest zdefiniowana przez ${\ Displaystyle \ mathbf {X} = (X_ {1}, \ ldots, X_ {n}) ^ {\ rm {T}}}$

${\ Displaystyle \ operatorname {R} _ {\ mathbf {X} \ mathbf {X}} \ trójkątq \ \ operatorname {E} \ lewo [\ mathbf {X} \ mathbf {X} ^ {\ rm {T}} \Prawidłowy]}$

( Równanie 1 )

gdzie oznacza transpozycję i ma wymiary . ${\ Displaystyle {} ^ {\ rm {T}}}$${\displaystyle n\razy n}$

Pisemne pod kątem komponentów:

$${\ Displaystyle \ operatorname {R} _ {\ mathbf {X} \ mathbf {X} } = {\ zacząć {bmatrix} \ operatorname {E} [X_ {1} X_ {1}] i \ operatorname {E} [ X_{1}X_{2}]&\cdots &\nazwa operatora {E} [X_{1}X_{n}]\\\\\nazwa operatora {E} [X_{2}X_{1}]&\nazwa operatora {E} [X_{2}X_{2}]&\cdots &\nazwa operatora {E} [X_{2}X_{n}]\\\\\vdots &\vdots &\ddots &\vdots \\\ \\nazwa operatora {E} [X_{n}X_{1}]&\nazwa operatora {E} [X_{n}X_{2}]&\cdots &\nazwa operatora {E} [X_{n}X_{n} ]\\\\\koniec{bmatrycy}}}$$

Jeśli jest złożonym wektorem losowym , macierz autokorelacji jest zamiast tego zdefiniowana przez ${\ Displaystyle \ mathbf {Z}}$

$${\ Displaystyle \ operatorname {R} _ {\ mathbf {Z} \ mathbf {Z}} \ trójkątq \ \ operatorname {E} [\ mathbf {Z} \ mathbf {Z} ^ {\ rm {H}}]. }$$

Tutaj oznacza transpozycję hermitowską . ${\ Displaystyle {} ^ {\ RM {H}}}$

Na przykład, jeśli jest wektorem losowym, to jest macierzą, której -ty wpis to . ${\ Displaystyle \ mathbf {X} = \ lewo (X_ {1}, X_ {2}, X_ {3} \ po prawej) ^ {\ rm {T}}}$${\ Displaystyle \ operatorname {R} _ {\ mathbf {X} \ mathbf {X}}}$${\displaystyle 3\razy 3}$${\ Displaystyle (i, j)}$${\ Displaystyle \ operatorname {E} [X_ {i} X_ {j}]}$

Własności macierzy autokorelacji

• Macierz autokorelacji jest macierzą hermitowską dla złożonych wektorów losowych i macierzą symetryczną dla rzeczywistych wektorów losowych.
• Macierz autokorelacji jest macierzą dodatnią półokreśloną , tj. dla rzeczywistego wektora losowego i odpowiednio w przypadku złożonego wektora losowego.${\ Displaystyle \ mathbf {a} ^ {\ operatorname {T} } \ operatorname {R} _ {\ mathbf {X} \ mathbf {X}} \ mathbf {a} \ geq 0 \ quad {\ tekst {dla wszystkich }}\mathbf {a} \in \mathbb {R} ^{n}}$${\ Displaystyle \ mathbf {a} ^ {\ operatorname {H} } \ operatorname {R} _ {\ mathbf {Z} \ mathbf {Z}} \ mathbf {a} \ geq 0 \ quad {\ tekst {dla wszystkich }}\mathbf {a} \in \mathbb {C} ^{n}}$
• Wszystkie wartości własne macierzy autokorelacji są rzeczywiste i nieujemne.
• Matryca auto-kowariancji jest związana z matrycą autokorelacji w następujący sposób:
  $${\ Displaystyle \ operatorname {K} _ {\ mathbf {X} \ mathbf {X}} = \ operatorname {E} [(\ mathbf {X} - \ operatorname {E} [\ mathbf {X}]) (\ mathbf {X} -\operatorname {E} [\mathbf {X} ])^{\rm {T}}]=\operatorname {R} _{\mathbf {X} \mathbf {X} }-\operatorname { E} [\mathbf {X} ]\operator {E} [\mathbf {X} ]^{\rm {T}}}$$

  

  Odpowiednio dla złożonych wektorów losowych:

  $${\ Displaystyle \ operatorname {K} _ {\ mathbf {Z} \ mathbf {Z}} = \ operatorname {E} [(\ mathbf {Z} - \ operatorname {E} [\ mathbf {Z}]) (\ mathbf {Z} -\operatorname {E} [\mathbf {Z} ])^{\rm {H}}]=\operatorname {R} _{\mathbf {Z} \mathbf {Z} }-\operatorname { E} [\mathbf {Z} ]\operator {E} [\mathbf {Z} ]^{\rm {H}}}$$

  

Autokorelacja sygnałów deterministycznych

W przetwarzaniu sygnałów powyższa definicja jest często używana bez normalizacji, to znaczy bez odejmowania średniej i dzielenia przez wariancję. Gdy funkcja autokorelacji jest znormalizowana przez średnią i wariancję, czasami nazywa się ją współczynnikiem autokorelacji lub funkcją autokowariancji.

Autokorelacja sygnału ciągłego czasu

Biorąc pod uwagę sygnał , ciągła autokorelacja jest najczęściej definiowana jako ciągła całka korelacji krzyżowej z samym sobą, przy lag . ${\displaystyle f(t)}$${\ Displaystyle R_ {ff} (\ tau)}$${\displaystyle f(t)}$${\ Displaystyle \ tau}$

${\ Displaystyle R_ {ff} (\ tau) = \ int _ {- \ infty} ^ {\ infty} f (t + \ tau) {\ overline {f (t)}} \ {\ rm {d}} t=\int _{-\infty }^{\infty }f(t){\overline {f(t-\tau )}}\,{\rm {d}}t}$

( Równanie 6 )

gdzie oznacza sprzężoną liczbę zespoloną o . Zauważ, że parametr w całce jest zmienną fikcyjną i jest potrzebny tylko do obliczenia całki. Nie ma konkretnego znaczenia. ${\displaystyle {\overline {f(t)}}}$${\displaystyle f(t)}$${\displaystyle t}$

Autokorelacja sygnału czasu dyskretnego

Dyskretna autokorelacja z opóźnieniem dla sygnału dyskretnego czasu wynosi ${\ Displaystyle R}$${\displaystyle \ell}$${\ Displaystyle y (n)}$

${\ Displaystyle R_ {yy} (\ ell ) = \ suma _ {n \ w Z} y (n) \ {\ overline {y (n-\ ell)}}}$

( Równanie 7 )

Powyższe definicje działają dla sygnałów całkowalnych do kwadratu lub sumowalnych do kwadratu, czyli o skończonej energii. Sygnały, które „trwają wiecznie” są zamiast tego traktowane jako procesy losowe, w którym to przypadku potrzebne są różne definicje, oparte na oczekiwanych wartościach. Dla szerokorozumianych stacjonarnych procesów losowych autokorelacje definiuje się jako

$${\ Displaystyle {\ zacząć {wyrównany} R_ {ff} (\ tau) & = \ nazwa operatora {E} \ lewo [f (t) {\ overline {f (t-\ tau)}} \ prawej] \ \ R_ {yy}(\ell )&=\operatorname {E} \left[y(n)\,{\overline {y(n-\ell )}}\right].\end{aligned}}}$$

W przypadku procesów, które nie są stacjonarne , będą to również funkcje , lub . ${\displaystyle t}$${\ Displaystyle n}$

W przypadku procesów, które są również ergodyczne , oczekiwanie można zastąpić limitem średniej czasowej. Autokorelacja procesu ergodycznego jest czasami definiowana jako lub utożsamiana z:

$${\ Displaystyle {\ zacząć {wyrównany} R_ {ff} (\ tau) & = \ lim _ {T \ rightarrow \ infty} {\ Frac {1} {T}} \ int _ {0} ^ {T} f (t+\tau ){\overline {f(t)}}\,{\rm {d}}t\\R_{yy}(\ell )&=\lim _{N\rightarrow \infty }{\frac {1}{N}}\sum _{n=0}^{N-1}y(n)\,{\overline {y(n-\ell )}}.\end{wyrównany}}}$$

Definicje te mają tę zaletę, że dają sensowne, dobrze zdefiniowane wyniki jednoparametrowe dla funkcji okresowych, nawet jeśli funkcje te nie są wynikiem stacjonarnych procesów ergodycznych.

Alternatywnie, sygnały, które trwają wiecznie, można poddać analizie krótkoczasowej funkcji autokorelacji, wykorzystując całki skończone. (Patrz krótkoczasowa transformata Fouriera dla powiązanego procesu).

Definicja sygnałów okresowych

Jeżeli jest ciągłą funkcją okresową okresu , całkowanie od do zastępuje się całkowaniem po dowolnym przedziale długości : ${\displaystyle f}$${\displaystyle T}$${\displaystyle -\infty}$${\displaystyle \infty}$${\displaystyle [t_{0},t_{0}+T]}$${\displaystyle T}$

$${\ Displaystyle R_ {ff} (\ tau) \ triangleq \ int _ {t_ {0}} ^ {t_ {0}+ T} f (t + \ tau) {\ nadkreślenie {f (t)}} \ dt }$$

co jest równoważne

$${\ Displaystyle R_ {ff} (\ tau) \ triangleq \ int _ {t_ {0}} ^ {t_ {0}+ T} f (t) {\ nadkreślenie {f (t-\ tau)}} \, dt}$$

Nieruchomości

W dalszej części opiszemy tylko własności jednowymiarowych autokorelacji, ponieważ większość własności można łatwo przenieść z przypadku jednowymiarowego do przypadków wielowymiarowych. Właściwości te dotyczą szeroko rozumianych procesów stacjonarnych .

• Podstawową własnością autokorelacji jest symetria , którą łatwo wykazać z definicji. W przypadku ciągłym ${\ Displaystyle R_ {ff} (\ tau) = R_ {ff} (- \ tau)}$
  • autokorelacja jest funkcją parzystą, gdy jest funkcją rzeczywistą, i${\ Displaystyle R_ {ff} (- \ tau) = R_ {ff} (\ tau)}$${\displaystyle f}$
  • autokorelacja jest funkcją hermitowską, gdy jest funkcją złożoną .${\ Displaystyle R_ {ff} (- \ tau) = R_ {ff} ^ {*} (\ tau)}$${\displaystyle f}$
• Ciągła funkcja autokorelacji osiąga swój szczyt w punkcie początkowym, gdzie przyjmuje wartość rzeczywistą, tj. dla dowolnego opóźnienia , . Jest to konsekwencja nierówności przegrupowań . Ten sam wynik obowiązuje w przypadku dyskretnym.${\ Displaystyle \ tau}$${\ Displaystyle | R_ {ff} (\ tau) | \ leq R_ {ff} (0)}$
• Autokorelacja funkcji okresowej jest sama w sobie okresowa z tym samym okresem.
• Autokorelacja sumy dwóch całkowicie nieskorelowanych funkcji (korelacja krzyżowa wynosi zero dla wszystkich ) jest sumą autokorelacji każdej funkcji z osobna.${\ Displaystyle \ tau}$
• Ponieważ autokorelacja jest specyficznym rodzajem korelacji krzyżowej , zachowuje wszystkie właściwości korelacji krzyżowej.
• Używając symbolu do reprezentowania splotu i jest funkcją, która manipuluje funkcją i jest zdefiniowana jako , definicję dla można zapisać jako:${\ Displaystyle *}$${\ Displaystyle g_ {-1}}$${\displaystyle f}$${\ Displaystyle g_ {-1} (f) (t) = f (-t)}$${\ Displaystyle R_ {ff} (\ tau)}$
  $${\ Displaystyle R_ {ff} (\ tau) = (f * g_ {-1} ({\ overline {f}})) (\ tau)}$$

  

Autokorelacja wielowymiarowa

Multi- dimensional autokorelacji jest zdefiniowana w podobny sposób. Na przykład, w trzech wymiarach autokorelacja sygnału dyskretnego sumującego się z kwadratem byłaby

$${\ Displaystyle R (j, k, \ ell ) = \ suma _ {n, q, r} x_ {n, q, r} \ {\ overline {x}} _ {nj, qk, r-\ ell }.}$$

Gdy wartości średnie są odejmowane od sygnałów przed obliczeniem funkcji autokorelacji, wynikowa funkcja jest zwykle nazywana funkcją autokowariancji.

Wydajne obliczenia

Dla danych wyrażonych jako ciąg dyskretny często konieczne jest obliczenie autokorelacji z dużą wydajnością obliczeniową . Metoda brute force oparta na definicji przetwarzania sygnałów mogą być stosowane, gdy wielkość sygnału jest mały. Na przykład, aby ręcznie obliczyć autokorelację rzeczywistej sekwencji sygnału (tj. i dla wszystkich innych wartości i ), najpierw rozpoznajemy, że podana właśnie definicja jest taka sama jak „zwykłe” mnożenie, ale z przesunięciem w prawo, gdzie każde dodawanie pionowe daje autokorelację dla poszczególnych wartości opóźnień: ${\ Displaystyle R_ {xx} (j) = \ suma _ {n} x_ {n} \ {\ overline {x}} _ {nj}}$${\displaystyle x=(2,3,-1)}$${\displaystyle x_{0}=2,x_{1}=3,x_{2}=-1}$${\ Displaystyle x_ {i} = 0}$

$${\ Displaystyle {\ rozpocząć {tablica} {rrrrrr} i 2 i 3 i 1 \ \ \ razy i 2 i 3 i 1 \ \ \ hline i 2 i 3 i 1 \ \ i 6 i 9 i 3 \ \ + i i 4 i 6 i 2 \ \ \ hline i 2 i 3 i 14 i 3 i- 2\koniec{tablica}}}$$

Zatem wymagana sekwencja autokorelacji to , gdzie, a autokorelacja dla innych wartości opóźnień wynosi zero. W tym obliczeniu nie wykonujemy operacji przenoszenia podczas dodawania, jak to zwykle bywa w normalnym mnożeniu. Zauważ, że możemy zmniejszyć o połowę liczbę wymaganych operacji, wykorzystując wrodzoną symetrię autokorelacji. Jeśli sygnał bywa okresowe, czyli wtedy mamy okrągłą autokorelacji (podobny do okrągłej splotu ), gdzie po lewej i prawej ogony poprzedniej sekwencji autokorelacji będzie nakładanie i dać która ma taki sam okres jak sekwencja sygnałowa Procedurę można uznać jako zastosowanie własności splotu transformaty Z sygnału dyskretnego. ${\ Displaystyle R_ {xx} = (-2,3,14,3,-2)}$${\ Displaystyle R_ {xx} (0) = 14,}$ ${\ Displaystyle R_ {xx} (-1) = R_ {xx} (1) = 3,}$${\ Displaystyle R_ {xx} (-2) = R_ {xx} (2) = -2,}$${\displaystyle x=(\ldots,2,3,-1,2,3,-1,\ldots),}$${\ Displaystyle R_ {xx} = (\ldots,14,1,1,14,1,1,\ldots)}$${\displaystyle x.}$

Chociaż algorytm brute force jest rzędu n ² , istnieje kilka wydajnych algorytmów, które mogą obliczyć autokorelację w porządku n log( n ) . Na przykład twierdzenie Wienera-Khinchina umożliwia obliczenie autokorelacji z surowych danych X ( t ) z dwoma szybkimi transformatami Fouriera (FFT):

$${\ Displaystyle {\ zacząć {wyrównany} F_ {R} (f) i = \ operatorname {FFT} [X (t)] \ \ S (f) i = F_ {R} (f) F_ {R} ^ { *}(f)\\R(\tau )&=\nazwa operatora {IFFT} [S(f)]\end{wyrównany}}}$$

gdzie IFFT oznacza odwrotną szybką transformację Fouriera . Gwiazdka oznacza koniugat złożony .

Alternatywnie, wielokrotną korelację τ można wykonać, stosując obliczenie brutalnej siły dla niskich wartości τ , a następnie progresywnie łącząc dane X ( t ) z logarytmiczną gęstością w celu obliczenia wyższych wartości, co skutkuje taką samą wydajnością n log( n ) , ale z mniejszymi wymaganiami dotyczącymi pamięci.

Oszacowanie

Dla dyskretnego procesu o znanej średniej i wariancji, dla której obserwujemy obserwacje , oszacowanie autokorelacji można uzyskać jako ${\ Displaystyle n}$${\displaystyle \{X_{1},\,X_{2},\\ldots,\,X_{n}\}}$

$${\ Displaystyle {\ kapelusz {R}} (k) = {\ Frac {1} {(nk) \ sigma ^ {2}}} \ suma _ {t = 1} ^ {nk} (X_ {t} - \mu )(X_{t+k}-\mu )}$$

dla dowolnej dodatniej liczby całkowitej . Gdy znana jest prawdziwa średnia i wariancja , oszacowanie to jest bezstronne . Jeśli prawdziwa średnia i wariancja procesu nie są znane, istnieje kilka możliwości: ${\displaystyle k<n}$${\ Displaystyle \ mu}$${\ Displaystyle \ sigma ^ {2}}$

• Jeśli i są zastąpione standardowymi formułami dla średniej próbki i wariancji próbki, to jest to obciążone oszacowanie .${\ Displaystyle \ mu}$${\ Displaystyle \ sigma ^ {2}}$
• Periodogram -na zostaje zastąpiony przez oszacować w powyższym wzorze z . Szacunek ten jest zawsze stronniczy; jednak zwykle ma mniejszy błąd średniokwadratowy.${\displaystyle nk}$${\ Displaystyle n}$
• Inne możliwości wynikają z traktowania dwóch porcji danych i oddzielnego oraz obliczania oddzielnych średnich próbek i/lub wariancji próbki do wykorzystania przy określaniu oszacowania.${\displaystyle \{X_{1},\,X_{2},\\ldots,\,X_{nk}\}}$${\ Displaystyle \ {X_ {k + 1}, \, X_ {k + 2}, \, \ ldots, \, X_ {n} \}}$

Zaletą oszacowań ostatniego typu jest to, że zbiór oszacowanych autokorelacji, jako funkcja , tworzy funkcję, która jest ważną autokorelacją w tym sensie, że można zdefiniować proces teoretyczny mający dokładnie taką autokorelację. Inne oszacowania mogą ucierpieć z powodu tego, że jeśli zostaną użyte do obliczenia wariancji liniowej kombinacji 's, obliczona wariancja może okazać się ujemna. ${\displaystyle k}$${\ Displaystyle X}$

Analiza regresji

W analizie regresji z wykorzystaniem danych szeregów czasowych autokorelacja w interesującej zmiennej jest zazwyczaj modelowana za pomocą modelu autoregresyjnego (AR), modelu średniej ruchomej (MA), ich kombinacji jako modelu autoregresyjnej średniej ruchomej (ARMA) lub rozszerzenie tego ostatniego nazwano autoregresyjnym zintegrowanym modelem średniej ruchomej (ARIMA). W przypadku wielu powiązanych serii danych stosowana jest autoregresja wektorowa (VAR) lub jej rozszerzenia.

W zwykłych metodach najmniejszych kwadratów (OLS) adekwatność specyfikacji modelu można częściowo sprawdzić, ustalając, czy istnieje autokorelacja reszt regresji . Problematyczna autokorelacja błędów, które same w sobie nie są obserwowane, można ogólnie wykryć, ponieważ powoduje ona autokorelację w obserwowalnych resztach. (Błędy są również znane jako „terminy błędów” w ekonometrii ). Autokorelacja błędów narusza zwykłe założenie najmniejszych kwadratów, że terminy błędu są nieskorelowane, co oznacza, że twierdzenie Gaussa Markowa nie ma zastosowania, a estymatory MNK nie są już najlepszymi Liniowe nieobciążone estymatory ( NIEBIESKI ). Chociaż nie obciąża to oszacowań współczynnika OLS, błędy standardowe są zwykle niedoszacowane (a wyniki t są przeszacowane), gdy autokorelacje błędów przy niskich opóźnieniach są dodatnie.

Tradycyjnym testem na obecność autokorelacji pierwszego rzędu jest statystyka Durbina-Watsona lub, jeśli zmienne objaśniające obejmują opóźnioną zmienną zależną, statystykę h Durbina . Durbina-Watsona można jednak liniowo odwzorować na korelację Pearsona między wartościami a ich opóźnieniami. Bardziej elastycznym testem, obejmującym autokorelację wyższych rzędów i mającym zastosowanie niezależnie od tego, czy regresory zawierają opóźnienia zmiennej zależnej, jest test Breuscha-Godfreya . Wiąże się to z regresją pomocniczą, w której reszty uzyskane z oszacowania modelu będącego przedmiotem zainteresowania są poddawane regresji względem (a) oryginalnych regresorów i (b) k opóźnień reszt, gdzie „k” jest kolejnością testu. Najprostszą wersją statystyki testowej z tej pomocniczej regresji jest TR ² , gdzie T jest wielkością próby , a R ² jest współczynnikiem determinacji . Zgodnie z hipotezą zerową braku autokorelacji ta statystyka ma rozkład asymptotyczny, jak w przypadku k stopni swobody. ${\ Displaystyle \ chi ^ {2}}$

Odpowiedzi na niezerową autokorelację obejmują uogólnioną metodę najmniejszych kwadratów i estymator Newey-West HAC (Heteroskedasticity and Autocorrelation Consistent).

W estymacji modelu średniej ruchomej (MA) funkcja autokorelacji jest używana do określenia odpowiedniej liczby składników błędu opóźnionego, które należy uwzględnić. Opiera się to na fakcie, że dla procesu MA o zamówieniu q mamy , for , i , for . ${\displaystyle R(\tau)\neq 0}$${\ Displaystyle \ tau = 0,1, \ ldots, q}$${\ Displaystyle R (\ tau ) = 0}$${\ Displaystyle \ tau > q}$

Aplikacje

• Analiza autokorelacji jest intensywnie wykorzystywana w spektroskopii korelacji fluorescencyjnej, aby zapewnić ilościowy wgląd w dyfuzję na poziomie molekularnym i reakcje chemiczne.
• Innym zastosowaniem autokorelacji jest pomiar widm optycznych oraz pomiar bardzo krótkich impulsów świetlnych wytwarzanych przez lasery , oba z wykorzystaniem autokorelatorów optycznych .
• Autokorelacja jest wykorzystywana do analizy danych dotyczących dynamicznego rozpraszania światła , co w szczególności umożliwia określenie rozkładu wielkości cząstek nanometrowych cząstek lub miceli zawieszonych w płynie. Laser świecący w mieszaninę wytwarza wzór plamek, który wynika z ruchu cząstek. Autokorelację sygnału można analizować pod kątem dyfuzji cząstek. Na tej podstawie, znając lepkość płynu, można obliczyć rozmiary cząstek.
• Wykorzystywany w systemie GPS do korekcji opóźnienia propagacji , czyli przesunięcia czasowego, pomiędzy momentem transmisji sygnału nośnego na satelitach, a momentem w odbiorniku na ziemi. Odbywa się to poprzez generowanie przez odbiornik sygnału repliki 1023-bitowego kodu C/A (kurs/akwizycja) oraz generowanie linii chipów kodu [-1,1] w pakietach po 10 sztuk na raz, czyli 10230 chipów (1023 × 10), przesuwając się nieznacznie w miarę postępu w celu dostosowania do przesunięcia Dopplera w przychodzącym sygnale satelitarnym, aż do momentu dopasowania sygnału repliki odbiornika i kodów sygnału satelitarnego.
• Mały kąt rentgenowski rozpraszania natężenie z nanostrukturalnych systemu jest transformatą Fouriera funkcji autokorelacji przestrzennej gęstości elektronowej.
• W nauce o powierzchni i mikroskopii sond skanujących stosuje się autokorelację do ustalenia powiązania między morfologią powierzchni a właściwościami funkcjonalnymi.
• W optyce znormalizowane autokorelacje i korelacje krzyżowe dają stopień spójności pola elektromagnetycznego.
• W przetwarzaniu sygnału autokorelacja może dostarczyć informacji o powtarzających się zdarzeniach, takich jak uderzenia muzyczne (na przykład w celu określenia tempa ) lub częstotliwości pulsarów , chociaż nie może określić położenia w czasie uderzenia. Może być również używany do oszacowania wysokości tonu muzycznego .
• W nagrywaniu muzyki autokorelacja jest wykorzystywana jako algorytm wykrywania wysokości dźwięku przed przetwarzaniem głosu, jako efekt zniekształcenia lub w celu wyeliminowania niepożądanych błędów i niedokładności.
• Autokorelacja w przestrzeni, a nie w czasie, za pomocą funkcji Pattersona , jest wykorzystywana przez dyfrakcjonistów rentgenowskich, aby pomóc w odzyskaniu „informacji o fazie Fouriera” o pozycjach atomów niedostępnych tylko przez dyfrakcję.
• W statystyce przestrzenna autokorelacja między lokalizacjami próbek pomaga również oszacować niepewności średniej wartości podczas próbkowania heterogenicznej populacji.
• SEQUEST algorytm analizy widm masowych wykorzystuje autokorelacji w połączeniu z korelacji krzyżowej do Wynik podobieństwa obserwowanego widma wyidealizowanej widmo reprezentujące peptydu .
• W astrofizyce autokorelację wykorzystuje się do badania i charakteryzowania przestrzennego rozkładu galaktyk we wszechświecie oraz w obserwacjach na wielu długościach fal małomasywnych układów binarnych rentgenowskich .
• W danych panelowych autokorelacja przestrzenna odnosi się do korelacji zmiennej ze sobą poprzez przestrzeń.
• W analizie danych Monte Carlo łańcucha Markowa należy uwzględnić autokorelację w celu prawidłowego określenia błędu.
• W naukach o Ziemi (szczególnie w geofizyce) może być używany do obliczania autokorelacji atrybutu sejsmicznego z trójwymiarowego badania sejsmicznego podłoża.
• W medycznym obrazowaniu ultrasonograficznym do wizualizacji przepływu krwi wykorzystuje się autokorelację.
• W przypadku międzyokresowego wyboru portfela obecność lub brak autokorelacji w stopie zwrotu aktywa może wpłynąć na optymalną część portfela utrzymywaną w tym aktywie.

Zależność szeregowa

Zależność szeregowa jest ściśle powiązana z pojęciem autokorelacji, ale reprezentuje odrębną koncepcję (patrz Korelacja i zależność ). W szczególności możliwa jest zależność szeregowa, ale brak (liniowej) korelacji. Jednak w niektórych dziedzinach oba terminy są używane jako synonimy.

Szeregi czasowe o zmiennej losowej ma zależność seryjny, jeżeli wartość w pewnym momencie w serii jest statystycznie zależne od wartości w innym czasie . Szereg jest szeregowo niezależny, jeśli nie ma zależności między żadną parą. ${\displaystyle t}$${\displaystyle s}$

Jeżeli szereg czasowy jest stacjonarny , wówczas zależność statystyczna między parą oznaczałaby, że istnieje zależność statystyczna między wszystkimi parami wartości z tym samym opóźnieniem . ${\ Displaystyle \ lewo \ {X_ {T} \ prawo \}}$${\ Displaystyle (X_ {t}, X_ {s})}$${\ Displaystyle \ tau = st}$

Zobacz też

Bibliografia

Dalsza lektura

• Kmenta, Jan (1986). Elementy ekonometrii (druga red.). Nowy Jork: Macmillan. s.  298-334 . Numer ISBN 978-0-02-365070-3.
• Marno Verbeek (10 sierpnia 2017). Przewodnik po nowoczesnej ekonometrii . Wileya. Numer ISBN 978-1-119-40110-0.
• Mojtaba Soltanalian i Petre Stoica. „ Projektowanie obliczeniowe sekwencji o dobrych właściwościach korelacji ”. Transakcje IEEE dotyczące przetwarzania sygnałów, 60,5 (2012): 2180-2193.
• Salomona W. Golomba i Guang Gong. Konstrukcja sygnału zapewniająca dobrą korelację: do komunikacji bezprzewodowej, kryptografii i radaru . Wydawnictwo Uniwersytetu Cambridge, 2005.
• Klapetek, Petr (2018). Ilościowe przetwarzanie danych w mikroskopii sond skanujących: Aplikacje SPM dla nanometrologii (wyd. drugie). Elsevier. s. 108-112 ISBN  9780128133477 .
• Weisstein, Eric W. „Autokorelacja” . MatematykaŚwiat .