blog Piotr Kanieski: metody numeryczne- aproksymacja, METODY PROBALIBISTYCZNE PROCESY LOSOWE:

METODY PROBALIBISTYCZNE

PROCESY LOSOWE:

Pojęcie procesu losowego i jego opis

W punkcie II rozpatrywaliśmy zmienne losowe, które zależały tylko od przypadku czyli od $\omega \in \Omega$ , w praktyce spotyka się na ogół bardziej skomplikowane wielkości losowe , które zmieniają się wraz ze zmianą pewnego parametru $t \in T$ , są one zatem zależne zarówno od przypadku, jak i od wartości tego parametru. Inaczej mówiąc dla opisu wyniku doświadczenia nie wystarcza już punkt przestrzeni , a niezbędna jest funkcja wspomnianego parametru. Jednym z historycznie pierwszych przykładów takich wielkości jest każda współrzędna cząsteczki w tzw. ruchu Browna, która nie tylko jest zmienną losową, ale także zależy od czasu. Innym przykładem są szumy zniekształcające sygnały radiowe, które są zmiennymi losowymi (np. z powodu z wyładowań atmosferycznych), a także zależą od czasu. Także liczba zadań (procesów) w systemie komputerowym, czy liczba pojazdów przejeżdżające przez dane skrzyżowanie są zmiennymi losowymi zależnymi również od czasu. Podkreślmy, że parametrem od którego zależą wymienione (i inne wielkości losowe) zmienne losowe nie musi być czas np. w ruchu turbulentnym prędkość cząsteczki cieczy jest zmienną losową (trójwymiarową) zależną do punktu przestrzeni. W ogólności parametr, o którym mówimy nie musi mieć w ogóle żadnej interpretacji fizycznej. Rozszerzenie teorii prawdopodobieństwa pozwalające badać zmienne losowe zależne od danego parametru nazywa się teorią procesów losowych (przypadkowych,stochastycznych).

Definicja 1: Procesem losowym nazywamy rodzinę zmiennych losowych
$\{X_t(\omega), t \in T\}$
zależnych od parametru $t$ i określonych na danej przestrzeni probabilistycznej $(Ω, A, P)$ .

Innymi słowy proces losowy to losowa funkcja parametru

t

, czyli taka funkcja, która $\forall{t \in T}$ jest zmienną losowa.

Zmienną losową

X t

, którą proces losowy jest w ustalonej chwili $t \in T$ nazywamy wartością tego procesu.

Zbiór wartości wszystkich zmiennych losowych $X_t(\omega), t \in T$ , nazywamy przestrzenią stanu procesu losowego lub przestrzenią stanu.

Jeśli zbiór jest skończony lub przeliczalny, to mówimy o procesach losowych z czasem dyskretnym. W pierwszym wypadku mamy do czynienia z n-wymiarową zmienną losową, a w drugim z odpowiednim ciągiem zmiennych losowych.

Choć niektóre klasy procesów losowych z czasem dyskretnym (np. łańcuchy Markowa) zasługują na uwagę, to jednak w dalszym ciagu skoncentrujemy się na procesach losowych z czasem ciągłym czyli takich, dla których T jest nieprzeliczalne.

Dla głębszego zrozumienia natury procesu losowego spójrzmy nań jeszcze z innej strony. Jak pamiętamy zmienna losowa przyporządkowywała zdarzeniu losowemu punkt w przestrzeni

R n

. W przypadku procesu losowego mamy do czynienia z sytuacją gdy do opisu wyniku doświadczenia niezbędna jest funkcja ciągła, zwana realizacją procesu losowego.
W dalszym ciągu zakładamy, że mamy do czynienia ze skończonymi funkcjami losowymi, a zbiór wszystkich takich funkcji (realizacji) będziemy nazywali przestrzenią realizacji procesu losowego. Prowadzi to do drugiej definicji:

Definicja 2: Procesem losowym nazywamy mierzalną względem P transformację przestrzeni zdarzeń elementarnych $Ω$ w przestrzeni realizacji, przy czym realizacją procesu losowego nazywamy każdą skończoną funkcją rzeczywistą zmiennej $t \in T$ .

Definicja powyższa wynika ze spojrzenia na proces losowy jako na funkcję dwóch zmiennych $t \in T$ i $\omega \in \Omega$ , ustalając

t

otrzymujemy zmienną losową , a ustalając

ω

otrzymujemy realizację .

Na ogół na przestrzeń realizacji procesu losowego narzuca się pewne ograniczenia np. żeby to była przestrzeń Banacha (niezerowa i zwyczajna).

Reasumując: graficznie można przedstawić te dwa punkty widzenia w następujacy sposób.

Pełne oznaczenie procesu losowego ma zatem postać
$\{X_t(\omega) : t \in T\}$ , lub $X(\omega, t), t \in T, \omega \in \Omega$
przy czym w obu wypadkach zakłada się, że jest określona przestrzeń probabilistyczna $(\Omega, \mathcal{A}, P)$ .

Ponieważ jednak zależność od

ω

jako naturalną zwykle się pomija, otrzymujemy:
$\{X_t : t \in T\}$ , lub $X(t) : t \in T$ .

Ponadto, jeśli zbiór

T

jest zdefiniowany na początku rozważań to pomija się także zapis $t \in T$ i w rezultacie otrzymujemy :

X t

, lub

X (t)

Oznaczenie

X (t)

może zatem dotyczyć całego procesu losowego, jego jednej realizacji (dla ustalonego

ω

) lub jego jednej wartości, czyli zmiennej losowej (dla ustalonego

t

). Z kontekstu jednoznacznie wynika, o co w danym zapisie chodzi.

Przejdźmy do zapisu procesu losowego X(t). Będziemy rozpatrywać wyłącznie procesy losowe rzeczywiste (proces losowy zespolony ma postać:

X (t) = X 1 (t) + i X 2 (t)

, gdzie

X 1 (t)

X 2 (t)

są procesami losowymi rzeczywistymi).

Ponieważ $\forall{t \in T}$ proces losowy

X t

jest zmienną, więc jego pełny opis w chwili

t

stanowi pełny rozkład prawdopodobieństwa tej zmiennej losowej. Rozkład taki nazywamy jednowymiarowym rozkładem prawdopodobieństwa procesu losowego. Jest on scharakteryzowany przez jednowymiarową dystrybuantę procesu losowego, w postaci :

F (x, t) = P [X (t) < x]

Oczywiście rozkład jednowymiarowy procesu losowego nie charakteryzuje wzajemnej zależności między wartościami procesu (zmiennymi losowymi) w różnych chwilach. Jest on zatem ogólny tylko wtedy gdy dla dowolnych układow $t_1, t_2, \cdots$ wartości procesu losowego,są ciągami zmiennych losowych niezależnych, co na ogół nie zachodzi. W ogólności musimy zatem rozpatrywać łączny rozkład wartości procesu w różnych chwilach.

Definicja

n-wymiarowym rozkładem prawdopodobieństwa procesu losowego nazywamy łączny rozkład prawdopodobieństwa i jego wartości dla dowolnego układu chwili

t 1, t 2,..., t n

, czyli łączny rozkład prawdopodobieństwa wektora losowego

[X (t 1), X (t 2),..., X (t n)]

opisany n - wymiarową dystrybuantą procesu losowego :

F (x 1, t 1; x 2, t 2;...; x n, t n) = P (X (t 1) < x 1, X (t 2) < x 2,..., X (t n) < x n)

Momenty procesu losowego

Podobnie jak dla zmiennych losowych również dla procesów losowych definiuje się pewne proste charakterystyki rozkładu, w szczególności momenty. Mając jednowymiarowy rozkład procesu możemy określić jego jednowymiarowe momenty np. zdefiniowane poniżej.

Definicja: Wartością średnią procesu losowego $X (t)$ nazywamy funkcję m(t), która $\forall{t \in T}$ jest wartością średnią zmiennej losowej $X (t)$ , którą jest proces w chwili t:
$m (t) = E [X (t)]$

Definicja: Wariancją procesu losowego $X (t)$ nazywamy funkcję $σ 2 (t)$ , która $\forall{t \in T}$ jest wariancją zmiennej losowej $X (t)$ , którą jest proces w chwili t:
$σ 2 (t) = D 2 [X (t)] = E [X (t) - m (t)] 2$

Oczywiście jednowymiarowe momenty procesu losowego nie charakteryzują jego zależności pomiędzy wartościami procesu w różnych chwilach. Żeby opisywać te zależności musimy rozpatrywać wyższe momenty, w szczególności rozpatrzymy 2 różne chwile

t 1

t 2

Definicja: Funkcję korelacyjną procesu losowego $X (t)$ definiujemy jako:
$R x (t 1, t 2) = E {[X (t 1) - m (t 1)][X (t 2) - m (t 2)]}$

Procesy stacjonarne

Ponieważ ogólna teoria procesów losowych jest dla celów praktycznych zbyt skomplikowana rozpatruje się pewne klasy tych procesów spełniających dodatkowe założenia i upraszczające analizę. W dalszych punktach rozpatrzmy kilka takich klas zaczynając od procesów stacjonarnych. Rozpatruje się procesy stacjonarne w sensie węższym i szerszym.

Definicja: Proces losowy X(t) nazywamy stacjonarnym w węższym sensie, jeśli dla dowolnego $n \in N$ , dla dowolnego układu chwil $t 1, t 2,..., t n$ dla dowolnego h takiego, że $\forall_{t_i, 1 \le i \le n}$ $(t_i+h \in T)$ zachodzi:
$F (x 1, t 1; x 2, t 2;...; x n, t n) = F (x 1, t 1 + h; x 2, t 2 + h;...; x n, t n + h)$

W szczególności dla

n = 1

mamy:

F (x, t) = F (x, t + h)

co oznacza, że

F (x, t) = F (x)

, zatem jednowymiarowe momenty takiego procesu nie zależą od

t

, w szczególności

m (t) = m = c o n s t

Dla

n = 2

mamy:

F (x 1, t 1; x 2, t 2) = F (x 1, t 1 + h; x 2, t 2 + h)

czyli

F (x 1, t 1; x 2, t 2) = F (x 1, x 2,τ)

gdzie

τ = t 2 - t 1

Procesy o przyrostach niezależnych i procesy Markowa

Definicja: Proces losowy X(t) nazywamy procesem o przyrostach niezależnych jeżeli dla dowolnego ukladu $t_1 < t_2 < \cdots < t_n \in T$ (uporządkowany układ chwil) zmienne losowe $X(t_1),X(t_2)-X(t_1),\cdots ,X(t_n) - X(t_{n-1})$ są niezależne.

Ważną klasą procesów niezależnych stanowią procesy Poissona.

Definicja: Proces losowy X(t) nazywamy procesem Markowa jeśli dla każdego $t_1 < t_2 < \cdots < t_n \in T$ oraz dla dowolnych liczb rzeczywistych $x_1,x_2,\cdots,x_n$ zachodzi
$P[X(t_n) < x_n | X(t_{n-1}) = x_{n-1},X(t_{n-2}) = x_{n-2}, \cdots , X(t_1) = x_1] = P[X(t_n) < x_n | X(t_{n-1}) = x_{n-1}]$