Procesos Aleatorios

Procesos Aleatorios
G. Miramontes
UAZ
Comunicaciones y Electrónica, Agosto, 2011
Grupo de Procesamiento e instrumentación óptica
N
1 / 26
1
Ejemplo
2
Correlación entre dos p.a.
3
Ejemplo p.a. en cuadratura
4
Ergodicidad
Grupo de Procesamiento e instrumentación óptica
N
2 / 26
Ejemplo
Onda binaria aleatoria
Suponga una función muestra x(t) de un p.a. χ(t) y que es una
secuencia de sı́mbolos binarios 1, 0.
Suponer además que:
1.- 1 y 0 se representan por +A y −A volts y duran T segundos.
2.- El tiempo de inicio (td ) del primer pulso, t > 0 es igualmente
probable entre 0 y T . ası́ que
1/T , si 0 ≤ td ≤ T
fTd (td ) =
(1)
0, en otra parte
3.- Durante cualquier intervalo (n − 1)T < t − td < nT los
sı́mbolos 1 y 0 son igualmente probables.
Grupo de Procesamiento e instrumentación óptica
N
3 / 26
Puesto que +A y -A son equiprobables se concluye que
E [χ(t)] = 0, para toda t y ∴ µχ = 0
(2)
Para determinar Rχ (tk − ti ), se tiene que evaluar E [χ(tk )χ(ti )].
Entonces consideramos dos casos:
a) si |tk − ti | > T entonces las v.a. χ(tk ) y χ(ti ) ocurren en
diferentes intervalos de pulso y ∴ son independientes, ası́ que
E [χ(tk )χ(ti )] = E [χ(tk )] E [χ(ti )] = 0.
b) si |tk − ti | < T , con tk = 0 y ti < tk entonces las v.a. ocurren
en el mismo intervalo de pulso (si además se satisface que
td < T − |tk − ti |). Ası́ se obtiene la esperanza condicional
2
A , si td < T − |tk − ti |
E [χ(tk )χ(ti )|td ] =
(3)
0, en otra parte
Grupo de Procesamiento e instrumentación óptica
N
4 / 26
Al promediar sobre todos los valores posibles de td tenemos
Z
E [χ(tk )χ(ti )] =
T −|tk −ti |
2
Z
A fTd (td )dtd =
0
0
T −|tk −ti |
A2
dtd (4)
T
|tk − ti |
= A2 (1 −
), donde |tk − ti | < T
T
Para otro valor de tk se tiene que la función de correlación es sólo
función de la diferencia de tiempo τ = tk − ti , ası́
A2 (1 − |τT| ), si |τ | < T
Rχ (τ ) =
(5)
0, si |τ | ≥ T
dibuje la forma de onda de Rχ (τ ).
Grupo de Procesamiento e instrumentación óptica
N
5 / 26
Correlación entre dos p.a.
Función de correlación cruzada
Sean dos p.a χ(t) Y (t) con funciones de autocorrelación Rχ (t, u)
y RY (t, u). Se definen dos funciones de correlación cruzada:
RχY (t, u) = E [χ(t)Y (u)]
(6)
RY χ (t, u) = E [Y (t)χ(u)].
Se define la matriz de correlación de los p.a. χ(t) y Y (t) como
Rχ (t, u)
RY χ (t, u)
R(t, u) =
(7)
RY χ (t, u) RY (t, u)
Si χ(t) y Y (t) son estacionarios y además conjuntamente
estacionarios entonces
Rχ (τ )
RY χ (τ )
R(τ ) =
donde τ = t − u.
RY χ (τ ) RY (τ )
(8)
En general la función de correlación cruzada no es función par de
τ . Sin embargo RχY (τ ) = RY χ (−τ ) Grupo de Procesamiento e instrumentación óptica
N
6 / 26
Ejemplo p.a. en cuadratura
Procesos modulados en cuadratura
Muestre que dos p.a. modulados en cuadratura son ortogonales
Considere dos p.a. χ1 (t) y χ2 (t) relacionados por
χ1 (t) = χ(t) cos(2π fc t + θ)
(9)
χ2 (t) = χ(t) sin(2π fc t + θ)
donde fc es una frecuencia portadora y θ es una v.a. distribuida
uniformamente sobre [0, 2π]. Además θ es independiente de χ(t).
SOL: La función de correlación cruzada de χ1 (t) y χ2 (t) está dada
por R12 (τ ) = E [χ1 (t)χ2 (t − τ )].
muestre que para τ = 0, R12 = 0 y por lo tanto son ortogonales.
Grupo de Procesamiento e instrumentación óptica
N
7 / 26
Ergodicidad
Procesos Ergódicos
Considere una función muestra x(t) de un p.a.e. χ(t) con un
intervalo a de observación −T ≤ t ≤ T . El valor de c.d. de x(t) se
define mediante el promedio de tiempo
Z T
1
µx (T ) =
x(t)dt.
(10)
2T −T
Note que µx (T ) es una v.a. ya que su valor depende del intervalo
de observación y de qué función en particular x(t) se tenga.
Como se supone que χ(t) es estacionario, la media del promedio
de tiempo (su valor promediado en tiempo) µχ (T ) está dada por
Z T
1
E [x(t)]dt
(11)
E [µχ (T )] =
2T −T
Z T
1
=
µχ dt = µχ .
2T −T
Grupo de Procesamiento e instrumentación óptica
N
8 / 26
En consecuencia el promedio de tiempo µx (T ) representa una
estimación no sesgada de la media promediada del conjunto µx .
Afirmamos que el p.a. es ergódico en la media si se cumplen dos
condiciones:
a) El promedio de tiempo µx (T ) se acerca al promedio total µx
cuando en el lı́mite T → ∞, es decir, lı́mT →∞ µx (T ) = µx .
b) La varianza de µx (T ), tratada como una v.a. tiende a cero en el
lı́mite cuando T → ∞, es decir, lı́mT →∞ var [µx (T )] = 0.
Otro promedio de interés es la función de autocorrelación
promediada, es decir,
Z T
1
x(t + τ )x(t)dt
(12)
Rχ (τ, T ) =
2T −T
El p.a. χ(t) es ergódico si lı́mT →∞ Rχ (τ, T ) = Rχ (τ ) y
lı́mT →∞ var [Rχ (τ, T )] = 0. NOTE que χ(t) debe ser estacionario.
Ası́ que un p.a. ergódico debe ser estacionario, pero lo inverso no
es necesariamente cierto.
Grupo de Procesamiento e instrumentación óptica
N
9 / 26
Transmisión en un S.L.I.T.
Y (t) =
R∞
−∞ h(τ1 )χ(t
− τ1 )dτ1 .
Por consiguiente la media
R ∞ de la salida es
µY (t) = E [Y (t)] = E [ −∞ h(τ1 )χ(t − τ1 )dτ1 ].
Si E [χ(t)] es finita para toda t y el sistema es estable, se puede
intercambiar el orden del operador E y la integración y escribir
µY (t) =
=
R∞
R−∞
∞
h(τ1 )E [χ(t − τ1 )]dτ1
−∞ h(τ1 )µχ (t
(13)
− τ1 )dτ1 .
Grupo de Procesamiento e instrumentación óptica
N
10 / 26
Cuando elR p.a es estacionario, µχ (t) = µχ =cte, de modo que
∞
µY = µχ −∞ h(τ1 )dτ1 = µχ H(0),
donde H(0) es la frecuencia del sistema a frecuencia cero (c.d.)
Por otra parte, la función de autocorrelación de salida se define por
∞
RY (t, u) = E [Y (t)Y (u)]
Z ∞
χ(t − τ1 )dτ1
χ(u − τ2 )dτ2 ]
−∞
−∞
Z
= E[
(14)
Grupo de Procesamiento e instrumentación óptica
N
11 / 26
Si E [χ2 (t)] es finito (para toda t) y si el sistema es estable,
podemos intercambiar el orden de E y la integración con respecto
a τ1 y τ2 obteniendo
Z ∞
Z ∞
RY (t, u) =
h(τ1 )dτ1
h(τ2 )dτ2 E [χ(t − τ1 )χ(u − τ2 )] (15)
−∞
−∞
Z ∞
Z ∞
=
h(τ1 )dτ1
h(τ2 )Rχ (t − τ1 , u − τ2 )
−∞
−∞
Si χ(t) es un p.a.e. la autocorrelación es función sólo de la
diferencia de tiempo de observación t − τ1 , u − τ2 , ası́ que
haciendo t − u = −τ1 + τ2
Z ∞Z ∞
RY (τ ) =
h(τ1 )h(τ2 )Rχ (τ − τ1 + τ2 )dτ1 dτ2 .
−∞
(16)
−∞
Ası́ si la entrada a un S.L.I.T. es un p.a.e, la salida también es un
p.a.e.
Puesto que RY (0) = ER [Y 2R(t)], entonces
∞
∞
RY (0) = E [Y 2 (t)] = −∞ −∞ h(τ1 )h(τ2 )Rχ (τ2 − τ1 )dτ1 dτ2 .
Grupo de Procesamiento e instrumentación óptica
N
12 / 26
La densida espectral de potencia
Caracterización de un p.a.e. a través de un S.L.I.T. en términos de
la frecuencia.
Si en la ecuación (16) expresamos a h(τ1 ) como
Z ∞
h(τ1 ) =
H(f ) e j2π f τ1 df , tenemos que
(17)
−∞
E [Y 2 (t)] =
Z
∞
Z
∞
Z
∞
H(f ) e j2π f τ1 df ]h(τ2 )Rχ (τ2 − τ1 )dτ1 dτ2 (18)
−∞ −∞
Z ∞
Z ∞
H(f )df
h(τ2 )dτ2
Rχ (τ2 − τ1 )e j2π f τ1 dτ1
[
Z−∞
∞
=
−∞
−∞
−∞
haciendo τ = τ2 − τ1
Grupo de Procesamiento e instrumentación óptica
N
13 / 26
2
Z
∞
E [Y (t)] =
Z
∞
H(f ) df
h(τ2 )dτ2 e
−∞
j2π f τ2
−∞
Z
∞
Rχ (τ ) e −j2π f τ dτ (19)
−∞
de donde puede reconocerse
Z ∞
Z
2
2
E [Y (t)] =
|H(f )| df
−∞
∞
Rχ (τ )e −j2π f τ dτ.
(20)
−∞
Adicionalmente
Z
∞
Sχ (f ) =
Rχ (τ ) e −j2π f τ dτ.
(21)
−∞
Grupo de Procesamiento e instrumentación óptica
N
14 / 26
La PSD a través de un filtro
El valor cuadrado promedio de salida es
Z ∞
2
E [Y (t)] =
|H(f )|2 Sx (f )df ,
(22)
−∞
donde
Z
∞
Sx (f ) =
Rχ (τ )e −j2π f τ dτ
(23)
−∞
a Sx (f ) se le llama la densidad espectral de potencia (PSD) y sus
unidades están dadas en watts/Hz.
Grupo de Procesamiento e instrumentación óptica
N
15 / 26
PSD de una onda senoidal con fase
aleatoria
Considere el proceso aleatorio χ(t) = A cos(2 π fc t + θ), donde θ
es una v.a. uniformemente distribuida sobre [−π, π]. Encuentre la
PSD de χ(t).
SOL: Se encontró que la función de autocorrelación está dada por:
Rχ (τ ) =
A2
cos(2π fc τ )
2
(24)
Ası́ que la PSD es la transformada de Fourier de Rχ (τ ), quedando
Sχ (f ) =
A2
[δ(f − fc ) + δ(f + fc )].
4
(25)
Grupo de Procesamiento e instrumentación óptica
N
16 / 26
Propiedades de la PSD
Z
Sx (f ) =
∞
Rx (τ )e −j2πf τ dτ
Z−∞∞
Rx (τ ) =
(26)
Sx (f )e j2πf τ dτ.
−∞
R∞
prop 1.- Sχ (0) = −∞ Rx (τ )dτ
R∞
prop 2.- E [χ2 (t)] = −∞ Sx (f )df
prop 3.- la PSD de un p.a.e. siempre es no negativa Sx (f ) ≥ 0 para
toda f .
prop 4.- la PSD de un p.a. de valores reales es una función par de
f , es decir, Sx (−f ) = Sx (f ).
Grupo de Procesamiento e instrumentación óptica
N
17 / 26
prop 5.- la PSD normalizada apropiadamente tiene las propiedades
de una función de densidad de probabilidad, es decir,
Sx (f )
−∞ Sx (f )df
px (f ) = R ∞
(27)
además px (f ) ≥ 0, y el área bajo px (f ) = 1. Por consiguiente la
forma normalizada de la PSD se comporta como una función de
densidad de probabilidad.
RELACIÓN ENTRE LA PSD DE ENTRADA Y DE SALIDA EN
UN S.L.I.T.
En un S.L.I.T la PSD de salida es
Sy (f ) = |H(f )|2 Sx (f )
(28)
Grupo de Procesamiento e instrumentación óptica
N
18 / 26
Ejemplo: Mezcla de un p.a. y un p.
senoidal
A menudo surge la multiplicación de un p.a.e. χ con un p. senoidal
cos(2π fc t + θ), donde la fase θ es una v.a. distribuida
uniformemente entre [0, 2π]. Se desea determinar la PSD del p.a.
Y (t) definido por:
Y (t) = χ(t) cos(2π fc t + θ)
(29)
Note que θ es independiente de χ, encuentre la RY (τ ) y después
por Fourier la PSD.
Grupo de Procesamiento e instrumentación óptica
N
19 / 26
Relación entre Sχ y la |χ(f )|
Se desea encontrar Sχ de una función muestra de un p.a. ergódico
χ(t), sin embargo x(t) por lo general no es integrable en valor
absoluto. Una técnica es truncar a x(t) en un intervalo de
observación −T a T al tomar su transformada de Fourier:
Z T
χ(f , T ) =
x(t) e −j2π f t dt.
(30)
−T
Suponiendo que χ(t) también es ergódico se puede evaluar Rχ
promediada en tiempo
Z T
1
x(t + τ )x(τ )dt
(31)
Rχ (τ ) = lı́m
T →∞ 2T −T
Aplicando la transformada de Fourier a ambos lados
1
Sχ (f ) = lı́m
E [|χ(f , T )|2 ]
T →∞ 2T
(32)
al lado derecho de la ecuación (32) se le conoce como periodograma.
Grupo de Procesamiento e instrumentación óptica
N
20 / 26
La PSD cruzada
También se puede tener la PSD entre dos p.a. χ y Y
SχY = F{RχY }, y
(33)
SY χ = F{RY χ }
pero RχY (τ ) = RY χ (−τ ), de modo que
SχY (f ) = Sy χ (−f ) = SY∗ χ (f )
(34)
Grupo de Procesamiento e instrumentación óptica
N
21 / 26
Ejemplo:
Considere el p.a. Z (t) = χ(t) + Y (t), donde χ(t) y Y (t) tienen
media cero y son idivivualmente estacionarios. a) Determine la PSD
de Z (t), b) ¿Qué sucede si χ(t) y Y (t) no están correlacionados?.
Nuevamente el procedimiento es encontrar RZ (t, u) y por Fourier
la SZ (t).
Grupo de Procesamiento e instrumentación óptica
N
22 / 26
Proceso Gaussiano
Suponga que observamos un p.a. χ(t) en un intervalo [0, T ].
Sunpongamos que χ(t) es ponderado por una función g (t), y que
luego integramos el producto g (t)χ(t), obteniendo una v.a. Y
definida por
Z
Y =
T
g (t)χ(t) dt
(35)
0
Si g (t) es tal que el valor cuadrado promedio de la v.a. Y es finito,
y si Y es una v.a. que se distribuye gaussianamente para toda
g (t), entonces se dice que χ(t) es un proceso gaussiano.
Grupo de Procesamiento e instrumentación óptica
N
23 / 26
Definimos que la v.a. Y tiene distribución gaussiana si su función
de densidad de probabilidad tiene la forma
fY (y ) =
σY
1
√
2π
e
−
(y −µY )2
2σ 2
Y
(36)
donde µY es la media y σY2 es la varianza de la v.a. Y.
Cuando Y es normalizada entonces
y2
1
fY (y ) = √ e − 2
2π
(37)
la cual se escribe normalmente como N (0, 1)
Grupo de Procesamiento e instrumentación óptica
N
24 / 26
Teorema del lı́mite central
Proporciona la justificación matemática para emplear un p.g. como
modelo de un gran número de fenómenos fı́sicos, en los que la v.a.
observada es el resultado de un número grande de eventos
aleatorios individuales.
Sea χi , donde i = 1, 2, . . . , N un conunto de v.a. que satisfacen:
1
Las χi son independientes estadı́sticamente.
2
Las χi tienen la misma distribución de probabilidad con media µχ y
varianza σχ2
Entonces se dice que las χi constituyen un conjunto de v.a. i.i.d.
Si las v.a. se normalizan como
1
Yi =
(χi − µχ ), con i = 1, 2, . . . , N
(38)
σχ
de modo que
P E [Yi ] = 0 y var [Yi ] = 1. Ahora definamos la v.a.
VN = √1N N
i=1 Yi .
Grupo de Procesamiento e instrumentación óptica
N
25 / 26
El teorema establece que la distribución de probabilidad de VN se
aproxima a la gaussiana normalizada en el lı́mite cuando N → ∞,
es decir cuando el número de v.a. tiende a infinito.
PROPIEDADES DE UN P.G.
Prop.1.- Si se aplica un p.g. χ(t) a un filtro lineal estable, entonces
el p.a. Y (t) a la salida también es gaussiano.
Prop.2.- Sea el conjunto de v.a. χ(t1 ), χ(t2 ), . . . , χ(tn ) obtenido al
observar χ(t) en los tiempos t1 , t2 , . . . , tn . Si χ(t) es gaussiano,
entonces ese conjunto de v.a es gaussiano conjuntamente para
toda n, estando su función de densidad de probabilidad conjunta
completamente determinada al especificar el conjunto de medias
µχ(ti ) = E [χ(ti )], donde i = 1, 2, . . . , n
(39)
y el conjunto de funciones de covarianza
Cχ (tk , ti ) = E [(χ(tk ) − µχ(tk ) )(χ(ti ) − µχ(ti ) )], con k, i = 1, 2, . . . , n.(40)
Grupo de Procesamiento e instrumentación óptica
N
26 / 26