Ковариацио́нная ма́трица (или ма́трица ковариа́ций ) в теории вероятностей - это матрица , составленная из попарных ковариаций элементов двух случайных векторов .
Определения [ ]
Пусть
X
:
Ω
→
R
n
,
Y
:
Ω
→
R
m
{\displaystyle \mathbf{X}:\Omega \to \mathbb{R}^n\;,\mathbf{Y}:\Omega \to \mathbb{R}^m}
- два случайных вектора размерности
n
{\displaystyle n}
и
m
{\displaystyle m}
соответственно. Пусть также случайные величины
X
i
,
Y
j
,
i
=
1
,
…
,
n
,
j
=
1
,
…
,
m
{\displaystyle X_i,Y_j,\; i=1,\ldots, n,\; j = 1,\ldots, m}
имеют конечный второй момент , то есть
X
i
,
Y
j
∈
L
2
{\displaystyle X_i,Y_j \in L^2}
. Тогда матрицей ковариации векторов
X
,
Y
{\displaystyle \mathbf{X},\mathbf{Y}}
называется
Σ
=
c
o
v
(
X
,
Y
)
=
E
[
(
X
−
E
X
)
(
Y
−
E
Y
)
⊤
]
,
{\displaystyle \Sigma = \mathrm{cov}(\mathbf{X},\mathbf{Y}) = \mathbb{E}\left[(\mathbf{X} - \mathbb{E}\mathbf{X})(\mathbf{Y} - \mathbb{E}\mathbf{Y})^{\top}\right],}
то есть
Σ
=
(
σ
i
j
)
{\displaystyle \Sigma = (\sigma_{ij})}
,
где
σ
i
j
=
c
o
v
(
X
i
,
Y
j
)
≡
E
[
(
X
i
−
E
X
i
)
(
Y
j
−
E
Y
j
)
]
,
i
=
1
,
…
,
n
,
j
=
1
,
…
,
m
{\displaystyle \sigma_{ij} = \mathrm{cov}(X_i,Y_j) \equiv \mathbb{E}\left[(X_i - \mathbb{E}X_i) (Y_j - \mathbb{E}Y_j)\right],\; i=1,\ldots, n,\; j = 1,\ldots, m}
.
Если
X
≡
Y
{\displaystyle \mathbf{X} \equiv \mathbf{Y}}
, то
Σ
{\displaystyle \Sigma}
называется матрицей ковариации вектора
X
{\displaystyle \mathbf{X}}
и обозначается
c
o
v
(
X
)
{\displaystyle \mathrm{cov}(\mathbf{X})}
.
Свойства матриц ковариации [ ]
Сокращённая формула для вычисления матрицы ковариации:
c
o
v
(
X
)
=
E
[
X
X
⊤
]
−
E
[
X
]
⋅
E
[
X
⊤
]
{\displaystyle \mathrm{cov}(\mathbf{X}) = \mathbb{E}\left[\mathbf{X} \mathbf{X}^{\top}\right] - \mathbb{E}[\mathbf{X}] \cdot \mathbb{E}\left[\mathbf{X}^{\top}\right]}
.
Матрица ковариации случайного вектора неотрицательно определена :
c
o
v
(
X
)
≥
0
{\displaystyle \mathrm{cov}(\mathbf{X}) \ge 0}
.
c
o
v
(
a
⊤
X
)
=
a
⊤
c
o
v
(
X
)
a
,
∀
a
∈
R
n
{\displaystyle \mathrm{cov}\left(\mathbf{a}^{\top} \mathbf{X}\right) = \mathbf{a}^{\top} \mathrm{cov}(\mathbf{X}) \mathbf{a},\; \forall \mathbf{a} \in \mathbb{R}^n}
.
Матрица ковариации афинного преобразования :
c
o
v
(
A
X
+
b
)
=
A
c
o
v
(
X
)
A
⊤
{\displaystyle \mathrm{cov}\left(\mathbf{A} \mathbf{X} + \mathbf{b}\right) = \mathbf{A} \mathrm{cov}(\mathbf{X}) \mathbf{A}^{\top}}
,
где
A
{\displaystyle \mathbf{A}}
- произвольная матрица размера
n
×
n
{\displaystyle n \times n}
, а
b
∈
R
n
{\displaystyle \mathbf{b}\in \mathbb{R}^n}
.
c
o
v
(
X
,
Y
)
=
c
o
v
(
Y
,
X
)
⊤
{\displaystyle \mathrm{cov}(\mathbf{X},\mathbf{Y}) = \mathrm{cov}(\mathbf{Y},\mathbf{X})^{\top}}
Матрица ковариации аддитивна по каждому аргументу:
c
o
v
(
X
1
+
X
2
,
Y
)
=
c
o
v
(
X
1
,
Y
)
+
c
o
v
(
X
2
,
Y
)
{\displaystyle \mathrm{cov}(\mathbf{X}_1 + \mathbf{X}_2,\mathbf{Y}) = \mathrm{cov}(\mathbf{X}_1,\mathbf{Y}) + \mathrm{cov}(\mathbf{X}_2,\mathbf{Y})}
,
c
o
v
(
X
,
Y
1
+
Y
2
)
=
c
o
v
(
X
,
Y
1
)
+
c
o
v
(
X
,
Y
2
)
{\displaystyle \mathrm{cov}(\mathbf{X},\mathbf{Y}_1 + \mathbf{Y}_2) = \mathrm{cov}(\mathbf{X},\mathbf{Y}_1) + \mathrm{cov}(\mathbf{X},\mathbf{Y}_2)}
.
Матрица ковариации независимых векторов равна нулю. Если
X
{\displaystyle \mathbf{X}}
и
Y
{\displaystyle \mathbf{Y}}
независимы, то
c
o
v
(
X
,
Y
)
=
0
{\displaystyle \mathrm{cov}(\mathbf{X},\mathbf{Y}) = \mathbf{0}}
.
pl:Macierz kowariancji