La covarianza di due variabili aleatorie
X
{\displaystyle X}
Y
{\displaystyle Y}
valore atteso del prodotto delle loro distanze dalla media:
C
o
v
(
X
,
Y
)
=
E
[
(
X
−
E
[
X
]
)
(
Y
−
E
[
Y
]
)
]
.
{\displaystyle \mathrm {Cov} (X,Y)=\mathbb {E} {\Big [}{\big (}X-\mathbb {E} [X]{\big )}(Y-\mathbb {E} [Y]{\big )}{\Big ]}.}
La covarianza di
X
{\displaystyle X}
Y
{\displaystyle Y}
valore atteso del loro prodotto e il prodotto dei loro valori attesi:
C
o
v
(
X
,
Y
)
=
E
[
X
Y
]
−
E
[
X
]
E
[
Y
]
.
{\displaystyle \mathrm {Cov} (X,Y)=\mathbb {E} [XY]-\mathbb {E} [X]\mathbb {E} [Y].}
Infatti per la linearità del valore atteso risulta
E
[
X
Y
−
X
E
[
Y
]
−
E
[
X
]
Y
+
E
[
X
]
E
[
Y
]
]
=
E
[
X
Y
]
−
E
[
X
]
E
[
Y
]
−
E
[
X
]
E
[
Y
]
+
E
[
X
]
E
[
Y
]
=
E
[
X
Y
]
−
E
[
X
]
E
[
Y
]
.
{\displaystyle \mathbb {E} {\Big [}XY-X\mathbb {E} [Y]-\mathbb {E} [X]Y+\mathbb {E} [X]\mathbb {E} [Y]{\Big ]}=\mathbb {E} [XY]-\mathbb {E} [X]\mathbb {E} [Y]-\mathbb {E} [X]\mathbb {E} [Y]+\mathbb {E} [X]\mathbb {E} [Y]=\mathbb {E} [XY]-\mathbb {E} [X]\mathbb {E} [Y].}
La covarianza rispetta le seguenti proprietà, per variabili aleatorie
X
{\displaystyle X}
Y
{\displaystyle Y}
Z
{\displaystyle Z}
a
{\displaystyle a}
b
{\displaystyle b}
Cov
(
X
,
Y
)
=
Cov
(
Y
,
X
)
{\displaystyle {\text{Cov}}(X,Y)={\text{Cov}}(Y,X)\ }
Cov
(
a
X
+
b
,
Y
)
=
a
Cov
(
X
,
Y
)
{\displaystyle {\text{Cov}}(aX+b,Y)=a{\text{Cov}}(X,Y)\ }
Cov
(
X
+
Y
,
Z
)
=
Cov
(
X
,
Z
)
+
Cov
(
Y
,
Z
)
{\displaystyle {\text{Cov}}(X+Y,Z)={\text{Cov}}(X,Z)+{\text{Cov}}(Y,Z)\ }
Due variabili aleatorie indipendenti hanno covarianza nulla, poiché dalla loro indipendenza segue
E
[
X
Y
]
=
E
[
X
]
E
[
Y
]
.
{\displaystyle \mathbb {E} [XY]=\mathbb {E} [X]\mathbb {E} [Y].}
Due variabili aleatorie che hanno covarianza nulla sono incorrelate .
Due variabili aleatorie dipendenti possono essere incorrelate. Ad esempio, se
X
{\displaystyle X}
legge uniforme sull'intervallo
[
−
1
,
1
]
{\displaystyle [-1,1]}
Y
=
X
2
{\displaystyle Y=X^{2}}
Cov
(
X
,
Y
)
=
Cov
(
X
,
X
2
)
=
E
[
X
3
]
−
E
[
X
]
E
[
X
2
]
=
0
−
0
E
[
X
2
]
=
0.
{\displaystyle \textstyle {\text{Cov}}(X,Y)={\text{Cov}}(X,X^{2})=\mathbb {E} [X^{3}]-\mathbb {E} [X]\mathbb {E} [X^{2}]=0-0\mathbb {E} [X^{2}]=0.}
La covarianza può essere considerata una generalizzazione della varianza
Var
(
X
)
=
Cov
(
X
,
X
)
{\displaystyle {\text{Var}}(X)={\text{Cov}}(X,X)\ }
e compare come termine di correzione nella relazione
Var
(
X
+
Y
)
=
Var
(
X
)
+
Var
(
Y
)
+
2
Cov
(
X
,
Y
)
.
{\displaystyle {\text{Var}}(X+Y)={\text{Var}}(X)+{\text{Var}}(Y)+2{\text{Cov}}(X,Y).}
Più in generale, per variabili aleatorie
X
1
,
…
,
X
n
{\displaystyle X_{1},\ldots ,X_{n}}
Y
1
,
…
,
Y
m
{\displaystyle Y_{1},\ldots ,Y_{m}}
Var
(
∑
i
X
i
)
=
Cov
(
∑
i
X
i
,
∑
j
X
j
)
=
∑
i
,
j
Cov
(
X
i
,
X
j
)
=
∑
i
Var
(
X
i
)
+
2
∑
i
>
j
Cov
(
X
i
,
X
j
)
,
{\displaystyle \textstyle {\text{Var}}(\sum _{i}X_{i})={\text{Cov}}(\sum _{i}X_{i},\sum _{j}X_{j})=\sum _{i,j}{\text{Cov}}(X_{i},X_{j})=\sum _{i}{\text{Var}}(X_{i})+2\sum _{i>j}{\text{Cov}}(X_{i},X_{j}),}
come caso particolare di
Cov
(
∑
i
X
i
,
∑
j
Y
j
)
=
∑
i
,
j
Cov
(
X
i
,
Y
j
)
.
{\displaystyle \textstyle {\text{Cov}}\left(\sum _{i}X_{i},\sum _{j}Y_{j}\right)=\sum _{i,j}{\text{Cov}}(X_{i},Y_{j}).}
In statistica la covarianza di due variabili statistiche
X
{\displaystyle X}
Y
{\displaystyle Y}
σ
X
,
Y
=
Cov
(
X
,
Y
)
{\displaystyle \textstyle \sigma _{X,Y}={\text{Cov}}(X,Y)}
indice di variabilità congiunta.
Su una popolazione di
N
{\displaystyle N}
(
x
i
,
y
i
)
{\displaystyle (x_{i},y_{i})}
medie
x
¯
{\displaystyle {\bar {x}}}
y
¯
{\displaystyle {\bar {y}}}
σ
X
,
Y
=
1
N
∑
i
=
1
N
(
x
i
−
x
¯
)
(
y
i
−
y
¯
)
=
1
N
∑
i
=
1
N
x
i
y
i
−
(
1
N
∑
i
=
1
N
x
i
)
(
1
N
∑
i
=
1
N
y
i
)
.
{\displaystyle \sigma _{X,Y}={\frac {1}{N}}\sum _{i=1}^{N}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})={\frac {1}{N}}\sum _{i=1}^{N}x_{i}y_{i}-\left({\frac {1}{N}}\sum _{i=1}^{N}x_{i}\right)\left({\frac {1}{N}}\sum _{i=1}^{N}y_{i}\right).}
Uno stimatore della covarianza di
n
{\displaystyle n}
(
x
i
,
y
i
)
{\displaystyle (x_{i},y_{i})}
n
{\displaystyle n}
x
i
,
y
i
{\displaystyle x_{i},y_{i}}
s
X
,
Y
=
∑
i
=
1
n
x
i
y
i
n
−
1
−
∑
i
=
1
n
x
i
n
−
1
∑
i
=
1
n
y
i
n
.
{\displaystyle s_{X,Y}={\frac {\sum _{i=1}^{n}x_{i}y_{i}}{n-1}}-{\frac {\sum _{i=1}^{n}x_{i}}{n-1}}{\frac {\sum _{i=1}^{n}y_{i}}{n}}.}
Lo stimatore della covarianza è anche detto covarianza campionaria.
La varianza e la covarianza intervengono per definire l'indice di correlazione di Bravais-Pearson
ρ
X
,
Y
=
∑
i
(
x
i
−
x
¯
)
(
y
i
−
y
¯
)
∑
j
(
x
j
−
x
¯
)
2
∑
k
(
y
k
−
y
¯
)
2
=
Cov
(
X
,
Y
)
Var
(
X
)
Var
(
Y
)
.
{\displaystyle \rho _{X,Y}={\frac {\sum _{i}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sqrt {\sum _{j}(x_{j}-{\bar {x}})^{2}\sum _{k}(y_{k}-{\bar {y}})^{2}}}}={\frac {{\text{Cov}}(X,Y)}{\sqrt {{\text{Var}}(X){\text{Var}}(Y)}}}.}
La covarianza è limitata dalla disuguaglianza di Cauchy-Schwarz , infatti siano
U
=
(
x
1
−
x
¯
,
…
,
x
n
−
x
¯
)
{\displaystyle U=(x_{1}-{\bar {x}},\ldots ,x_{n}-{\bar {x}})}
V
=
(
y
1
−
y
¯
,
…
,
y
n
−
y
¯
)
{\displaystyle V=(y_{1}-{\bar {y}},\ldots ,y_{n}-{\bar {y}})}
x
i
{\displaystyle x_{i}}
y
i
{\displaystyle y_{i}}
|
⟨
U
,
V
⟩
|
≤
⟨
U
,
U
⟩
⟨
V
,
V
⟩
{\displaystyle |\langle U,V\rangle |\leq {\sqrt {\langle U,U\rangle \langle V,V\rangle }}}
che equivale a scrivere
|
∑
i
=
1
n
(
x
i
−
x
¯
)
(
y
i
−
y
¯
)
|
≤
∑
i
=
1
n
(
x
i
−
x
¯
)
2
∑
i
=
1
n
(
y
i
−
y
¯
)
2
.
{\displaystyle \left|\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})\right|\leq {\sqrt {\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}\sum _{i=1}^{n}(y_{i}-{\bar {y}})^{2}}}.}
Moltiplicando per Un fattore
1
/
n
{\displaystyle 1/n}
|
σ
X
,
Y
|
≤
σ
X
σ
Y
,
{\displaystyle |\sigma _{X,Y}|\leq \sigma _{X}\sigma _{Y},}
dove
σ
X
{\displaystyle \sigma _{X}}
σ
Y
{\displaystyle \sigma _{Y}}
Nel caso in cui
z
=
f
(
x
,
y
)
{\displaystyle z=f(x,y)}
|
σ
Z
|
≤
|
∂
x
f
(
x
,
y
)
|
σ
X
+
|
∂
y
f
(
x
,
y
)
|
σ
Y
.
{\displaystyle |\sigma _{Z}|\leq |\partial _{x}f(x,y)|\sigma _{X}+|\partial _{y}f(x,y)|\sigma _{Y}.}
Infatti, l'espressione generale per la deviazione standard di
z
{\displaystyle z}
σ
Z
=
|
∂
x
f
(
x
,
y
)
|
2
σ
X
2
+
|
∂
y
f
(
x
,
y
)
|
2
σ
Y
2
+
2
|
∂
x
f
(
x
,
y
)
|
|
∂
y
f
(
x
,
y
)
|
σ
X
,
Y
.
{\displaystyle \sigma _{Z}={\sqrt {|\partial _{x}f(x,y)|^{2}\sigma _{X}^{2}+|\partial _{y}f(x,y)|^{2}\sigma _{Y}^{2}+2|\partial _{x}f(x,y)||\partial _{y}f(x,y)|\sigma _{X,Y}}}.}
Il valore massimo (minimo), per monotonia delle funzioni, sarà ottenuto in corrispondenza di
σ
X
,
Y
=
σ
X
σ
Y
{\displaystyle \sigma _{X,Y}=\sigma _{X}\sigma _{Y}}
σ
X
,
Y
=
−
σ
X
σ
Y
{\displaystyle \sigma _{X,Y}=-\sigma _{X}\sigma _{Y}}
σ
Z
{\displaystyle \sigma _{Z}}
σ
Z
=
|
∂
x
f
(
x
,
y
)
|
2
σ
X
2
+
|
∂
y
f
(
x
,
y
)
|
2
σ
Y
2
+
2
|
∂
x
f
(
x
,
y
)
|
|
∂
y
f
(
x
,
y
)
|
σ
X
σ
Y
=
|
∂
x
f
(
x
,
y
)
|
σ
X
+
|
∂
y
f
(
x
,
y
)
|
σ
Y
.
{\displaystyle \sigma _{Z}={\sqrt {|\partial _{x}f(x,y)|^{2}\sigma _{X}^{2}+|\partial _{y}f(x,y)|^{2}\sigma _{Y}^{2}+2|\partial _{x}f(x,y)||\partial _{y}f(x,y)|\sigma _{X}\sigma _{Y}}}=|\partial _{x}f(x,y)|\sigma _{X}+|\partial _{y}f(x,y)|\sigma _{Y}.}
Osserviamo che il valore massimo è dato dalla somma diretta dei contributi delle incertezze tipo moltiplicate per i relativi coefficienti ottenuti linearizzando la relazione. Si dimostra anche che tale formula è generalizzabile al caso di una funzione dipendente da
n
{\displaystyle n}
![{\displaystyle \mathrm {Cov} (X,Y)=\mathbb {E} {\Big [}{\big (}X-\mathbb {E} [X]{\big )}(Y-\mathbb {E} [Y]{\big )}{\Big ]}.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a1b4e97291f5a14448d11eda3022bfb37e684683)
![{\displaystyle \mathrm {Cov} (X,Y)=\mathbb {E} [XY]-\mathbb {E} [X]\mathbb {E} [Y].}](https://wikimedia.org/api/rest_v1/media/math/render/svg/4515606b58170160273c078a4a75c94246e2c784)
![{\displaystyle \mathbb {E} {\Big [}XY-X\mathbb {E} [Y]-\mathbb {E} [X]Y+\mathbb {E} [X]\mathbb {E} [Y]{\Big ]}=\mathbb {E} [XY]-\mathbb {E} [X]\mathbb {E} [Y]-\mathbb {E} [X]\mathbb {E} [Y]+\mathbb {E} [X]\mathbb {E} [Y]=\mathbb {E} [XY]-\mathbb {E} [X]\mathbb {E} [Y].}](https://wikimedia.org/api/rest_v1/media/math/render/svg/fedbae37411f45d00c15597e88d4bcad234135be)
![{\displaystyle \mathbb {E} [XY]=\mathbb {E} [X]\mathbb {E} [Y].}](https://wikimedia.org/api/rest_v1/media/math/render/svg/7a3eb430ddfd0a1e6f74fab9eda04c21cb87b2c6)
![{\displaystyle [-1,1]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/51e3b7f14a6f70e614728c583409a0b9a8b9de01)
![{\displaystyle \textstyle {\text{Cov}}(X,Y)={\text{Cov}}(X,X^{2})=\mathbb {E} [X^{3}]-\mathbb {E} [X]\mathbb {E} [X^{2}]=0-0\mathbb {E} [X^{2}]=0.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/dd086bdaabfa47fb3351554aa1db823331123f38)
