素材主要来自英文维基百科词条Normally distributed and uncorrelated does not imply independent
我们直接举个例子吧。假设 X X X服从正态分布, W W W是一个Rademacher distribution的随机变量,其取值在集合 { 1 , − 1 } \{1,-1\} {1,−1}中,且概率均为1/2。令 Y = W X Y=WX Y=WX。关于 Y Y Y的分布,我们有
F Y ( y ) = P ( Y ≤ y ) = P ( X ≤ y ∣ W = 1 ) P ( W = 1 ) + P ( X ≥ − y ∣ W = − 1 ) P ( W = − 1 ) = 1 2 [ F X ( y ) + 1 − F X ( − y ) ] \begin{aligned} F_Y(y) &= P(Y\leq y) \\ &= P(X\leq y|W=1)P(W=1) + P(X\geq -y|W=-1)P(W=-1) \\ &= \frac{1}{2}[ F_X(y) + 1-F_X(-y)] \end{aligned} FY(y)=P(Y≤y)=P(X≤y∣W=1)P(W=1)+P(X≥−y∣W=−1)P(W=−1)=21[FX(y)+1−FX(−y)]
由于正态分布的对称性,我们有 F X ( y ) = 1 − F X ( − y ) F_X(y) = 1-F_X(-y) FX(y)=1−FX(−y)。于是,我们有
F Y ( y ) = F X ( y ) \begin{aligned} F_Y(y) = F_X(y) \end{aligned} FY(y)=FX(y)
重要结论即为 Y Y Y为正态分布。再考察 X X X与 Y Y Y的线性相关性,其协方差为
C O V ( X , Y ) = E [ X Y ] − E X E Y = E [ X W X ] − 0 = E [ X 2 W ] = E [ X 2 ] E [ W ] = 0 \begin{aligned} COV(X,Y)&=\mathbb{E}[XY]- \mathbb{E}X\mathbb{E}Y \\ &=\mathbb{E}[XWX] - 0 \\ & = \mathbb{E}[X^2W] = \mathbb{E}[X^2] \mathbb{E}[W] =0 \end{aligned} COV(X,Y)=E[XY]−EXEY=E[XWX]−0=E[X2W]=E[X2]E[W]=0
由此可见, X X X与 Y Y Y线性不相关。
但是显然,我们有 ∣ X ∣ = ∣ Y ∣ |X|=|Y| ∣X∣=∣Y∣,即 X X X与 Y Y Y不独立。因此, X X X与 Y Y Y就是一个很好的例子,证明不相关的正态分布随机变量也不一定就独立。