4.3 协方差与相关系数 ⭐⭐⭐

一、协方差

⭐ 定义
Cov(X,Y)=E[(X−EX)(Y−EY)]=E(XY)−E(X)E(Y)\Cov(X, Y) = E[(X-EX)(Y-EY)] = E(XY)-E(X)E(Y)

Cov(X,X)=D(X)\Cov(X, X) = D(X)。

协方差的性质
⭐ 速算公式(必背)
Cov(X,Y)=12[D(X+Y)−D(X)−D(Y)]=12[D(X)+D(Y)−D(X−Y)]\Cov(X, Y) = \dfrac{1}{2}[D(X+Y)-D(X)-D(Y)] = \dfrac{1}{2}[D(X)+D(Y)-D(X-Y)]

用途:若直接算 E(XY)E(XY) 困难,可通过 D(X±Y)D(X\pm Y) 反推。

二、相关系数

ρXY=Cov(X,Y)D(X)D(Y)\rho_{XY} = \dfrac{\Cov(X, Y)}{\sqrt{D(X)D(Y)}}

Cauchy-Schwarz:∣ρXY∣≤1|\rho_{XY}|\leq 1。

∣ρ∣=1⇔|\rho| = 1\Leftrightarrow X,YX, Y 有线性关系 Y=aX+bY = aX+b 几乎处处。ρ=1\rho = 1 同向、ρ=−1\rho = -1 反向。

⭐ 不相关 ⇔ 四种等价说法
  1. ρXY=0\rho_{XY} = 0
  2. Cov(X,Y)=0\Cov(X, Y) = 0
  3. E(XY)=E(X)E(Y)E(XY) = E(X)E(Y)
  4. D(X+Y)=D(X)+D(Y)D(X+Y) = D(X)+D(Y)

这四个说法完全等价。考试常给一个让你判断其他。

线性预测的最优解

用 a+bXa+bX 预测 YY,使均方误差 E[(Y−a−bX)2]E[(Y-a-bX)^2] 最小:

b^=ρσYσX,a^=EY−b^ EX\hat b = \rho\dfrac{\sigma_Y}{\sigma_X},\quad\hat a = EY-\hat b\,EX

最优均方误差 =D(Y)(1−ρ2)= D(Y)(1-\rho^2)。这是回归直线,与二维正态条件均值一致。

三、独立 vs 不相关 ⭐⭐⭐

独立 ⇒ 不相关,反之不真。

例外:二维正态 (X,Y)∼N(⋯ ;ρ)(X, Y)\sim N(\cdots; \rho) 时,

独立⇔不相关⇔ρ=0\text{独立}\Leftrightarrow\text{不相关}\Leftrightarrow\rho = 0

三者完全等价(仅在此分布下!)。

反例 1(高频考!cos⁡θ+sin⁡θ\cos\theta + \sin\theta):θ∼U(0,2π)\theta\sim U(0, 2\pi),X=cos⁡θ, Y=sin⁡θX = \cos\theta,\,Y = \sin\theta。
分析

E(X)=∫02πcos⁡θ/(2π)dθ=0E(X) = \int_0^{2\pi}\cos\theta/(2\pi)\dd\theta = 0;E(Y)=0E(Y) = 0。

E(XY)=E(cos⁡θsin⁡θ)=12E(sin⁡2θ)=0E(XY) = E(\cos\theta\sin\theta) = \dfrac{1}{2}E(\sin 2\theta) = 0。Cov=0\Cov = 0,ρ=0\rho = 0,不相关。

但 X2+Y2=1X^2+Y^2 = 1,存在非线性关系,不独立!

多年真题考此反例:选择题 "X,YX, Y 不相关 + X,YX, Y 独立 + D(X−Y)=D(X)+D(Y)D(X-Y) = D(X)+D(Y)",正确者除独立外都对。

反例 2(双侧指数):XX 密度 f(x)=12e−∣x∣f(x) = \dfrac{1}{2}e^{-|x|},Y=∣X∣Y = |X|。
分析

E(X)=0E(X) = 0(奇);E(XY)=E(X∣X∣)=0E(XY) = E(X|X|) = 0(奇 × 偶 = 奇)。Cov(X,Y)=0\Cov(X, Y) = 0,不相关。

但 YY 完全由 XX 决定,绝对不独立。

反例 3(单位圆均匀):(X,Y)(X, Y) 在单位圆均匀分布。
分析

E(X)=E(Y)=0E(X) = E(Y) = 0(对称);E(XY)=∬x2+y2≤1xy/πdxdy=0E(XY) = \iint_{x^2+y^2\leq 1}xy/\pi\dd x\dd y = 0(被积奇)。不相关。

但 f(x,y)=1/πf(x, y) = 1/\pi 在单位圆,fX(x)=21−x2/πf_X(x) = 2\sqrt{1-x^2}/\pi,fX⋅fY≠ff_X\cdot f_Y\neq f,不独立。

多年真题以此为背景。

四、典型例题

例(夹角 ρ\rho 公式):θ∼U(0,2π)\theta\sim U(0, 2\pi),X=cos⁡θ, Y=cos⁡(θ+α)X = \cos\theta,\,Y = \cos(\theta+\alpha)。求 ρXY\rho_{XY}。
解

E(X)=E(Y)=0E(X) = E(Y) = 0。D(X)=E(X2)=E(cos⁡2θ)=1/2D(X) = E(X^2) = E(\cos^2\theta) = 1/2,同 D(Y)=1/2D(Y) = 1/2。

E(XY)=E[cos⁡θcos⁡(θ+α)]=12E[cos⁡α+cos⁡(2θ+α)]=cos⁡α2E(XY) = E[\cos\theta\cos(\theta+\alpha)] = \dfrac{1}{2}E[\cos\alpha+\cos(2\theta+\alpha)] = \dfrac{\cos\alpha}{2}(第二项均值 0)。

ρXY=cos⁡α/21/2⋅1/2=cos⁡α\rho_{XY} = \dfrac{\cos\alpha/2}{\sqrt{1/2\cdot 1/2}} = \cos\alpha

α=0\alpha = 0 时 ρ=1\rho = 1;α=π/2\alpha = \pi/2 时 ρ=0\rho = 0(不相关,但 X2+Y2=?X^2+Y^2 = ?)。

例(二维正态线性组合):(X,Y)∼N(1,4,1,4,0.5)(X, Y)\sim N(1, 4, 1, 4, 0.5)。Z=X+YZ = X+Y,求 ρXZ\rho_{XZ}。
解

D(X)=D(Y)=4D(X) = D(Y) = 4,Cov(X,Y)=0.5⋅2⋅2=2\Cov(X, Y) = 0.5\cdot 2\cdot 2 = 2。

Cov(X,Z)=Cov(X,X+Y)=D(X)+Cov(X,Y)=4+2=6\Cov(X, Z) = \Cov(X, X+Y) = D(X)+\Cov(X, Y) = 4+2 = 6

D(Z)=D(X)+D(Y)+2Cov=4+4+4=12D(Z) = D(X)+D(Y)+2\Cov = 4+4+4 = 12

ρXZ=64⋅12=643=32\rho_{XZ} = \dfrac{6}{\sqrt{4\cdot 12}} = \dfrac{6}{4\sqrt 3} = \dfrac{\sqrt 3}{2}
题 ★★(23-24-2 第 1/7 题,N(0,1;0,4;−0.5)N(0,1; 0,4; -0.5)):(X,Y)∼N(0,1,0,4,−0.5)(X, Y)\sim N(0, 1, 0, 4, -0.5)。
解

ρXY=−0.5\rho_{XY} = -0.5(即参数)。σX=1,σY=2\sigma_X = 1, \sigma_Y = 2,Cov(X,Y)=−0.5⋅1⋅2=−1\Cov(X, Y) = -0.5\cdot 1\cdot 2 = -1。

D(2X−Y)=4⋅1+4−2⋅2⋅(−1)=4+4+4=12D(2X-Y) = 4\cdot 1+4-2\cdot 2\cdot(-1) = 4+4+4 = 12

Cov(X,2X−Y)=2D(X)−Cov(X,Y)=2−(−1)=3\Cov(X, 2X-Y) = 2D(X)-\Cov(X, Y) = 2-(-1) = 3

二维正态下 ρ≠0\rho\neq 0 → 不独立(也不相关)。

这是 23-24-2 同时考两道选择题的"参数组合"。

真题原型 ★★★(22-23-2[10] 经典陷阱:X+YX+Y 与 X−YX-Y):X∼N(μ,σ2), Y∼N(μ,σ2)X\sim N(\mu,\sigma^2),\,Y\sim N(\mu,\sigma^2),ρXY=−0.3\rho_{XY}=-0.3(只说边缘正态,没说联合正态)。判 4 命题:① (X,Y)(X,Y) 服从二维正态;② D(X−2Y)=6.2σ2D(X-2Y)=6.2\sigma^2;③ X+YX+Y 与 X−YX-Y 不相关;④ X+YX+Y 与 X−YX-Y 相互独立。
解

① 错:边缘正态 ⇏\nRightarrow 联合正态。

② 对:D(X−2Y)=D(X)+4D(Y)−2⋅2 Cov(X,Y)=σ2+4σ2−4ρσ2=5σ2−4(−0.3)σ2=6.2σ2D(X-2Y)=D(X)+4D(Y)-2\cdot2\,\Cov(X,Y)=\sigma^2+4\sigma^2-4\rho\sigma^2=5\sigma^2-4(-0.3)\sigma^2=6.2\sigma^2。

③ 对:Cov(X+Y,X−Y)=D(X)−D(Y)=0\Cov(X+Y,X-Y)=D(X)-D(Y)=0(同方差即成立,不需正态)→ 不相关。

④ 错:独立需联合正态,而①已说明不一定联合正态,不相关 ⇏\nRightarrow 独立。

正确答案 ②③。教训:不相关 ⇒\Rightarrow 独立这一步只在确认联合正态时成立;边缘各自正态不够。

五、易错点清单

🔴 你在这卡过(5/11 集中暴露)

5/11 你坦白"协方差啥的我都有点遗忘了""相关系数我完全忘记了",并追问 D(∑Xi)D(\sum X_i) 为什么不等于 n2σ2n^2\sigma^2(销量题栽过的坑);5/17 又问 ρ(Xi−Xˉ, Xj−Xˉ)\rho(X_i-\bar X,\,X_j-\bar X)。

怎么破:

记忆口诀:

六、与方差/协方差矩阵的联系

对 (X1,…,Xn)(X_1, \ldots, X_n),协方差矩阵 C=(Cov(Xi,Xj))\mathbb C = (\Cov(X_i, X_j))。

D ⁣(∑tiXi)=tTCtD\!\left(\sum t_iX_i\right) = \mathbf t^T\mathbb C\mathbf t

性质:对称 + 半正定。

nn 维正态下:C\mathbb C 对角 ⇔ 各 XiX_i 相互独立(这是 nn 维正态的特殊性)。

七、真题套路 · 二级结论 · 速算技巧

题型决策树

问什么用什么
Cov(X,Y)\Cov(X, Y)E(XY)−E(X)E(Y)E(XY)-E(X)E(Y) 或 12[D(X+Y)−D(X)−D(Y)]\frac{1}{2}[D(X+Y)-D(X)-D(Y)]
ρXY\rho_{XY}Cov(X,Y)/D(X)D(Y)\Cov(X,Y)/\sqrt{D(X)D(Y)}
Cov(aX+bY,cZ+dW)\Cov(aX+bY, cZ+dW)双线性展开
判独立不能用 ρ=0\rho=0(除二维正态);用 f(x,y)=fX(x)fY(y)f(x,y) = f_X(x)f_Y(y)
判不相关4 个等价说法任选其一

必背二级结论

  1. 速算公式:Cov(X,Y)=12[D(X+Y)−D(X)−D(Y)]=12[D(X)+D(Y)−D(X−Y)]\Cov(X,Y) = \frac{1}{2}[D(X+Y)-D(X)-D(Y)] = \frac{1}{2}[D(X)+D(Y)-D(X-Y)]
  2. 双线性:Cov(aX+c,bY+d)=abCov(X,Y)\Cov(aX+c, bY+d) = ab\Cov(X,Y),常数无关
  3. 分配:Cov(X+Y,Z)=Cov(X,Z)+Cov(Y,Z)\Cov(X+Y, Z) = \Cov(X, Z) + \Cov(Y, Z)
  4. Cov(X,X)=D(X)\Cov(X, X) = D(X)
  5. Cauchy-Schwarz:∣Cov(X,Y)∣≤D(X)D(Y)|\Cov(X,Y)|\leq\sqrt{D(X)D(Y)},∣ρ∣≤1|\rho|\leq 1
  6. ∣ρ∣=1|\rho| = 1 ⇔ Y=aX+bY = aX+b a.s.(线性关系)
  7. 二维正态下"独立 ⇔ 不相关 ⇔ ρ=0\rho = 0"(仅此分布!)
  8. 不相关 4 个等价说法:ρ=0⇔Cov=0⇔E(XY)=E(X)E(Y)⇔D(X+Y)=D(X)+D(Y)\rho=0\Leftrightarrow\Cov=0\Leftrightarrow E(XY)=E(X)E(Y)\Leftrightarrow D(X+Y)=D(X)+D(Y)
  9. 二维正态参数 ρ\rho 就是 ρXY\rho_{XY}(无需另算)
  10. 线性回归:用 a+bXa+bX 预测 YY,最优 b^=ρσY/σX\hat b = \rho\sigma_Y/\sigma_X,最优均方误差 D(Y)(1−ρ2)D(Y)(1-\rho^2)

反例(不相关但不独立)—— 选择题高频

  1. θ∼U(0,2π), X=cos⁡θ, Y=sin⁡θ\theta\sim U(0,2\pi),\,X=\cos\theta,\,Y=\sin\theta:ρ=0\rho=0 但 X2+Y2=1X^2+Y^2=1
  2. f(x)=12e−∣x∣, Y=∣X∣f(x) = \frac{1}{2}e^{-|x|},\,Y=|X|:Cov=0\Cov = 0 但 YY 完全由 XX 决定
  3. (X,Y)(X,Y) 单位圆均匀分布:ρ=0\rho = 0 但 X2+Y2≤1X^2+Y^2\leq 1
  4. θ∼U(0,2π), X=cos⁡θ, Y=cos⁡(θ+α)\theta\sim U(0,2\pi),\,X=\cos\theta,\,Y=\cos(\theta+\alpha):ρ=cos⁡α\rho = \cos\alpha(α=π/2\alpha=\pi/2 时不相关)

速算与解题技巧

  1. 看到方差和 D(X+Y)=D(X)+D(Y)D(X+Y) = D(X)+D(Y) → 立刻判为 "X,YX,Y 不相关"(不是独立!)
  2. 看到 E(XY)≠E(X)E(Y)E(XY)\neq E(X)E(Y) → 立刻 Cov≠0\Cov\neq 0,不独立
  3. 二维正态求 ρaX+bY,cX+dY\rho_{aX+bY, cX+dY}:先算 Cov\Cov 再除 D⋅D\sqrt{D\cdot D},简单代入
  4. Cov\Cov 双线性展开:把"和、差、常数倍"展开成基本协方差的线性组合
  5. D(X+Y)=D(X)+D(Y)+2Cov(X,Y)D(X+Y) = D(X) + D(Y) + 2\Cov(X,Y) —— 反求 Cov\Cov 的常用公式

常错"小坑"清单