4.4 高阶矩与协方差矩阵 ⭐

一、各种"矩"

原点矩包含位置信息;中心矩消除位置只留分布形状。3 阶中心矩反映偏度,4 阶反映峰度。

二、协方差矩阵

nn 维随机变量 (X1,…,Xn)(X_1, \ldots, X_n) 的协方差矩阵

C=(c11c12⋯c1nc21c22⋯c2n⋮⋮⋱⋮cn1cn2⋯cnn),cij=Cov(Xi,Xj)\mathbb C = \begin{pmatrix}c_{11}&c_{12}&\cdots&c_{1n}\\c_{21}&c_{22}&\cdots&c_{2n}\\\vdots&\vdots&\ddots&\vdots\\c_{n1}&c_{n2}&\cdots&c_{nn}\end{pmatrix},\quad c_{ij} = \Cov(X_i, X_j)

性质:对称、半正定。对角元 cii=D(Xi)c_{ii} = D(X_i)。

线性组合方差
D ⁣(∑i=1ntiXi)=∑i,jtitjcij=tTCtD\!\left(\sum_{i=1}^n t_i X_i\right) = \sum_{i,j}t_i t_j c_{ij} = \mathbf t^T\mathbb C\mathbf t

这是协方差矩阵的"几何意义"——线性组合的方差由二次型给出。

例:二维正态 (X,Y)∼N(μ1,μ2,σ12,σ22,ρ)(X, Y)\sim N(\mu_1, \mu_2, \sigma_1^2, \sigma_2^2, \rho) 的协方差矩阵: C=(σ12ρσ1σ2ρσ1σ2σ22),∣C∣=σ12σ22(1−ρ2)\mathbb C = \begin{pmatrix}\sigma_1^2&\rho\sigma_1\sigma_2\\\rho\sigma_1\sigma_2&\sigma_2^2\end{pmatrix},\quad|\mathbb C| = \sigma_1^2\sigma_2^2(1-\rho^2) ρ=±1\rho = \pm 1 时 ∣C∣=0|\mathbb C| = 0,矩阵退化。

三、nn 维正态分布

nn 维正态随机向量 X=(X1,…,Xn)T∼N(μ,C)\mathbf X = (X_1, \ldots, X_n)^T\sim N(\boldsymbol\mu, \mathbb C) 密度:

f(x)=1(2π)n/2∣C∣1/2exp⁡ ⁣[−12(x−μ)TC−1(x−μ)]f(\mathbf x) = \dfrac{1}{(2\pi)^{n/2}|\mathbb C|^{1/2}}\exp\!\left[-\dfrac{1}{2}(\mathbf x-\boldsymbol\mu)^T\mathbb C^{-1}(\mathbf x-\boldsymbol\mu)\right]

C\mathbb C 正定,μ\boldsymbol\mu 是均值向量。

⭐ nn 维正态四大性质
  1. 任意子集仍是低维正态
  2. 任意线性组合 ∑aiXi\sum a_iX_i 服从一维正态
  3. XiX_i 相互独立 ⇔ 协方差矩阵 C\mathbb C 是对角矩阵(仅在正态下成立!)
  4. 线性变换仍正态:Y=AX+b∼N(Aμ+b,ACAT)\mathbf Y = A\mathbf X+\mathbf b\sim N(A\boldsymbol\mu+\mathbf b, A\mathbb C A^T)

四、考试要点

本节常出选择/填空 1-2 题。重点:协方差矩阵性质 + nn 维正态独立判别(对角阵)+ D(∑tiXi)D(\sum t_iX_i) 二次型计算。
易错:
记忆口诀:

五、真题套路 · 二级结论 · 速算技巧

必背二级结论

  1. 协方差矩阵性质:对称 + 半正定
  2. D(∑tiXi)=tTCtD(\sum t_iX_i) = \mathbf t^T\mathbb C\mathbf t(二次型)
  3. nn 维正态独立 ⇔ C\mathbb C 对角(仅在正态下!)
  4. 任意子集仍是低维正态(性质 1)
  5. 任意线性组合 ∑aiXi\sum a_iX_i 服从一维正态(性质 2)
  6. 线性变换:Y=AX+b∼N(Aμ+b,ACAT)\mathbf Y = A\mathbf X+\mathbf b\sim N(A\boldsymbol\mu+\mathbf b, A\mathbb C A^T)
  7. ∣C∣|\mathbb C| 是 σ12σ22(1−ρ2)\sigma_1^2\sigma_2^2(1-\rho^2)(二维正态)
  8. C\mathbb C 半正定,所以 ∣C∣≥0|\mathbb C|\geq 0;ρ=±1\rho = \pm 1 时退化

速算与解题技巧

  1. nn 维正态判独立 → 看 C\mathbb C 是否对角
  2. 线性组合的分布 → aμ+ba\mu+b 和 aTCaa^T\mathbb C a
  3. 二次型 tTCt\mathbf t^T\mathbb C\mathbf t 展开:对角项 ti2ciit_i^2 c_{ii} + 交叉项 2titjcij2t_it_j c_{ij}

常错"小坑"清单

六、历年真题原型

题 ★★★★ 22-23-2 第 10 题(经典陷阱:边缘正态 ⇏ 联合正态):已知 X∼N(μ,σ2)X\sim N(\mu,\sigma^2)、Y∼N(μ,σ2)Y\sim N(\mu,\sigma^2),相关系数 ρX,Y=−0.3\rho_{X,Y} = -0.3(只给边缘正态,没说联合正态!)。判断下列命题对错:① (X,Y)(X,Y) 服从二维正态;② D(X−2Y)=6.2σ2\D(X-2Y) = 6.2\sigma^2;③ X+YX+Y 与 X−YX-Y 不相关;④ X+YX+Y 与 X−YX-Y 相互独立。
解

① 错。边缘各自正态 不能推出联合二维正态(可构造反例)。

② 对。Cov(X,Y)=ρσ2=−0.3σ2\Cov(X,Y) = \rho\sigma^2 = -0.3\sigma^2,故

D(X−2Y)=D(X)+4D(Y)−2⋅2Cov(X,Y)=σ2+4σ2−4(−0.3σ2)=6.2σ2\D(X-2Y) = \D(X)+4\D(Y)-2\cdot 2\Cov(X,Y) = \sigma^2+4\sigma^2-4(-0.3\sigma^2) = 6.2\sigma^2

③ 对。Cov(X+Y,X−Y)=D(X)−D(Y)=σ2−σ2=0\Cov(X+Y,X-Y) = \D(X)-\D(Y) = \sigma^2-\sigma^2 = 0(只要边缘同方差即成立,不需正态)。

④ 错!独立需要联合正态,而①已说明联合不一定正态,故"不相关 ⇏\nRightarrow 独立"。

正确答案 ②③(选 D)。教训:不相关 ⇒\Rightarrow 独立这一步只在确认 (X,Y)(X,Y) 联合正态时才成立;边缘各自正态不够。

题 ★★★★ 23-24-2 第 1 题(二维正态找不相关线性组合):(X,Y)∼N(0,1; 0,4; −0.5)(X,Y)\sim N(0,1;\,0,4;\,-0.5)。找一个服从 N(0,1)N(0,1) 且与 XX 不相关的线性组合。
解

这里 σ1=1,σ2=2,ρ=−0.5\sigma_1 = 1,\sigma_2 = 2,\rho = -0.5,故 Cov(X,Y)=ρσ1σ2=(−0.5)(1)(2)=−1\Cov(X,Y) = \rho\sigma_1\sigma_2 = (-0.5)(1)(2) = -1。

试 X+YX+Y:Cov(X,X+Y)=D(X)+Cov(X,Y)=1+(−1)=0\Cov(X,X+Y) = \D(X)+\Cov(X,Y) = 1+(-1) = 0,确实与 XX 不相关!

方差:D(X+Y)=σ12+σ22+2Cov(X,Y)=1+4+2(−1)=3\D(X+Y) = \sigma_1^2+\sigma_2^2+2\Cov(X,Y) = 1+4+2(-1) = 3。

标准化得 13(X+Y)∼N(0,1)\dfrac{1}{\sqrt 3}(X+Y)\sim N(0,1)(线性组合在二维正态下仍正态,性质 2)。

另:第 7 问 Xˉ,Yˉ\bar X,\bar Y 的相关系数 ρXˉ,Yˉ=ρX,Y=−0.5\rho_{\bar X,\bar Y} = \rho_{X,Y} = -0.5(样本均值相关系数不变)。

七、必背块(协方差矩阵核心)

八、易错点

🔴 你在这卡过(薄弱点精析 #5,5/11 暴露):你坦白"协方差啥的我都有点遗忘了""相关系数我完全忘记了",并在销量题里栽过 D(∑Xi)\D(\sum X_i) 的坑。