5.2 大数定律 | 概率统计

$n$ 重 Bernoulli 试验中 $A$ 发生频数为 $n_A$ ，概率为 $p$ 。则

\dfrac{n_A}{n}\xrightarrow{P}p\quad(n\to\infty)

即 $\lim_n P\!\left(\left|\dfrac{n_A}{n}-p\right|\geq\epsilon\right) = 0$ 。

"频率稳定于概率"的严格表述。

证明思路：

n_A/n

的期望是

p

，方差是

p(1-p)/n\to 0

。用 Chebyshev 即得依概率收敛。

二、Chebyshev 大数定律

$X_1, X_2, \ldots$ 两两不相关（不要求独立！），方差有公共上界 $D(X_i)\leq M$ 。则

\dfrac{1}{n}\sum_{i=1}^n X_i-\dfrac{1}{n}\sum_{i=1}^n E(X_i)\xrightarrow{P}0

条件较弱：不要求同分布、只要两两不相关 + 方差有上界。

证明思路：

D\!\left(\dfrac{1}{n}\sum X_i\right) = \dfrac{1}{n^2}\sum D(X_i)\leq M/n\to 0

，再用 Chebyshev。

三、辛钦（Khintchine）大数定律

$X_1, X_2, \ldots$ i.i.d.， $E(X_i) = \mu$ 存在（不要求方差！），则

\bar X_n = \dfrac{1}{n}\sum_{i=1}^n X_i\xrightarrow{P}\mu

⭐ 推论（矩估计基础）

$X_i$ i.i.d. 且 $E(X^k)$ 存在 ⇒

M_k = \dfrac{1}{n}\sum_{i=1}^n X_i^k\xrightarrow{P}E(X^k)

样本 $k$ 阶矩依概率收敛于总体 $k$ 阶矩 —— 矩估计法的理论基础。

四、三大大数定律比较

定律	条件	结论
Bernoulli	$n$ 重独立同 $p$ 试验	$n_A/n\xrightarrow{P}p$
Chebyshev	两两不相关 + 方差有界	$\frac{1}{n}\sum X_i-\frac{1}{n}\sum EX_i\xrightarrow{P}0$
Khintchine	i.i.d. + 期望存在	$\bar X_n\xrightarrow{P}\mu$

三者都是依概率收敛。条件强度（独立性、同分布、方差）各有取舍。

五、考试要点

大数定律出现在：① 证明题（用 Chebyshev 证大数律）② 矩估计的理论基础 ③ 选择题概念辨析。

易错：

Chebyshev 大数律不要求同分布、只要"两两不相关 + 方差有界"
Khintchine 不要求方差存在（只需期望）
大数定律是依概率收敛，不是几乎处处收敛（强大数定律才是）
"频率稳定于概率"是 Bernoulli 大数律的本质

记忆口诀：

"Bernoulli: 频率 → 概率"
"Chebyshev: 不相关 + 方差有界"
"Khintchine: i.i.d. + 期望存在"
"大数律 = 依概率，不是 a.s."

六、真题套路 · 二级结论 · 速算技巧

必背二级结论

Bernoulli： $n_A/n\xrightarrow{P}p$ —— 频率稳定性
Chebyshev 大数律：两两不相关 + 方差有界 → $\frac{1}{n}\sum X_i - \frac{1}{n}\sum E(X_i)\xrightarrow{P}0$
Khintchine 大数律：i.i.d. + $E$ 存在（不要求方差！）→ $\bar X_n\xrightarrow{P}\mu$
样本 $k$ 阶矩： $M_k\xrightarrow{P}E(X^k)$ （矩估计基础）
大数律是依概率收敛（不是几乎处处）
Chebyshev 大数律比 Khintchine 弱条件：不要求同分布
样本均值收敛速度 $1/\sqrt n$ （由 CLT）

速算与解题技巧

证某序列服从大数律：用 Chebyshev（ $D\to 0$ 即可）
用 Khintchine 时只验 i.i.d. 和 $E$ 存在
不要求方差但要求 i.i.d. → Khintchine；要求方差但不要求同分布 → Chebyshev
$\sum g(X_i)/n\xrightarrow{P}E(g(X))$ （连续映射定理 + Khintchine）

常错"小坑"清单

Chebyshev 不要求同分布，只要"两两不相关 + 方差有界"
Khintchine 不要求方差，只要"i.i.d. + 期望存在"
大数律是依概率不是 a.s.（强大数律才是）
Bernoulli ⊂ Khintchine ⊂ Chebyshev（条件依次更弱/特殊）

七、历年真题原型

题 ★★★ 辛钦大数律推论（23-24-2[8] / 20-21-2[9] / 23-24-1[8] 同型，选择高频）：

X_1,\ldots,X_n

i.i.d.，

g

连续。当

n\to\infty

时

\dfrac{1}{n}\sum_{i=1}^n g(X_i)

依概率收敛于什么？

解

令 $Y_i = g(X_i)$ ，则 $Y_1,\ldots,Y_n$ 仍 i.i.d.，只要 $E[g(X)]$ 存在，由辛钦大数律：

\dfrac{1}{n}\sum_{i=1}^n g(X_i)\xrightarrow{P}E[g(X)] = \int_{-\infty}^{+\infty}g(x)f(x)\,\dd x

这就是"样本 $k$ 阶矩 $\to$ 总体 $k$ 阶矩"（取 $g(x) = x^k$ ）的一般化，也是矩估计法的理论依据。选项里凡是写"收敛到 $E[g(X)]$ "的就对。

题 ★★★ 用 Chebyshev 证某序列服从大数律（证明题套路）：

X_1,X_2,\ldots

两两不相关，

E(X_i) = \mu_i

，

\D(X_i)\leq M

（公共上界）。证

\dfrac{1}{n}\sum X_i-\dfrac{1}{n}\sum\mu_i\xrightarrow{P}0

。

解

令 $\bar X = \dfrac{1}{n}\sum X_i$ 。两两不相关 $\Rightarrow$ 协方差项全为 0，故

\D(\bar X) = \dfrac{1}{n^2}\sum_{i=1}^n\D(X_i)\leq\dfrac{nM}{n^2} = \dfrac{M}{n}\to 0

由 Chebyshev：对任意 $\epsilon>0$ ， $P(|\bar X-E\bar X|\geq\epsilon)\leq\dfrac{\D(\bar X)}{\epsilon^2}\leq\dfrac{M}{n\epsilon^2}\to 0$ 。即依概率收敛于 $E\bar X = \dfrac{1}{n}\sum\mu_i$ 。证毕。

八、必背块（三大大数律条件）

Bernoulli： $n$ 重独立同 $p$ 试验 $\Rightarrow\dfrac{n_A}{n}\xrightarrow{P}p$ （频率稳定于概率）。
Chebyshev：两两不相关 + 方差有公共上界 $\Rightarrow\dfrac{1}{n}\sum X_i-\dfrac{1}{n}\sum E(X_i)\xrightarrow{P}0$ （不要求同分布）。
辛钦(Khintchine)：i.i.d. + 期望存在 $\Rightarrow\bar X_n\xrightarrow{P}\mu$ （不要求方差）。
辛钦推论： $M_k = \dfrac{1}{n}\sum X_i^k\xrightarrow{P}E(X^k)$ ，连续映射下 $\dfrac{1}{n}\sum g(X_i)\xrightarrow{P}E[g(X)]$ 。
三者都是依概率收敛（不是几乎处处）。

九、易错点

Chebyshev 大数律不要求同分布（只要"两两不相关 + 方差有界"）；辛钦不要求方差（只要"i.i.d. + 期望存在"）。两者条件取舍方向相反，别记反。
大数律 = 依概率收敛，不是 a.s.；只有强大数律（Kolmogorov）才是几乎处处。
证大数律时方差要算对：两两不相关才能把 $\D(\sum)$ 化成 $\sum\D$ （去掉协方差项），否则要保留 $2\sum_{i<j}\Cov$ 。

🔴 你在这卡过（薄弱点精析，5/14 标❌后经 5/11 打通）：你在笔记里写"各种公式把我脑子搞炸了"，大数律证明套路一度标 ❌。

怎么破（套路二选一）：① 同分布 $\to$ 辛钦（只需验 i.i.d. + 期望存在，最省事）；② 不同分布 $\to$ Chebyshev/马尔可夫条件，证 $\lim\dfrac{1}{n^2}\sum\D(X_i) = 0$ 。
陷阱（相邻不独立时）：方差要加协方差项，用放缩 $|\Cov(X_i,X_j)|\leq\sigma^2$ ，除以 $n^2$ 后极限仍为 0 —— 协方差项有 $O(n)$ 个，除 $n^2$ 照样趋零。
记忆锚：看到"独立同分布求均值"就上辛钦；看到"方差有界但不同分布"就上 Chebyshev。

5.2 大数定律 ⭐⭐

一、Bernoulli 大数定律

二、Chebyshev 大数定律

三、辛钦（Khintchine）大数定律

四、三大大数定律比较

五、考试要点

六、真题套路 · 二级结论 · 速算技巧

必背二级结论

速算与解题技巧

常错"小坑"清单

七、历年真题原型

八、必背块（三大大数律条件）

九、易错点