经验分布函数

经验分布函数是统计学中从一个总体中抽取的样本所服从的概率分布，因为样本具有随机性，因此我们可以研究这样的分布。

概念

假设$X_1, X_2, \cdots, X_n$是取自随机变量$X$的独立同分布样本，将其排序$X_{(1)} \leqslant X_{(2)} \leqslant \cdots \leqslant X_{(n)}$，我们记 $$F_n(X) = \begin{cases} 0, & x \leqslant X_{(1)}, \\ \dfrac{k}{n}, & X_{_{(k)}} < x \leqslant X_{(k+1)}, \\ 1, & x > X_{(n)} \end{cases}$$ 称为样本$X_1, X_2, \cdots, X_n$的经验分布函数。

它和一般的（离散型）随机变量的分布函数有类似的一些性质：单调性，非负性以及左连续性，规范性，即$\lim_{x \to +\infty} F_n(x) = 1.$

和总体分布函数的关系

由强大数定律可知，$F_n(x)$以概率1收敛于总体随机变量$X$的分布函数$F(x)$即 $$P\!\left\{ \lim_{n \to \infty} F_n(x) = F(x) \right\} = 1.$$ 更精细的有如下 Glivenko 定理：

记号同上，记$D_n = \sup_{x \in \R} |F_n(x) - F(x)|$，那么有$$P\!\left\{ \lim_{n \to \infty} D_n = 0 \right\} = 1.$$

也就是说当$n$充分大时，经验分布函数和总体的分布函数差别很小（只在一个零测集上有差别）。

参考资料

1. 韦来生, 《数理统计（第二版）》, 科学出版社, 北京, 2015-12, ISBN 978-7-0304-6573-3.