样本

在数理统计和概率论中样本（sample）是一个基础的概念，是相对于总体而言的。

内容

在一次随机试验中所有个体的全体是总体，从总体中抽取的一部分个体称为样本。总体可以使用随机变量来表示，有对应的概率分布，

假设总体的分布函数为$F(x)$，最常研究的情形是从总体中抽取的有限的$n$个样本$X_1, X_2, \cdots, X_n$是独立同分布的，那么这个样本也记作$X_1, X_2, \cdots, X_n, \text{ i.i.d. } \sim F.$

样本$X_1, X_2, \cdots, X_n$一般写成向量形式$\boldsymbol{X} = (X_1, X_2, \cdots, X_n)$的所有可能取值的全体称为样本空间（sample space）。

两重性

样本具有两重性：在试验前我们并不知道一个样本的取值，只知道它的范围，这是随机性；在试验后一个样本的结果也就随之确定了，这是确定性。随机性决定了我们可以讨论借助样本的统计推断问题，利用一部分样本作训练集，得到总体的估计信息，再使用其它的样本做检验。

样本在一定程度上作为随机变量，有对应的分布，称为样本分布。

统计量

数理统计学的任务是用样本去推断总体，为了对样本的信息进行整理，提出统计量的概念。在试验之后借助样本计算得出的已知量称为统计量（statistic）。由于样本具有两重性，统计量也具有两重性。统计量是从样本中收集而来的我们仅关心的数据。

以下假设$X_1, X_2, \cdots, X_n$是从总体$X$中抽出的一些样本，常用的统计量有：

统计量类型	公式	意义
样本均值	$\overline{X} = \dfrac{1}{n} \sum_{i=1}^n X_i$	反映了总体均值
样本无偏方差	$S^2 = \dfrac{1}{n-1} \sum_{i=1}^n (X_i - X)^2$	反映了总体方差，无偏方差满足$E(S^2) = D(X)$
样本有偏方差	$S_n^2 = \dfrac{1}{n} \sum_{i=1}^n (X_i - X)^2$	反映了总体方差，在$n \to \infty$时和上面的方差没有什么区别
样本变异系数	$\hat{\nu} = \dfrac{S}{\overline{X}}$	反映了总体变异系数，衡量分布的离散程度
样本$k$阶中心矩	$m_{n,k} = \dfrac{1}{n} \sum_{i=1}^n (X_i - \overline{X})^k$	反映了总体$k$阶中心矩，同样可以定义$k$阶原点矩
样本偏度	$\hat{\beta}_1 = \dfrac{m_{n,3}}{m_{n,2}^{\frac{3}{2}}} = \dfrac{\sqrt{n} \displaystyle{\sum_{i=1}^n} (X_i - \overline{X})^3}{\left( \displaystyle{\sum_{i=1}^n} (X_i - \overline{X})^2 \right)^\frac{3}{2}}$	反映了总体偏度，是分布非对称性的衡量，正态分布偏度为零
样本峰度	$\hat{\beta}_2 = \dfrac{m_{n,4}}{m_{n,2}^2} - 3 = \dfrac{n \displaystyle{\sum_{i=1}^n} (X_i - \overline{X})^4}{\left( \displaystyle{\sum_{i=1}^n} (X_i - \overline{X})^2 \right)^2} - 3$	反映了总体峰度，是分布非对称性的衡量，之所以减三是因为使得正态分布的峰度为零，正态分布的$\dfrac{m_{n,4}}{m_{n,2}^2} = 3.$

顺序统计量

将样本$X_1, X_2, \cdots, X_n$排序$X_{(1)} \leqslant X_{(2)}, \cdots, X_{(n)}$后称为原样本的次序统计量，对随机变量而言，我们要考虑的是不同排序的概率问题，这在样本中是通过抽取充分多的样本后考察各种排序可能出现的频率来估计到概率的。

顺序统计量诱导出的几重统计量如下表：

统计量类型	公式	意义
样本中位数	$\begin{cases} X_{\left((n+1)/2\right)}, & n \text{ is odd}, \\ \dfrac{X_{\left(n/2\right)} + X_{\left((n/2)+1\right)}}{2}, & n \text{ is even}. \end{cases}$	反映了总体中位数，中位数与均值相比不太敏感，适合样本离散程度比较大的试验
样本极值	$X_{(1)}, X_{(n)}$	分别称为极小值和极大值，在百年一遇的问题或工程承受能力中用到
样本极差	$X_{(n)} - X_{(1)}$	反映了总体的离散程度
样本$p$分位数	$X_{([(n+1)p])}, \quad p \in (0, 1)$	反映了总体分位数，有更复杂的公式定义分位数，虽然性质更好但不易计算，中位数是$\dfrac{1}{2}$分位数。

经验分布函数

参见经验分布函数。

参考资料

1. 韦来生, 《数理统计（第二版）》, 科学出版社, 北京, 2015-12, ISBN 978-7-0304-6573-3.