指数分布

在概率论中，指数分布是一种常见的连续型随机变量服从的概率分布，指数分布可以用来表示独立随机事件发生的时间间隔。

模型

设有连续型随机变量$X$，如果它的概率密度函数是

$$f(x) = \begin{cases} \lambda \text{e}^{-\lambda x}, & x \geqslant 0, \\ 0, & x < 0. \end{cases}$$

我们就称随机变量$X$服从指数分布，记作$X \sim \text{Exp}(\lambda)$，其中$\lambda > 0$常被称为该分布的率参数。

指数分布的分布函数是

$$F(x) = \begin{cases} 1 - \text{e}^{-\lambda x}, & x \geqslant 0, \\ 0, & x < 0. \end{cases}$$

R 语言的指数分布密度函数为dexp，分布函数为pexp，一些不同参数的指数分布密度函数和分布函数为

无记忆性

指数分布的一个重要特征是无记忆性，正因为有这个性质才会在表示独立随机事件发生的时间间隔问题中应用广泛。这是说，设连续型随机变量$X$满足指数分布，由于对任意的$s, t \in \R^+$

$$P \{ X > s+t | X > s \} = \dfrac{P \{ X > s+t \}}{P \{ X > s \}} = \dfrac{\text{e}^{-\lambda (s+t)}}{\text{e}^{-\lambda s}} = \text{e}^{-\lambda t} = P \{ X > t \}$$

这表明先前已知的信息$P \{ X > s \}$对$P \{ X > t \}$的估计没有任何作用，我们就说它“无记忆性”。

在离散型场合，具有该性质的分布是几何分布，在连续型场合只有指数分布具有该性质，实际上，上述条件等价于

$$1-F(s+t) = (1-F(s))(1-F(t)), \quad s, t \in \R^+$$

满足上述函数方程的只有$1-F(x)=a^x, a > 0.$

数字特征

指数分布的数学期望和方差分别是$E(X) = \dfrac{1}{\lambda}, D(X) = \dfrac{1}{\lambda^2}.$这是因为

$$\begin{align} E(X) & = \int_0^{+\infty} \lambda x \text{e}^{-\lambda x} \mathrm{d}x = - \int_0^{+\infty} x \mathrm{d} \text{e}^{-\lambda x} \\ & = - x \text{e}^{-\lambda x} \Big|_0^{+\infty} + \int_0^{+\infty} \text{e}^{-\lambda x} \mathrm{d}x = \dfrac{1}{\lambda}. \\ D(X) & = \int_0^{+\infty} \left( x - \dfrac{1}{\lambda} \right)^2 \lambda \text{e}^{-\lambda x} \mathrm{d}x \\ & = \int_0^{+\infty} \left[ \lambda \text{e}^{-\lambda x} \left( x^2 + \dfrac{1}{\lambda^2} \right) - 2x\text{e}^{-\lambda x} \right] \mathrm{d}x \\ & = -\int_0^{+\infty} \mathrm{d} \left[ \text{e}^{-\lambda x} \left( x^2 + \dfrac{1}{\lambda^2} \right) \right] \\ & = \dfrac{1}{\lambda^2}. \end{align}$$

它的特征函数是$\left( 1-\dfrac{\text{i}t}{\lambda} \right)^{-1}.$

统计特性

指数分布族

参数空间为$\varTheta = \{ \lambda: \lambda > 0 \}$的指数分布族$\text{Exp}(\lambda)$是指数分布族。但是参数空间为$\varTheta = \{ (a, \lambda): a \in \R, \lambda > 0 \}$的双参数指数分布族$p(x, a, \lambda)$不是指数分布族，因为它的支集和参数$a$有关，其中

$$p(x, a, \lambda) = \lambda \text{e}^{-\lambda(x-a)}, \quad x > a.$$

线性函数的分布

指数分布的一个特性是：假设随机变量$X_1, X_2, \cdots, X_n$独立同分布，且$X_1 \sim \text{Exp}(\lambda)$，那么

$$2n\lambda\overline{X} = 2\lambda\sum_{i=1}^n X_i \sim \chi^2_{2n}.$$

这个性质在指数分布的参数假设检验和区间估计中发挥了重要作用。

充分完备统计量

指数分布族$\text{Exp}(\lambda)$是完备的；而它的一个充分统计量是$T = \sum_{k=1}^n X_k.$对于仅带有位移的指数分布$p(x, a) = \text{e}^{-(x-a)}, x > a$（参数为$a \in \R$）来说它的一个充分完备统计量是$X_{(1)} = \min_{1 \leqslant i \leqslant n} X_i.$

点估计

1. 服从参数分布族$\text{Exp}(\lambda)$的总体$X$的参数$\lambda$的矩估计为$\dfrac{1}{\overline{X}}$，它不是无偏的，修正的无偏估计量是$\dfrac{n-1}{n\overline{X}}.$它同时是一致最小方差无偏估计。
2. 服从参数分布族$\text{Exp}(\lambda)$的总体$X$的参数的函数$\lambda^{-1}$的一致最小方差无偏估计为$\overline{X}.$可以达到 C-R 下界$\dfrac{1}{n\lambda^2}.$
3. 服从参数分布族$\text{Exp}(\lambda)$的总体$X$的参数的函数$\text{e}^{-\lambda \tau}$（其中$\tau > 0$已知）的一致最小方差无偏估计为$(1-\tau T^{-1})^{n-1} I_{T>\tau}.$这里$T = \sum_{i=1}^n X_i, I_{T>\tau}$表示集合$\{ T > \tau \}$的特征函数。
4. 服从仅带有位移的指数分布$p(x, a) = \text{e}^{-(x-a)}, x > a$的参数$a \in \R$的一个一致最小方差无偏估计是$X_{(1)} - \dfrac{1}{n}.$

区间估计

假设有服从参数分布族$\text{Exp}(\lambda)$的总体$X$，要求置信水平为$1-\alpha \in (0, 1)$的置信区间，注意到$\overline{X}$是 UMVUE，且$T = 2n\lambda\overline{X} \sim \chi^2_{2n}$，运用枢轴变量法，取$T$为枢轴变量，那么使得满足

$$P\{a \leqslant 2n\lambda\overline{X} \leqslant b \} = 1 - \alpha$$

条件的且让$b-a$最短的$a, b$即为所求，但一般上市求解较为复杂，通常采用二等分置信水平获得近似的置信区间

$$\left[ \dfrac{\chi^2_{2n}(1-\alpha/2)}{2n\overline{X}}, \dfrac{\chi^2_{2n}(\alpha/2)}{2n\overline{X}} \right].$$

如果我们考虑的问题是：假设有服从仅带有位移的指数分布$p(x, a) = \text{e}^{-(x-a)}, x > a$，其中参数$a \in \R$，可以证明置信水平为$1-\alpha \in (0, 1)$的置信区间是$\left[ X_{(1)} + \dfrac{\ln \alpha}{n}, X_{(1)} \right].$

参数假设检验

1. 假设有服从参数分布族$\text{Exp}(\lambda)$的总体$X$，给定实数$\lambda_0$，运用似然比检验法可得如下检验问题及其对应的检验水平为$\alpha$的拒绝域：
   $$\begin{align} H_0: \lambda \geqslant \lambda_0 & \longleftrightarrow H_1: \lambda < \lambda_0, && W = \{ 2n\overline{X} < \lambda_0 \chi^2_{2n}(1-\alpha) \}, \\ H_0: \lambda \leqslant \lambda_0 & \longleftrightarrow H_1: \lambda > \lambda_0, && W = \{ 2n\overline{X} > \lambda_0 \chi^2_{2n}(\alpha) \}, \\ H_0: \lambda = \lambda_0 & \longleftrightarrow H_1: \lambda \ne \lambda_0, && W = \{ 2n\overline{X} < \lambda_0 \chi^2_{2n}(1-\alpha/2) \text{ or } 2n\overline{X} > \lambda_0 \chi^2_{2n}(\alpha/2) \}. \end{align}$$
   这是 Χ² 检验。
2. 双样本的指数参数分布族的检验：假设样本$X_1, X_2, \cdots, X_m$取自总体$\text{Exp}(\lambda_1)$，样本$Y_1, Y_2, \cdots, Y_n$取自总体$\text{Exp}(\lambda_2)$，它们是相互独立的，这里$\lambda_1, \lambda_2$未知，检验统计量为$T = \dfrac{\overline{Y}}{\overline{X}}.$如下的检验问题及其对应的检验水平为$\alpha$的拒绝域分别是
   $$\begin{align} H_0: \lambda_1 \geqslant \lambda_2 & \longleftrightarrow H_1: \lambda_1 < \lambda_2, && W = \{ T < F_{2n,2m}(1-\alpha) \}, \\ H_0: \lambda_1 \leqslant \lambda_2 & \longleftrightarrow H_1: \lambda_1 > \lambda_2, && W = \{ T > F_{2n,2m}(\alpha) \}, \\ H_0: \lambda_1 = \lambda_2 & \longleftrightarrow H_1: \lambda_1 \ne \lambda_2, && W = \{ T < F_{2n,2m}(1-\alpha/2) \text{ or } T > F^2_{2n,2m}(\alpha/2) \}. \end{align}$$
   这是 F 检验。
3. 仅带位移参数的分布族的假设检验：假设有服从仅带有位移的指数分布$p(x, a) = \text{e}^{-(x-a)}, x > a$，其中参数$a \in \R$，$a_0$是已知的实数，如下的检验问题
   $$H_0: a = a_0 \longleftrightarrow H_1: a \ne a_0$$
   对应的检验水平为$\alpha$的拒绝域是
   $$W = \left\{ X_{(1)} > a_0 - \dfrac{\ln \alpha}{n} \right\}.$$

上下节

• 上一节：连续型随机变量
• 下一节：均匀分布

参考资料

1. 李贤平, 《概率论基础（第3版）》, 高等教育出版社, 北京, 2010-04, ISBN 978-7-0402-8890-2.