似然比检验

似然比检验（likelihood ratio test, LRT）是一种参数检验的通用方法，他的基本思路来源于点估计里的极大似然估计。有的文献中有称为广义似然比检验（generalized likelihood ratio test, GLRT）的概念，这里我们不区分两个概念。

概念

假设有一参数分布族$\mathcal{F} = \{ p(\boldsymbol{x}, \theta), x \in X, \theta \in \varTheta \}$，$X$是$n$样本空间，$\varTheta$是参数空间。则有似然函数 $$L(\theta, \boldsymbol{x}) = p(\boldsymbol{x}, \theta) = \prod_{i=1}^n p(x_i, \theta), \quad \boldsymbol{x} = (x_1, x_2, \cdots, x_n), \theta \in \varTheta.$$ 考察如下检验问题 $$H_0: \theta \in \varTheta_0 \longleftrightarrow H_1: \theta \in \varTheta_1.$$ 这里$\varTheta = \varTheta_0 \cup \varTheta_1$且$\varTheta \ne \varnothing.$

我们称统计量 $$\lambda(\boldsymbol{x}) := \dfrac{\displaystyle{\sup_{\theta \in \varTheta_0} L(\theta, \boldsymbol{x})}}{\displaystyle{\sup_{\theta \in \varTheta} L(\theta, \boldsymbol{x})}}$$ 为似然比。又是为了方便也可定义下式为似然比 $$\lambda'(\boldsymbol{x}) := \dfrac{\displaystyle{\sup_{\theta \in \varTheta_0} L(\theta, \boldsymbol{x})}}{\displaystyle{\sup_{\theta \in \varTheta_1} L(\theta, \boldsymbol{x})}}.$$ 在有的文献中分子和分母是反过来的，这不是本质上的问题。

这里对应的检验函数 $$\varphi(\boldsymbol{x}) = \begin{cases} 1, & \lambda(\boldsymbol{x}) < C, \\ r, & \lambda(\boldsymbol{x}) = C, \\ 0, & \lambda(\boldsymbol{x}) > C. \end{cases}$$ 这里$r \in [0, 1]$。常数$r, C$的选择依赖于显著水平$\alpha.$在连续型随机变量场合一般$r$可以取到$0.$

等价转换

在实际操作的过程中，$\lambda(\boldsymbol{x})$可能不便于使用，这时可以寻求和其等价的统计量，例如，若$\lambda(\boldsymbol{x}) = g(T(\boldsymbol{x}))$且$g$是单调的，那么可以使用$T(\boldsymbol{x})$代替似然比分析问题：我们不妨假设$g$是单调上升的，利用$T(\boldsymbol{x})$可以确定出拒绝域 $$W = \{ \boldsymbol{x}: T(\boldsymbol{x}) \leqslant C_0 \}, \quad (*)$$ 其中$P_\theta \{ T(\boldsymbol{x}) \leqslant C_0 \} \leqslant \alpha, \theta \in \varTheta_0.$（尽可能接近$\alpha$）那么上述拒绝域$(*)$和$\{ \boldsymbol{x}: \lambda(\boldsymbol{x}) \leqslant C \}$等价。

如果$g$是单调递减的，那么上述拒绝域$(*)$和$\{ \boldsymbol{x}: \lambda(\boldsymbol{x}) \geqslant C \}$等价。

分布检验

似然比检验可以用于检验对于一个未知分布的总体而言，两个已知的分布那个更接近总体的未知分布。

假设有总体$\boldsymbol{X}$及其参数分布$p(\boldsymbol{x}, \theta)$，$\theta \in \varTheta$，但是分布形式未知。我们可以提出如下问题：假设有两个已知的参数分布$p_1(\boldsymbol{x}, \theta), p_2(\boldsymbol{x}, \theta)$，给出了假设检验问题 $$H_0: p_1(\boldsymbol{x}, \theta) = p(\boldsymbol{x}, \theta) \longleftrightarrow H_1:p_2(\boldsymbol{x}, \theta) = p(\boldsymbol{x}, \theta).$$ 令似然比 $$\lambda(\boldsymbol{x}) = \dfrac{\displaystyle{\sup_{\theta \in \varTheta} \prod_{i=1}^n p_1(\boldsymbol{x_i}, \theta)}}{\displaystyle{\sup_{\theta \in \varTheta} \prod_{i=1}^n p_0(\boldsymbol{x_i}, \theta)}}.$$ 是检验统计量，那么假设常数$C$满足$P(\lambda(\boldsymbol{x}) \geqslant C|H_0) \leqslant \alpha$且尽可能接近$\alpha$，那么拒绝域就是$\{ \boldsymbol{x}: \lambda(\boldsymbol{x}) \geqslant C \}.$

参考资料

1. 韦来生, 《数理统计（第二版）》, 科学出版社, 北京, 2015-12, ISBN 978-7-0304-6573-3.