似然比檢驗

似然比檢驗（likelihood ratio test, LRT）是一種參數檢驗的通用方法，他的基本思路來源於點估計里的極大似然估計。有的文獻中有稱為廣義似然比檢驗（generalized likelihood ratio test, GLRT）的概念，這裏我們不區分兩個概念。

概念

假設有一參數分佈族$\mathcal{F} = \{ p(\boldsymbol{x}, \theta), x \in X, \theta \in \varTheta \}$，$X$是$n$樣本空間，$\varTheta$是參數空間。則有似然函數 $$L(\theta, \boldsymbol{x}) = p(\boldsymbol{x}, \theta) = \prod_{i=1}^n p(x_i, \theta), \quad \boldsymbol{x} = (x_1, x_2, \cdots, x_n), \theta \in \varTheta.$$ 考察如下檢驗問題 $$H_0: \theta \in \varTheta_0 \longleftrightarrow H_1: \theta \in \varTheta_1.$$ 這裏$\varTheta = \varTheta_0 \cup \varTheta_1$且$\varTheta \ne \varnothing.$

我們稱統計量 $$\lambda(\boldsymbol{x}) := \dfrac{\displaystyle{\sup_{\theta \in \varTheta_0} L(\theta, \boldsymbol{x})}}{\displaystyle{\sup_{\theta \in \varTheta} L(\theta, \boldsymbol{x})}}$$ 為似然比。又是為了方便也可定義下式為似然比 $$\lambda'(\boldsymbol{x}) := \dfrac{\displaystyle{\sup_{\theta \in \varTheta_0} L(\theta, \boldsymbol{x})}}{\displaystyle{\sup_{\theta \in \varTheta_1} L(\theta, \boldsymbol{x})}}.$$ 在有的文獻中分子和分母是反過來的，這不是本質上的問題。

這裏對應的檢驗函數 $$\varphi(\boldsymbol{x}) = \begin{cases} 1, & \lambda(\boldsymbol{x}) < C, \\ r, & \lambda(\boldsymbol{x}) = C, \\ 0, & \lambda(\boldsymbol{x}) > C. \end{cases}$$ 這裏$r \in [0, 1]$。常數$r, C$的選擇依賴於顯著水平$\alpha.$在連續型隨機變量場合一般$r$可以取到$0.$

等價轉換

在實際操作的過程中，$\lambda(\boldsymbol{x})$可能不便於使用，這時可以尋求和其等價的統計量，例如，若$\lambda(\boldsymbol{x}) = g(T(\boldsymbol{x}))$且$g$是單調的，那麼可以使用$T(\boldsymbol{x})$代替似然比分析問題：我們不妨假設$g$是單調上升的，利用$T(\boldsymbol{x})$可以確定出拒絕域 $$W = \{ \boldsymbol{x}: T(\boldsymbol{x}) \leqslant C_0 \}, \quad (*)$$ 其中$P_\theta \{ T(\boldsymbol{x}) \leqslant C_0 \} \leqslant \alpha, \theta \in \varTheta_0.$（儘可能接近$\alpha$）那麼上述拒絕域$(*)$和$\{ \boldsymbol{x}: \lambda(\boldsymbol{x}) \leqslant C \}$等價。

如果$g$是單調遞減的，那麼上述拒絕域$(*)$和$\{ \boldsymbol{x}: \lambda(\boldsymbol{x}) \geqslant C \}$等價。

分佈檢驗

似然比檢驗可以用於檢驗對於一個未知分佈的總體而言，兩個已知的分佈那個更接近總體的未知分佈。

假設有總體$\boldsymbol{X}$及其參數分佈$p(\boldsymbol{x}, \theta)$，$\theta \in \varTheta$，但是分佈形式未知。我們可以提出如下問題：假設有兩個已知的參數分佈$p_1(\boldsymbol{x}, \theta), p_2(\boldsymbol{x}, \theta)$，給出了假設檢驗問題 $$H_0: p_1(\boldsymbol{x}, \theta) = p(\boldsymbol{x}, \theta) \longleftrightarrow H_1:p_2(\boldsymbol{x}, \theta) = p(\boldsymbol{x}, \theta).$$ 令似然比 $$\lambda(\boldsymbol{x}) = \dfrac{\displaystyle{\sup_{\theta \in \varTheta} \prod_{i=1}^n p_1(\boldsymbol{x_i}, \theta)}}{\displaystyle{\sup_{\theta \in \varTheta} \prod_{i=1}^n p_0(\boldsymbol{x_i}, \theta)}}.$$ 是檢驗統計量，那麼假設常數$C$滿足$P(\lambda(\boldsymbol{x}) \geqslant C|H_0) \leqslant \alpha$且儘可能接近$\alpha$，那麼拒絕域就是$\{ \boldsymbol{x}: \lambda(\boldsymbol{x}) \geqslant C \}.$

參考資料

1. 韋來生, 《數理統計（第二版）》, 科學出版社, 北京, 2015-12, ISBN 978-7-0304-6573-3.