枢轴变量法

枢轴变量法是一种求解区间估计量的经典方法。

枢轴变量

假设有一个参数分布族$\mathcal{F} = \{ f(x; \theta): x \in \mathcal{X}, \theta \in \varTheta \}$，其中$\varTheta$是参数空间。为了讨论方便我们不妨假设待估函数就是参数$\theta$本身，$\boldsymbol{X} = (X_1, X_2, \cdots, X_n)$是取自参数分布族的一组样本，且存在一个关于参数$\theta$的点估计$T(\boldsymbol{X})$。如果这个点估计和参数的函数$G(\theta, T(\boldsymbol{X}))$满足如下条件

1. $G(\theta, \boldsymbol{X})$的表达式和$\theta$有关；
2. $G(\theta, \boldsymbol{X})$的分布和$\theta$无关。

我们就称$G(\theta, \boldsymbol{X})$是枢轴变量。注意它不是统计量。

枢轴变量法

利用枢轴变量解区间估计问题的基本步骤是：

1. 寻找$\theta$的一个点估计$T(\boldsymbol{X})$，例如 MLE 或 UMVUE.
2. 构造枢轴变量$G(\theta, T(\boldsymbol{X})).$
3. 确定常数$a, b$使得$$P_{\theta }\{a\leqslant G(\theta ,T({\boldsymbol {X}}))\leqslant b\}=1-\alpha .$$
4. 对上述概率中的不等式做等价变形，即得到$L(\boldsymbol{X}) \leqslant \theta \leqslant U(\boldsymbol{X}).$于是得到同等置信区间$[L(\boldsymbol{X}), U(\boldsymbol{X})].$

如果枢轴变量分布的密度函数是关于$y$轴对称的，那么可以将式#A1等价写为 $$P_\theta \{ G(\theta, T(\boldsymbol{X})) \leqslant a \} = P_\theta \{ G(\theta, T(\boldsymbol{X})) \geqslant b \} = \dfrac{\alpha}{2}.$$ 而在非对称的情形下，一般不是这样的，但有时如果非对称情形时不等式#A1不容易反解，我们可以采用上述近似的方法得到近似的置信区间。

在置信域的场合下，过程是类似的，只不过一般#A1变为 $$P_\theta \{ G(\theta, T(\boldsymbol{X})) \in S(\boldsymbol{X}) \} \leqslant 1-\alpha$$ 不容易反解，这时可以采用近似的矩体区域去找满足如下条件的近似置信域$\prod_{i=1}^m [a_i, b_i]$： $$P_\theta \{ a_i \leqslant G(\theta, T(\boldsymbol{X})) \leqslant b_i \} = \sqrt[m]{1-\alpha}, i=1,2,\cdots,m.$$

正态样本场合

在数理统计中正态分布是十分重要的，因此对正态场合下的区间估计是备受关注，一组正态样本的区间估计可以通过枢轴变量法完全解决，下表列出了不同场合下的正态参数分布族$N(\mu, \sigma^2)$的区间估计的枢轴变量。

假设 $$\begin{align} \overline{X} & = \dfrac{1}{n} \sum_{k=1}^n X_k, \\ S^2 & = \dfrac{1}{n-1} \sum_{k=1}^n (X_k - \overline{X})^2, \\ S_\mu^2 & = \dfrac{1}{n-1} \sum_{k=1}^n (X_k - \mu)^2, \\ \end{align}$$

一组正态样本的区间估计的枢轴变量，假设置信水平为$1-\alpha \in (0, 1)$

情形	枢轴变量	枢轴变量服从的分布	置信区间
$\mu$是参数 $\sigma^2$已知	$\dfrac{\sqrt{n}(\overline{X}-\mu)}{\sigma}$	标准正态分布$N(0, 1)$	$\left[ \overline{X} - \dfrac{\sigma}{\sqrt{n}} u_{\alpha/2}, \overline{X} + \dfrac{\sigma}{\sqrt{n}} u_{\alpha/2} \right]$
$\mu$是参数 $\sigma^2$未知	$\dfrac{\sqrt{n}(\overline{X}-\mu)}{S}$	t 分布$t_{n-1}$	$\left[ \overline{X} - \dfrac{S}{\sqrt{n}} t_{n-1}(\alpha/2), \overline{X} + \dfrac{\sigma}{\sqrt{n}} t_{n-1}(\alpha/2) \right]$
$\sigma^2$是参数 $\mu$已知	$\dfrac{n S_\mu^2}{\sigma^2}$	Χ² 分布$\chi_n^2$	$\left[ \dfrac{nS_\mu^2}{\chi^2_n(\alpha/2)}, \dfrac{nS_\mu^2}{\chi^2_n(1-\alpha/2)} \right]$
$\sigma^2$是参数 $\mu$未知	$\dfrac{(n-1) S^2}{\sigma^2}$	Χ² 分布$\chi_{n-1}^2$	$\left[ \dfrac{(n-1)S^2}{\chi^2_{n-1}(\alpha/2)}, \dfrac{(n-1)S^2}{\chi^2_{n-1}(1-\alpha/2)} \right]$
$\mu, \sigma^2$未知 $(\mu, \sigma^2)$是参数	$\left( \dfrac{\sqrt{n}(\overline{X}-\mu)}{\sigma}, \dfrac{(n-1) S^2}{\sigma^2} \right)$	$(N(0, 1), \chi_{n-1}^2)$	\

在两组正态样本的场合下是著名的 Behrens-Fisher 问题，到目前为止没有完全解决，对一些特殊情形是可以给出准确解的。

参考资料

1. 韦来生, 《数理统计（第二版）》, 科学出版社, 北京, 2015-12, ISBN 978-7-0304-6573-3.