樞軸變量法

樞軸變量法是一種求解區間估計量的經典方法。

樞軸變量

假設有一個參數分布族$\mathcal{F} = \{ f(x; \theta): x \in \mathcal{X}, \theta \in \varTheta \}$，其中$\varTheta$是參數空間。為了討論方便我們不妨假設待估函數就是參數$\theta$本身，$\boldsymbol{X} = (X_1, X_2, \cdots, X_n)$是取自參數分布族的一組樣本，且存在一個關於參數$\theta$的點估計$T(\boldsymbol{X})$。如果這個點估計和參數的函數$G(\theta, T(\boldsymbol{X}))$滿足如下條件

1. $G(\theta, \boldsymbol{X})$的表達式和$\theta$有關；
2. $G(\theta, \boldsymbol{X})$的分布和$\theta$無關。

我們就稱$G(\theta, \boldsymbol{X})$是樞軸變量。注意它不是統計量。

樞軸變量法

利用樞軸變量解區間估計問題的基本步驟是：

1. 尋找$\theta$的一個點估計$T(\boldsymbol{X})$，例如 MLE 或 UMVUE.
2. 構造樞軸變量$G(\theta, T(\boldsymbol{X})).$
3. 確定常數$a, b$使得$$P_{\theta }\{a\leqslant G(\theta ,T({\boldsymbol {X}}))\leqslant b\}=1-\alpha .$$
4. 對上述概率中的不等式做等價變形，即得到$L(\boldsymbol{X}) \leqslant \theta \leqslant U(\boldsymbol{X}).$於是得到同等置信區間$[L(\boldsymbol{X}), U(\boldsymbol{X})].$

如果樞軸變量分布的密度函數是關於$y$軸對稱的，那麼可以將式#A1等價寫為 $$P_\theta \{ G(\theta, T(\boldsymbol{X})) \leqslant a \} = P_\theta \{ G(\theta, T(\boldsymbol{X})) \geqslant b \} = \dfrac{\alpha}{2}.$$ 而在非對稱的情形下，一般不是這樣的，但有時如果非對稱情形時不等式#A1不容易反解，我們可以採用上述近似的方法得到近似的置信區間。

在置信域的場合下，過程是類似的，只不過一般#A1變為 $$P_\theta \{ G(\theta, T(\boldsymbol{X})) \in S(\boldsymbol{X}) \} \leqslant 1-\alpha$$ 不容易反解，這時可以採用近似的矩體區域去找滿足如下條件的近似置信域$\prod_{i=1}^m [a_i, b_i]$： $$P_\theta \{ a_i \leqslant G(\theta, T(\boldsymbol{X})) \leqslant b_i \} = \sqrt[m]{1-\alpha}, i=1,2,\cdots,m.$$

正態樣本場合

在數理統計中正態分布是十分重要的，因此對正態場合下的區間估計是備受關注，一組正態樣本的區間估計可以通過樞軸變量法完全解決，下表列出了不同場合下的正態參數分布族$N(\mu, \sigma^2)$的區間估計的樞軸變量。

假設 $$\begin{align} \overline{X} & = \dfrac{1}{n} \sum_{k=1}^n X_k, \\ S^2 & = \dfrac{1}{n-1} \sum_{k=1}^n (X_k - \overline{X})^2, \\ S_\mu^2 & = \dfrac{1}{n-1} \sum_{k=1}^n (X_k - \mu)^2, \\ \end{align}$$

一組正態樣本的區間估計的樞軸變量，假設置信水平為$1-\alpha \in (0, 1)$

情形	樞軸變量	樞軸變量服從的分布	置信區間
$\mu$是參數 $\sigma^2$已知	$\dfrac{\sqrt{n}(\overline{X}-\mu)}{\sigma}$	標準正態分布$N(0, 1)$	$\left[ \overline{X} - \dfrac{\sigma}{\sqrt{n}} u_{\alpha/2}, \overline{X} + \dfrac{\sigma}{\sqrt{n}} u_{\alpha/2} \right]$
$\mu$是參數 $\sigma^2$未知	$\dfrac{\sqrt{n}(\overline{X}-\mu)}{S}$	t 分布$t_{n-1}$	$\left[ \overline{X} - \dfrac{S}{\sqrt{n}} t_{n-1}(\alpha/2), \overline{X} + \dfrac{\sigma}{\sqrt{n}} t_{n-1}(\alpha/2) \right]$
$\sigma^2$是參數 $\mu$已知	$\dfrac{n S_\mu^2}{\sigma^2}$	Χ² 分布$\chi_n^2$	$\left[ \dfrac{nS_\mu^2}{\chi^2_n(\alpha/2)}, \dfrac{nS_\mu^2}{\chi^2_n(1-\alpha/2)} \right]$
$\sigma^2$是參數 $\mu$未知	$\dfrac{(n-1) S^2}{\sigma^2}$	Χ² 分布$\chi_{n-1}^2$	$\left[ \dfrac{(n-1)S^2}{\chi^2_{n-1}(\alpha/2)}, \dfrac{(n-1)S^2}{\chi^2_{n-1}(1-\alpha/2)} \right]$
$\mu, \sigma^2$未知 $(\mu, \sigma^2)$是參數	$\left( \dfrac{\sqrt{n}(\overline{X}-\mu)}{\sigma}, \dfrac{(n-1) S^2}{\sigma^2} \right)$	$(N(0, 1), \chi_{n-1}^2)$	\

在兩組正態樣本的場合下是著名的 Behrens-Fisher 問題，到目前為止沒有完全解決，對一些特殊情形是可以給出準確解的。

參考資料

1. 韋來生, 《數理統計（第二版）》, 科學出版社, 北京, 2015-12, ISBN 978-7-0304-6573-3.