Behrens-Fisher 问题

Behrens-Fisher 问题是数理统计的参数估计的一个问题，它是说给定两组相互独立的正态分布样本，这两组正态分布样本对应的随机变量分布的相似程度。这种问题的一般情况到目前没有精确表示，激起了很多学者的持续研究。

这个页面介绍参数估计，假设检验问题详见/假设检验。

问题描述

假设相互独立的样本$X_i \sim N(\mu_1, \sigma_1^2), Y_j \sim N(\mu_2, \sigma_2^2), i = 1,2,\cdots,m, j=1,2,\cdots,n$，通过合适的统计量对不同情形下的$\mu_1, \sigma_1^2, \mu_2, \sigma^2$作参数估计，来衡量整两个正态分布总体的相似程度，一般来说我们使用均值差$\mu_2 - \mu_1$和方差比$\dfrac{\sigma_1^2}{\sigma_2^2}$来衡量这两个正态总体。

首先指出一些记号

$${\begin{aligned}{\overline {X}}&={\dfrac {1}{m}}\sum _{k=1}^{m}X_{k},\\S_{X}^{2}&={\dfrac {1}{m-1}}\sum _{k=1}^{m}(X_{k}-{\overline {X}})^{2},\\S_{\mu _{1}}^{2}&={\dfrac {1}{m}}\sum _{k=1}^{m}(X_{k}-\mu _{1})^{2},\end{aligned}}\quad {\begin{aligned}{\overline {Y}}&={\dfrac {1}{n}}\sum _{k=1}^{n}Y_{k},\\S_{Y}^{2}&={\dfrac {1}{n-1}}\sum _{k=1}^{n}(Y_{k}-{\overline {Y}})^{2},\\S_{\mu _{2}}^{2}&={\dfrac {1}{n}}\sum _{k=1}^{n}(Y_{k}-\mu _{2})^{2}.\end{aligned}}$$

分别是对应样本的样本均值、无偏方差和母体二阶中心矩。下面我们分均值差和方差比两种情况讨论。

均值差情形

下面我们讨论$\mu_2 - \mu_1$的区间估计，为此每次总会找无偏的点估计，利用枢轴变量法解决问题时会构造相应的枢轴变量。

两方差已知

如果$\sigma_1^2, \sigma_2^2$已知，那么$\overline{Y} - \overline{X}$是$\mu_2 - \mu_1$的极大似然估计，注意到

$$\overline{Y} - \overline{X} \sim N\!\left( \mu_2 - \mu_1, \dfrac{\sigma_1^2}{m} + \dfrac{\sigma_2^2}{n} \right)$$

于是

$$\dfrac{(\overline{Y}-\overline{X}) - (\mu_2 - \mu_1)}{\sqrt{\frac{\sigma_1^2}{m}+\frac{\sigma_2^2}{n}}} \sim N(0, 1)$$

是枢轴变量。之后按照枢轴变量法求解即可。

成对试验

当$m= n$时该样本试验称为成对试验，在这种情形下，不管$\sigma_1^2, \sigma_2^2$是否已知，都可以求解，思路是：注意到如下变量

$$Z_i = Y_i - X_i \sim N(\mu_2 - \mu_1, \sigma_1^2 + \sigma_2^2), \quad i=1,2,\cdots,n.$$

$\overline{Z}$是$\mu_2 - \mu_1$的无偏点估计，记$S_Z^2 = \dfrac{1}{n-1} \sum_{i=1}^n (Z_i - \overline{Z})$，则选择的枢轴变量

$$T = \dfrac{\sqrt{n}(\overline{Z} - (\mu_2 - \mu_1))}{S_Z^2/(n-1)} \sim t_{n-1}.$$

方差比已知

如果方差未知但是知道它们是成比例的，且知道比例系数$k = \dfrac{\sigma_2^2}{\sigma_1^2} > 0$，那么可以对$\sigma_2^2$做变量替换，同样考察变量

$$\overline{Y} - \overline{X} \sim N\!\left( \mu_2 - \mu_1, \sigma_1^2 \dfrac{1}{m} + \dfrac{k}{n} \right)$$

于是

$$\dfrac{\sqrt{\frac{1}{m}+\frac{k}{n}} \left( (\overline{Y}-\overline{X}) - (\mu_2 - \mu_1) \right)}{\sqrt{\frac{(m-1)S_X^2 + \frac{n-1}{k} S_Y^2}{m+n-2}}} \sim t_{m+n-2}$$

是枢轴变量。

一般情形

如果所考虑的分布不满足如上的任何一种情况，那么到目前为止还没有解出精确解法，一种可行的方法是大样本方法，即当$m, n \to \infty$时采用正态分布做近似：

$$\dfrac{(\overline{Y} - \overline{X}) - (\mu_2 - \mu_1)}{S_*} \overset{\mathcal{L}}{\sim} N(0, 1).$$

其中$S_*^2 = \dfrac{S_X^2}{m} + \dfrac{S_Y^2}{n}.$

也可以用另一种由 Welch 给出的近似方法（特别是小样本场合下）：令

$$T_* = \dfrac{(\overline{Y} - \overline{X}) - (\mu_2 - \mu_1)}{S_*^2}$$

它近似服从 t 分布$t_r$，其中整数$r$是和下式

$$\dfrac{S_*^4}{\frac{S_X^4}{m^2(m-1)} + \frac{S_Y^4}{n^2(n-1)}}$$

最接近的整数.如果上式不是整数一般我们会将上式最接近的两个整数都带入求解，再用插值的方法取计算得到最终的置信区间。

方差比情形

下面我们讨论$\dfrac{\sigma_2^2}{\sigma_1^2}$的区间估计，为此每次总会找无偏的点估计，利用枢轴变量法解决问题时会构造相应的枢轴变量。

均值差已知

由 Fisher 引理，

$$\dfrac{mS_{\mu_1}^2}{\sigma_1^2} \sim \chi^2_m, \quad \dfrac{nS_{\mu_2}^2}{\sigma_2^2} \sim \chi^2_n.$$

因此枢轴变量与相应的已知分布为

$$F = \dfrac{S_{\mu_1}^2}{S_{\mu_2}^2} \dfrac{\sigma_2^2}{\sigma_1^2} \sim F_{m,n}.$$

均值差未知

$S_X^2, S_Y^2$是$\sigma_1^2, \sigma_2^2$的无偏点估计，进而构造枢轴变量

$$F = \dfrac{S_X^2}{S_Y^2} \dfrac{\sigma_2^2}{\sigma_1^2} \sim F_{m-1,n-1}.$$

以上两种情况的区别在于，虽然都构造了形式相同的枢轴量，但前者没有做均值的点估计（因为总体均值是已知的），后者需要借样本均值做一个无偏估计。

用 F 分布做相应估计的时候，一般由于没有对称性，求$1-\alpha$的同等置信区间$[a, b]$时一般等分首尾

$$P \{ F < a \} = P \{ F > b \} = \dfrac{\alpha}{2}$$

近似求解置信区间。

参考资料

1. 韦来生, 《数理统计（第二版）》, 科学出版社, 北京, 2015-12, ISBN 978-7-0304-6573-3.