二項分布

在概率論中，二項分布是一個十分重要且應用廣泛的概率分布。

模型

設在$n$重伯努利試驗中$P(A) = p, P(\overline{A}) = q = 1-p$，那麼事件$A$發生$k$次（$0 \leqslant k \leqslant n$）的概率是 $$b(k; n, p) = \dbinom{n}{k} p^k q^{n-k},$$ 例如，在摸球模型中：一個袋中裝有除顏色不同外其餘情況均相同的若干個紅球和黃球，抽到紅球的概率是$p$，有放回地從袋中抽出$n$個球，抽到$k$個紅球的概率就滿足上述分布。

容易驗證二項分布滿足規範化條件 $$\sum_{k=0}^n b(k; n, p) = \sum_{k=0}^n \dbinom{n}{k} p^k q^{n-k} = (p+q)^n = 1.$$ 因其求和使用到二項式定理而得名。

當$n=1$時退化為伯努利分布（即兩點分布）。

對於二項分布，我們通常用隨機變量$X$表示事件$A$發生的次數，這樣 $$P\{ X = k \} = b(k; n, p) = \dbinom{n}{k} p^k q^{n-k},$$ 簡記作$X \sim B(n, p).$

R 語言的二項分布分布律函數為dbinom，一些不同參數的二項分布分布律為

中心項

我們討論給定試驗次數$n$後，概率$P\{X = k\}$隨$k$的變化情況。 $$\dfrac{P\{X=k\}}{P\{X=k-1\}} = \dfrac{(n-k+1)p}{kq} = 1+\dfrac{(n+1)p-k}{kq}$$

1. 當$k < (n+1) p$時，$P\{X=k\} > P\{X=k-1\};$
2. 當$k = (n+1)p$時，$P\{X=k\} = P\{X=k-1\};$
3. 當$k > (n+1) p$時，$P\{X=k\} < P\{X=k-1\};$

因此，當$(n+1)p$為整數時，概率$P\{X = k\}$在$k = (n+1)p - 1$以及$k = (n+1)p$處同時達到最大值，概率整體的趨勢是先增大後減小，當$(n+1)p$不為整數時，概率在$[(n+1)p]$處達到唯一最大值。

我們將最大值對應的$b(k; n, p)$稱為二項分布的中心項。

泊松逼近

當二項分布的試驗次數$n$很大，每次試驗的概率$p$很小，而$np$大小適中時，我們可以用泊松分布來近似二項分布的值。

泊松分布滿足 $$p(k;\lambda) = \dfrac{\lambda^k}{k!} \text{e}^{-\lambda}$$ 其中，$\lambda = np$為該分布的強度。

用這一分布對二項分布做近似，可以簡化二項分布中的計算。

數字特徵

二項分布的期望和方差分別是$E(X) = np, D(X) = npq.$ 這是因為 $$\begin{align} E(X) & = \sum_{k=1}^n k \dbinom{n}{k} p^k q^{n-k} \\ & = np \sum_{k=1}^n \dbinom{n-1}{k-1} p^{k-1} q^{n-k} \\ & = np(p+q)^{n-1} = np. \\ D(X) & = E(X^2) - (E(X))^2 \\ & = \sum_{k=1}^n k^2 \dbinom{n}{k} p^k q^{n-k} - n^2 p^2 \\ & = npq + n^2 p^2 - n^2 p^2 = npq. \end{align}$$ 二項分布的特徵函數是$(p \text{e}^{\text{i}t} + q )^n.$

統計特性

指數分布族

參數空間為$\varTheta = \{ \theta: 0 < \theta < 1 \}$的二項分布族$b(n, \theta)$是指數分布族。

充分完備統計量

參數空間為$\varTheta = \{ \theta: 0 < \theta < 1 \}$的兩點分布族$b(1, \theta)$是完備的。且它的一個充分完備統計量是$T = \sum_{k=1}^n X_k.$

點估計

1. 參數空間為$\varTheta = \{ \theta: 0 < \theta < 1 \}$的兩點分布族$b(1, \theta)$的總體$X$的矩估計和極大似然估計都是$\overline{X}$。
2. 給定正整數$n$，$p \in (0, 1)$是參數，服從$b(n, p)$的樣本$X$關於參數$p$的一致最小方差無偏估計是$\overline{X}$，關於$p(1-p)$的一致最小方差無偏估計是$\dfrac{n}{n-1} \overline{X} (1-\overline{X})$，而關於$\dfrac{1}{p}$的無偏估計不存在。
3. 雙參數的二項分布族$b(n, p)$（這裡$k \in \N^+, p \in (0, 1)$都是未知參數）的矩估計分別是$\hat{n} = \left[ \dfrac{\overline{X}^2}{\overline{X} - S_n^2} \right], \hat{p} = 1 - \dfrac{S_n^2}{\overline{X}}.$這裡$[x]$是取整函數，$S_n^2$是樣本方差。

上下節

• 上一節：離散型隨機變量
• 下一節：幾何分布

參考資料

1. 李賢平, 《概率論基礎（第3版）》, 高等教育出版社, 北京, 2010-04, ISBN 978-7-0402-8890-2.