概率分布

概率分布（probability distribution）是概率論中刻畫隨機變量取某些值以及以何種概率取值的概念，按照隨機變量的種類，概率分布可以分為離散型概率分布、連續型概率分布以及奇異型概率分布。每個概率分布都有自己確定的分布函數，這些分布函數中可能有某些參數，一個概率分布代表了一大類有相似特徵的隨機變量。

概率分布的特徵也即隨機變量的特徵，包括數學期望、分位數（中位數、四分位數等）、眾數、方差（協方差）、偏度、峰度、母函數、特徵函數、熵等。

離散型概率分布

離散型概率分布中刻畫隨機變量的上述標準也稱分布律，由於它只會在可列個值處有概率，因此分布函數是跳躍函數（分段的常數函數）。期望和方差可以通過級數定義。

分布類型	分布律	數學期望	方差	特徵函數
退化分布	$p(c) = 1$	$c$	$0$	$\text{e}^{\text{i}ct}$
兩點分布	$p(x) = \begin{cases} p , x = 1 \\ q , x = 0 \end{cases} \quad p+q=1$	$p$	$pq$	$p \text{e}^{\text{i}t} + q$
二項分布	$b(k; n, p) = \dbinom{n}{k} p^k q^{n-k}$	$np$	$npq$	$(p \text{e}^{\text{i}t} + q )^n$
幾何分布	$g(k;, p) = q^{k-1} p$	$\dfrac{1}{p}$	$\dfrac{q}{p^2}$	$\dfrac{p\text{e}^{\text{i}t}}{1-q\text{e}^{\text{i}t}}$
Pascal 分布	$f(k; r, p) = \dbinom{k-1}{r-1} p^{r} q^{k-r}$	$\dfrac{r}{p}$	$\dfrac{rq}{p^2}$	$\left(\dfrac{p\text{e}^{\text{i}t}}{1-q\text{e}^{\text{i}t}}\right)^r$
Poisson 分布	$p(k;\lambda) = \dfrac{\lambda^k}{k!} \text{e}^{-\lambda}$	$\lambda$	$\lambda$	$\text{e}^{\lambda(\text{e}^{\text{i}t}-1)}$
超幾何分布	$p(k) = \dfrac{\dbinom{M}{k}\dbinom{N-M}{n-k}}{\dbinom{N}{n}}$	$\dfrac{nM}{N}$	$\dfrac{nM}{N} \left( 1 - \dfrac{M}{N} \right) \dfrac{N-n}{N-1}$	$\sum_{k=0}^n \dfrac{\dbinom{M}{k}\dbinom{N-M}{n-k}}{\dbinom{N}{n}} \text{e}^{\text{i}tk}$
負二項分布	$\dbinom{-r}{t} p^{r} (-q)^{t}$	$\dfrac{rq}{p}$	$\dfrac{rq}{p^2}$	$\left( \dfrac{p}{1-q\text{e}^{\text{i}t}} \right)^r$

連續型概率分布

連續型概率分布中常用的是隨機變量的密度函數，由於它在區間上取值，因此分布函數是絕對可積的。期望和方差可以通過反常積分定義。

分布類型	分布律	數學期望	方差	特徵函數
均勻分布	$f(x) = \begin{cases} \dfrac{1}{b-a}, & x \in [a, b], \\ 0 , & x \notin [a, b]. \end{cases}$	$\dfrac{a+b}{2}$	$\dfrac{(a-b)^2}{12}$	$\dfrac{\text{e}^{b\text{i}t}-\text{e}^{a\text{i}t}}{\text{i}t(b-a)}$
指數分布	$f(x) = \begin{cases} \lambda \text{e}^{-\lambda x}, & x \geqslant 0, \\ 0, & x < 0. \end{cases}$	$\dfrac{1}{\lambda}$	$\dfrac{1}{\lambda^2}$	$\left( 1-\dfrac{\text{i}t}{\lambda} \right)^{-1}$
正態分布	$f(x) = \dfrac{1}{\sqrt{2\pi}\sigma} \text{e}^{-\frac{(x-\mu)^2}{2\sigma^2}}$	$\mu$	$\sigma^2$	$\text{e}^{\mu\text{i}t-\frac{1}{2}\sigma^2t^2}$
對數正態分布	$f(x) = \begin{cases} \dfrac{1}{\sqrt{2\pi} \sigma x} \text{e}^{-\frac{(\ln x - \mu)^2}{2 \sigma^2}}, & x > 0, \\ 0, & x \leqslant 0. \end{cases}$	$\text{e}^{\mu+\frac{\sigma^2}{2}}$	$\text{e}^{2\mu+\sigma^2}(\text{e}^{\sigma^2}-1)$	$\sum_{n=0}^\infty \dfrac{(\text{i}t)^n}{n!} \text{e}^{n\mu + \frac{n^2\sigma^2}{2}}$
Γ 分布	$f(x) = \begin{cases} \dfrac{\lambda^\alpha}{\Gamma(\alpha)} x^{\alpha-1} \text{e}^{-\lambda x}, & x \geqslant 0, \\ 0, & x < 0. \end{cases}$	$\dfrac{\alpha}{\lambda}$	$\dfrac{\alpha}{\lambda^2}$	$\left( 1-\dfrac{\text{i}t}{\lambda} \right)^{-\alpha}$
χ² 分布	$f(x) = \begin{cases} \dfrac{1}{2^\frac{n}{2}~\Gamma\!\left( \frac{n}{2} \right)} x^{\frac{n}{2}-1} \text{e}^{-\frac{x}{2}}, & x \geqslant 0, \\ 0, & x < 0. \end{cases}$	$n$	$2n$	$(1-2\text{i}t)^{-\frac{n}{2}}$
t 分布	$f(x) = \dfrac{\Gamma\!\left( \frac{n+1}{2} \right)}{\sqrt{n\pi}~\Gamma\!\left( \frac{n}{2} \right)} \left( 1 + \dfrac{x^2}{n} \right)^{-\frac{n+1}{2}}$	$0, n > 1$	$\dfrac{n}{n-2}, n > 2$	${\displaystyle }$
F 分布	$f(x) = \begin{cases} \dfrac{\Gamma\!\left( \dfrac{k_1+k_2}{2} \right)}{\Gamma\!\left( \dfrac{k_1}{2} \right)~\Gamma\!\left( \dfrac{k_2}{2} \right)} k_1^\frac{k_1}{2} k_2^\frac{k_2}{2} \dfrac{x^{\frac{k_1}{2}-1}}{(k_2+k_1x)^\frac{k_1+k_2}{2}}, & x \geqslant 0, \\ 0, & x < 0. \end{cases}$	$\dfrac{k_2}{k_2-2}, k_2 > 2$	$\dfrac{2k_2^2 (k_1+k_2-2)}{k_1 (k_2-2)^2 (k_2-4)}, k_2 > 4$	${\displaystyle }$
β 分布	$f(x) = \begin{cases} \dfrac{1}{\Beta(p,q)} x^{p-1} (1-x)^{q-1}, & x \in (0, 1), \\ 0, & x \notin (0, 1). \end{cases}$	$\dfrac{p}{p+q}$	$\dfrac{pq}{(p+q)^2 (p+q+1)}$	$\dfrac{\Gamma(p)}{\Gamma(p+q)} \sum_{n=0}^\infty \dfrac{\Gamma(p+n) (\text{i}\lambda t)^n}{\Gamma(p+q+n) \Gamma(n+1)}$
Cauchy 分布	$f(x) = \dfrac{1}{\pi} \cdot \dfrac{\lambda}{\lambda^2 + (x-\mu)^2}$	不存在	不存在	$\text{e}^{\text{i} \mu t - \lambda |t|}$
Rayleigh 分布	$f(x) = \begin{cases} \dfrac{x}{\sigma^2} \text{e}^{-\frac{x^2}{2\sigma^2}}, & x \geqslant 0, \\ 0, & x < 0. \end{cases}$	$\sqrt{\dfrac{\pi}{2}}\sigma$	$\left( 2-\dfrac{\pi}{2} \right) \sigma^2$	$1 - \sqrt{\dfrac{\pi}{2}} \sigma t\text{e}^{-\frac{\sigma^2 t^2}{2}} \left(\text{erfi}\left(\dfrac{\sigma t}{\sqrt{2}}\right)-\text{i}\right)$
Laplace 分布	$f(x) = \dfrac{1}{2\alpha} \text{e}^{-\frac{|x-\mu|}{\alpha}}$	$\mu$	$2\alpha^2$	$\dfrac{\text{e}^{\text{i}\mu t}}{1+\alpha^2 t^2}$
Weibull 分布	$f(x) = \begin{cases} \dfrac{k}{\lambda} \left( \dfrac{x}{\lambda} \right)^{k-1} \text{e}^{-\frac{x^k}{\lambda^k}}, & x \geqslant 0, \\ 0, & x < 0. \end{cases}$	$\lambda \Gamma\!\left( 1 + \dfrac{1}{k} \right)$	$\lambda^2 \left[ \Gamma\!\left( 1 + \dfrac{2}{k} \right) - \Gamma^2\!\left( 1 + \dfrac{1}{k} \right) \right]$	$\sum_{n=0}^\infty \dfrac{(\text{i}\lambda t)^n}{n!} \Gamma\!\left( 1 + \dfrac{n}{k} \right)$

參考資料

1. 李賢平, 《概率論基礎（第3版）》, 高等教育出版社, 北京, 2010-04, ISBN 978-7-0402-8890-2.