数学 / 概率与统计 · 从样本空间到成对数据 / 二项分布与超几何分布 待审核 9 / 16
binomial B(n,p) · hypergeometric

二项分布与超几何分布

袋中有 NN 个球,其中 KK 个是红球。取出 nn 个,记 XX 为取到的红球数。取法只差一个动作:放回还是不放回。放回时每次抽取相互独立、红球比例恒为 p=K/Np = K/NXX 服从二项分布(binomial distribution) B(n,p)B(n, p);不放回时每抽一次就改变袋中构成,各次抽取相互牵制,XX 服从超几何分布(hypergeometric distribution)。两者期望相同,而不放回的方差不会更大。

1 · 两种取法与两族分布

X = 取到的红球数 · 放回 → B(n, p) · 不放回 → hypergeometric

每个 kk 处并排两根柱:一系是二项 P(X=k)=(nk)pk(1p)nkP(X = k) = \binom{n}{k} p^k (1-p)^{n-k},另一系是超几何 P(X=k)=(Kk)(NKnk)/(Nn)P(X = k) = \binom{K}{k}\binom{N-K}{n-k} \big/ \binom{N}{n}。柱高按两分布的全局最大概率统一缩放,便于逐点对照。

图 1-1 · 二项与超几何分布的逐点并排对照。可拖动袋容量 NN、红球数 KK 与取球数 nn,约束 KNK \le NnNn \le N 自动生效。
表 1-1 · 两族分布的分布列、期望与方差对照。期望相同,方差相差一个有限总体修正因子。
二项 B(n,p)B(n, p)(放回) 超几何(不放回)
P(X=k)P(X = k) (nk)pk(1p)nk\binom{n}{k} p^k (1-p)^{n-k} (Kk)(NKnk)/(Nn)\binom{K}{k}\binom{N-K}{n-k} \big/ \binom{N}{n}
E[X]E[X] npnp nK/NnK/N
D[X]D[X] np(1p)np(1-p) nKN(1KN)NnN1n\frac{K}{N}\left(1-\frac{K}{N}\right)\frac{N-n}{N-1}

注 · 两分布期望相同,都等于 nK/NnK/N;差别在方差:超几何的 D[X]D[X] 比二项多乘一个有限总体修正因子 (Nn)/(N1)1(N-n)/(N-1) \le 1,故不放回时取值不会更分散。等号只在 n=1n = 1 时取到——此时只抽一次,放回与否没有区别,实测 N=20N = 20K=8K = 8 下两者的 pmf 逐点相同、方差都是 0.24。n=2n = 2 时修正因子已是 0.9474,n=5n = 5 时是 0.7895。取球数相对袋容量很小时因子趋近 1,超几何趋近二项 B(n,K/N)B(n, K/N)nn 接近 NN 时两条分布明显分离。关于 C(n,k)C(n, k) 的来历见 排列组合(C(n,k) 的来历),二项分布的更多性质见 排列组合系列的二项分布页

2 · 参考文献

  1. Hypergeometric distribution. Wikipedia. 不放回抽样的分布列、期望与方差。https://en.wikipedia.org/wiki/Hypergeometric_distribution
  2. Binomial distribution. Wikipedia. 放回抽样对应的二项分布。https://en.wikipedia.org/wiki/Binomial_distribution
  3. Finite population correction. Wikipedia. 有限总体修正因子的来历与取值范围。https://en.wikipedia.org/wiki/Standard_error