条件概率、全概率与贝叶斯公式
「已经知道 B 发生了,A 还有多大可能」——这就是条件概率(conditional probability) 。它的几何直觉是样本空间收缩:一旦确定落在 B 里,B 之外的结果全部出局,新的「全部」变成 B,A 只保留与 B 交叠的那部分。由 (下同,均设 )出发,把一个复杂事件按若干互斥前提拆开求和,得到全概率公式;再把条件反过来、从结果倒推前提,得到贝叶斯公式(Bayes' theorem)。
1 · 样本空间的收缩
仍用掷两枚可区分骰子的 格阵作样本空间。选定条件 后,不属于 的格子被排除出新的样本空间;属于 的格子里,同时属于 的那部分即 。此时 不再除以 36,而是在收缩后的 里数比例: 除以 。
注 · 当 与 相等,说明「 是否发生」丝毫不改变 的概率,此时称 与 相互独立(independent)。注意等价关系只在 时成立:独立性的定义式是 , 时 无定义而独立性仍然成立。若两者不等,则 携带了关于 的信息——大于 时 让 更可能发生,小于时则相反。
2 · 全概率公式与贝叶斯公式
两条流水线 、 生产同一零件: 占产量的比例 、 占 ,各自的次品率为 与 。记 为抽到一件次品。整个抽件过程展开成一棵概率树:根先按产线分成两支(边权 、),每支再分出次品与合格(边权 与 )。一条从根到叶的路径概率等于沿途边权之乘积。
注 · 这一步里藏着基础比率(base rate)效应:某条产线次品率高,但若它的产量占比很小,抽到的次品仍未必主要来自它。后验 是次品率与产量占比两者的合成,只看次品率会误判来源。默认参数下 的次品率是 的三倍、只占三成产量,却贡献了 56.25% 的次品。同样的机制在医学检测里表现为「高准确率的检测仍可能大量误报」,进一步的方阵与 base-rate 视角见 条件概率 / 贝叶斯(方阵与 base-rate)。
3 · 参考文献
- Conditional probability. Wikipedia. 条件概率的定义与样本空间收缩的读法。https://en.wikipedia.org/wiki/Conditional_probability
- Law of total probability. Wikipedia. 全概率公式与它对划分的要求。https://en.wikipedia.org/wiki/Law_of_total_probability
- Bayes theorem. Wikipedia. 贝叶斯公式、先验与后验。https://en.wikipedia.org/wiki/Bayes%27_theorem
- Base rate fallacy. Wikipedia. 基础比率效应及医学检测里的表现。https://en.wikipedia.org/wiki/Base_rate_fallacy