条件概率
公式:
设A, B为任意两个事件,若P(A)>0,我们称在已知事件A发生的条件下,事件B发生的概率为条件概率,记为 P(B∣A)P(B|A)P(B∣A),并定义:
P(B∣A)=P(AB)P(A)(P(A)>0)P(B|A) = \frac{P(AB)}{P(A)} ~~~~~~~~~~(P(A)>0) P(B∣A)=P(A)P(AB)(P(A)>0)
解释:
以投骰子游戏为例,设事件 A={1,2,3,4,5}A=\{1,2,3,4,5\}A={1,2,3,4,5},事件 B={1,2,3,6}B=\{1,2,3,6\}B={1,2,3,6}
则“当事件 AAA 发生的前提下,事件B发生的概率”意思为:现在知道投出的点数为A中的其中一个,那么有多少概率该点数也是B中的一个呢?
所以,要先求出AB的交集,AB={1,2,3}AB=\{ 1,2,3 \}AB={1,2,3} 。如果投掷的点数在 ABABAB 中,那么BBB事件就也发生了
所以 P(B∣A)=P(AB)P(A)=35P(B|A) = \frac{P(AB)}{P(A)} = \frac{3}{5}P(B∣A)=P(A)P(AB)=53
乘法公式
公式:
如果 P(A)>0P(A)>0P(A)>0 ,则
P(AB)=P(A)P(B∣A)P(AB) = P(A)P(B|A) P(AB)=P(A)P(B∣A)
一般地,如果 P(A1⋯An−1)>0P(A_1\cdots A_{n-1})>0P(A1⋯An−1)>0 ,则
P(A1A2⋯An)=P(A1)P(A2∣A1)P(A3∣A1A2)⋯P(An∣A1⋯An−1)P(A_1A_2\cdots A_n) = P(A_1)P(A_2|A_1)P(A_3|A_1A_2)\cdots P(A_n|A_1\cdots A_{n-1}) P(A1A2⋯An)=P(A1)P(A2∣A1)P(A3∣A1A2)⋯P(An∣A1⋯An−1)
注: AiA_iAi 先于 Ai+1A_{i+1}Ai+1 发生时用此公式
解释:
将条件概率公式的分母 P(A)P(A)P(A) 挪过去,就得到了该公式
全概率公式
公式:
如果 ⋃i=1nAi=Ω\bigcup_{i=1}^n A_i = \Omega⋃i=1nAi=Ω , AiAj=∅(i≠j)A_i A_j = \varnothing~(i\neq j)AiAj=∅(i=j) , P(Ai)>0P(A_i)>0P(Ai)>0 , 则对任一事件 BBB ,有
B=⋃i=1nAiBP(B)=∑i=1nP(Ai)P(B∣Ai)B = \bigcup_{i=1}^{n} A_i B \\\\ P(B) = \sum_{i=1}^{n} P(A_i) P(B|A_i) B=i=1⋃nAiBP(B)=i=1∑nP(Ai)P(B∣Ai)
解释:
已知有很多事件 AiA_iAi,每个事件的发生都会影响B事件的发生(影响可能是0),那么 B 事件的发生概率就是 P(B)P(B)P(B)。
假设,现在我们想派张三、李四、王五
三个中的其中一个去偷东西,他们被委派的概率分别是:110、310、610\frac{1}{10}、\frac{3}{10}、\frac{6}{10}101、103、106。而他们偷窃成功的概率分别是 0、13,120、\frac{1}{3}, \frac{1}{2}0、31,21 。 那么,现在问,东西被偷成功的概率是多少?
在该样例中,事件BBB 为“东西被偷成功”,事件A1A_1A1为“派张三去偷”,依次类推;则 P(B∣A1)P(B|A_1)P(B∣A1) 为“派张三去偷的前提下,偷成功的概率”,依次类推。我们将其总结成以下表格
那么,偷成功的概率则为:
P(B)=∑i=13P(Ai)P(B∣Ai)=110×0+310×13+610×12=25P(B) = \sum_{i=1}^{3} P(A_i) P(B|A_i) = \frac{1}{10} \times 0+ \frac{3}{10} \times \frac{1}{3} + \frac{6}{10} \times \frac{1}{2} = \frac{2}{5} P(B)=i=1∑3P(Ai)P(B∣Ai)=101×0+103×31+106×21=52
贝叶斯公式(逆概公式)
公式:
如果 ⋃i=1nAi=Ω\bigcup_{i=1}^n A_i = \Omega⋃i=1nAi=Ω , AiAj=∅(i≠j)A_i A_j = \varnothing~(i\neq j)AiAj=∅(i=j) , P(Ai)>0P(A_i)>0P(Ai)>0 , 则对任一事件 BBB , 只要 P(B)>0P(B)>0P(B)>0 ,就有:
P(Aj∣B)=P(Aj)P(B∣Aj)∑i=1nP(Ai)P(B∣Ai)(j=1,2,⋯,n)P(A_j | B) = \frac{P(A_j)P(B|A_j)}{\sum_{i=1}^{n}P(A_i) P(B|A_i)} ~~~~~~~~(j=1,2,\cdots,n) P(Aj∣B)=∑i=1nP(Ai)P(B∣Ai)P(Aj)P(B∣Aj)(j=1,2,⋯,n)
解释:
贝叶斯公式是全概率公式的逆公式,意思为:现在已知B事件已经发生了,找出是由哪个 AjA_jAj 引起的。
还是用上面的例子。现在东西已经被偷了,我想知道“是张三干、是李四干的、是王五干的”这三个事件的概率。
将 P(AjB)P(A_jB)P(AjB) 求得,分别是:
P(A1∣B)=P(A1)P(B∣A1)∑i=1nP(Ai)P(B∣Ai)=110×02/5=0P(A2∣B)=P(A2)P(B∣A2)∑i=1nP(Ai)P(B∣Ai)=310×132/5=14P(A2∣B)=P(A3)P(B∣A3)∑i=1nP(Ai)P(B∣Ai)=610×122/5=34\begin{aligned} P(A_1 | B) &= \frac{P(A_1)P(B|A_1)}{\sum_{i=1}^{n}P(A_i) P(B|A_i)} = \frac{\frac{1}{10}\times 0}{2/5} = 0 \\\\ P(A_2 | B) &= \frac{P(A_2)P(B|A_2)}{\sum_{i=1}^{n}P(A_i) P(B|A_i)} = \frac{\frac{3}{10}\times \frac{1}{3}}{2/5} = \frac{1}{4} \\\\ P(A_2 | B) &= \frac{P(A_3)P(B|A_3)}{\sum_{i=1}^{n}P(A_i) P(B|A_i)} = \frac{\frac{6}{10}\times \frac{1}{2}}{2/5} = \frac{3}{4} \\\\ \end{aligned} P(A1∣B)P(A2∣B)P(A2∣B)=∑i=1nP(Ai)P(B∣Ai)P(A1)P(B∣A1)=2/5101×0=0=∑i=1nP(Ai)P(B∣Ai)P(A2)P(B∣A2)=2/5103×31=41=∑i=1nP(Ai)P(B∣Ai)P(A3)P(B∣A3)=2/5106×21=43
从上面的计算不难看出,贝叶斯公式的分母就是全概率公式的结果,即东西被偷成功的概率;而分子则是此人所占的比重,即此人被派去偷且偷成功的概率