人工智能原理不精确推理.pptVIP

*变量消元法(2)在这样的计算中只要做：01计算两个因子的点积02在因子乘积中对一个变量求和消元03由此消除了重复计算04在计算中，消除以下无关节点：05删除不是查询变量也非证据变量的叶节点06删除所有不是查询变量祖先也不是证据变量祖先的节点07第7章不精确推理*第7章不精确推理精确推理的复杂度#2022*多连通网络第7章不精确推理SRP(W)TT.99TF.90FT.90FF.00CP(R)T.80F.20sprinklerRainWetgrassCP(S)T.10F.50P(C)=.5cloudy*6.3.3贝叶斯网络的近似推理大规模多连通网络的精确推理是不可操作的，所以要考虑近似的推理方法采用随机采样方法，也称蒙特卡罗算法(MonteCarloalgorithm)：给出问题的近似解答，近似的精度依赖于所生成采样点的多少此处近似的含义—不是通过计算求出网络中某个点的条件概率(因为复杂度高)，而是对该事件进行采样而获得概率1第7章不精确推理2*后验概率计算的采样方法第7章不精确推理有两类采样方法：直接采样方法—计算样本的频率马尔科夫链采样方法—根据马尔科夫覆盖中的变量当前值来采样直接采样方法—依据已知概率来生成样本拒绝采样算法/似然加权算法马尔科夫链采样方法—证据变量概率固定条件下随机生成样本*第7章不精确推理直接采样方法#2022*采样样本与概率分布第7章不精确推理样本的向量表示{cloudy,sprinkler,rain,wetGrass}F/T或者0/1表示为假或为真/如{T,F,T,T}采样按照已知概率分布进行，但不是等于这个概率分布值，而是说分布与之相符cloudy={0.5,0.5}/第1次采样49/51，第2次采样52/48……如此等等每次采样应该在一定的条件下(这就是条件概率)进行，不满足条件的样本不再考虑*采样过程举例(1)通过例子说明采样过程/算法均省略(1)因为P(cloudy)=0.5,0.5,故cloudy的采样样本T/F各占50%，假设(不妨)返回T(2)P(sprinkler|cloudy=T)=0.1,0.9，故sprinkler的采样样本T/F各占10%和90%，应该返回F注意：此时采样样本均为TXXX形式，其中TTXX占10%，TFXX占90%(3)P(rain|cloudy=T)=0.8,0.2，故rain的采样样本T/F各占80%和20%,应该返回T/样本形式类似于(2)第7章不精确推理采样过程举例(2)*实际上如此生成的样本完全符合先验概率，即对于上例，{cloudysprinklerrainwetGrass}={TFTT}=0.5*0.9*0.8*0.9=0.324第7章不精确推理P(wetGrass|sprinkler=F,rain=T)=0.9,0.1，则返回T/采样样本形式TFTT占90%， TFTF占10%*第7章不精确推理拒绝采样方法#2022*一致的估计第7章不精确推理拒绝采样方法能产生真实概率的一致估计估计的概率在无限多(大量样本的极限)条件下成为精确值，这样的估计称为一致的(consistent)，即P(x1,…,xm)=NPS(x1,…,xm)/N*第7章不精确推理似然加权方法(1)#2022*似然加权方法(2)第7章不精确推理(4)P(rain|cloudy=T)=0.80.2，据此进行采样，假设=T(5)wetGrass是证据变量，取值T，则有w←w*P(wetGrass=T|sprinkler=T,rain=T) =0.1*0.99=0.099此即{cloudysprinklerrainwetGrass}={TTTT}=0.099/解释：sprinkler=TwetGrass=T条件下rain=T的概率很低似然加权方法也得到对于真实概率的一致估计/从采样与加权的乘积去理解联合分布概率的计算，依然是全部条件概率的乘积*第7章不精确推理马尔科夫链采样(1)#2022*第7章不精确推理马尔科夫链采样(2)#2022*第7章不精确推理马尔科夫链采样过程最终会进入“动态平衡”状态—被采样变量服从马尔