人工智能15摘要.ppt

人工智能　━━　一种现代方法 云南大学 施心陵讲授 第十五章 关于时间的概率推理 时间和不确定性 Xt：在t时刻的不可观察状态变量集。e.g.BloodSugart Et：在t时刻的可观察证据变量集，时刻t的观察结果为Et=et e.g.MeasuredBloodSugart Xa:b = Xa,Xa+1,…,Xb-1,Xb 马尔可夫过程 条件概率分布 模型的修正： 提高马尔可夫过程的阶数 扩大变量集合 时序模型中的推理 滤 波 平 滑 解 释 隐马尔可夫模型（HMM） 改进的前向-后向算法： 同时向相同的方向传递f和b， f1:t+1 = αOt+1TTf1:t O-1t+1f1:t+1 = αTTf1:t α’(TT)-1O-1t+1f1:t+1 = f1:t （转移矩阵可逆，且传感器模型无零元素） 在常数空间完成平滑和序列长度无关 卡尔曼滤波器 根据随时间变化且带有噪声的观察数据去估计物理系统的状态。 更新高斯分布 简单的一维例子 一般卡尔曼更新 多模卡尔曼滤波器 对非线性系统，转移模型不能描述为状态向量的矩阵乘法。 扩展卡尔曼滤波器：将在xt=μt附近的状态xt当做是局部线性的。 每个时间片都具有任意数量的状态变量Xt和证据变量Et DBN vs Kalman滤波器 每个卡尔曼滤波器模型都可以在一个具有连续变量和线性高斯条件分布的动态贝叶斯网络中表示，但多数动态贝叶斯网络不能用卡尔曼滤波器模型表示。 构造动态贝叶斯网络 考虑传感器返回某个完全不正确的值的概率。 P(BMetert = 0 | Batteryt = 5) = 0.03 若此概率大于电池耗尽的预测概率，则可认为是传感器暂时故障。 动态贝叶斯网络中的精确推理 展开网络，进行精确推理。 问题：每次更新所需时间或空间以O(t)的速度增长。 动态贝叶斯网络中的精确推理 动态贝叶斯网络中的近似推理 动态贝叶斯网络中的近似推理 能在常数时间和空间内实现。但仍是状态变量个数的指数级，更新代价 O(dn+2)。 递归更新：选定一个观察序列，对其中的一个时间片作静态贝叶斯网推理，其结果为下一时间片的更新，进而为再下一个时间片作更新，即在时间片上做递归，对变量作求和消元。 a b c a b c d a b c d a b c d a b c d 动态贝叶斯网络的似然加权: 一次一个时间片地沿着动态贝叶斯网络一并处理N个样本， N个样本的集合看做是前向消息，使用样本本身作为当前状态分布的近似表示。 问题： 任何状态变量的祖先节点中都不包含证据变量，即实际生成的样本集合完全不依赖于证据。这样和真实事件序列接近的样本比例随着观察序列的长度t增加而呈指数级下降（为保持一定的精确度，需要增加样本数，样本数会随t呈指数级增长） 粒子滤波算法:使样本集(粒子)跟踪状态空间中的似然度高的区域，是一致的。 (1) 据P(X0)进行采样得到N个样本；对每个时间步重复： (2) 样本向前传播：每个样本通过转移模型P(Xt+1|xt)，对下一时刻xt+1进行采样 (3) 根据样本和新证据的似然程度P(et+1|xt+1)给样本赋予权值 (4) 对总体样本重新采样：从当前总体中选出新样本，选中概率和权值成正比。 0871-5031301 * * / 16 jhzhang@ynu.edu.cn 信 息 学 院 人工智能—— 一种现代方法 人工智能—— 一种现代方法 信 息 学 院 15.1 时间与不确定性 15.2 时序模型中的推理 15.3 隐马尔可夫模型 15.4 卡尔曼滤波器 15.5 动态贝叶斯网络 观察: 将需要描述的对象用时间片截取,每个时间片都包含了一个描述对象的随机变量集合，即描述了世界在某个特定时刻的状态。 状态: 在特定时刻描述对象的变量集合，用整数对时间进行标记，状态即为各时间点上变量序列。 稳态过程：变化过程规律与时间无关。 马尔可夫假设：当前状态只与过去有限的历史状态有关 若当前状态只与前一个状态有关则称一阶马尔可夫过程 一阶过程的转移模型： 二阶过程： 传感器模型：t时刻的证据变量只取决于当前状态 过程全概率分布模型： 观察模型 时刻0的先验概率P(X0) 描述了证据变量如何受到真实状态的影响。 e.g., 增加Tempt, Pressuret 平滑(回顾)：根据到目前为止的已知证据，计算过去某个状态的后验概率, P(Xk|e1:t) (0≤kt)，从而为该状态提供一个比当时能得到的结果更好的估计（学习）。 推理任务： 滤波(监控)：计算信度状态，根据到目前为止的已知证据，计算当前状态的后验概率，P