6 模式识别与神经网络详解.ppt

模式识别与神经网络 hujing 主要内容： 介绍模式识别的基本概念 介绍神经网络技术在模式识别领域的发展与应用 介绍神经网络如何应用于仿生模式识别研究中的。 神经网络泛化能力的提高。 第一个主题－－模式识别的 基本概念 模式和模式识别的概念 模式识别的发展简史和应用 模式识别的主要方法 模式识别的系统和实例？ 模式识别 模式识别作为一个研究领域，迅速发展于20世纪60年代，它既是一个多领域的交叉学科，又是一个与实际问题结合非常紧密的应用学科。 什么是模式 模式的定义 广义地说，存在于时间和空间中可观察的物体，如果我们可以区别它们是否相同或是否相似，都可以称之为模式。 模式所指的不是事物本身，而是从事物获得的信息，因此，模式往往表现为具有时间和空间分布的信息。 模式的直观特性: 可观察性 可区分性 相似性 模式识别的概念 模式识别 – 直观，无所不在，“人以类聚，物以群分” 周围物体的认知：桌子、椅子 人的识别：张三、李四 声音的辨别：汽车、火车，狗叫、人语 气味的分辨：炸带鱼、红烧肉 人和动物的模式识别能力是极其平常的，但对计算机来说却是非常困难的。因此模式识别的任务就是让计算机能够像人那样认识事物。 模式识别简史 1929年 G. Tauschek发明阅读机 ，能够阅读0-9的数字。 30年代 Fisher提出统计分类理论，奠定了统计模式识别的基础。 50年代 Noam Chemsky 提出形式语言理论——傅京荪 提出句法结构模式识别。 60年代 L.A.Zadeh提出了模糊集理论，模糊模式识别方法得以发展和应用。 80年代以Hopfield网、BP网为代表的神经网络模型导致人工神经元网络复活，并在模式识别得到较广泛的应用。 90年代小样本学习理论，支持向量机也受到了很大的重视。(Vipnik.N) 与模式识别相关的学科 统计学 概率论 线性代数（矩阵计算） 形式语言 机器学习 人工智能 图像处理 计算机视觉 … 模式识别的研究目的 目的：利用计算机对物理对象进行分类，在错误概率最小的条件下，使识别的结果尽量与客观物体相符合。 Y = F(X) X的定义域取自特征集 Y的值域为类别的标号集 F是模式识别的判别方法 模式识别的应用（举例） 生物学 自动细胞学、染色体特性研究、遗传研究 天文学 天文望远镜图像分析、自动光谱学 经济学 股票交易预测、企业行为分析 医学 心电图分析、脑电图分析、医学图像分析 模式识别的应用（举例） 工程 产品缺陷检测、特征识别、语音识别、自动导航系统、污染分析 军事 航空摄像分析、雷达和声纳信号检测和分类、自动目标识别 安全 指纹识别、人脸识别、监视和报警系统 模式识别的方法 模式识别系统的目标：在特征空间和解释空间之间找到一种映射关系，这种映射也称之为假说。 特征空间：从模式得到的对分类有用的度量、属性或基元构成的空间。 解释空间：将c个类别表示为 其中 为所属类别的集合，称为解释空间。 假说的两种获得方法 监督学习、概念驱动或归纳假说：在特征空间中找到一个与解释空间的结构相对应的假说。在给定模式下假定一个解决方案，任何在训练集中接近目标的假说也都必须在“未知”的样本上得到近似的结果。 依靠已知所属类别的的训练样本集，按它们特征向量的分布来确定假说 （通常为一个判别函数），只有在判别函数确定之后才能用它对未知的模式进行分类； 对分类的模式要有足够的先验知识，通常需要采集足够数量的具有典型性的样本进行训练。 假说的两种获得方法（续） 非监督学习、数据驱动或演绎假说：在解释空间中找到一个与特征空间的结构相对应的假说。这种方法试图找到一种只以特征空间中的相似关系为基础的有效假说。 在没有先验知识的情况下，通常采用聚类分析方法，基于“物以类聚”的观点，用数学方法分析各特征向量之间的距离及分散情况； 如果特征向量集聚集若干个群，可按群间距离远近把它们划分成类； 这种按各类之间的亲疏程度的划分，若事先能知道应划分成几类，则可获得更好的分类结果。 模式分类的主要方法 数据聚类 统计分类 结构模式识别 神经网络 数据聚类 目标：用某种相似性度量的方法将原始数据组织成有意义的和有用的各种数据集。 是一种非监督学习的方法，解决方案是数据驱动的。 统计分类 基于概率统计模型得到各类别的特征向量的分布，以取得分类的方法。 特征向量分布的获得是基于一个类别已知的训练样本集。 是一种监督分类的方法，分类器是概念驱动的。 结构模式识别 该方法通过考虑识别对象的各部分之间的联系来达到识别分类的目的。 识别采用结构匹配的形式，通过计算一个匹配程度值（matching score）来评估一个未知的对象或未知对象某些部分与某种典型模式的关系如何。 当成功地制定出了一组可以描述对象部分之间关系的规