第2章+前向多人工神经网络01.ppt

* 第*页 第二章 前向多层人工神经网络 § 2.1 概 述 ANN的主要功能之一 —— 模式识别 ( Pattern Recognition ) 模式识别是人类的一项基本智能行为，在日常生活中，我们几乎时刻在进行着“模式识别”。 模式： 广义地说，存在于时间和空间中可观察的事物，如果可以区别它们是否相同或相似，都可以称之为模式； 狭义地说，模式是通过对具体的个别事物进行观测所得到的具有时间和空间分布的信息； 模式类：把模式所属的类别或同一类中模式的总体称为模式类(或简称为类); 模式识别：在一定量度或观测基础上把待识模式划分到各自的模式类中去的过程叫作模式识别； 模式识别 —— 对表征事物或现象的各种形式的（数值的，文字的和逻辑关系的）信息进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过程，是信息科学和人工智能的重要组成部分。 买西瓜：西瓜可分为生、熟两类，此时，研究的范畴是“西瓜”，在此范畴上定义了两类模式：熟瓜和生瓜； 种西瓜：西瓜分早熟品种、晚熟品种两类，即定义了两类模式：早熟和晚熟； 河北省早熟品种分类：河北省常见品种有“新红宝”、“蜜梅”、“京欣”、“冀早2号”…等；此时，研究范畴是“河北常见早熟西瓜品种”，在此范畴上定义了多类模式：新红宝、蜜梅、京欣、冀早2号等等 买西瓜：两类模式分类问题，通过声音的频率x1和声音持续时间长度x2来判断瓜的生熟。对编号为 i 的瓜进行敲击测试，得到矢量元素 Xi=(x1i，x2i) T ，对N个有生有熟的瓜进行实验可以得到N个数据：X={X1,X2,X3,…,XN} ，根据瓜的生熟可以将X中的元素划分为两类，一类对应于生瓜一类对应于熟瓜。于是，模式其实就是具有特定性质的矢量/数据。用C1代表生瓜类，C2代表熟瓜类，则X中的任意一个元素Xn必然满足: Xn属于C1或者Xn属于C2。 * 第*页 模式识别，举例：水果分级系统。 水果品质参数：重量、大小、比重、果形、颜色等 特征矢量：X = [x1, x2, x3, x4, x5]T 特征空间：用参数张成。 模式：每个苹果为一个模式，其特征矢量 为特征空间中的一个点； 模式类：一个级别为一个类，一类模式分 布在特征空间的某个特定区域； 模式识别：找出各类之间的分界面。 * 第*页 ANN的主要功能之二 —— 联想 ( Associative Memory ) 联想的心理学定义： 当一个事物的表象被激活时，也就是说该表象所包含的若干属性单元同时有效时，我们的注意力焦点就集中在这个表象上，如果对该表象的处理使的表象被否决时，也就是说由于一些属性单元的失效（或被抑制，或处于高阻），导致该表象无法成立的时候，剩余的属性单元或许可以构成另一种事物的表象，或许还需要结合那些被激活了的新的属性（或是由外界事物具有的新的属性所激活，或是因降低了对一些属性的抑制所导致的激活）。 例如：看到柠檬，感觉到嘴里口水增多。因为，由柠檬联想到了酸味。 字符识别： * 第*页 再论模式识别：对表征事物或现象的各种形式的（数值的、文字的或逻辑的）信息进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过程称为“模式识别”，是信息科学和人工智能的重要组成部分。 人在分辨不同类别的事物时，抽取了同类事物之间的相同点以及不同类事物之间的不同点； 字符识别：例如汉字“中”可以有各种写法，但都属于同一类别。更为重要的是，即使对于某个“中”的具体写法从未见过，也能把它分到“中”这一类别。 识别目标：人们走向一个目的地的时候，总是在不断的观察周围的景物，判断所选择的路线是否正确。实际上，是对眼睛看到的图象做 “正确”和“不正确”的分类判断。 人脑的这种思维能力就构成了“模式”的概念和“模式识别”的过程。 模式是和类别（集合）的概念分不开的，只要认识这个集合的有限数量的事物或现象，就可以识别这个集合中的任意多的事物或现象。为了强调能从具体的事物或现象中推断出总体，我们就把个别的事物或现象称作“模式”，而把总体称作类别或范畴。 特征矢量：最简单的情况是用一组称为“特征参数”的数值信息表示一个客观对象。例如，水果品质分类中用到的大小、重量、比重、果型、颜色，其取值均为数值。表示成特征矢量形式：Xi = [ xi1, xi2, xi3, xi4, xi5 ]； 样本：对一个具体对象进行观测得到的一个特征矢量称为一个“样本”， Xi 称为第i个样本，或者第i个样本的特征矢量。 特征空间：即特征矢量张成的空间，每个样本对应于特征空间上的一点。 针对一个具体的模式识别问题，选定特征参数非常重要，关乎模式识别的成败。著名国际大师傅京孙教授曾说过模式识别问题的关键是特