学习与编码、改变和量子化.ppt

CHAPTER FOUR  SYNAPTIC DYNAMICS 1: UNSUPERVISED LEARNING 什么是学习？ 学习就是对信息进行编码 其目的就是通过向有限个例子（训练样本）的学习来找到隐藏在例子背后（即产生这些例子）的规律（如函数形式）。 三种学习方式： 什么是学习？ 三种学习方式： 编码是学习？激励－响应 ？映射？ 使用行为（behavioristic）编码准则，如果输入激励为 ，而响应为 ，则该系统对激励－响应 进行了学习。 输入输出对 表示函数 的一个样本，函数f将n维矢量X映射到p维矢量Y。 怎么理解学习过程？ 如果对所有的输入 都有响应 ， 系统对函数进行了学习 若输入 系统就会得到响应 ， 则表明系统近似或部分学习， 即系统把相似的输入映射为相似的输出 学习就会发生改变？ 改变1：样本数据改变系统参数，系统进行自适应或自组织的学习。 改变2：神经网络中突触（权值）改变，有时神经元改变。 改变的效果：当激励改变了记忆介质并使改变维持相当长一段时间后，我们就说系统学会了 。 学习时量化必要性 系统只能对无穷的样本模式环境中一小部分样本进行学习。 系统的存储量是有限的，系统要有新的样本模式替换旧的样本模式。 量化定义 规则 把样本模式空间分成k个区域，某个突触点在其中移动时，系统进行学习。 原型可以扩展以使矢量量子化均方误差最小或规则最优。可以估计样本模式的未知的概率分布（统计代表样本）。 无监督和有监督学习 区别？ 描述样本模式在样本空间的分布概率密度函数未知，通过学习来估计。 无监督学习对分布不作任何假设，可利用信息最少。 其学习规则可用一阶差分或一阶微分方程来定义 有监督学习特点？ 假设样本模式分组结构或 性能 还依赖于每个学习样本的分组隶属度信息，即分成： 可以检查出“错误”信息。 优点：精确度较高。 在神经网络中的区别 监督学习可利用突触值联系来估计依赖于未知均方性能的测度梯度，利用分组隶属度信息来确定误差信号以引导梯度下降。 无监督学习只能利用神经信号的局部信息来改变参数，只能自适应分样本模式，但依赖于未知概率密度函数。 局部信息用处？ 局部化使突触可以实时、异步地学习，不需要全局的误差信息 局部无监督突触把信号和信号联系起来形成共轭或相关学习定律 借助联想可进一步缩小函数空间 学习定律中只包含神经元、突触和噪声三项。 四种无监督学习 信号Hebbian学习 微分Hebbian学习 竞争学习 微分竞争学习 1、确定信号的Hebbian学习 局部神经信号： 若 ，第 个突触连接激活 若 ，第 个突触连接抑制 ：单调非减函数，把激励 转化为有界信号 2、确定性的竞争学习Grossberg 用竞争信号调整‘信号-突触’的差分： 竞争可以归结为最近邻模式匹配的问题。 度量指示器函数： 若 ， 输出的第 个神经元赢； ＝0 则输 实际中， 是线性的，即， 输入模式矢量 就代表了神经元场 中的输出。此时，竞争学习准则就成为线性竞争学习准则： 3、确定性微分Hebbian学习(Kosko) 学习准则 信号速度： 4、确定性的微分竞争学习 学习法则： 微分竞争，只有改变了才学习，速度 使局部奖惩强化。 线性微分竞争学习法则： 随机非监督学习定律（噪声） 一般的情况 引理： 随机突触在平衡态振动，而且至少和驱动的噪声过程的振动的一样大，突触矢量 在每个t都振动，其平均值为一常数，即围绕常值 作布朗运动。 当突触停止运动，确定的Hebbian学习就出现了随机平衡 随机竞争学习定律 用随机竞争信号 调制随机矢量差 并加上独立高斯白噪声矢量 来模型化那些未模型化的效应 线性竞争学习定律以X代替线性信号矢量 离散随机差分方程系统 常用竞争学习算法作为离散随机差分方程系统 非监督学习NN实例 神经网络基本模型 自组织映射系统SOM Neural Gas network 聚类应用 神经元建模 一组突触和联结，联结具有权值