基于人工神经网络的系统辨识.ppt

沈阳航空航天大学 沈阳航空航天大学 人工神经网络的概述 系统辨识概述 2.1 系统辨识的基本概念 系统辨识概述 2.2 系统辨识三要素 系统辨识概述 2.3 系统辨识的基本过程 基于神经网络的系统辨识技术 飞行器系统气动力参数辨识 飞行器系统气动力参数辨识 飞行器系统气动力参数辨识 飞行器系统气动力参数辨识 飞行器系统气动力参数辨识 飞行器系统气动力参数辨识 飞行器系统气动力参数辨识 飞行器系统气动力参数辨识 飞行器系统气动力参数辨识 Power Electronics Electrical Drive Lab. HIT. * 基于人工神经网络的系统辨识 系统辨识与自适应控制 课程讲义 沈阳航空航天大学 主要内容 人工神经网络的概述 人工神经元模型 人工神经网络的结构 人工神经网络的学习 几种典型的人工神经网络 系统辨识概述 系统辨识的基本概念 系统辨识的三要素 系统辨识的基本过程 基于神经网络的系统辨识技术 人工神经网络辨识的基本原理 飞行器系统气动力参数辨识 人工神经网络的概述 1.1 人工神经元模型 生物神经元结构 人工神经网络的概述 1.1 人工神经元模型 三个基本要素： 1、连接权；2、求和单元；3、激活函数。 数学模型 人工神经网络的概述 激活函数： 1、硬限幅(Heaviside)激活函数 2、线性激活函数 3、对数-S型(sigmoid)激活函数 4、对称硬极限激活函数 5、饱和线性激活函数 6、双曲正切S型激活函数 7、正线性激活函数 …… 人工神经网络的概述 1.2 神经网络的结构 前馈型网络（FNN） 根据激活函数的不同，FNN又可分为多种类型。如多层感知器（MLP）、径向基网络（RBF）、小波网络（WN） 反馈（递归）型网络 全局反馈：Hopfield网络、Elman网络 局部反馈网络是在单个神经元上进行反馈，类型很多 人工神经网络的概述 1.3 神经网络的学习 通过向环境学习获取知识并改进自身性能是神经网络的一个重要特点，在一般情况下，性能的改善是按某种规定的度量调节自身参数（如权值）并随时间逐步达到的，学习方式（按环境所供信息的多少分）有以下三种： 有监督学习 无监督学习 强化学习 学习算法： δ学习规则（误差纠正规则） Hebb学习规则 竞争学习 人工神经网络的概述 1.4 几种典型的人工神经网络 感知机神经网络 BP（Back Propagation）神经网络 径向基（Radial Basis Function, RBF）神经网络 竞争学习神经网络 Hopfield神经网络 Boltzmann神经网络 …… 人工神经网络的概述 BP神经网络 隐含层和输出层的激活函数采用对数-S型激活函数 人工神经网络的概述 隐含层的第i个神经元在样本p作用下的输入为： 隐含层的第i个神经元的输出为： 输出层第k个神经元的总输入为： 输出层的第k个神经元的实际输出为： BP网络的前馈计算 人工神经网络的概述 BP网络权系数的调整规则 对于每一样本p的输入模式对的二次型误差函数为： BP学习算法的基本原理是梯度最速下降法，它的中心思想是调整权值使网络总误差最小。 学习过程按使误差函数Jp减小最快的方向调整加权系数直到获得满意的加权系数为止。因此，权系数应按Jp函数梯度变化的反方向调整，使网络逐渐收敛。 输出层的神经元权系数修改公式： 隐含层的神经元权系数修改公式： 人工神经网络的概述 BP网络学习算法的计算步骤 初始化：置所有的加权系数为最小的随机数； 提供训练集：给出输入向量p和期望的输出向量t。 计算实际输出； 计算期望值与实际输出的误差； 调整输出层的加权系数； 调整隐含层的加权系数； 返回步骤（3），直到误差满足要求为止。 设有一离散时不变因果系统，它的输入和输出分别为u(t)和yp(t)，并设u(t)是一致有界函数，那么辨识问题可以描述为寻求一数学模型, 使得模型的输出和被辨识系统的输出尽量接近。 辨识三要素和辨识要点 输入/输出数据 系统模型类型 等价准则 能够量测到的 系统的 输入/输出数据 所考虑的 系统的结构 给出辨识的 优化目标 输入信号的选择： 必须能充分激励 系统的所有模态。 模型的选择： 兼顾精确性 和复杂性 最常用的误差 准则是 误差平方和函数 ⑴ 选定和预测被辨识系统的数学模型类型 ⑵试验设计：选择试验信号，记录输入/输出数据 ⑶参数估计：选择估计方法，根据测量数据估计 数学模型中的未知参数。 ⑷模型验证：验证所确定的模型是否 恰当地表示了系统 基于神经网络的系统辨识技术 在正向建模问题中，神经网络与待辨识系统具有相同的输入，两者的输出误差作为网络的训练信号，这是典型的有监督学习问题。学习结束后，网络模型将具有与实际系统相同的输