人工智能入门 课件 2.人工神经网络与机器学习.pptx

人工神经网络与机器学习

AI:ANN2大纲什么是人工神经网络(ANN)?多层感知器(MLP)-误差反向传播算法(B-P)机器学习的意义-学习策略监督学习

1、人工神经网络01

AI:ANN4PartⅠ:什么是ANN?

AI:ANN5一个让汽车学习自动驾驶的神经网络T.M.Mitchell,MachineLearning,2006隐藏单元的权值

AI:ANN6汽车自动驾驶的视频

AI:ANN71.1人工神经网络将相互独立的单元之间连接起来形成一种图的结构，这样的图可能是有环的也可能是无环的，可能是有向图也可能是无向图.自底向上AI受生物神经系统的启发，从结构上模拟仿真AI功能

AI:ANN8生物神经系统时间和空间上的累积兴奋和抑制图片来源：http://kvhs.nbed.nb.ca/gallant/biology/neuron_structure.jpg

AI:ANN9人工神经系统M-P神经元θx1x2xnyω1ω2ωn输入输出阈值McClloch与Pitts，《神经活动中固有的思想逻辑运算》,1943f:激活函数g:整合函数

AI:ANN10整合函数加权求和径向距离

AI:ANN11激活函数阈值型线性饱和线性S型函数双曲正切函数高斯函数

AI:ANN121.2人工神经网络拓扑结构前馈型神经网络-没有环-静态结构反馈型神经网络结构-有环-动态结构(非线性动力系统)

AI:ANN13前馈网络的一般结构反馈网络的一般结构

AI:ANN141.3人工神经网络的学习方法神经网络根据所处环境对它的刺激自适应的调整其网络结构中的自由参数.学习模型渐进式vs.批处理两类监督型vs.非监督型

AI:ANN15重要的神经网络模型模型结构学习方法模型结构学习方法多层感知器前馈型网络结构误差修正玻尔兹曼机单层，反馈型网络结构随机性径向基函数网络多层，前馈型网络结构误差修正自适应共振理论两层，反馈型网络结构竞争型学习霍普菲尔德网络单层，反馈型网络结构外积Kohonen自组织特征映射网单层软竞争学习

AI:ANN16PartⅡ:多层感知器(MLP)

AI:ANN172.1B-P神经网络结构一种多层感知机,其中的激活函数采用S型函数.

AI:ANN18B-P学习算法学习方法-输入数据被前向输入到隐含层,然后再输入到输出层-误差信息被反向传播，从输出层到隐含层再到输入层RumelhartMeclelland,Nature,1986

AI:ANN19B-P学习步骤Step1.在训练集中选择一种模式并将其输入到网络中Step2.计算输入序列中输入层，隐含层，输出层神经元的激活情况.Step3.通过比较实际输出与期望输出，计算输出神经元的误差.Step4.用计算出来的误差更新网络中的所有权重，从而使全局误差度量变小.Step5.重复上述Step1-Step5直到全局误差小于一个给定的阈值.

AI:ANN20B-P求导全局误差度量理想输出实际输出平方误差目标是最小化平方误差,即达到最小均方误差(MSE)

2、机器学习02

AI:MachineLearning22PartⅠ:机器学习的意义

AI:MachineLearning23机器学习什么？学习是系统中的变化，这种变化使系统在重复同样工作或类似工作时，能够做得更好。西蒙机器学习研究如何使计算机程序自动根据经验提升其性能。应用领域涵盖从大量数据中发现一般规则的数据挖掘程序到自动学习用户兴趣的信息过滤系统等。TomM.Mitchell

AI:MachineLearning24定义学习的任务基于经验，根据性能准则，提升完成相应任务的性能任务:下跳棋性能:对于任意对手，取胜的概率经验:以自己为对手，进行的练习任务:识别手写字性能:被正确分类的字所占的比例经验:经过人工标注的手写字的数据库任务:视觉传感器自动驾驶性能:出错前行驶的平均距离经验:人类驾驶的时候记录下来的一系列图像和控制命令Examples

AI:MachineLearning25为什么要进行机器学习？在环境事先未知时，学习至关重要(可用于开发