数据科学技术与应用——基于Python实现（第2版）课件 6-神经网络与深度学习.pdf

神经网络与深度学习

6.1神经网络和深度学习

•神经网络，也称为人工神经网络（ArtificialNeuralNetwork，

ANN）

•20世纪80年代开始研究，后陷入低潮

•随着计算能力增强和大数据出现，深度学习（也就是深度神经网

络）技术呈爆发式发展

•目前是机器学习以及人工智能领域最重要的方法之一

6.1.1神经元与感知器

•神经网络模拟人脑的神经网络来处理问题

•人脑思维基础是神经元，神经元相互连接

•当某个神经元接受输入，达到某种状态，它就会“兴奋”，向相连神经元发送化

学物质

•“人造神经元”模型，称为感知器（ercet）

感知器计算模型

•简化模型，约定输入和输出只有：1或0

•感知器模型由输入结点、输出结点和权重连接线组成

•输出结点将输入结点值乘以权重后加起来，然后和一个阈值t比较，决定输出1或0

=0.3+0.3+⋯+0.3−0.4

其中：z=10

I(z)激活函数0≤0

（activationfunction）

神经网络模型

•单个感知器能够处理线性可分问题

•线性不可分问题，需考虑使用多层神经元

•输入层与输出层之间的神经元被称为隐藏层（hiddenlayer）

=++⋯+−

激活函数

•常用sigid、tah（双曲正切）、ReLU等函数

sigid=

tah=

ReLU=0

0≤0

神经网络训练方法

•基于已知分析结果的数据集，学习神经网络各层的参数

•开始网络的权重随机赋输入

值，随着训练过程循环

足够多的次数，得到的

权重使损失函数最小

权重层（数据变换）

模型的参数

权重层（数据变换）

预测值真实目标值

•调节由优化器（tzer）

实现，即反向传播（BP，

优化器

ErrrBacPragat）

算法损失值

•将损失值作为反馈信号，对权重•设定损失/目标函数

值进行微调，以降低损失值（ss/bectfuct）

分类/回归神经网络

•分类

•二分类问题，输出层只需要1个结点

•输出层使用sigid激活函数