机器学习原理与应用课件 第12章 深度学习(自动编码解码器、卷积神经网络).pptxVIP

第12章 深度学习1自动编码解码器、卷积神经网络

学习目标自动编码/解码器原理。利用PyTorch框架实现自动编码/解码器。卷积神经网络的基本原理。利用PyTorch框架实现卷积神经网络。12234

自动编码器是一种尽可能复现输入数据的无监督式神经网络模型，可以从数据中提取最为关键的隐含特征（称为编码），同时可用所提取的特征以最小差别地重构出输入数据（称为解码）。从直观上来看，自动编码器可用于特征降维，类似主成分分析PCA，但其性能更强，这是由于神经网络模型可以提取更有效的新特征。312.2.3自动编码解码器

?412.2.3自动编码解码器

编码器与解码器的结构仍是普通的神经网络，两者通过异向的数据处理方式实现输入样本非线性变换，而通过最小化其自身与相关变换结果之间的误差及不断调整编码器与解码器的权重两个过程，则可提高输入样本非线性变换的可靠性。此外，输入样本的编码与解码过程可通过级联的方式实现不同层次的非线性变换（如第1次编码结果可作为第2次编码的输入），进而实现输入样本不同层次的特征表达。在理论上，前级编码输出的特征表达细节程度相对较高，而后级编码输出的特征表达则更加抽象。512.2.3自动编码解码器

构建自动编码器（编码器与解码器结构自定）并对MNIST数据集图像进行特征提取。1.导入库importtorchimporttorch.nnasnnfromtorch.autogradimportVariablefromtorch.utils.dataimportDataLoaderfromtorchvisionimportdatasets,transformsimportmatplotlib.pyplotasplt612.2.3自动编码解码器

2.构造数据自编码器的训练为无监督方式，因而仅采用训练集图像而无需类别标记。train_dataset=datasets.MNIST(root=./data/,train=True,transform=transforms.ToTensor(),download=False)test_dataset=datasets.MNIST(root=./data,train=False,transform=transforms.ToTensor())train_loader=DataLoader(dataset=train_dataset,batch_size=batch_size,shuffle=True)test_loader=DataLoader(dataset=test_dataset,batch_size=batch_size,shuffle=False)712.2.3自动编码解码器

3.定义自动编码器自动编码器包括编码与解码两部分，相关类定义如下：classAutoEncoder(nn.Module):def__init__(self):super(AutoEncoder,self).__init__()#编码self.encoder=nn.Sequential(nn.Linear(28*28,128),nn.Tanh(),nn.Linear(128,64),nn.Tanh(),nn.Linear(64,12),nn.Tanh(),nn.Linear(12,3),)812.2.3自动编码解码器回顾:（1）激活函数。（2）网络定义。思考：输入与输出关系？

#解码（层次、每层维度与激活函数类型可调整；注意与编码过程的对应）self.decoder=nn.Sequential(nn.Linear(3,12),nn.Tanh(),nn.Linear(12,64),nn.Tanh(),nn.Linear(64,128),nn.Tanh(),nn.Linear(128,28*28),nn.Sigmoid(),)912.2.3自动编码解码器思考:为什么加Sigmoid()函数？

defforward(self,x):encoded=self.encoder(x)#数据编码de