人民大2024《人工智能与Python程序设计》课件（教材配套版）第12章-PyTorch基础-2.pdf

《人工智能与Python程序设计》——PyTorchnn工具箱

人工智能与Python程序设计教研组

总结

•Pytorch是简单易学的人工智能平台

•两个主要的组成部分

–Tensor

–AutoGrad

•上次课

–以数学运算为背景，介绍了如何利用Pytorch进行简单计算和求导

张量复习

•张量：多维数组

•标量—向量—矩阵——张量

张量与自动求导

•data:被封装的tensor

•grad：data的梯度

•grad_fn:创建tensor的function

•requires_grad:指示是否需要梯度

•is_leaf:指示是否是叶子结点

张量的属性

•dtype:张量的数据类型，如torch.FloatTensor,torch.cuda.FloatTensor;

–两个数据类型之间不同之处在于后者多了一个cuda，cuda表示数据是放到

GPU上的。

•shape:张量的形状,如（64，3，224，224）

•device:张量所在设备，GPU/CPU

例子

nn工具箱

•torch.nn是专门为深度学习设计的工具

箱

•主要包括：

–参数类Parameters

–模型基类module

–具有不同功能的网络层：卷积、池化、

全连接、回归等

–非线性激活

–损失函数

–辅助函数

线性回归问题回顾

•假设目标值与特征之间线性相关，即因变量与自变量满足一个多元一

次方程。

•训练集D={(,),(,),…,(,)}

1122

•将特征x和对应的目标y建模为多元一次方程：

ො=+

其中，w和b为模型的参数。

•为行向量，为列向量

•为了简化符号表示，在x后面加上一维值恒为1的特征，←,1,同

时增加一维，则可以把融入

ො=

•为了学习这两个参数，根据已知的训练样本点（自变量x和因变量y都

是已知的）拟合这个多元一次方程，求解参数。

基于PyTorch的线性回归梯度计算

•用PyTorch实现的要点

–引入torch包

–把numpy变量转为Tensor变量，

注意只对w求导

–用pyTorch中的方法实现损失函

数

–调用backward()

–返回对应的梯度值

•优点

–不用显式求解和实现梯度公式