智能设计方法 第4章 神经网络基础.ppt

RBM神经网络的运行流程RBM神经网络的运行流程受限玻尔兹曼机神经网络是一种由两层神经元组成的网络，包含一层可见单元和一层隐藏单元。这些单元相当于神经网络中的神经元，可以处于激活（通常表示为1）或非激活（表示为0）状态。受限玻尔兹曼机相比于玻尔兹曼机的区别就是神经元只在层与层之间连接，同层之间没有连接

可见单元对应于网络的输入层，通常代表观测数据。在图像处理的应用中，例如，每个可见单元可以对应于像素的强度。

隐藏单元构成网络的第二层，它们不直接与外界交互，而是捕捉可见单元无法直接表达的内在特征。这些特征可能代表输入数据中的高阶结构或模式。

玻尔兹曼机结构与受限玻尔兹曼机结构的区别如图4-19和图4-20所示：

图4-19玻尔兹曼机结构图RBM神经网络的运行流程图4-20受限玻尔兹曼机结构图

根据这个受限玻尔兹曼机神经网络的结构图对整个神经网络的运行流程进行梳理：

初始化参数：

受限玻尔兹曼机神经网络开始时，权重通常被随机初始化，以及设定可见单元的状态以匹配一个训练样本。

输入数据：

数据被输入到可见单元。在一个典型的RBM中，这些单元可以代表某种形式的观测数据，比如像素点的亮度。

更新隐藏单元状态：RBM神经网络的运行流程受限玻尔兹曼机中的能量计算是一个关键步骤，用于评估网络的当前状态。能量函数是网络状态的量度，用于确定状态的概率和进行学习过程中的权重调整。

能量函数E的计算公式如下：

学习训练：

通过对比原始输入和重建后的状态，计算误差，并根据这个误差来调整权重，这通常通过学习算法如对比散度(ContrastiveDivergence,CD)来完成。公式如下：

偏置的更新也采用同样的方法。这个过程反复进行，直到网络达到一个平衡状态，其中可见单元的重建数据不再显著变化，或者达到了预设的迭代次数。

生成或分类：RBM神经网络的运行流程训练完成后，RBM可以用来生成数据或分类。生成数据时，可以随机设置隐藏单元的状态，然后让网络达到平衡，观察可见单元的状态；分类时，可以将输入数据置于可见单元，然后观察隐藏单元的激活模式。RBM神经网络的案例分析RBM神经网络的案例分析现通过一个简单的案例来分析受限玻尔兹曼机（RBM）的工作原理和应用。这里将使用RBM来学习和重建手写数字图像的特征，这些图像来自著名的MNIST数据集。MNIST数据集包含了成千上万的28x28像素的手写数字图像，是机器学习领域中常用的数据集之一。目标是训练一个RBM来学习MNIST数据集中手写数字的分布，然后使用这个模型来重建新的手写数字图像。

importtorch

importtorchvision

fromtorchvisionimportdatasets,transforms

importmatplotlib.pyplotaspltRBM神经网络的案例分析batch_size=64

#将数据转换为torch张量并进行归一化

transform=transforms.Compose([transforms.ToTensor(),transforms.Normalize((0.5,),(0.5,))])#加载训练和测试数据集#加载训练和测试数据集train_data=datasets.MNIST(root=./data,train=True,download=True,transform=transform)

test_data=datasets.MNIST(root=./data,train=False,download=True,transform=transform)#数据加载程序#数据加载程序train_loader=torch.utils.data.DataLoader(train_data,batch_size=batch_size,shuffle=True)

test_loader=torch.utils.data.DataLoader(test_data,batch_size=batch_size,shuffle=True)

classRBM(torch.nn.Module):

def__init__(self,n_vis,n_hid):

super(RBM,self).__init__()#数据加载程序self.W=torch.nn.Parameter(torch.randn(n_hid,n_vis)*0.1)

self.v_bias=torch.nn.Parameter(torch.zeros(n_vis))

self.h_bias=torch.nn.Parameter(torch.ze