深度学习与信号处理： 原理与实践 课件 第9、10章 深度置信网络、深度自编码器.ppt

*10.6条件双重对抗自编码网络*在CDAAE模型中，为了使映射到潜空间的数据满足特定的数据分布，不再使用VAE中近似计算KL散度的方式，而是设计了一个潜空间判别器，通过神经网络来学习该数据分布，形成了模型中的第一重对抗。*10.6条件双重对抗自编码网络*在CDAAE模型中，为了使映射到潜空间的数据满足特定的数据分布，不再使用VAE中近似计算KL散度的方式，而是设计了一个潜空间判别器，通过神经网络来学习该数据分布，形成了模型中的第一重对抗。*10.6条件双重对抗自编码网络*编码器输出的潜空间数据在和类别标签y结合后，经过解码器生成重构后的样本。除常规通过计算重构样本与真实样本的均方误差(MSE)来优化解码器网络的方式外，采用平均误差(MAE)准则设计样本判别器，以对重构样本与真实样本进行逻辑判别和分类，从而进一步约束解码器网络，提高样本生成效果，由此形成模型的第二重对抗。通过对整个网络的训练，最后仅需将类别标签和符合分布的随机采样数据输入解码器中，即可获得形貌逼真、样式丰富的红外目标图像。*10.6条件双重对抗自编码网络*10.6.2算法原理为了高效地生成符合要求的红外目标图像，文献[229226]建立了基于CDAAE的红外建模方法。整个算法分为模型训练和目标生成两个阶段。在模型训练阶段，通过神经网络学习样本的潜在数据分布，在目标生成阶段利用学习得到的网络参数生成期望类别的红外目标。1.模型训练第一重对抗为编码器E与潜空间判别器之间的对抗，图10.17给出了二者的网络结构。编码器E包含2个卷积层和2个全连接层，共4个中间层，其中所有卷积层的卷积核尺寸均为4×4、步长均为2。潜空间判别器包含3个全连接层并以其作为中间层。为了提高训练效率和稳定性，所有的中间层在完成数据非线性变换后均使用批量归一化(BN)处理，并将LReLU作为激活函数。*10.6条件双重对抗自编码网络**10.6条件双重对抗自编码网络*训练开始阶段，首先从数据集中随机选取M张图片组成批处理样本集合x，并将其作为编码器E的输入。x在通过两层卷积(Conv1，Conv2)处理后，将维度从四维降到二维，再通过2个全连接层(FC1，FC2)对数据进行压缩，输出维度为的潜空间数据，从而完成从原始数据到潜空间数据的映射。为了使映射后的数据满足特定的数据分布，将潜空间数据和从中随机采样的数据分别输入到潜空间判别器中，经过3个全连接层(FC1，FC2，FC3)处理后，通过Sigmoid函数输出判别概率。最后利用判别概率分别计算编码器和潜空间判别器的熵损失函数和，并反向传播更新两个网络的参数和，以达到最小化损失函数的目标。和的表达式为*10.6条件双重对抗自编码网络*完成第一重对抗的训练后﹐进入第二重对抗训练。第二重对抗为解码器与样本判别器之间的对抗，图10.18为二者的网络结构。由于解码实际上是编码的逆过程，因而解码器采用与编码器对称的网络结构，包含3个全连接层和2个反卷积层，实现了潜空间数据到重构样本的映射。样本判别器由于输入数据与编码器相同，因而采用了与其类似的中间层网络结构，包含2个卷积层和2个全连接层。其中，解码器和样本判别器的所有卷积层和反卷积层的卷积核大小均为4×4、步长均为2。在所有中间层的最后均进行BN处理并使用LReLU作为激活函数。图10.18表明，样本判别器最终不仅会辨别样本的真伪，同时还会输出样本的类别标签，因而该网络还具备标注未分类样本的功能。*10.6条件双重对抗自编码网络*第二重对抗开始，首先对第一重对抗中编码器的输出与对应样本集合的类别标签进行连接，并且以此作为解码器的输入。其中，类别标签是对原始类别标签onehot编码后的结果，的维度为(m×n)。在经过3个全连接层(FC1，FC2，FC3)处理后﹐再通过2层反卷积(Deconvl，Deconv2)完成数据的上采样，最终生成重构后的样本。利用重构样本，将MSE和MAE相结合的重构损失函数作为解码器总损失函数的一部分，表达式为式中，为重构样本和原始样本的MSE；为