卷积神经网络剖析.pptx

卷积神经网络 张朝阳 2014/11/05 Logistic模型 Softmax Regression多分类器 BP神经网络 BP神经网络 BP神经网络 BP神经网络 卷积运算 图像卷积 2 8 6 5 8 3 6 9 7 5 5 7 4 9 6 9 7 8 5 8 1 0 8 7 4 y x 8 7 5 9 4 0 8 6 3 2 6 1 3 1 6 9 8 6 5 0 7 1 3 2 0 W 用卷积提取图像特征 用同一个卷积核对图像的每一个像素进行卷积运算，可以得到与原图像同等大小的特征图。 水平梯度的卷积算子 竖直梯度的卷积算子 一个图像里目标特征主要体现在像素与周围像素之间形成的关系，这些邻域像素关系形成了线条、角点、轮廓等。而卷积运算正是这种用邻域点按一定权重去重新定义该点值的运算。 卷积神经网络 卷积神经网络 卷积神经网络 卷积层的作用根据深度学习关于人的视觉分层的理论，人的视觉对目标的辨识是分层的，低层会提取一些边缘特征，然后高一些层次进行形状或目标的认知，更高层的会分析一些运动和行为。也就是说高层的特征是低层特征的组合，从低层到高层的特征表示越来越抽象，越来越能表现语义或者意图。而抽象层面越高，存在的可能猜测就越少，就越利于分类。 卷积神经网络 卷积神经网络 子采样层subsampling 把输入 map划分成若干个scale*scale的小区域，求每个小区域内灰度的均值。输出map是输入map规模的1/scale。 卷积神经网络 卷积神经网络 下一层为采样层的卷积层的残差 卷积神经网络 卷积神经网络 下一层为卷积层的采样层的残差 实验对比 MNIST手写数字数据集，60000张训练数据，10000张测试数据，28*28像素，0到9十个数字分布接近均等。 复杂的算法不一定有效（对比Softmax和BP）。 由于CNN内置了优良的特征选择方法，所以分类效果远超BP。 算法 准确率 耗时 Logistic 95%（二分类，区分7和9） 150秒 Softmax 89%，90% 360秒，1980秒 BP 9% 20秒 CNN 95% 300秒 参考资料 /ronny/p/ann_03.html /fengfenggirl/p/cnn_implement.html /BigPeng/JavaCNN Maven groupIdcom.bj58.xxzl.dm/groupIdartifactIdxxzl.dm.core/artifactId