胶囊（向量神经网络-李筱雅-2018-02-25-19_00_00.pdf

ThenameoftheDepartmentBeijingForestStudio

北京理工大学信息系统及安全对抗实验中心部门名称

胶囊（向量神经）网络

李筱雅硕士

2018年02月23日

内容提要

•背景简介

•基本知识

•算法原理

•网络结构

•优劣分析

•应用总结

2

背景简介

背景简介

4

背景简介

•CNN的缺陷：

–对物体之间的空间关系（spatialrelationship）的识别

能力不强

–CNN对物体旋转之后的识别能力不强

•Hinton在2017年11月7日在《DynamicRouting

BetweenCapsules》中提出了Capsules。

5

基本知识

基础知识

•姿态矩阵

–姿态主要包括旋转、平移和放缩三种形式

•将（x,y）先逆时针转30度，再向右平移2个单位，最后

缩放50%到（x,y）可以由下列矩阵连乘得到

7

基础知识

•姿态矩阵

–延伸到3维空间

8

基础知识

•姿态矩阵：该矩阵所定义的对象都是相对于照相机的视点

•姿态矩阵P表示可以从相机看对象的不同视点

9

基础知识

•不变性和共变性

–不变性（invariance）：表示不随变换变化

–同变性（equivariance）：表示的变换等价于变换的表示

10

基础知识

•胶囊（capsule）：包含多个神经元的载体，每个神经

元表示了图像中出现的特定实体的各种属性。其中一个特

殊的属性是图像中某类别的实例的存在，输出数值的大小

为实体存在的概率。

•神经元类比：

11

算法原理

算法原理

•为使问题具体化，假设：

–上一层的VN代表眼睛（u1），鼻子（u2）和嘴巴（u3）,

称为底层特征

–下一层的第j个VN代表脸（脸为其中一个），称为高层特征

•第一步：矩阵转化

13

算法原理

•第二步：输入加权

–权重由动态路由（dynamicrouting）确定

–路由：神经网络把信息从底层VN传输到高层VN的活动

14

算法原理