计算机视觉应用--PyTorch框架简介.pptx

PyTorch框架简介4.1

4.1PyTorch框架简介PyTorch由Torch7团队开发,是Torch的Python版本。与Torch的不同之处在于,PyTorch使用了Python作为开发语言,是由Facebook开源的神经网络框架,属于专门针对GPU加速的深度神经网络(DNN)编程。Torch是一个经典的对多维矩阵数据进行操作的张量(Tensor)库,在机器学习和其他数学密集型学习中有着广泛应用。与TensorFlow的静态计算图不同,PyTorch的计算图是动态的,可以根据计算需要实时改变计算图。作为经典机器学习库Torch的端口,PyTorch为Python语言使用者提供了舒适的编写环境。PyTorch是一个基于Python的科学计算包,主要用于满足以下两类需求。(1)作为NumPy的替代品,可以利用GPU的性能进行计算。(2)要求深度学习研究平台拥有足够的灵活性和速度。

4.1.1使用框架的必要性为什么不直接实现网络结构而必须使用框架呢?实际上如果有能力实现神经网络结构,完全可以自己动手实现所需的神经网络,但是这样会使工作量增大,大部分精力会花费在底层的构建而非主要模型的构建上。在当下的使用环境之中,使用框架是大势所趋,有助于节省大量底层的、烦琐的、容易出错的工作,一方面可以使用户专注于高层次的工作,另一方面又可以避免底层的一些错误。例如,在Web开发中会使用Django和SpringBoot等框架,在桌面开发中会使用MFC、QT等框架,而在深度学习领域则可以选择使用PyTorch、TensorFlow等框架。4.1PyTorch框架简介

4.1.2主流框架对比4.1PyTorch框架简介2015年11月9日,Google正式发布并开源TensorFlow,TensorFlow是一个开源的机器学习框架,用户可以使用TensorFlow快速地构建神经网络,同时快捷地进行网络的训练、评估与保存。TensorFlow灵活的架构可以部署在一个或多个CPU、GPU的台式机及服务器中,或在移动设备中使用单一的API应用。最初,TensorFlow是由研究人员和GoogleBrain团队针对机器学习和深度神经网络进行研究而开发的,是目前全世界使用人数最多、社区最为庞大的一个框架。TensorFlow是由Google公司开发的,维护和更新比较频繁,并且有着Python和C++的接口,教程也非常完善。很多文献复现的第一个版本是基于TensorFlow的,TensorFlow是目前使用人群基数非常大的框架。但是由于其语言太过于底层,目前有很多基于TensorFlow的第三方抽象库将TensorFlow的函数进行封装,使其变得简洁,比较有名的包括Keras、Tflearn、tfslim及TensorLayer。1.TensorFlow

Caffe由贾扬清在加州大学伯克利分校攻读博士期间创建,全称是ConvolutionalArchitectureforFastFeatureEmbedding,是一个兼具表达性、速度和思维模块化的开源深度学习框架,目前由伯克利视觉和学习中心维护。虽然Caffe是使用C++编写的,但是它有Python和Matlab相关接口。2017年4月,Facebook发布Caffe2,加入了递归神经网络等新功能。2018年3月底,Caffe2并入PyTorch。4.1PyTorch框架简介2.Caffe

Theano是一个较为稳定的深度学习Python库,擅长处理多维数组,属于比较底层的框架。Theano起初是为了深度学习中神经网络算法的运算而设计的,可利用符号化语言定义想要的结果,会对程序进行编译,使程序高效运行于GPU或CPU。Theano支持自动计算函数梯度,带有Python接口并集成了NumPy,这使得它从一开始就成为了深度学习领域最常使用的库之一。但由于不支持多GPU和水平扩展,在其他优秀深度学习框架的热潮下,Theano已然开始被遗忘。目前开发Theano的研究人员大都去了Google并参与了TensorFlow的开发,可以说TensorFlow是在Theano基础上开发的。3.Theano4.1PyTorch框架简介

Torch是一个有大量机器学习算法支撑的科学计算框架,其诞生已经有十年之久,但是真正起势得益于Facebook开源了大量Torch的深度学习模块。Torch的特点是十分灵活,另外一个特殊之处是采用了编程语言Lua。但是目前大部分深度学习算法都以Python为基础,因此学习Lua编程语言增加了使用Torch框架的成本。而PyTo