云计算深度学习平台架构与实践的必经之路_光环大数据培训云计算深度学习平台架构与实践的必经之路_光环大数据培训.pdf

光环大数据--大数据培训知名品牌 云计算深度学习平台架构与实践的必经之路_光环大数据培训 光环大数据培训机构，定义云深度学习平台什么是云深度学习？随着机器学习的 发展，单机运行的机器学习任务存在缺少资源隔离、无法动态伸缩等问题，因此 要用到基于云计算的基础架构服务。云机器学习平台并不是一个全新的概念， Google、微软、亚马逊等都有相应的服务，这里列举几个比较典型的例子。 第一个是Google Cloud Machine Learning Engine，它底层托管在Google Cloud 上，上层封装了Training、Prediction、Model Service 等机器学习应用的抽象， 再上层支持了Google 官方的TensorFlow 开源框架。 亚马逊也推出了Amzon machine learning 平台，它基于AWS 的Iaas 架构，在 Iaas 上提供两种不同的服务，分别是可以运行MXNet 等框架的EC2 虚拟机服务， 以及各种图象、语音、自然语言处理的SaaS API。 此外，微软提供了Azure Machine Learning Studio 服务，底层也是基于自己可 伸缩、可拓展的Microsoft Azure Cloud 服务，上层提供了拖拽式的更易用的 Studio 工具，再上面支持微软官方的CNTK 等框架，除此之外微软还有各种感知 服务、图象处理等SaaS API，这些服务都是跑在Scalable 的云基础平台上面。 光环大数据 光环大数据--大数据培训知名品牌 相关厂商内容 基于卷积神经网络在手机端实现文档检测 阿里巴巴集团千亿级别店铺系统架构 平台化技术实践 携程第四代架构之软负载 SLB 实践之路 解读百度PB 级数据 仓库Palo 开源架构 相关赞助商 与100+国内外技术专家探索2017 前瞻热点技术 以上这些都是业界比较成熟的云深度学习平台，而在真实的企业环境中，我们为 什么还需要实现Cloud Machine Learning 服务呢？ 首先国外的基础设施并不一定是国内企业可以直接使用的，而如果只是本地安装 了TensorFlow，那也只能在裸机上进行训练，本地默认没有资源隔离，如果同 时跑两个训练任务就需要自己去解决资源冲突的问题。因为没有资源隔离，所以 也做不了资源共享，即使你有多节点的计算集群资源，也需要人工的约定才能保 光环大数据 光环大数据--大数据培训知名品牌 证任务不会冲突，无法充分利用资源共享带来的便利。此外，开源的机器学习框 架没有集群级别的编排功能，例如你想用分布式TensorFlow 时，需要手动在多 台服务器上启动进程，没有自动的Failover 和Scaling。因此，很多企业已经 有机器学习的业务，但因为缺少Cloud Machine Learning 平台，仍会有部署、 管理、集群调度等问题。 那么如何实现Cloud Machine Learning 平台呢？ 我们对云深度学习服务做了一个分层，第一层是平台层，类似于Google cloud、 Azure、AWS 这样的IaaS 层，企业内部也可以使用一些开源的方案，如容器编排 工具Kubernetes 或者虚拟机管理工具OpenStack。有了这层之后，我们还需要 支持机器学习相关的功能，例如Training、Prediction、模型上线、模型迭代 更新等，我们在Machine Learning Layer 层对这些功能进行抽象，实现了对应 的API 接口。最上面是模型应用层，就可以基于一些开源的机器学习类库，如 TensorFlow、MXNet 等。 光环大数据 光环大数据--大数据培训知名品牌 整个Cloud