Ceph架构剖析.docx

云硬盘是IaaS云平台的重要组成部分，云硬盘给虚拟机提供了持久的块存储设备。目前的AWS 的EBS(Elastic Block store)给Amazon的EC2实例提供了高可用高可靠的块级存储卷，EBS适合于一些需要访问块设备的应用，比如数据库、文件系统等。 在OpenStack中，可以使用Ceph、Sheepdog、GlusterFS作为云硬盘的开源解决方案，下面我们来了解Ceph的架构。 Ceph是统一存储系统，支持三种接口。 Object：有原生的API，而且也兼容Swift和S3的API Block：支持精简配置、快照、克隆 File：Posix接口，支持快照 Ceph也是分布式存储系统，它的特点是： 高扩展性：使用普通x86服务器，支持10~1000台服务器，支持TB到PB级的扩展。 高可靠性：没有单点故障，多数据副本，自动管理，自动修复。 高性能：数据分布均衡，并行化度高。对于objects storage和block storage,不需要元数据服务器。 目前Inktank公司掌控Ceph的开发，但Ceph是开源的，遵循LGPL协议。Inktank还积极整合Ceph和其他云计算和大数据平台，目前Ceph支持OpenStack、CloudStack、OpenNebula、Hadoop等。 当前Ceph的必威体育精装版稳定版本0.67(Dumpling),它的objects storage和block storage已经足够稳定，而且Ceph社区还在继续开发新功能，包括跨机房部署和容灾、支持Erasure encoding等。Ceph具有完善的社区设施和发布流程[1](每三个月发布一个稳定版本) 。 目前Ceph有很多用户案列，这是2013.03月Inktank公司在邮件列表中做的调查，共收到了81份有效反馈[2]。从调查中可以看到有26%的用户在生产环境中使用Ceph，有37%的用户在私有云中使用Ceph，还有有16%的用户在公有云中使用Ceph。 目前Ceph最大的用户案例是Dreamhost的Object Service，目前总容量是3PB，可靠性达到99.99999%，数据存放采用三副本，它的价格比S3还便宜。下图中，左边是Inktank的合作伙伴，右边是Inktank的用户。 3.1 组件 Ceph的底层是RADOS，它的意思是“A reliable, autonomous, distributed object storage”。 RADOS由两个组件组成： OSD： Object Storage Device，提供存储资源。 Monitor：维护整个Ceph集群的全局状态。 RADOS具有很强的扩展性和可编程性，Ceph基于RADOS开发了Object Storage、Block Storage、FileSystem。Ceph另外两个组件是： MDS：用于保存CephFS的元数据。 RADOS Gateway：对外提供REST接口，兼容S3和Swift的API。 3.2 映射 Ceph的命名空间是 (Pool, Object)，每个Object都会映射到一组OSD中(由这组OSD保存这个Object)： (Pool, Object) → (Pool, PG) → OSD set → Disk Ceph中Pools的属性有： Object的副本数 Placement Groups的数量 所使用的CRUSH Ruleset 在Ceph中，Object先映射到PG(Placement Group)，再由PG映射到OSD set。每个Pool有多个PG，每个Object通过计算hash值并取模得到它所对应的PG。PG再映射到一组OSD（OSD的个数由Pool 的副本数决定），第一个OSD是Primary，剩下的都是Replicas。 数据映射(Data Placement)的方式决定了存储系统的性能和扩展性。(Pool, PG) → OSD set 的映射由四个因素决定： CRUSH算法：一种伪随机算法。 OSD MAP：包含当前所有Pool的状态和所有OSD的状态。 CRUSH MAP：包含当前磁盘、服务器、机架的层级结构。 CRUSH Rules：数据映射的策略。这些策略可以灵活的设置object存放的区域。比如可以指定 pool1中所有objecst放置在机架1上，所有objects的第1个副本放置在机架1上的服务器A上，第2个副本分布在机架1上的服务器B上。 pool2中所有的object分布在机架2、3、4上，所有Object的第1个副本分布在机架2的服务器上，第2个副本分布在机架3的服 器上，第3个副本分布在机架4的服务器上。 Client从Monitors中得到CRUSH MAP、OSD MAP、CRUS