1.XX集团 分布式文件系统技术 培训材料.pptVIP

分布式文件系统测试－性能测试目标及内容 测试类别 测试项目 测试目的 测试指标 基本性能测试 小文件写入 测试单应用小文件写入性能和扩展性 IOPS (Input/Output Operations Per Second)，即每秒进行读写（I/O）操作的次数 测试小文件写入性能在增加多个应用时的扩展性 测试小文件写入性能随系统集群规模变化时的扩展性 小文件读取 测试单应用小文件读取性能和扩展性 测试小文件读取性能在增加多个应用时的扩展性 测试小文件读取性能随系统集群规模变化时的扩展性 大文件写入 测试单应用大文件写入性能和扩展性 吞吐量（throughput）单位时间内成功地传送数据的数量 测试大文件写入性能在增加多个应用时的扩展性 测试大文件写入性能随系统集群规模变化时的扩展性 大文件读取 测试单应用大文件读取性能和扩展性 测试大文件读取性能在增加多个应用时的扩展性 测试大文件读取性能随系统集群规模变化时的扩展性 混合文件读写 测试大小文件混合的读负载性能 吞吐量（throughput）单位时间内成功地传送数据的数量 测试大小文件混合后的写负载 测试大小文件混合读取性能随系统集群规模变化时扩展性 高可用测试 数据节点停机 考察数据节点出故障时的系统可用性 可用性 考察数据节点出故障时的系统可用性 数据节点换磁盘 考察磁盘出故障时系统可用性 元数据节点停机 考察元数据管理节点出故障时的系统可用性 分布式文件系统测试工具准备 监控工具 测试工具 Ganglia：Ganglia是UC Berkeley发起的一个开源集群监视项目。 厂商：无，开源软件 版本： 3.4.0 成熟度：中 Nmon：分析 AIX 和 Linux 性能的工具，实时显示所有重要的性能优化信息。 厂商：无，开源软件 版本： 10.0 成熟度：高 rrdtool：是一个强大的绘图的引擎,Ganglia和Nmon都可以调用rrdtool绘图。 厂商：无，开源软件 版本： 1.3.8 成熟度：中 测试脚本： 通过POSIX接口，采用linux cp命令、hadoop的get/put方法、Swift upload/download方法，编写测试程序，通过ssh分发到多客户端，进行多线程进行测试。 IOZone：是一个文件系统的测试工具，不同的操作系统中文件系统的读写性能。 厂商：无，开源软件 版本： 9.5 成熟度：高 Loadrunner： 是一种预测系统行为和性能的负载测试工具。 厂商：惠普 版本： 9.5 成熟度：高 测试验证环境的物理部署 10个节点 1个节点作为应用客户端节点，部署测试应用系统。 剩余节点作为分布式集群节点，部署分布式服务环境。 服务器机柜内10Gbps以太网互联服务器机柜间1Gbps (最好也是10Gbps) 每个节点8个SATA3（6G带宽）HDD硬盘 最好能用支持Sandy Bridge技术的CPU注： Sandy Bridge最主要特点则是加入了game instrution AVX(Advanced Vectors Extensions)技术，也就是之前的VSSE。intel宣称，使用AVX技术进行矩阵计算的时候将比SSE技术快90%。Xeon E3 E5 都是支持Sandy Bridge技术的CPU 在每个节点上至少16GB内存 NIC0 NIC1 NIC0 NIC1 NIC0 NIC1 NIC0 NIC1 NIC0 NIC1 NIC0 NIC1 NIC0 NIC1 NIC0 NIC1 Switch 0 Switch 0 * * 部署档案测试应用 部署分布式表框架和分布式文件框架 云存储框架测试设计－分布式文件系统参数整理 Hadoop 233个主要配置参数 SWIFT 近160个配置参数 核心参数配置core-site.xml 59个参数 分布式文件系统配置hdfs-site.xml 53个参数 MR配置 mapred-site.xml 121个参数 对象服务器的配置object-server.conf43个参数 容器服务器的配置container-server.conf34个参数 账户服务器的配置 account-server.conf31个参数 代理服务器的配置 proxy-server.conf 41个参数 GPFS 近500个配置参数 mmfs.cfg, 通过命令配置 云存储框架测试设计－biginsights测试参数说明 参数选项 位置 描述 选取理由 测试选取值 相关性 BlockSize mmfs.cfg 基础切片大小 文件大小受到块大小影响 16K~8M 文件相关 block-group-factor mmfs.cfg 若干基础切片组成的逻辑切片 文件大小受到块大小影响 1~64K