一种新型分布式元数据管理策略.PDFVIP

2016 年 第 25 卷 第 9 期 计 算 机 系 统 应 用 ① 一种新型分布式元数据管理策略 1,2 1,2 1 1,2 王丽淑 , 张鸿骏 , 芮建武 , 杨 骁 1( 中国科学院软件研究所 基础软件国家工程研究中心, 北京 100190) 2( 中国科学院大学, 北京 100190) 摘 要: 高效、可扩展的元数据管理系统是提高分布式存储系统整体性能的关键. 传统的元数据分配策略会导致 元数据负载不均衡, 以及在多进程资源抢占的情况下, 会存在响应处理用户请求效率不高, 存储文件数目受限等 问题. 上述问题在高并发、低延迟的数据存储需求中尤为突出. 提出了一个基于一致性 Hash 与目录树的元数据 管理策略, 并实现了相应的分布式元数据管理系统: 利用负载均衡算法, 对元数据进行迁移, 保证了粗粒度负载 信息收集, 细粒度调整的均衡策略. 多项实验的结果表明, 该策略能实现元数据负载均衡, 降低用户请求处理延 迟, 提高分布式系统的可扩展性和可用性. 关键词: 元数据; HDFS; Hash; 目录树; 负载均衡 New Distributed Metadata Management Strategy 1,2 1,2 1 1,2 WANG Li-Shu , ZHANG Hong-Jun , RUI Jian-Wu , YANG Xiao 1(National Engineering Research Center of Fundamental Software, Institute of Software, CAS, Beijing 100190, China) 2(University of Chinese Academy of Sciences, Beijing 100190, China) Abstract: Efficient and scalable metadata management system is the key to improve the overall performance of distributed storage systems. Traditional metadata allocation strategies result in load imbalance of metadata, and in the case of multi-process resource preemption, there exists low efficiency in response to user requests, limitation on the number of files stored and etc. The system cannot meet the demands of high-concurrency, low-latency. To solve these problems, a distributed metadata management system based on consistent hash and directory tree, is presented in this paper. It introduces a load balance algorithm for metadata migration which has low cost and fine granularity. Experiments show that this system can achieve the load balance of metadata, obtain low respond latency a