一种可扩展大型E-MAIL服务系统研究与实现.doc

一种可扩展大型E-MAIL服务系统的研究与实现 陈明宇 李国杰 赵延波 张晓霞 （中国科学院计算技术研究所 北京 100080） 摘 要 大型e-mail服务系统的用户规模已经开始向千万级发展，从而对系统的可扩展性、可用性和可管理性都提出了新的挑战。本文提出了一种基于机群和分布式存储的层次型大型e-mail服务器系统结构。这种结构通过三级负载平衡机制实现了请求的均匀分配，并通过对各功能单元进行并行化较好地解决了系统扩展中的瓶颈问题，提高了系统的可用性。文中还介绍了这种结构在曙光2000-II超级服务器上的实现——FreeMail及性能测试。实验表明这种系统结构具有良好的性能和可扩展性。 关键词 e-mail，大型系统，机群，可扩展性，分布式存储，负载平衡 STUDY AND IMPLEMENTATION OF A SCALABLE LARGE-SCALE E-MAIL SERVER SYSTEM CHEN Ming-Yu, LI Guo-Jie, ZHAO Yan-Bo, ZHANG Xiao-Xia （Institute of Computing Technology, Chinese Academy of Sciences, Beijing 100080） Abstract The user capacity in a large-scale e-mail server system is going up to the level of ten million, challenging the system scalability, availability and manageability. In this article, a hierarchical large-scale e-mail server architecture based on cluster and distributed storage is presented. This architecture can distribute incoming requests evenly through a three-level load balancing mechanism, and can solve the bottleneck problem when scale up through the parallelization of each functional unit. Finally, the implementation of this architecture on the Dawning 2000-II super server – FreeMail and the performance test are introduced. Test result shows this system has high throughput and scalability. Key words e-mail, large-scale, cluster, scalability, distributed storage, load balance 1 引 言 近年来随着Internet用户量的飞速增长，提供个人邮件服务的大型ISP/ICP已经需要同时支持几十万到上百万数量级的e-mail用户，并且用户量还有进一步向千万级增长的趋势。目前大型e-mail服务系统多采用机群系统+共享存储设备的方式来实现。早期的系统多基于NFS/NIS[3][4], 现在已经发展到了使用SAN、NAS等专用大容量共享存储设备[13]。但是这种集中式存储系统的固有缺点是系统的扩展性、性能和可靠性完全依赖于一个或几个专用设备上，而这些专用设备成本较高，并且其本身也很容易成为系统的瓶颈或单一故障点。于是人们开始研究利用分布式存储技术实现更大规模的可扩展、高可用e-mail服务系统。 实现分布式存储大型e-mail系统的关键问题是如何实现邮箱的合理分布和大量用户同时访问时的负载平衡。美国Washington大学研制的Porcupine系统[1]采用了一种基于动态邮箱迁移的完全对称式的结构。Porcupine强调每个节点都能服务所有的用户，因而涉及到大量内部节点通信和状态信息的维护，使系统实现起来非常复杂，而且没有很好的解决负载平衡问题。 本文提出并实现了一种层次型分布式存储大型E-mail服务系统的结构。这种结构中不同层次的节点完成不同的功能。通过基于三级单一登录点的负载平衡机制，保证了邮件请求到达的均匀性；通过集中的索引服务器实现用户邮箱的合理分布。此外所有的功能节点都可以针对其功能特点进行优化，并可通过简单扩展提高处理能力从而避免成为整个系统升级的