高并发高流量网站架构..doc

高并发高流量网站架构 作者：ITPUB论坛??? 1：互联网的发展?2：镜像网站技术?3：应用层分布式设计?4：服务器优化?5：应用程序层优化?6：数据库选择?7：扩容、容错处理?????Web2.0的兴起，掀起了互联网新一轮的网络创业大潮。以用户为导向的新网站建设概念，细分了网站功能和用户群，不仅成功的造就了一大批新生的网站，也极大的方便了上网的人们。但Web2.0以用户为导向的理念，使得新生的网站有了新的特点——高并发，高流量，数据量大，逻辑复杂等，对网站建设也提出了新的要求。?????本文围绕高并发高流量的网站架构设计问题，主要研究讨论了以下内容：?????首先在整个网络的高度讨论了使用镜像网站，CDN内容分发网络等技术对负载均衡带来的便利及各自的优缺点比较。然后在局域网层次对第四层交换技术，包括硬件解决方案F5和软件解决方案LVS，进行了简单的讨论。接下来在单服务器层次，本文着重讨论了单台服务器的Socket优化，硬盘级缓存技术，内存级缓存技术，CPU与IO平衡技术（即以运算为主的程序与以数据读写为主的程序搭配部署），读写分离技术等。在应用层，本文介绍了一些大型网站常用的技术，以及选择使用该技术的理由。最后，在架构的高度讨论了网站扩容，容错等问题。?????本文以理论与实践相结合的形式，结合作者实际工作中得到的经验，具有较广泛的适用性。?????1?引言?????1.1?互联网的发展?????最近十年间，互联网已经从一个单纯的用于科研的，用来传递静态文档的美国内部网络，发展成了一个应用于各行各业的，传送着海量多媒体及动态信息的全球网络。从规模上看，互联网在主机数、带宽、上网人数等方面几乎一直保持着指数增长的趋势，2006年7月，互联网上共有主机439，286，364台，WWW?站点数量达到?96，854，877个?［1］。全球上网人口在2004?年达到?7?亿?2900万?［2］，中国的上网人数在?2006?年?12?月达到了约?1亿3700?万［3］。另一方面，互联网所传递的内容也发生了巨大的变化，早期互联网以静态、文本的公共信息为主要内容，而目前的互联网则传递着大量的动态、多媒体及人性化的信息，人们不仅可以通过?互联网阅读到动态生成的信息，而且可以通过它使用电子商务、即时通信、网上游戏等交互性很强的服务。因此，可以说互联网已经不再仅仅是一个信息共享网络，而已经成为了一个无所不在的交互式服务的平台。?????1.2?互联网网站建设的新趋势?????互联网不断扩大的规模，日益增长的用户群，以及web2.0［4］的兴起，对互联网网站建设提出了新的要求:?????高性能和高可扩展性。2000?年?5?月，访问量排名世界第一（统计数据来源［5］）的Yahoo?［6］声称其日页浏览数达到?6?亿?2500?万，即每秒约?30，000?次HTTP?请求(按每个页面浏览平均产生?4?次请求计算)?。这样大规模的访问量对服务的性能提出了非常高的要求。更为重要的是，?互联网受众的广泛性，使得成功的互联网服务的访问量增长潜力和速度非常大，因此服务系统必须具有非常好的可扩展性，以应付将来可能的服务增长。?????支持高度并发的访问。高度并发的访问对服务的存储与并发能力提出了很高的要求，当前主流的超标量和超流水线处理器能处理的并发请求数是有限的，因为随着并发数的上升，进程调度的开销会很快上升。互联网广域网的本质决定了其访问的延迟时间较长，因此一个请求完成时间也较长，按从请求产生到页面下载完成?3?秒计算，?Yahoo?在?2000?年?5?月时平均有?90，000?个并发请求。而且对于较复杂的服务，服务器往往要维护用户会话的信息，例如一个互联网网站如果每天有?100?万次用户会话，每次?20分钟的话，那平均同时就会有约?14000?个并发会话。?????高可用性。互联网服务的全球性决定了其每天?24?小时都会有用户访问，因此任何服务的停止都会对用户造成影响。而对于电子商务等应用，暂时的服务中止则意味着客户的永久失去及大量的经济损失，例如［7］1999?年?6?月的一次?22小时的网站不可访问，对此网站的?380万用户的忠诚度造成巨大影响，使得?Ebay?公司不得不支付了近500万美元用于补偿客户的损失，而该公司的市值同期下降了?40?亿美元［8］。因此，关键互联网应用的可用性要求非常高。?????1.3?新浪播客的简介?????以YouTube［9］为代表的微视频分享网站近来方兴未艾，仅2006年一年，国内就出现近百家仿YouTube的微视频分享网站［10］，试图复制YouTube的成功模式。此类网站可以说是Web2.0概念下的代表网站，具有Web2.0网站所有典型特征：高并发，高流量，