打造支撑海量用户的高性能server.pdf

打造支撑海量用户的 高性能 server 系列之二 高性能 server 的通信模型 高性能 server 的通信模型 高高性性能能sseerrvveerr的的通通信信模模型型 By @codebox-腾讯 By @codebox-腾讯 BByy @@ccooddeebbooxx--腾腾讯讯 /codebox /codebox hhttttpp::////wweeiibboo..ccoomm//ccooddeebbooxx 引 引 引引 以此系列文章纪念因 QQ 空间、QQ 农场等互联网业务爆炸式增长，而日夜不眠 地为公共组件做架构调整、性能优化的激情岁月。 序 序 序序 以 QQ 农场、好友买卖为代表的 SNS 网页游戏的突然兴起，全国男女老少一起 白黑不分的在电脑面前奋战，鼠标、键盘还有各路外挂汇成的请求像洪水一般涌 来。当流量把机房核心交换机冲得七零八落，当我们把市场上的服务器全部买光 都不够用时，我终于懂了，这就是 TMD 的所谓的海量。 在这个过程中，从 web 层到逻辑层，再到数据层，每一个组件都经过了一次洗 礼，从小男孩成长为真正的男人。 现在我已经投身于云平台的建设了，这个支撑海量用户的高性能 server 系列文 章就想为这段激情燃烧的岁月做个迟到的总结。目前打算从以下几个方面展开 来： 1) 高性能 server 的内存管理。 2) 大并发下的 server 模型选择。 3) 高效定时器的实践。 4) 异步框架的设计与威力。 5) socket 及 OS 优化。 6) 业务应用的架构调整与思考。 这其中大部分是泥腿子办法，土法炼钢思路，不过却的的确确解决了问题，经受 住了考验。 在这儿把这些东东放出来，我按我的想法写，您按您的想法看，然后，然后就没 有了。。。 如何衡量好与坏 如何衡量好与坏 如如何何衡衡量量好好与与坏坏 首先，要做好一件事情，就要知道什么是好与坏。那如何评价一个 server 写得 能最有效地榨干系统资源 能最有效地榨干系统资源 怎么样？我的看法是，能能最最有有效效地地榨榨干干系系统统资资源源。 有效 榨干 � 有效 榨干 两个关键词，有有效效和榨榨干干。 有效表明全在干正事儿，不做无用功；榨干表明充分利用，不浪费。 拿我自己实现的一个 web server 来举例(嘿嘿，我比较得意的一个作品 TencentWebProxy)，在压力测试过程中，表现如下： i. i. ii.. 充分地利用了 CPU，机器共四个核，TencentWebProxy 相应地启动了 四个工作线程，每个线程都完全把系统 CPU 吃尽。每个 CPU 使用都非 常均匀，不管是系统态，用户态，还是软中断。当有更多的 CPU 核心 此为榨干 此为榨干 时，也有通过启动相匹配的线程数，很好的利用多核。此此为为榨榨干干。 ii. ii. iiii.. 按 CPU 各个维度的比例来说，系统态和软中断占了近 90%，说明系统大 部分资源在处理网络服务，只有10%多一点的用在用户态，说明对HTTP 此为有效 此为有效 协议解析等操作的资源消耗控制地比较理想，全在干正事儿。此此为为有有效效。 之所以没有列出 QPS，T