徐汉彬_《QQ会员活动运营平台架构实践》PPT原版.pptx

ArchSummit全球架构师峰会深圳站2016QQ会员活动运营平台架构实践徐汉彬个人介绍Hansionxu（徐汉彬）腾讯高级工程师（SNG增值产品部）QQ会员体系合作线技术团队负责人，AMS平台负责人曾就职于阿里巴巴、小满科技内容目录什么是活动？上线周期短功能需求多样节假日聚集推广海量用户访问的挑战QQ会员活动平台，简称AMS，承载QQ增值活动的Web系统满足QQ增值活动业务的发展保证平台在海量用户面前的高可用涵盖业务：QQ、腾讯游戏、个性化、动漫阅读等内容目录Web系统高并发的优化思路提升Web系统的吞吐率降低CGI请求延时提升Web服务单机性能支持快速平行扩容降低CGI延时的方法多级缓存和主动推送主动推送业务层内存Cache层数据存储层超时时间问题平台模块数据项数据备注发货和操作组件数（op）400+　条件规则组件数（rule）300+　回调操作组件数（hook）60+　接入的IDIP游戏款数160+手游和PC游戏AMS涉及的存储20+接入的SRF服务数目80+　超时时间分类设置高频率出现接口耗时过长，Web服务吞吐率大幅度下降因材施教，快慢分离：不同接口设置不同的超时时间（数百个服务接口）CGI延迟优化的成果不含业务组件服务请求耗时，平台基础服务总耗时仅为34.95ms性能：提升Web Server的并发能力AMS平台的Web Server，早期使用Apache2.0 +PHP5.2（prefork）基础服务升级需要兼顾业务场景和投入产出比Web Server基础服务升级选择的方案：Apache2.4.18（Event）+PHP7Apache的Event模式（ 2.4.10，2014年7月21日）PHP7（2015年12月底）需要面对的问题：Apache2.0-Apache2.4PHP5.2-PHP7线程安全数量不少的基础扩展重新编译和升级语法兼容性问题新软件面临的风险性能优化的成果Web Server版本单机QPS（业务查询）备注Apache2.0+PHP5.2(prefork)1013Apache2.4+PHP5.6(event)1529Apache2.4+PHP7(event4规模：快速扩容与缩容自动化：扩容、部署、启动等Web Server扩容的权限审批、扩容功能验证，人工环节比较多，耗时1天多解决权限问题：中转proxy策略权限收归到Proxy Server，内部加密和来源限制Web Server快速扩容方案目前，机器扩容1-2个小时，走完全流程，大幅减少人工依赖虚拟机共享CPULinux Container降低持有机器的成本，尽量避免低负载优先占据1/8CPU资源，不足时可利用其它应用的空闲CPU资源内容目录跨数量级的流量增长日请求百万级日请求千万级日请求过亿级日请求3-8亿AMS1.0PC活动运营快速满足业务需求AMS3.0+高并发、高可用、架构拆分、容灾建设、AMS2.0和AMS2.02业务转型支持全面拥抱移动互联网AMS3.0性能优化、架构升级、业务拆分2012年2013年2014年2015年AMS系统的每日CGI请求快速增长，可用性频繁受到挑战平台架构和容灾能力建设，增强可用性早期AMS面临的可用性挑战可用性挑战问题类型平台架构的调整SOA/微服务（ Uinx哲学：Do one thing and do it well）L5名字服务：去中心化、无状态、平行扩容CKV：分布式KV存储AMS架构调整：增强可用性避免“天灾”导致的可用性问题避免“人祸”导致的可用性问题1个月上线5000+份活动配置，450+活动项目（跟随业务走）新同事异常发布问题1. 负责生活特权、这个活动运营平台，初始开发我今天分享的内容分为主要分为三个部分：介绍QQ增值业务在比较大请求规模下的运营挑战背景关于Web系统高并发的综合优化策略平台的高可用建设既然我们是活动运营平台，那么活动是什么？首先呢，活动的样子，就是大家在PPT上看见的这些。它们有一些特点，而在我们这个主题下最重要的一个特点，就是节假日集中推广。例如五一活动集中推广。然而，大家咋一看，活动好像没啥技术含量，做这个的运营平台很简单嘛。但是，我们看见PPT上的四个确实挺简单的，如果我们在这个数量上加一个量级，同时在线数目达到800多个，CGI日请求3-8亿。系统名字介绍平台需要做到的：满足QQ增值活动业务的发展；保证平台在海量请求下的高可用。涵盖业务，2016春节红包活动，到凌晨。吞吐率，分三个方面降低请求延迟：天下武功，唯快不破！等待的过程其实就是资源被消耗（异步也有）。原本：点后就走，不要停留，异常的话，重复点击。多级缓存，这是个万金油，哪里不舒服摸哪里，通常都不会让我们失望的。超时时间分类设置非核心操作异步化运营系统，活动是首次上线，无Cache