天涯运维的那些事-201104.ppt

王建科用了一个多月的业余时间，写出了天涯的原型。 1999年2月28日12时55分，天涯第一帖。 最初为1台服务器，WEB和DB并存。天涯第一代DIY兼容机，16G SCSI硬盘，PIII 900CPU，512M内存，128K带宽。 * 2004年1月2日，天涯博客试运行。 2004年2月18日，竹影青瞳事件，流量暴涨，服务器负载大。 天涯社区赶超西祠目标。 主要工作目标：数据库性能优化、应用性能优化。 测试过DNS轮询，但因应用服务器性能不平衡，造成配置低的服务器响应时间长。 * 2005年天涯营收目标一千万。 使用Squid，ASP程序加上缓存代码，页面及列表缓存5分钟，应用功能分离（点击、发表、回复等）、增加新的功能（x-forward数组）、IIS的url rewrite软件。 11台WEB，4台squid，6台DB 2005年8月，菜霸通过社交工程，入侵服务器。 chinabbs等社区聚合网站的威胁 * Squid初上线时，命中率达到40-50%，后来经过不断的调优，命中率不断提升，减缓了后端应用和数据库的压力。 某台squid服务器： 客户端HTTP请求：155个/秒 * 域名从原来的转为。 * ALEXA进入200名内。 双链路接入双IP 使用了2台F5-GTM-1500做链路判断。 负载均衡 使用了2台F5-LTM-3400实现负载均衡 动静分离 使用lighttpd来提供静态资源服务。 七层负载均衡 使用haproxy提供七层负载均衡，通过ACL拆分应用。 Haproxy,处在F5之下，对流量进行分流，依据规则将不同的应用分流到不同的应用服务期上处理，如天涯杂谈，将天涯杂谈的流量导入到天涯杂谈缓冲服务器，保证缓存服务器、应用服务器、数据服务器的连贯性，来提高缓冲服务器、数据服务器的运行效率。 * 通过F5 LTM对Haproxy进行负载均衡 作为应用服务器的前端，对后端服务器进行简单的负载均衡。 应用拆分，提高应用效率，提升cache命中率。 * IT视界、贴图专区等。 120多台虚拟机在运行，应用于广告、论坛、博客、无线、游戏、会员等多个产品。节省了三分之二的服务器投入预算，10个机柜的托管成本，以及相关的交换机、布线等投入。 * Varnish为新架构，支持gzip，支持SMP/多核，采用虚拟内存，避免内核开销，减少磁盘瓶颈。在64位系统上支持更好。 varnish-2.0.6 天涯主要采用了页面缓存及内容压缩功能。 * 成果： 1、支持读写分离 2、支持多个读节点同时访问，负载均衡 3、支持数据库访问的failover，避免单点故障 4、支持数据库分库，提高系统的可伸缩性 5、支持资源统一配置，提高系统的可配置型 6、数据库访问分层，提高数据库访问的可复用性 问题： 1、配置复杂，出错时找问题很难 2、socketserver效率不高，健壮性差，流量高时发生堵塞 * 使用c#编写对memcache的操作组件。 * 在设计时尽量考虑数据规模增长后的拆分问题，减少数据表间的紧耦合，可扩展、提升读性能、数据多份安全。 将主帖、回复帖放置于一个字段中，读取时通过标记符判断，在应用层拼装成主回复。 不用session保留用户数据，Cookie(或会话Cookie）仅保留用户标示，用户数据统一保留在数据库中，尽量放置在内存中。 按业务/流量拆分应用 页面级缓存及数据缓存。 URL Rewrite输出友好URL * 压力都集中在WEB端，因此WEB的压力极大，经常发现CPU 100%现象，IIS不断重启以释放内存。 * 架构规划 5 日常维护 10 产品协同 80 故障处理 5 * 计算机系统和网络监控程序，它检测主机和服务，当异常发生和解除时能提醒用户。基于GPLv2开发的开源软件，可免费获得及使用。 Cacti是一套基于PHP,MySQL,SNMP及RRDTool开发的网络流量监测图形分析工具。它通过snmpget来获取数据，使用 RRDtool绘画图形。 Func是由红帽子公司以Fedora平台统一网络控制器 Func（Fedora Unified Network Controller），目的是为了解决这一系列统一管理监控问题而设计开发的系统管理基础框架。 能有效简化多服务器系统管理工作的工具，易学习、易使用、易扩展。 Func分为master及slave两部分，master为主控端，slave为被控端。 Python：可读性，优雅，简单。缩进来定义语句块。面向对象，支持命令行编程和函数式编程等多种编程范式。自动内存管理、垃圾回收功能。处理系统管理和WEB编程。，以及高阶任务。包含很多标准库。 * 目前使用O