ES在AdMaster社会化 数据分析系统中的.pdf

ES在AdMaster社会化 数据分析系统中的⼤规模实践 AdMaster(精硕科技) 宋兵强 ⾃我介绍 • 百度基础架构部分布式存储组 • 贴吧、⽂库，移动云 — ⺴盘 • 技术、⽤户 — 成功（数百PB ，过万节点，RS coding ，ARM ， ⼤容量、⾼速、稳定） • 商业 — it’s hard to say… • AdMaster 社会化数据系统研发 ⺫录 • 数据 • 系统 • 索引 • 分词 • 查询 • 运维 • 思考 数据 • 2014.9 上线，20+节点 • 2015.7 跨地域迁移 • 接近100节点，千亿级 doc （微博，微信，电商，Buzz ，⼲告DMP） • 复杂查询过百条件 • 典型⽤户 —解决问题、⽀撑业务、不断演化 系统 集群 索引 • 实时， python — http • 历史，hadoop — transport • 批量、并发写⼊ • 时间序列分库，alias • groovy ，upsert • client library — node.js, python, java, raw http • 按需 open index • 并发 Reindex Task System 分词 • ik ，jieba • 识别特殊字符 • ⾃定义词库 • 分词服务 • NLP ，情感判断 查询 • 查询缓存 • filter vs query string • scan ， scroll • Restful API ，DSL Parser 运维 — 1 • heap size ，gc ， 32G？ • max open files • memlock • plugin — bigdesk/kopf/head 运维 — 2 • type problem • max condition num • multicast problem • shard allocate failed • elk — logstash/kibana4 Thinking —— 规模1 • 数百，上千节点扩展 • leadership election • P2P — Master ? Thinking —— 规模2 • Auto Recovery — speed ， discovery • Balance — node/disk/index/mapping • HA — Primary/Multi Secondary • Monitor — 更全，更细 • 资源隔离 — 多租户 • Lucence、Ssd Thinking —— 模型 • OLAP • ⼀致性 • 事务 • 部分取代传统db —》计划迁移 • 分布式数据库？ • 多引擎 Thinking —— ⽣态 • ⾮常易⽤