我们对X2的一点改进.docxVIP

我们对Postgres-X2的一点改进

余鹏

杭州沃趣网络科技有限公司

1

概要

?背景介绍?已知问题?问题解决?TBD

?QA

3

PGX2

?基于postgres，postgres协议（类BSD，商业友好），兼容pgsqlAPI

?分布式并行：数据水平分片，shared-nothing架构，支持水平扩展

?面向OLTP

4

PGX2

Gtm

coordinatordatanodecoordinatorcoordin

coordinator

datanode

coordinator

coordinator

datanode

datanode

coordinator

datanode

5

角色与职能

?Gtm:全局事务管理,提供全局事务的服务

?Coordinator:存储全局的元数据，接受用户

请求，负责生成并执行全局查询计划（全局查询计划由若干局部查询计划组成，执行时将局部查询计划分发给datanode）

?Datanode：存储本地的元数据，接受并执

行coordinator的局部查询计划（局部查询计划也是SQL）

问题

?可扩展性问题：更多的机器，无法获得更高的TPS（pgbench）

?性能：单个机器上TPS只有原版PG的60%，如何进一步提高？

?稳定性:gtm,gtmproxy,datanodecoordinator????

处理流程

7

8

Gtm瓶颈

?在一条SQL的处理过程中，需要多次遍历链表（复杂

度O(N),当前系统中正在处理的事务

越多，N越大）

解决gtm瓶颈

?使用二叉平衡树AVL来替代链表，将复

杂度降低到O(log(N))(issue315)

?AVL会引入建立、维护平衡树的代价。在N很小的情况下，效率会低于原有使用

链表的情况，但是一旦N足够大，效率会远远超过使用链表的情况。

9

10

AVL优化效果

?测试方法：

–在一台物理机上部署：gtmcoordinatordatanode各一个模拟一个网络带宽不受限的环境），生成16G的物理数据，分别使用优化前后的GTM

–执行：pgbench-cN-jN-T60，N是连接数，每个事务执行5条SQL，每条SQL是一个子事务，一共

执行60秒。每次执行之前先执行checkpoint，以减少checkpoint的影响。（确保测试期间没有发

生checkpoint）。逐渐增大N（3264128256512768），获取TPS。

11

AVL优化效果

?GTM优化前后的TPS对比

AVL优化效果

?随着N的增大：

–原有版本的磁盘使用率从60%降低到了20%

–优化之后的磁盘使用率一直维持在60%左右

提高单节点效率

?减少gtm与coordinator交互

–在词法语法分析时，使用上次的快照作为元数据MVCC验证的快照，减少一次快照请

求（issue319）。

–合并获得事务ID与获取快照的请求（TBD）

提高gtmproxy通信效率

?Gtmproxy

–用作coordinator、datanode与gtm之间通信的代理，节约网络带宽

–Gtmproxy一般与datanodecoordinator部署在同一台物理机上

–使用unixdomainsocket提高通信效率（issue310)

稳定性

?Gtm/gtmproxy超过1024线程退出（issue317）

?Coordinator中pooler进程的连接数超过系统限制会退出，从而导致coordinator退出

?Coordinator/datanode使用高版本编译器编译出来的版本，运行一段时间后会拒

绝服务（issue273issue72)

?

…….

TBD

?扩展能力：网络瓶颈

?绑定变量执行效率提升

?集成9.6

QA