kafka文件系统设计.pdf

kafka⽂件系统设计 李志涛 lizhitao@ 平台业务部移动后台组 Kafka简要说明 topic 中partition存储分布 partiton⽂件存储⽅式 partiton 中segment⽂件存储结构 如何在partition中快速定位segment file 如何在partition查找msg chunk 实际效果 Kafka简要说明 关键特⾊ Producer 1 Producer 2 • 可伸缩架构 • ⾼吞吐量 • consumer ⾃动负载均衡 • ⽀持集群多副本 Broker 1 Broker 2 Broker 3 Broker 4 topic1/part-0 topic1/part-1 topic1/part-2 topic1/part-3 /part-4 /part-5 /part-6 /part-7 push-group Consumer 2 Consumer 3 Zookeeper topic 中partition存储分布 topic名称为:report_push report_push-0 report_push-1 report_push report_push-2 report_push-3 • 在kafka⽂件系统中，同⼀个topic下有多个不同partition ，每个partition创建⼀个⺫录。 partiton⽂件存储⽅式 partition 100GB 1 501 1001 1501 分块存储 或更⼤ segment segment segment file-0 file-1 file-2 ……… 500MB 500MB 500MB 上⾯数字表⽰记录条数 下⾯表⽰⽂件⼤⼩ • 每个partion( ⺫录)相当于⼀个巨型⽂件被平均分配到多个⼤⼩相等的多个segment(段)⽂件 中。但每个段segment file消息数量不⼀定相等，这种特性⽅便old segment file快速被 删除。
 • 每个partiton只需要⽀持顺序读写就⾏了，segment⽂件⽣命周期由服务端配置参数决定。 • ⼩结： 主要⺫的就是提⾼磁盘利⽤率和消息处理性能。 partiton中segment⽂件存储结构 下⾯介绍⼀下partion⽂件存储中segment file组成 结构。⼀个商业化消息队列的性能好坏，其⽂件系 统存储结构设计是衡量⼀个消息队列服务程序最关 键指标之⼀，他也是消息队列中最核⼼且最能体现 消息队列技术⽔平的部分。在本节中我们将⾛进 segment