预见猿份
主题
首页面试题模拟面试SQL练习在线工具关于我们老苗一对一私教学员评价
实战项目
零基础学习路线项目前置基础创新WMS项目Java微服务框架与实战云岚到家项目闪聚支付项目学成在线项目青橙电商项目JVM原理与实战调优分布式事务专题Java高频面试题MySQL从入门到精通达梦数据库从入门到实战MongoDB从入门到实战PostgreSQL从入门到实战TiDB从入门到实战Java数据结构与算法Java 并发编程(JUC)实战课程老苗一对一私教学员评价
blog我的会员
  • Kafka 分布式消息中间件实战

    • 课程介绍
    • 第一章 初识 Kafka
    • 第二章 Producer 生产者详解
    • 第三章 Consumer 消费者详解
    • 第四章 Topic 主题管理
    • 第五章 Consumer 消费者详解
    • 第六章 Kafka 存储原理
    • 第七章 Kafka 稳定性与可靠性
    • 第八章 Kafka 高级应用
    • 第九章 Kafka 集群与监控
    • 第十章 配套面试专题







----- 到底线了 -----

Kafka从入门到应用 ​

第6章 Kafka存储 ​

tips 学完这一章你可以

  • 在完成Kafka应用开发的基础上,知道文件存储机制
  • Kafka为什么使用磁盘作为存储介质
  • 分析文件存储格式
  • 快速检索消息

6.1 存储结构概述 ​

img_272.png

每一个partion(文件夹)相当于一个巨型文件被平均分配到多个大小相等segment(段)数据文件里。

但每一个段segment file消息数量不一定相等,这样的特性方便old segment file高速被删除。(默认情况下每一个文件大小为1G)

每一个partiton仅仅须要支持顺序读写即可了。segment文件生命周期由服务端配置参数决定。

partiton中segment文件存储结构

segment file组成:由2大部分组成。分别为index file和data file,此2个文件一一相应,成对出现,后缀”.index”和“.log”分别表示为segment索引文件、数据文件.

segment文件命名规则:partion全局的第一个segment从0开始,兴许每一个segment文件名称为上一个segment文件最后一条消息的offset值。

数值最大为64位long大小。19位数字字符长度,没有数字用0填充。

bash
itcast@Server-node:/mnt/d/kafka_2.12-2.2.1$ ll /tmp/kafka/log/heima-0/
total 20480
drwxr-xr-x 1 itcast sudo        512 Aug 29 09:38 ./
drwxrwxrwx 1 dayuan dayuan      512 Aug 29 09:41 ../
-rw-r--r-- 1 itcast sudo   10485760 Aug 29 09:38 00000000000000000000.index
-rw-r--r-- 1 itcast sudo          0 Aug 29 09:38 00000000000000000000.log
-rw-r--r-- 1 itcast sudo   10485756 Aug 29 09:38 00000000000000000000.timeindex
-rw-r--r-- 1 itcast sudo          8 Aug 29 09:38 leader-epoch-checkpoint
itcast@Server-node:/mnt/d/kafka_2.12-2.2.1$
1
2
3
4
5
6
7
8
9
🔒关注公众号,免费阅读全文

请免费关注 预见猿份 公众号,发送:yjoffer.com,获取解锁密码

公众号二维码微信扫码关注

关注公众号回复获取密码后,在下方输入并点击解锁,本机后续再读无需重复输入。

← 第五章 Consumer 消费者详解第七章 Kafka 稳定性与可靠性 →








如果发现文档内容有错误或排版错乱,请及时联系站长老苗修改,不胜感激。联系我们
关于我们 | 隐私政策 | 豫ICP备2026003386号-4 | 豫公网安备41010202004008号
目录

本页无章节