温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

Kafka水位是什么

发布时间:2021-11-22 10:05:53 来源:亿速云 阅读:223 作者:iii 栏目:大数据

这篇文章主要讲解了“Kafka水位是什么”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“Kafka水位是什么”吧!

什么是水位

kafka中用水位来描述,
一个分区中的可见数据的offset。
大概你需要知道这几点:

  1. hw(水位)你可以理解成是一个全局(所有副本最小offset)的offset,
    针对的是一个分区

  2. LEO代表着该副本的所有消息的最大offset,
    针对的是一个副本,也就是每个副本都有LEO,并且不一样。
    其中所有副本中最小的LEO就是水位

Kafka水位是什么  

水位

为什么要水位?

为了保障数据的一致性

Kafka中水位的运作

当 Leader收到一条消息并写入成功,
其LEO则和马上 +1.
副本会定期去和Leader进行同步,
每同步一个消息,其自己的LEO相应+1,
而水位则是所有副本最小的LEO,
所以也会慢慢进行增加。

  • 和ACK的关系
    其实没有必然的关系,
    ACK是用来保证数据不丢失的,
    而 hw 是用来保证客户端消费的一致性的,
    不过当ACK=-1,
    因为会等到数据完全写入到所有副本,
    才能返回成功,
    也就是说所有副本的LEO都 +1,
    其水位必然也会 +1,
    这个时候就可以避免数据丢失了。
    否则则会存在数据丢失的风险

  • 为什么ACK != -1 数据就可能丢失
    比如一个分区,四个副本1,2,3,4:
    1:LEO = 10(Leader)
    2:LEO = 8
    3:LEO = 7
    4:LEO = 6
    此时 hw = 6,
    当1 号Leader挂掉了,
    3号当选了新Leader,
    则所有存活副本首先会将hw之外的所有数据清除,
    然后从Leader同步水位之后的数据
    比如2号副本:
    先清除本身数据7,8,LEO变成6,
    然后去Leader同步6之后的数据,
    哪怕老Leader1号恢复了,6-10号数据还在,
    也需要将宕机时候的hw之后的数据全部清除,
    重新从Leader同步数据

感谢各位的阅读,以上就是“Kafka水位是什么”的内容了,经过本文的学习后,相信大家对Kafka水位是什么这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是亿速云,小编将为大家推送更多相关知识点的文章,欢迎关注!

向AI问一下细节

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

AI