当前位置: 首页>后端>正文

kafka broker

环境【docker】

kafka broker,第1张

Kafka Broker 工作流程

Zookeeper 存储的 Kafka 信息

zookeeper查看broker数据

#进入zookeeper容器
docker exec -it zookeeper-server /bin/bash
#进入zookeeper目录
cd /opt/bitnami/zookeeper/
#启动 zookeeper客户端
bin/zkCLi.sh
# 通过 ls 命令可以查看 kafka 相关信息,集群的话应该是有kafka的目录
ls /
#显示如下:[admin, brokers, cluster, config, consumers, controller, controller_epoch, feature, isr_change_notification, latest_producer_id_block, log_dir_event_notification, zookeeper]

ls /brokers
#[ids, seqid, topics] topics:存储的就是kafka中topic信息,ids:存储的kafka的broker.id
ls /brokers/topics
#[__consumer_offsets, __delay-hours-1, __delay-hours-2, __delay-minutes-1, __delay-minutes-10, __delay-minutes-2, __delay-minutes-20, __delay-minutes-3, __delay-minutes-30, __delay-minutes-4, __delay-minutes-5, __delay-minutes-6, __delay-minutes-7, __delay-minutes-8, __delay-minutes-9, __delay-seconds-1, __delay-seconds-10, __delay-seconds-30, __delay-seconds-5, delay-message, test]
kafka broker,第2张

Kafka Broker 总体工作流程

kafka broker,第3张

现有三台kafka集群,对应一台zookeeper。

  1. 当kafka启动后,连接zk,并进行注册,然后在zk中选举controller(谁先注册的谁说了算),选举出来的controller监听brokers节点的变化。
  2. 选举出来的controller决定leader的选举(在isr中存活,在AR排在前面的优先),并将自己节点的信息上传到zk,其他的controller从zk中同步信息
  3. 如果leader挂了,选举的controller监听到broker的变化后,去zk中获取最新的isr,此时只有了[0,2],那ar中按序就会选择0号节点为leader,再次执行2的流程

1)模拟 Kafka 上下线,Zookeeper 中数据变化

(1)查看/kafka/brokers/ids 路径上的节点。

[zk: localhost:2181(CONNECTED) 0] ls /kafka/brokers/ids
[0, 1, 2]

(2)查看/kafka/controller 路径上的数据。

[zk: localhost:2181(CONNECTED) 1] get /kafka/controller
{"version":1,"brokerid":0,"timestamp":"1651284220928"}

(3)查看/kafka/brokers/topics/test/partitions/0/state 路径上的数据。

[zk: localhost:2181(CONNECTED) 3] get /kafka/brokers/topics/test/partitions/0/state 
{"controller_epoch":1,"leader":0,"version":1,"leader_epoch":0,"isr":[0,2,1]}

(4)停止 hadoop104 上的 kafka。

[atguigu@hadoop104 kafka]$ ./bin/kafka-server-stop.sh 

(5)再次查看/kafka/brokers/ids 路径上的节点。

[zk: localhost:2181(CONNECTED) 6] ls /kafka/brokers/ids 
[0, 1]

(6)再次查看/kafka/controller 路径上的数据。

[zk: localhost:2181(CONNECTED) 7] get /kafka/controller
{"version":1,"brokerid":0,"timestamp":"1651284220928"}

(7)再次查看/kafka/brokers/topics/test/partitions/0/state 路径上的数据。

[zk: localhost:2181(CONNECTED) 8] get /kafka/brokers/topics/test/partitions/0/state
{"controller_epoch":1,"leader":0,"version":1,"leader_epoch":1,"isr":[0,1]}

(8)启动 hadoop104 上的 kafka。

[atguigu@hadoop104 kafka]$ ./bin/kafka-server-start.sh -daemon ./config/server.properties 

(9)再次观察(1)、(2)、(3)步骤中的内容。

Broker 重要参数

参数名称 描述
replica.lag.time.max.ms ISR 中,如果 Follower 长时间未向 Leader 发送通 信请求或同步数据,则该 Follower 将被踢出 ISR。 该时间阈值,默认 30s。
auto.leader.rebalance.enable 默认是 true。 自动 Leader Partition 平衡。
leader.imbalance.per.broker.percentage 默认是 10%。每个 broker 允许的不平衡的 leader 的比率。如果每个 broker 超过了这个值,控制器 会触发 leader 的平衡。
leader.imbalance.check.interval.seconds 默认值 300 秒。检查 leader 负载是否平衡的间隔时 间。
log.segment.bytes Kafka 中 log 日志是分成一块块存储的,此配置是 指 log 日志划分 成块的大小,默认值 1G。
log.index.interval.bytes 默认 4kb,kafka 里面每当写入了 4kb 大小的日志 (.log),然后就往 index 文件里面记录一个索引。
log.retention.hours Kafka 中数据保存的时间,默认 7 天。
log.retention.minutes Kafka 中数据保存的时间,分钟级别,默认关闭。
log.retention.ms Kafka 中数据保存的时间,毫秒级别,默认关闭。
log.retention.check.interval.ms 检查数据是否保存超时的间隔,默认是 5 分钟。
log.retention.bytes 默认等于-1,表示无穷大。超过设置的所有日志总 大小,删除最早的 segment。
log.cleanup.policy 默认是 delete,表示所有数据启用删除策略; 如果设置值为 compact,表示所有数据启用压缩策略。
num.io.threads 默认是 8。负责写磁盘的线程数。整个参数值要占 总核数的 50%。
num.replica.fetchers 副本拉取线程数,这个参数占总核数的 50%的 1/3
num.network.threads 默认是 3。数据传输线程数,这个参数占总核数的 50%的 2/3 。
log.flush.interval.messages 强制页缓存刷写到磁盘的条数,默认是 long 的最 大值,9223372036854775807。一般不建议修改, 交给系统自己管理。
log.flush.interval.ms 每隔多久,刷数据到磁盘,默认是 null。一般不建 议修改,交给系统自己管理。

生产经验

1.节点服役和退役

1.1服役新节点
  • 准备新节点
    (1)关闭 hadoop104,并右键执行克隆操作(生产环境需要安装)。
    (2)开启 hadoop105,并修改 IP 地址。
    (3)在 hadoop105 上,修改主机名称为 hadoop105。
    (4)重新启动 hadoop104、hadoop105。
    (5)修改 haodoop105 中 kafka 的 broker.id 为 3。
    (6)删除 hadoop105 中 kafka 下的 datas 和 logs。(存储了kafka集群里面104的标识,不删除会导致105上线,104下线)
    (7)启动 hadoop102、hadoop103、hadoop104 上的 kafka 集群。
[atguigu@hadoop102 scripts]$ sh zk.sh start
------------- zookeeper hadoop102 启动 ------------
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.8.0/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
------------- zookeeper hadoop103 启动 ------------
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.8.0/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
------------- zookeeper hadoop104 启动 ------------
/usr/bin/java
ZooKeeper JMX enabled by default
Using config: /opt/module/zookeeper-3.8.0/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED
[atguigu@hadoop102 scripts]$ sh kf.sh start
 --------启动 hadoop102 Kafka-------
 --------启动 hadoop103 Kafka-------
 --------启动 hadoop104 Kafka-------

(8)单独启动 hadoop105 中的 kafka。

./bin/kafka-server-start.sh -daemon ./config/server.properties

现在只是启动新增了105,但是在原来的主题下还是没有105节点的broker.id,这就需要类似负载均衡的操作,把105加进去

  • 执行负载均衡操作
    (1)随便创建一个json文件,加入一个要均衡的主题。
[atguigu@hadoop102 scripts]$ vim topics-to-move.json
{
  "topics": [
    { "topic": "test"},#多个在此处复制格式
  ],
  "version": 1
}

(2)生成一个负载均衡的计划。

[atguigu@hadoop102 kafka]$ ./bin/kafka-reassign-partitions.sh --bootstrap-server hadoop102:9092 --topics-to-move-json-file topics-to-move.json --broker-list "0,1,2,3" --generate
Current partition replica assignment
{"version":1,"partitions":[{"topic":"test","partition":0,"replicas":[0,2,1],"log_dirs":["any","any","any"]},{"topic":"test","partition":1,"replicas":[1,2,0],"log_dirs":["any","any","any"]},{"topic":"test","partition":2,"replicas":[2,0,1],"log_dirs":["any","any","any"]}]}

Proposed partition reassignment configuration
{"version":1,"partitions":[{"topic":"test","partition":0,"replicas":[0,1,2],"log_dirs":["any","any","any"]},{"topic":"test","partition":1,"replicas":[1,2,3],"log_dirs":["any","any","any"]},{"topic":"test","partition":2,"replicas":[2,3,0],"log_dirs":["any","any","any"]}]}

(3)创建副本存储计划(所有副本存储在 broker0、broker1、broker2、broker3 中)。

[atguigu@hadoop102 kafka]$ vim increase-replication-factor.json
{
  "version": 1,
  "partitions": [
    {
      "topic": "test",
      "partition": 0,
      "replicas": [
        2,
        3,
        0
      ],
      "log_dirs": [
        "any",
        "any",
        "any"
      ]
    },
    {
      "topic": "test",
      "partition": 1,
      "replicas": [
        3,
        0,
        1
      ],
      "log_dirs": [
        "any",
        "any",
        "any"
      ]
    },
    {
      "topic": "test",
      "partition": 2,
      "replicas": [
        0,
        1,
        2
      ],
      "log_dirs": [
        "any",
        "any",
        "any"
      ]
    }
  ]
}

(4)执行副本存储计划。

[atguigu@hadoop102 kafka]$ ./bin/kafka-reassign-partitions.sh --bootstrap-server hadoop102:9092 --reassignment-json-file increase-replication-factor.json --execute

Current partition replica assignment
{"version":1,"partitions":[{"topic":"test","partition":0,"replicas":[0,2,1],"log_dirs":["any","any","any"]},{"topic":"test","partition":1,"replicas":[1,2,0],"log_dirs":["any","any","any"]},{"topic":"test","partition":2,"replicas":[2,0,1],"log_dirs":["any","any","any"]}]}
Save this to use as the --reassignment-json-file option during rollback
Successfully started partition reassignments for test-0,test-1,test-2

(5)验证副本存储计划。

[atguigu@hadoop102 kafka]$ ./bin/kafka-reassign-partitions.sh --bootstrap-server hadoop102:9092 --reassignment-json-file increase-replication-factor.json --verify

Status of partition reassignment:
Reassignment of partition test-0 is complete.
Reassignment of partition test-1 is complete.
Reassignment of partition test-2 is complete.

Clearing broker-level throttles on brokers 0,1,2,3
Clearing topic-level throttles on topic test
1.2退役旧节点

1)执行负载均衡操作

先按照退役一台节点,生成执行计划,然后按照服役时操作流程执行负载均衡。
(1)创建一个要均衡的主题。

[atguigu@hadoop102 kafka]$ vim topics-to-move.json
{
  "topics": [
    {
      "topic": "test"
    }
  ],
  "version": 1
}

(2)创建执行计划。(0,1,2:去掉3【hadoop105】)

[atguigu@hadoop102 kafka]$ ./bin/kafka-reassign-partitions.sh --bootstrap-server hadoop102:9092 --topics-to-move-json-file topics-to-move.json --broker-list "0,1,2" --generate
Current partition replica assignment
{"version":1,"partitions":[{"topic":"test","partition":0,"replicas":[2,3,0],"log_dirs":["any","any","any"]},{"topic":"test","partition":1,"replicas":[3,0,1],"log_dirs":["any","any","any"]},{"topic":"test","partition":2,"replicas":[0,1,2],"log_dirs":["any","any","any"]}]}

Proposed partition reassignment configuration
{"version":1,"partitions":[{"topic":"test","partition":0,"replicas":[1,0,2],"log_dirs":["any","any","any"]},{"topic":"test","partition":1,"replicas":[2,1,0],"log_dirs":["any","any","any"]},{"topic":"test","partition":2,"replicas":[0,2,1],"log_dirs":["any","any","any"]}]}

(3)创建副本存储计划(所有副本存储在 broker0、broker1、broker2 中)。

[atguigu@hadoop102 kafka]$ vim increase-replication-factor.json
{
  "version": 1,
  "partitions": [
    {
      "topic": "test",
      "partition": 0,
      "replicas": [
        2,
        0,
        1
      ],
      "log_dirs": [
        "any",
        "any",
        "any"
      ]
    },
    {
      "topic": "test",
      "partition": 1,
      "replicas": [
        0,
        1,
        2
      ],
      "log_dirs": [
        "any",
        "any",
        "any"
      ]
    },
    {
      "topic": "test",
      "partition": 2,
      "replicas": [
        1,
        2,
        0
      ],
      "log_dirs": [
        "any",
        "any",
        "any"
      ]
    }
  ]
}

(4)执行副本存储计划。

[atguigu@hadoop102 kafka]$ ./bin/kafka-reassign-partitions.sh --bootstrap-server hadoop102:9092 --reassignment-json-file increase-replication-factor.json --execute
Current partition replica assignment

{"version":1,"partitions":[{"topic":"test","partition":0,"replicas":[2,3,0],"log_dirs":["any","any","any"]},{"topic":"test","partition":1,"replicas":[3,0,1],"log_dirs":["any","any","any"]},{"topic":"test","partition":2,"replicas":[0,1,2],"log_dirs":["any","any","any"]}]}

Save this to use as the --reassignment-json-file option during rollback
Successfully started partition reassignments for test-0,test-1,test-2

(5)验证副本存储计划。

[atguigu@hadoop102 kafka]$ ./bin/kafka-reassign-partitions.sh --bootstrap-server hadoop102:9092 --reassignment-json-file increase-replication-factor.json --verify
Status of partition reassignment:
Reassignment of partition test-0 is complete.
Reassignment of partition test-1 is complete.
Reassignment of partition test-2 is complete.

Clearing broker-level throttles on brokers 0,1,2,3
Clearing topic-level throttles on topic test

2)执行停止命令

在 hadoop105 上执行停止命令即可。

[atguigu@hadoop105 kafka]$ ./bin/kafka-server-stop.sh 

Kafka 副本

副本基本信息

(1)Kafka 副本作用:提高数据可靠性。
(2)Kafka 默认副本 1 个,生产环境一般配置为 2 个,保证数据可靠性;太多副本会增加磁盘存储空间,增加网络上数据传输,降低效率。
(3)Kafka 中副本分为:Leader 和 Follower。Kafka 生产者只会把数据发往 Leader, 然后 Follower 找 Leader 进行同步数据。
(4)Kafka 分区中的所有副本统称为 AR(Assigned Repllicas)。
AR = ISR + OSR
ISR,表示和 Leader 保持同步的 Follower 集合。如果 Follower 长时间未向 Leader 发送通信请求或同步数据,则该 Follower 将被踢出 ISR。该时间阈值由 replica.lag.time.max.ms 参数设定,默认 30s。Leader 发生故障之后,就会从 ISR 中选举新的 Leader。
进入OSR,表示 Follower 与 Leader 副本同步时,延迟过多的副本。

Leader 选举流程

Kafka 集群中有一个 broker 的 Controller 会被选举为 Controller Leader,负责管理集群 broker 的上下线,所有 topic 的分区副本分配和 Leader 选举等工作。
Controller 的信息同步工作是依赖于 Zookeeper 的


kafka broker,第4张

实现:
(1)创建一个新的 topic,4 个分区,4 个副本

[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --create --topic atguigu1 --partitions 4 --replication-factor 4

(2)查看 Leader 分布情况

[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server  hadoop102:9092 --topic atguigu1 --describe
Topic: atguigu1 TopicId: PCrTbLnGQkOTvPo1fl5cxA PartitionCount: 4   ReplicationFactor: 4    Configs: segment.bytes=1073741824
    Topic: atguigu1 Partition: 0    Leader: 2   Replicas: 2,3,1,0   Isr: 2,3,1,0
    Topic: atguigu1 Partition: 1    Leader: 3   Replicas: 3,1,0,2   Isr: 3,1,0,2
    Topic: atguigu1 Partition: 2    Leader: 1   Replicas: 1,0,2,3   Isr: 1,0,2,3
    Topic: atguigu1 Partition: 3    Leader: 0   Replicas: 0,2,3,1   Isr: 0,2,3,1

(3)停止掉 hadoop105 的 kafka 进程,并查看 Leader 分区情况

[atguigu@hadoop105 kafka]$ ./bin/kafka-server-stop.sh 
[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server  hadoop102:9092 --topic atguigu1 --describe
Topic: atguigu1 TopicId: PCrTbLnGQkOTvPo1fl5cxA PartitionCount: 4   ReplicationFactor: 4    Configs: segment.bytes=1073741824
    Topic: atguigu1 Partition: 0    Leader: 2   Replicas: 2,3,1,0   Isr: 2,1,0
    Topic: atguigu1 Partition: 1    Leader: 1   Replicas: 3,1,0,2   Isr: 1,0,2
    Topic: atguigu1 Partition: 2    Leader: 1   Replicas: 1,0,2,3   Isr: 1,0,2
    Topic: atguigu1 Partition: 3    Leader: 0   Replicas: 0,2,3,1   Isr: 0,2,1

(4)停止掉 hadoop104 的 kafka 进程,并查看 Leader 分区情况

[atguigu@hadoop104 kafka]$ ./bin/kafka-server-stop.sh 
[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server  hadoop102:9092 --topic atguigu1 --describe
Topic: atguigu1 TopicId: PCrTbLnGQkOTvPo1fl5cxA PartitionCount: 4   ReplicationFactor: 4    Configs: segment.bytes=1073741824
    Topic: atguigu1 Partition: 0    Leader: 1   Replicas: 2,3,1,0   Isr: 1,0
    Topic: atguigu1 Partition: 1    Leader: 1   Replicas: 3,1,0,2   Isr: 1,0
    Topic: atguigu1 Partition: 2    Leader: 1   Replicas: 1,0,2,3   Isr: 1,0
    Topic: atguigu1 Partition: 3    Leader: 0   Replicas: 0,2,3,1   Isr: 0,1

(5)启动 hadoop105 的 kafka 进程,并查看 Leader 分区情况

[atguigu@hadoop105 kafka]$ ./bin/kafka-server-start.sh -daemon ./config/server.properties
[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server  hadoop102:9092 --topic atguigu1 --describe
Topic: atguigu1 TopicId: PCrTbLnGQkOTvPo1fl5cxA PartitionCount: 4   ReplicationFactor: 4    Configs: segment.bytes=1073741824
    Topic: atguigu1 Partition: 0    Leader: 1   Replicas: 2,3,1,0   Isr: 1,0,3
    Topic: atguigu1 Partition: 1    Leader: 1   Replicas: 3,1,0,2   Isr: 1,0,3
    Topic: atguigu1 Partition: 2    Leader: 1   Replicas: 1,0,2,3   Isr: 1,0,3
    Topic: atguigu1 Partition: 3    Leader: 0   Replicas: 0,2,3,1   Isr: 0,1,3

(6)启动 hadoop104 的 kafka 进程,并查看 Leader 分区情况

[atguigu@hadoop104 kafka]$ ./bin/kafka-server-start.sh -daemon ./config/server.properties
[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server  hadoop102:9092 --topic atguigu1 --describe
Topic: atguigu1 TopicId: PCrTbLnGQkOTvPo1fl5cxA PartitionCount: 4   ReplicationFactor: 4    Configs: segment.bytes=1073741824
    Topic: atguigu1 Partition: 0    Leader: 1   Replicas: 2,3,1,0   Isr: 1,0,3,2
    Topic: atguigu1 Partition: 1    Leader: 1   Replicas: 3,1,0,2   Isr: 1,0,3,2
    Topic: atguigu1 Partition: 2    Leader: 1   Replicas: 1,0,2,3   Isr: 1,0,3,2
    Topic: atguigu1 Partition: 3    Leader: 0   Replicas: 0,2,3,1   Isr: 0,1,3,2
Leader 和 Follower 故障处理细节

LEO(Log End Offset):每个副本的最后一个offset,LEO其实就是最新的offset + 1。
HW(High Watermark):所有副本中最小的LEO 。
1)Follower故障


kafka broker,第5张

(1) Follower发生故障后会被临时踢出ISR
(2) 这个期间Leader和Follower继续接收数据
(3)待该Follower恢复后,Follower会读取本地磁盘记录的 上次的HW,并将log文件高于HW的部分截取掉,从HW开始 向Leader进行同步。
(4)等该Follower的LEO大于等于该Partition的HW,即 Follower追上Leader之后,就可以重新加入ISR了。

2)Leader故障


kafka broker,第6张

(1) Leader发生故障之后,会从ISR中选出一个新的Leader
(2)为保证多个副本之间的数据一致性,其余的Follower会先将各自的log文件高于HW的部分截掉,然后从新的Leader同步数据。
注意:这只能保证副本之间的数据一致性,并不能保证数据不丢失或者不重复。

分区副本分配

如果 kafka 服务器只有 4 个节点,那么设置 kafka 的分区数大于服务器台数,在 kafka 底层如何分配存储副本呢?

1)创建 16 分区,3 个副本

(1)创建一个新的 topic,名称为 second。

[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --create --partitions 16 --replication-factor 3 --topic second
Created topic second.

(2)查看分区和副本情况。

[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server  hadoop102:9092 --topic second --describe
Topic: second   TopicId: 4rboJTotSGGVtzsxRgq4YA PartitionCount: 16  ReplicationFactor: 3    Configs: segment.bytes=1073741824
    Topic: second   Partition: 0    Leader: 0   Replicas: 0,3,1 Isr: 0,3,1
    Topic: second   Partition: 1    Leader: 2   Replicas: 2,1,0 Isr: 2,1,0
    Topic: second   Partition: 2    Leader: 3   Replicas: 3,0,2 Isr: 3,0,2
    Topic: second   Partition: 3    Leader: 1   Replicas: 1,2,3 Isr: 1,2,3
    Topic: second   Partition: 4    Leader: 0   Replicas: 0,1,2 Isr: 0,1,2
    Topic: second   Partition: 5    Leader: 2   Replicas: 2,0,3 Isr: 2,0,3
    Topic: second   Partition: 6    Leader: 3   Replicas: 3,2,1 Isr: 3,2,1
    Topic: second   Partition: 7    Leader: 1   Replicas: 1,3,0 Isr: 1,3,0
    Topic: second   Partition: 8    Leader: 0   Replicas: 0,2,3 Isr: 0,2,3
    Topic: second   Partition: 9    Leader: 2   Replicas: 2,3,1 Isr: 2,3,1
    Topic: second   Partition: 10   Leader: 3   Replicas: 3,1,0 Isr: 3,1,0
    Topic: second   Partition: 11   Leader: 1   Replicas: 1,0,2 Isr: 1,0,2
    Topic: second   Partition: 12   Leader: 0   Replicas: 0,3,1 Isr: 0,3,1
    Topic: second   Partition: 13   Leader: 2   Replicas: 2,1,0 Isr: 2,1,0
    Topic: second   Partition: 14   Leader: 3   Replicas: 3,0,2 Isr: 3,0,2
    Topic: second   Partition: 15   Leader: 1   Replicas: 1,2,3 Isr: 1,2,3
kafka broker,第7张
生产经验——手动调整分区副本存储

在生产环境中,每台服务器的配置和性能不一致,但是Kafka只会根据自己的代码规则创建对应的分区副 本,就会导致个别服务器存储压力较大。所有需要手动调整分区副本的存储。
需求:创建一个新的topic,4个分区,两个副本,名称为three。将 该topic的所有副本都存储到broker0和 broker1两台服务器上。


kafka broker,第8张

手动调整分区副本存储的步骤如下:

(1)创建一个新的 topic,名称为 three。

[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --create --partitions 4 --replication-factor 2 --topic three

(2)查看分区副本存储情况。

[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic three 
Topic: three    TopicId: QySQHrE_SmypCFjazNckXA PartitionCount: 4   ReplicationFactor: 2    Configs: segment.bytes=1073741824
    Topic: three    Partition: 0    Leader: 3   Replicas: 3,1   Isr: 3,1
    Topic: three    Partition: 1    Leader: 1   Replicas: 1,0   Isr: 1,0
    Topic: three    Partition: 2    Leader: 0   Replicas: 0,2   Isr: 0,2
    Topic: three    Partition: 3    Leader: 2   Replicas: 2,3   Isr: 2,3

(3)创建副本存储计划(所有副本都指定存储在 broker0、broker1 中)。

[atguigu@hadoop102 kafka]$ vim increase-replication-factor.json
{
  "version": 1,
  "partitions": [
    {
      "topic": "three",
      "partition": 0,
      "replicas": [
        0,
        1
      ]
    },
    {
      "topic": "three",
      "partition": 1,
      "replicas": [
        0,
        1
      ]
    },
    {
      "topic": "three",
      "partition": 2,
      "replicas": [
        1,
        0
      ]
    },
    {
      "topic": "three",
      "partition": 3,
      "replicas": [
        1,
        0
      ]
    }
  ]
}

(4)执行副本存储计划。

[atguigu@hadoop102 kafka]$ ./bin/kafka-reassign-partitions.sh --bootstrap-server hadoop102:9092 --reassignment-json-file increase-replication-factor.json --execute
Current partition replica assignment

{"version":1,"partitions":[{"topic":"three","partition":0,"replicas":[3,1],"log_dirs":["any","any"]},{"topic":"three","partition":1,"replicas":[1,0],"log_dirs":["any","any"]},{"topic":"three","partition":2,"replicas":[0,2],"log_dirs":["any","any"]},{"topic":"three","partition":3,"replicas":[2,3],"log_dirs":["any","any"]}]}

Save this to use as the --reassignment-json-file option during rollback
Successfully started partition reassignments for three-0,three-1,three-2,three-3

(5)验证副本存储计划。

[atguigu@hadoop102 kafka]$ ./bin/kafka-reassign-partitions.sh --bootstrap-server hadoop102:9092 --reassignment-json-file increase-replication-factor.json --verify
Status of partition reassignment:
Reassignment of partition three-0 is complete.
Reassignment of partition three-1 is complete.
Reassignment of partition three-2 is complete.
Reassignment of partition three-3 is complete.

Clearing broker-level throttles on brokers 0,1,2,3
Clearing topic-level throttles on topic three

(6)查看分区副本存储情况。

[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic threeTopic: three TopicId: QySQHrE_SmypCFjazNckXA PartitionCount: 4   ReplicationFactor: 2    Configs: segment.bytes=1073741824
    Topic: three    Partition: 0    Leader: 0   Replicas: 0,1   Isr: 1,0
    Topic: three    Partition: 1    Leader: 1   Replicas: 0,1   Isr: 1,0
    Topic: three    Partition: 2    Leader: 0   Replicas: 1,0   Isr: 0,1
    Topic: three    Partition: 3    Leader: 1   Replicas: 1,0   Isr: 1,0
生产经验——Leader Partition 负载平衡

正常情况下,Kafka本身会自动把Leader Partition均匀分散在各个机器上,来保证每台机器的读写吞吐量都是均匀的。但是如果某 些broker宕机,会导致Leader Partition过于集中在其他少部分几台broker上,这会导致少数几台broker的读写请求压力过高,其他宕机的 broker重启之后都是follower partition,读写请求很低,造成集群负载不均衡。


kafka broker,第9张
参数名称 描述
auto.leader.rebalance.enable 默认是 true。 自动 Leader Partition 平衡。生产环境中,leader 重选举的代价比较大,可能会带来性能影响,建议设置为 false 关闭。
leader.imbalance.per.broker.percentage 默认是 10%。每个 broker 允许的不平衡的 leader 的比率。如果每个 broker 超过了这个值,控制器 会触发 leader 的平衡。
leader.imbalance.check.interval.seconds 默认值 300 秒。检查 leader 负载是否平衡的间隔时间。
生产经验——增加副本因子

在生产环境当中,由于某个主题的重要等级需要提升,我们考虑增加副本。副本数的 增加需要先制定计划,然后根据计划执行。

1)创建 topic

[atguigu@hadoop102 kafka]$ ./bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --create --partitions 3 --replication-factor 1 --topic four
Created topic four.

2)手动增加副本存储

(1)创建副本存储计划(所有副本都指定存储在 broker0、broker1、broker2 中)。

[atguigu@hadoop102 kafka]$ vim increase-replication-factor.json
#输入如下内容:

{
  "version": 1,
  "partitions": [
    {
      "topic": "four",
      "partition": 0,
      "replicas": [
        0,
        1,
        2
      ]
    },
    {
      "topic": "four",
      "partition": 1,
      "replicas": [
        0,
        1,
        2
      ]
    },
    {
      "topic": "four",
      "partition": 2,
      "replicas": [
        0,
        1,
        2
      ]
    }
  ]
}

(2)执行副本存储计划。

[atguigu@hadoop102 kafka]$ ./bin/kafka-reassign-partitions.sh --bootstrap-server hadoop102:9092 --reassignment-json-file increase-replication-factor.json --execute
Current partition replica assignment

{"version":1,"partitions":[{"topic":"four","partition":0,"replicas":[3],"log_dirs":["any"]},{"topic":"four","partition":1,"replicas":[1],"log_dirs":["any"]},{"topic":"four","partition":2,"replicas":[0],"log_dirs":["any"]}]}

Save this to use as the --reassignment-json-file option during rollback
Successfully started partition reassignments for four-0,four-1,four-2

文件存储

文件存储机制

1)Topic 数据的存储机制

Topic是逻辑上的概念,而partition是物理上的概念,每个partition对应于一个log文件,该log文件中存储的就是Producer生产的数据。Producer生产的数据会被不断追加到该log文件末端,为防止log文件过大导致数据定位效率低下,Kafka采取了分片和索引机制, 将每个partition分为多个segment。每个segment包括:“.index”文件、“.log”文件和.timeindex等文件。这些文件位于一个文件夹下,该文件夹的命名规则为:topic名称+分区序号,例如:first-0。


kafka broker,第10张

2)思考:Topic 数据到底存储在什么位置?

(1)启动生产者,并发送消息。

[atguigu@hadoop102 kafka]$ ./bin/kafka-console-producer.sh --bootstrap-server hadoop102:9092 --topic first
>hello world

(2)查看 hadoop102(或者 hadoop103、hadoop104)的/opt/module/kafka/datas/first-1 (first-0、first-2)路径上的文件。

[atguigu@hadoop104 first-2]$ ll -rt --time-style="+%Y-%m-%d %H:%M:%S"
总用量 12
-rw-rw-r--. 1 atguigu atguigu       43 2022-04-30 10:24:41 partition.metadata
-rw-rw-r--. 1 atguigu atguigu 10485756 2022-04-30 11:33:02 00000000000000000000.timeindex
-rw-rw-r--. 1 atguigu atguigu 10485760 2022-04-30 11:33:02 00000000000000000000.index
-rw-rw-r--. 1 atguigu atguigu        9 2022-04-30 13:55:35 leader-epoch-checkpoint
-rw-rw-r--. 1 atguigu atguigu       79 2022-04-30 13:55:35 00000000000000000000.log

(3)直接查看 log 日志,发现是乱码。

[atguigu@hadoop104 first-2]$ cat 00000000000000000000.log
C
 ?  褁y  觿?????????????"hello world

(4)通过工具查看 index 和 log 信息。

[atguigu@hadoop104 first-2]$ ../../bin/kafka-run-class.sh kafka.tools.DumpLogSegments --files ./00000000000000000000.index
Dumping ./00000000000000000000.index
offset: 0 position: 0
[atguigu@hadoop104 first-2]$ ../../bin/kafka-run-class.sh kafka.tools.DumpLogSegments --files ./00000000000000000000.log 
Dumping ./00000000000000000000.log
Starting offset: 0
baseOffset: 0 lastOffset: 0 count: 1 baseSequence: -1 lastSequence: -1 producerId: -1 producerEpoch: -1 partitionLeaderEpoch: 12 isTransactional: false isControl: false position: 0 CreateTime: 1651298134566 size: 79 magic: 2 compresscodec: none crc: 3441160843 isvalid: true

3)index 文件和 log 文件详解


kafka broker,第11张

说明:日志存储参数配置

参数 描述
log.segment.bytes Kafka 中 log 日志是分成一块块存储的,此配置是指 log 日志划分 成块的大小,默认值 1G。
log.index.interval.bytes 默认 4kb,kafka 里面每当写入了 4kb 大小的日志(.log),然后就 往 index 文件里面记录一个索引。 稀疏索引。
文件清理策略

Kafka 中默认的日志保存时间为 7 天,可以通过调整如下参数修改保存时间。

log.retention.hours,最低优先级小时,默认 7 天。
log.retention.minutes,分钟。
log.retention.ms,最高优先级毫秒。
log.retention.check.interval.ms,负责设置检查周期,默认 5 分钟。

那么日志一旦超过了设置的时间,怎么处理呢?
Kafka 中提供的日志清理策略有 delete 和 compact 两种。
1)delete 日志删除:将过期数据删除
log.cleanup.policy = delete 所有数据启用删除策略
(1)基于时间:默认打开。以 segment 中所有记录中的最大时间戳作为该文件时间戳。
(2)基于大小:默认关闭。超过设置的所有日志总大小,删除最早的 segment。log.retention.bytes,默认等于-1,表示无穷大。

思考:如果一个 segment 中有一部分数据过期,一部分没有过期,怎么处理?---等待最新数据过期后删除


kafka broker,第12张

2)compact 日志压缩
compact日志压缩:对于相同key的不同value值,只保留最后一个版本。
log.cleanup.policy = compact 所有数据启用压缩策略


kafka broker,第13张

压缩后的offset可能是不连续的,比如上图中没有6,当从这些offset消费消息时,将会拿到比这个offset大 的offset对应的消息,实际上会拿到offset为7的消息,并从这个位置开始消费。

这种策略只适合特殊场景,比如消息的key是用户ID,value是用户的资料,通过这种压缩策略,整个消息集里就保存了所有用户最新的资料。

高效读写数据

1)Kafka 本身是分布式集群,可以采用分区技术,并行度高
2)读数据采用稀疏索引,可以快速定位要消费的数据
3)顺序写磁盘
Kafka 的 producer 生产数据,要写入到 log 文件中,写的过程是一直追加到文件末端, 为顺序写。官网有数据表明,同样的磁盘,顺序写能到 600M/s,而随机写只有 100K/s。这 与磁盘的机械机构有关,顺序写之所以快,是因为其省去了大量磁头寻址的时间。

kafka broker,第14张

4)页缓存 + 零拷贝技术
零拷贝:Kafka的数据加工处理操作交由Kafka生产者和Kafka消费者处理。Kafka Broker应用层不关心存储的数据,所以就不用走应用层,传输效率高
PageCache页缓存:Kafka重度依赖底层操作系统提供的PageCache功 能。当上层有写操作时,操作系统只是将数据写入 PageCache。当读操作发生时,先从PageCache中查找,如果找不到,再去磁盘中读取。实际上PageCache是把尽可能多的空闲内存 都当做了磁盘缓存来使用。
kafka broker,第15张
参数 描述
log.flush.interval.messages 强制页缓存刷写到磁盘的条数,默认是 long 的最大值, 9223372036854775807。一般不建议修改,交给系统自己管理。
log.flush.interval.ms 每隔多久,刷数据到磁盘,默认是 null。一般不建议修改, 交给系统自己管理。

https://www.xamrdz.com/backend/3cv1921004.html

相关文章: