kafka producer中的消息缓存模型图解详解-mile米乐体育
目录
- 前言
- 什么是消息累加器recordaccumulator
- 消息缓存模型
- producerbatch的内存大小
- 内存分配
- batch的创建和释放
- 问题和答案
- 总结
前言http://www.cppcns.com
在阅读本文之前, 希望你可以思考一下下面几个问题, 带着问题去阅读文章会获得更好的效果。
- 发送消息的时候, 当broker挂掉了,消息体还能写入到消息缓存中吗？
- 当消息还存储在缓存中的时候, 假如producer客户端挂掉了,消息是不是就丢失了?
- 当最新的producerbatch还有空余的内存,但是接下来的一条消息很大,不足以加上上一个batch中,会怎么办呢？
- 那么创建producerbatch的时候,应该分配多少的内存呢？
什么是消息累加器recordaccumulator
kafka为了提高producer客户端的发送吞吐量和提高性能,选择了将消息暂时缓存起来,等到满足一定的条件, 再进行批量发送, 这样可以减少网络请求,提高吞吐量。
而缓存这个消息的就是recordaccumulator类.
上图就是整个消息存放的缓存模型,我们接下来一个个来讲解。
消息缓存模型
上图表示的就是 消息缓存的模型, 生产的消息就是暂时存放在这个里面。
- 每条消息,我们按照topicpartition维度,把他们放在不同的deque
队列里面。
topicpartition相同,会在相同deque的里面。 - producerbatch : 表示同一个批次的消息, 消息真正发送到broker端的时候都是按照批次来发送的,
这个批次可能包含一条或者多条消息。 - 如果没有找到消息对应的producerbatch队列, 则创建一个队列。
- 找到producerbatch队列队尾的batch,发现batch还可以塞下这条消息,则将消息直接塞到这个batch中
- 找到producerbatch队列队尾的batch,发现batch中剩余内存,不够塞下这条消息,则会创建新的batch
- 当消息发送成功之后, batch会被释放掉。
producerbatch的内存大小
那么创建producerbatch的时候,应该分配多少的内存呢？
先说结论: 当消息预估内存大于batch.size的时候,则按照消息预估内存创建, 否则按照batch.size的大小创建(默认16k).
我们来看一段代码，这段代码就是在创建producerbatch的时候预估内存的大小
recordaccumulator#append
// 找到 batch.size 和 这条消息在batch中的总内存大小的 最大值 int size = math.max(this.batchsize, abstractrecords.estimatesizeinbytesupperbound(maxusablemagic, compression, key, value, headers)); // 申请内存 buffer = free.allocate(size, maxtimetoblock);
假设当前生产了一条消息为m, 刚好消息m找不到可以存放消息的producerbatch(不存在或者满了)，那么这个时候就需要创建一个新的producerbatch了
预估消息的大小 跟batch.size 默认大小16384(16kb). 对比,取最大值用于申请的内存大小的值。
那么, 这个消息的预估是如何预估的？纯粹的是消息体的大小吗？
defaultrecordbatch#estimatebatchsizeupperbound
预估需要的batch大小,是一个预估值,因为没有考虑压缩算法从额外开销
/** * 使用给定的键和值获取只有一条记录的批次大小的上限。 * 这只是一个估计，因为它没有考虑使用的压缩算法的额外开销。 **/ static int estimatebatchsizeupperbound(bytebuffer key, bytebuffer value, header[] headers) { return record_batch_overhead defaultrecord.recordsizeupperbound(key, value, headers); }
- 预估这个消息m的大小 一个record_batch_overhead的大小
- record_batch_overhead是一个batch里面的一些基本元信息,总共占用了 61b
- 消息m的大小也并不是单单的只有消息体的大小,总大小=(key,value,headers)的大小 max_record_overhead
- max_record_overhead ：一条消息头最大占用空间, 最大值为21b
也就是说创建一个producerbatch,最少就要83b .
比如我发送一条消息 " 1 " , 预估得到的大小是 86b, 跟batch.size(默认16384) 相比取最大值。 那么申请内存的时候取最大值 16384 。
关于batch的结构和消息的结构,我们回头单独用一篇文章来讲解。
内存分配
我们都知道recordaccumulator里面的缓存大小是一开始定义好的, 由buffer.memory控制, 默认33554432 (32m)
当生产的速度大于发送速度的时候,就可能出现producer写入阻塞。
而且频繁的创建和释放producerbatch,会导致频繁gc, 所有kafka中有个缓存池的概念，这个缓存池会被重复使用,但是只有固定( batch.size)的大小才能够使用缓存池。
ps：以下16k指得是 batch.size的默认值.
batch的创建和释放
1. 内存16k 缓存池中有可用内存
①. 创建batch的时候, 会去缓存池中,获取队首的一块内存bytebuffer 使用。
②. 消息发送完成,释放batch, 则会把这个bytebuffer,放到缓存池的队尾中,并且调用bytebuffer.clear 清空数据。以便下次重复使用
2. 内存16k 缓存池中无可用内存
①. 创建batch的时候, 去非缓存池中的内存获取一部分内存用于创建batch. 注意：这里说的获取内存给batch, 其实就是让 非缓存池nonpooledavailablememory 减少 16k 的内存, 然后batch正常创建就行了, 不要误以为好像真的发生了内存的转移。
②. 消息发送完成,释放batch, 则会把这个bytebuffer,放到缓存池的队尾中,并且调用bytebuffer.clear 清空数据, 以便下次重复使用
3. 内存非16k 非缓存池中内存够用
①. 创建batch的时候, 去非缓存池(nonpooledavailablememory)内存获取一部分内存用于创建batch. 注意：这里说的获取内存给batch, 其实就是让 非缓存池(nonpooledavailablememory) 减少对应的内存, 然后barzkutztch正常创建就行了, 不要误以为好像真的发生了内存的转移。
②. 消息发送完成,释放batch, 纯粹的是在非缓存池(nonpooledavailablememory)中加上刚刚释放的batch内存大小。 当然这个batch会被gc掉
4. 内存非16k 非缓存池内存不够用
①. 先尝试将 缓存池中的内存一个一个释放到 非缓存池中, 直到非缓存池中的内存够用与创建batch了
②. 创建batch的时候, 去非缓存池(nonpooledavailablememory)内存获取一部分内存用于创建batch. 注意：这里说的获取内存给batch, 其实就是让 非缓存池(nonpooledavailablerzkutzmemory) 减少对应的内存, 然后batch正常创建就行了, 不要误以为好像真的发生了内存的转移。
③. 消息发送完成,释放batch, 纯粹的是在非缓存池(nonpooledavailablememory)中加上刚刚释放的batch内存大小。 当然这个batch会被gc掉
例如: 下面我们需要创建 48k的batch, 因为超过了16k,所以需要在非缓存池中分配内存, 但是非缓存池中当前可用内存为0 , 分配不了, 这个时候就会尝试去 缓存池里面释放一部分内存到 非缓存池。
释放第一个bytebuffer(16k) 不够，则继续释放第二个,直到释放了3个之后总共48k，发现内存这时候够了, 再去创建batch。
注意：这里我们涉及到的 非缓存池中的内存分配, 仅仅指的的内存数字的增加和减少。
问题和答案
发送消息的时候, 当broker挂掉了,消息体还能写入到消息缓存中吗？
当broker挂掉了,producer会提示下面的警告⚠️, 但是发送消息过程中
这个消息体还是可以写入到 消息缓存中的,也仅仅是写到到缓存中而已。
warn [producer clientid=console-producer] connection to node 0 (/172.23.164.192:9090) could not be established. broker may not be available
当最新的producerbatch还有空余的内存,但是接下来的一条消息很大,不足以加上上一个batch中,会怎么办呢？
那么会创建新的producerbatch。
那么创建producerbatch的时候,应该分配多少的内存呢？
触发创建producerbatch的那条消息预估大小大于batch.size ，则以预估内存创建。
否则,以batch.size创建。
还有一个问题供大家思考：
当消息还存储在缓存中的时候, 假如producer客户端挂掉了,消息是不是就丢失了?
总结
到此这篇关于kafkaproducer中消息缓存模型的文章就介绍到这了,更多相关kafkaproducer消息缓存模型内容请搜索我们以前的文章或继续浏览下面的相关文章希望大家以后多多支持我们！