为什么Redis集群的最大槽数是16384个？

对于客户端请求的key根据公式HASH_SLOT=CRC16(key) mod 16384计算出映射到哪个分片上然后Redis会去相应的节点进行操作

为什么有16384个槽
Redis集群并没有使用一致性hash而是引入了哈希槽的概念。Redis 集群有16384个哈希槽每个key通过CRC16校验后对16384取模来决定放置哪个槽集群的每个节点负责一部分hash槽。但为什么哈希槽的数量是163842^14个呢

CRC16算法产生的hash值有16bit该算法可以产生2^16=65536个值。
换句话说值是分布在0~65535之间。那作者在做mod运算的时候为什么不mod65536而选择mod16384

antirez作者给出了答案
https://github.com/redis/redis/issues/2576

• 翻译(可能不好理解)

正常的心跳数据包带有节点的完整配置可以用幂等方式用旧的节点替换旧节点以便更新旧的配置。
这意味着它们包含原始节点的插槽配置该节点使用2k的空间和16k的插槽但是会使用8k的空间使用65k的插槽。
同时由于其他设计折衷Redis集群不太可能扩展到1000个以上的主节点。
因此16k处于正确的范围内以确保每个主机具有足够的插槽最多可容纳1000个矩阵但数量足够少可以轻松地将插槽配置作为原始位图传播。请注意在小型群集中位图将难以压缩因为当N较小时位图将设置的slot / N位占设置位的很大百分比。

接下来我们来讲一下工作原理和名词最后来翻译出作者的意思

回忆一下RedisCluster的工作原理

意思很简单让6379节点和6380节点知道彼此存在
在握手成功后连个节点之间会定期发送ping/pong消息交换数据信息如下图所示。

在这里我们需要关注三个重点。

• 交换什么数据信息

消息体是一些节点标识IP端口号发送时间。

消息头里面有个myslots的char数组长度为16383/8这其实是一个bitmap,每一个位代表一个槽如果该位为1表示这个槽是属于这个节点的。

• 数据信息究竟多大

在消息头中最占空间的是myslots[CLUSTER_SLOTS/8]。这块的大小是:
16384÷8÷1024=2kb

• 定期的频率什么样

redis集群内节点每秒都在发ping消息。规律如下

• (1)每秒会随机选取5个节点找出最久没有通信的节点发送ping消息
• (2)每100毫秒(1秒10次)都会扫描本地节点列表如果发现节点最近一次接受pong消息的时间大于cluster-node-timeout/2 则立刻发送ping消息
  因此每秒单节点发出ping消息数量为

数量=1+10*numnode.pong_received>cluster_node_timeout/2

回答作者的意思

(1)如果槽位为65536发送心跳信息的消息头达8k发送的心跳包过于庞大。如上所述在消息头中最占空间的是myslots[CLUSTER_SLOTS/8]。
当槽位为65536时这块的大小是:65536÷8÷1024=8kb
因为每秒钟redis节点需要发送一定数量的ping消息作为心跳包如果槽位为65536这个ping消息的消息头太大了浪费带宽。

• (1)每秒会随机选取5个节点找出最久没有通信的节点发送ping消息
• (2)每100毫秒(1秒10次)都会扫描本地节点列表如果发现节点最近一次接受pong消息的时间大于cluster-node-timeout/2 则立刻发送ping消息

(2)redis的集群主节点数量基本不可能超过1000个。如上所述集群节点越多心跳包的消息体内携带的数据越多。如果节点过1000个也会导致网络拥堵。因此redis作者不建议redis cluster节点数量超过1000个。
那么对于节点数在1000以内的redis cluster集群16384个槽位够用了。没有必要拓展到65536个。

(3)槽位越小节点少的情况下压缩比高容易传输
Redis主节点的配置信息中它所负责的哈希槽是通过一张bitmap的形式来保存的在传输过程中会对bitmap进行压缩但是如果bitmap的填充率slots / N很高的话(N表示节点数)bitmap的压缩率就很低。 如果节点数很少而哈希槽数量很多的话bitmap的压缩率就很低。