Redis到底快在哪?
它接收到一个键值对操作后,能以微秒级速度找到数据,并快速完成操作。
为啥就Redis这么突出?
String(字符串)、List(列表)、Hash(哈希)、Set(集合)和Sorted Set(有序集合)只是Redis键值对中值的数据类型,即数据的保存形式。
本文的数据结构,是研究其底层实现。
底层数据结构一共6种:简单动态字符串、双向链表、压缩列表、哈希表、跳表和整数数组。
List、Hash、Set和Sorted Set这四种数据类型都有两种底层实现结构。通常称为集合类型:一个K对应一个集合的数据。
为什么集合类型有这么多底层结构,是怎么组织数据的,都很快吗?
什么是简单动态字符串,和常用的字符串是一回事吗?
Redis中有哪些潜在的“慢操作”,最大化Redis的性能优势。
为了实现从K到V快速访问,Redis使用哈希表保存所有KV对。
其实就是一个数组,数组元素称为哈希桶。一个哈希表由多个哈希桶组成,每个哈希桶中保存KV对。
如果值是集合类型,数组元素的哈希桶怎么保存呢的?
哈希桶中的元素保存的并非值本身,而是指向具体值的指针。即不管值是String,还是集合类型,哈希桶中的元素都是指向它们的指针。
哈希桶中的entry元素中保存了*key和*value,分别指向实际的K、V。
即使值是个集合,也可通过*value指针查到。
因为这哈希表保存了所有的键值对,所以,我也把它称为全局哈希表。
全局指Redis数据库中的所有kv,是由一个哈希表来索引的。通过在这个哈希表中查询key,就可以找到对应v。然后根据v具体类型(如Hash,Set,List),再通过v的底层数据结构来读取具体的value数据,例如List通过双向链表来读取数据。
哈希表造就O(1)快速查找KV对,只需计算K的哈希值,即可知其对应哈希桶位置,然后就能访问相应entry元素。
这个查找过程主要依赖哈希计算,和数据量无直接关系。不管哈希表有10万个K还是100万,只需一次计算,就能找到对应K。
若你只是了解哈希表的O(1)复杂度和快速查找特性,那当你往Redis写入大量数据后,就可能发现操作有时候会突然变慢。
因为你忽略了潜在风险:哈希表冲突问题和rehash可能带来操作阻塞。
当你往哈希表中写入更多数据,就会哈希冲突。Redis通过链式哈希解决:同一哈希桶中的多个元素用链表保存。
entry1、entry2和entry3都要保存在哈希桶3:entry1会通过一个*next指向entry2,以此类推。这就形成了一个链表,也叫哈希冲突链。
哈希表数据越多,哈希冲突可能也越多,导致某些哈希冲突链过长,该链上的元素查找耗时长,效率降低。这对求“快”的Redis无法接受。
所以,Redis会对哈希表做
增加现有哈希桶数量,让逐渐增多的entry元素能在更多的桶之间分散保存,减少单个桶中的元素数量,从而减少单个桶中的冲突。
为使rehash操作更高效,Redis默认使用了两个全局哈希表:刚插入数据时,默认使用哈希表1,哈希表2尚未被分配空间。
随着数据逐步增多,Redis开始执行rehash:
至此,即可从哈希表1切换到哈希表2:
step2涉及大量数据拷贝,若一次性把哈希表1中的数据都迁移完,会造成Redis线程阻塞,无法服务其他请求,Redis就无法快速访问数据了。为解决该问题,Redis采用渐进式rehash。
step2拷贝数据时,Redis仍可正常处理客户端请求:
对String,找到哈希桶就能直接增删改查了,所以,哈希表的O(1)操作复杂度也就是它的复杂度了。
但对集合类型,即使找到哈希桶了,还要在集合中进步操作。
dict的渐进式rehash是为了避免扩容时的整体拷贝,这会给内存带来较大压力。
一个集合类型的值:
使用哈希表实现的集合,要比使用链表实现的集合访问效率更高。
操作效率和这些操作本身的执行特点有关,比如读写一个元素的操作要比读写所有元素的效率高。
整数数组和双向链表都是顺序读写,时间复杂度基本是O(N),效率较低。
类似数组,数组中每个元素对应一个数据。
而压缩列表在表头有三个字段zlbytes、zltail和zllen,分别表示列表长度、列表尾的偏移量和列表中的entry个数;压缩列表在表尾还有一个zlend,表示列表结束。
有序链表只能逐一查找元素,非常慢,于是出现跳表。
跳表基于链表,增加多级索引,通过索引位置跳转,快速定位数据:
查找过程就是在多级索引上跳来跳去,最后定位到元素。故名“跳”表。
数据量很大时,跳表查找复杂度O(logN)。
不同操作的复杂度
集合类型的操作类型:
各种骚操作复杂度不尽相同,事关选型。
每种集合类型对单个数据实现的crud操作。例如,Hash类型的HGET、HSET和HDEL,Set类型的SADD、SREM、SRANDMEMBER等。这些操作的复杂度由集合采用的数据结构决定,如:
集合类型支持同时对多个元素进行增删改查,如:
这些操作的复杂度,就是由单个元素操作复杂度和元素个数决定的。如HMSET增加M个元素时,复杂度就从O(1)变成O(M)。
集合类型中的遍历操作,可返回集合所有数据,如Hash类型的HGETALL和Set类型的SMEMBERS,或者返回一个范围内的部分数据,如:
复杂度一般是O(N),应尽量避免。
Redis从2.8版本开始提供SCAN系操作(HSCAN,SSCAN和ZSCAN),实现渐进式遍历,每次只返回有限数量的数据。这相比HGETALL、SMEMBERS,避免了一次性返回所有元素而导致Redis过久阻塞。
集合类型对集合中所有元素个数的记录,例如LLEN和SCARD。
复杂度只有O(1),因为当集合类型采用压缩列表、双向链表、整数数组这些数据结构时,这些结构中专门记录了元素的个数统计,可高效完成。
某些数据结构的特殊记录,例如压缩列表和双向链表都会记录表头和表尾的偏移量。这样一来,对于List类型的LPOP、RPOP、LPUSH、RPUSH这四个操作来说,它们是在列表的头尾增删元素,这就可以通过偏移量直接定位,所以它们的复杂度也只有O(1),可以实现快速操作。
Redis之所以能快速操作键值对,因为:
集合类型的范围操作,因为要遍历底层数据结构,复杂度通常是O(N)。
建议用其他命令来替代,如SCAN来代替,避免在Redis内部产生费时的全集合遍历操作。
List底层实现结构:双向链表和压缩列表的操作复杂度都是O(N)。
因地制宜使用List类型。既然它的POP/PUSH效率很高,那就将它主要用于FIFO队列场景,而不是作为一个可随机读写的集合。