如何使用redis的bit位操作
本文redis试验代码基于如下环境:
操作系统:Mac OS 64位
版本:Redis 5.0.7 64 bit
运行模式:standalone mode
redis位操作
reids位操作也叫位数组操作、bitmap,它提供了SETBIT、GETBIT、BITCOUNT、BITTOP四个命令用于操作二进制位数组。
先来看一波基本操作示例
SETBIT
语法:SETBIT key offset value
即:命令 key 偏移量 0/1
setbit命令用于写入位数组指定偏移量的二进制位设置值,偏移量从0开始计数,且只允许写入1或者0,如果写入非0和1的值则写入失败:
GETBIT
语法:GETBIT key offset
即:命令 key 偏移量
gitbit命令用于获取位数组指定偏移量上的二进制值:
BITCOUNT
语法:BITCOUNT key
即:命令 key
bitcount命令用于获取指定key的位数组中值为1的二进制位的数量,之前我们写入了偏移量0的值为1,偏移量10 的值为1,偏移量8的值为0:
BITOP
语法:BITOP operation destkey key [key...]
即:命令 操作 结果目标key key1 key2 ...
bitop命令可以对多个位数组的key进行and(按位与)、or(按位或)、xor(按位异或)运算,并将运算结果设置到destkey中:
底层数据结构分析
SDS是redis中的一种数据结构,叫做简单动态字符串(Simple Dynamic String),并且它是一种二进制安全的,在大多数的情况下redis中的字符串都用SDS来存储。
SDS的数据结构:
struct sdshdr { #记录buff数组中已使用字节的数量 #也是SDS所保存字符串的长度 int len;#记录buff数组中未使用字节的数量 int free;
#字节数组,字符串就存储在这个数组里 char buff[];
}
数据存储示例:
图片来源《redis设计与实现》
SDS的优点:
鸿蒙官方战略合作共建——HarmonyOS技术社区
时间复杂度为O(1)
杜绝缓冲区溢出
减少修改字符串长度时候所需的内存重分配次数
二进制安全的API操作
兼容部分C字符串函数
关于SDS的详细介绍请大家参阅《redis设计与实现》一文。
redis中的位数组采用的是String字符串数据格式来存储,而字符串对象使用的正是上文说的SDS简单动态字符串数据结构。
图片来源《redis设计与实现》
大家都知道的是一个字节用的是8个二进制位来存储的,也就是8个0或者1,即一个字节可以存储十进制0~127的数字,也即包含了所有的数字、英文大小写字母以及标点符号。
1Byte=8bit
1KB=1024Byte
1MB=1024KB
1GB=1024MB
位数组在redis存储世界里,每一个字节也是8位,初始都是:
0 0 0 0 0 0 0 0而位操作就是在对应的offset偏移量上设置0或者1,比如将第3位设置为1,即:
0 0 0 0 1 0 0 0 #对应redis操作即: setbit key 3 1在此基础上,如果要在偏移量为13的位置设置1,即:
setbit key 13 1 #对应redis中的存储为: 0 0 1 0 | 0 0 0 0 | 0 0 0 0 | 1 0 0 0时间复杂度
GETBIT命令时间复杂度O(1)
STEBIT命令时间复杂度O(1)
BITCOUNT命令时间复杂度O(n)
BITOP命令时间复杂度O(n)、O(n2)
我们来看GETBIT以及SETBIT命令的时间复杂度为什么是O(1),当我们执行一个SETBIT key 10086 1的值的时候,reids的计算方式如下:
获取到要写入位数组中的哪个字节:10086&
divide;
8=1260,需要写入到位数组的下标1260的字节
获取要写入到这个字节的第几位:10086 mod 8 = 6,需要写入到这个字节的下标为6即第7位上去。
通过这两种计算方式大家可以清晰的看到,位操作的GETBIT和SETBIT都是常量计算,因此它的时间复杂度为O(1)。
而BITCOUNT命令需要对整个位数组的所有元素进行遍历算出值为1的有多少个,当然redis对于大数据了的bit执行bitcount命令会有一整套复杂的优化的算法,但是核心思路还是这个意思,无非是减少部分遍历查询次数。如果明确以128位为一次遍历,那么他需要遍历的次数就等于所有位数除以128。
BITTOP命令则是根据不同的操作有不同的执行方式。比如AND操作,则需要查看位值为1的即可。
存储空间计算
根据以上介绍,我们可以知道如何计算使用基于Redis的位数组数据结构存储数据所占用的内存大小。比如有100亿的数据,那么它需要的字节数组:
1000000000&
divide;
8&
divide;
1024&
divide;
1024&
asymp;
119.21MB
也就是存储10亿的数据只需要119MB左右的内存空间,这对于现在动辄16G、32G集群版的redis,完全没有问题。
需要注意的是,如果你的数据量不大,那就不要把起始偏移量搞的很大,这样也是占空间的,比如我们只需要存储几百条数据,但是其中的偏移量却很大,这就会造成了很大的内存空间浪费。
应用场景
实际项目开发中有很多业务都适合采用redis的bit来实现。
用户签到场景
每天的日期字符串作为一个key,用户Id作为offset,统计每天用户的签到情况,总的用户签到数
活跃用户数统计
用户日活、月活、留存率等均可以用redis位数组来存储,还是以每天的日期作为key,用户活跃了就写入offset为用户id的位值1。
同理月活也是如此。
用户是否在线以及总在线人数统计
使用相同的位数组,将用户ID映射的位偏移量设置为1表示在线,设置为0表示离线。即可实现用户上下线查询和总在线人数的统计
APP内用户的全局消息提示小红点
现在大多数的APP里都有站内信的功能,当有消息的时候,则提示一个小红点,代表用户有新的消息。
在现代的互联网时代,数据的处理效率成为了一个非常重要的问题。而Redis正是解决这个问题的有力工具之一。Redis提供了bit位操作,可以极大地提升数据的处理效率,在此分享一下Redis的bit位操作的使用方法和实战应用。
一、Bit位操作简介
Redis的bit位操作,可以用于节省内存空间、快速处理海量数据等场景。其中最常用的三个命令是setbit、getbit、bitcount。
1、 setbit key offset value
该命令用于设置 key 中第 offset 个二进制位的值为 value 。其中 offset 的范围是 0 到 2^32-1 ,并且可以为负数,表示从后往前数位。value 只能是0或1。
2、getbit key offset
该命令用于获取 key 中第 offset 个二进制位的值。其中 offset 的范围和 setbit 一样。
3、bitcount key [start] [end]
该命令用于统计 key 中所有的二进制位中值为1的位数。可以用于计算某个key对应的整数的二进制表示中1的个数。start和end主要用于指定非第一个字节和非最后一个字节的起止位置。
二、Bit位操作的应用场景
1、数据的处理和存储
在一些海量数据的处理场景中,为了节省存储空间和提高数据的读写速度,我们可以使用Redis的bit位操作。比如我们可以根据用户id和日期,创建一个长度为31的二进制字符串,然后设置uid当天有没有浏览某页面,用1表示有,0表示没有,最后把这个二进制字符串存在Redis中。这样就可以使用setbit和getbit快速设置和读取每个用户每天的数据。
2、布隆过滤器
布隆过滤器是一种数据结构,它基于哈希函数将用于检索时可能不在集合中的项目过滤掉。Redis已经实现了布隆过滤器,在Redis中使用bit位操作可以方便地实现布隆过滤器。
3、分布式锁
在分布式系统中,需要统一控制某个共享资源的访问权限,这时候就需要使用分布式锁。而Redis的setnx命令可以方便地帮我们实现分布式锁,使用setbit设置一个标记位来表示锁的状态,此时可以保证锁在只能被一个客户端所持有,相当于对资源进行了加锁。
三、结语
Redis提供的位操作命令可以说是非常实用和强大,可以用于多种场合,提高数据处理效率和代码的可读性。同时,Redis还提供了大量的其他命令,如哈希、列表、zset等,每个命令都拥有其独特的实用价值。希望在日后的实际应用中,大家能够更好地利用Redis的各种命令,创造出更高效的解决方案。