如何使用redis的bit位操作

本文redis试验代码基于如下环境:

操作系统:Mac OS 64位

版本:Redis 5.0.7 64 bit

使用Redisbit位操作,提升数据处理效率

运行模式:standalone mode

redis位操作

reids位操作也叫位数组操作、bitmap,它提供了SETBIT、GETBIT、BITCOUNT、BITTOP四个命令用于操作二进制位数组。

先来看一波基本操作示例

SETBIT

语法:SETBIT key offset value

即:命令 key 偏移量 0/1

setbit命令用于写入位数组指定偏移量的二进制位设置值,偏移量从0开始计数,且只允许写入1或者0,如果写入非0和1的值则写入失败:

GETBIT

语法:GETBIT key offset

即:命令 key 偏移量

gitbit命令用于获取位数组指定偏移量上的二进制值:

BITCOUNT

语法:BITCOUNT key

即:命令 key

bitcount命令用于获取指定key的位数组中值为1的二进制位的数量,之前我们写入了偏移量0的值为1,偏移量10 的值为1,偏移量8的值为0:

BITOP

语法:BITOP operation destkey key [key...]

即:命令 操作 结果目标key key1 key2 ...

bitop命令可以对多个位数组的key进行and(按位与)、or(按位或)、xor(按位异或)运算,并将运算结果设置到destkey中:

底层数据结构分析

SDS是redis中的一种数据结构,叫做简单动态字符串(Simple Dynamic String),并且它是一种二进制安全的,在大多数的情况下redis中的字符串都用SDS来存储。

SDS的数据结构:

struct sdshdr { #记录buff数组中已使用字节的数量 #也是SDS所保存字符串的长度 int len;
#记录buff数组中未使用字节的数量 int free;
#字节数组,字符串就存储在这个数组里 char buff[];
}

数据存储示例:

图片来源《redis设计与实现》

SDS的优点:

  • 鸿蒙官方战略合作共建——HarmonyOS技术社区

  • 时间复杂度为O(1)

  • 杜绝缓冲区溢出

  • 减少修改字符串长度时候所需的内存重分配次数

  • 二进制安全的API操作

  • 兼容部分C字符串函数

  • 关于SDS的详细介绍请大家参阅《redis设计与实现》一文。

    redis中的位数组采用的是String字符串数据格式来存储,而字符串对象使用的正是上文说的SDS简单动态字符串数据结构。

    图片来源《redis设计与实现》

    大家都知道的是一个字节用的是8个二进制位来存储的,也就是8个0或者1,即一个字节可以存储十进制0~127的数字,也即包含了所有的数字、英文大小写字母以及标点符号。

    1Byte=8bit

    1KB=1024Byte

    1MB=1024KB

    1GB=1024MB

    位数组在redis存储世界里,每一个字节也是8位,初始都是:

    0 0 0 0 0 0 0 0

    而位操作就是在对应的offset偏移量上设置0或者1,比如将第3位设置为1,即:

    0 0 0 0 1 0 0 0 #对应redis操作即: setbit key 3 1

    在此基础上,如果要在偏移量为13的位置设置1,即:

    setbit key 13 1 #对应redis中的存储为: 0 0 1 0 | 0 0 0 0 | 0 0 0 0 | 1 0 0 0

    时间复杂度

    GETBIT命令时间复杂度O(1)

    STEBIT命令时间复杂度O(1)

    BITCOUNT命令时间复杂度O(n)

    BITOP命令时间复杂度O(n)、O(n2)

    我们来看GETBIT以及SETBIT命令的时间复杂度为什么是O(1),当我们执行一个SETBIT key 10086 1的值的时候,reids的计算方式如下:

    获取到要写入位数组中的哪个字节:10086&
    divide;
    8=1260,需要写入到位数组的下标1260的字节

    获取要写入到这个字节的第几位:10086 mod 8 = 6,需要写入到这个字节的下标为6即第7位上去。

    通过这两种计算方式大家可以清晰的看到,位操作的GETBIT和SETBIT都是常量计算,因此它的时间复杂度为O(1)。

    而BITCOUNT命令需要对整个位数组的所有元素进行遍历算出值为1的有多少个,当然redis对于大数据了的bit执行bitcount命令会有一整套复杂的优化的算法,但是核心思路还是这个意思,无非是减少部分遍历查询次数。如果明确以128位为一次遍历,那么他需要遍历的次数就等于所有位数除以128。

    BITTOP命令则是根据不同的操作有不同的执行方式。比如AND操作,则需要查看位值为1的即可。

    存储空间计算

    根据以上介绍,我们可以知道如何计算使用基于Redis的位数组数据结构存储数据所占用的内存大小。比如有100亿的数据,那么它需要的字节数组:

    1000000000&
    divide;
    8&
    divide;
    1024&
    divide;
    1024&
    asymp;
    119.21MB

    也就是存储10亿的数据只需要119MB左右的内存空间,这对于现在动辄16G、32G集群版的redis,完全没有问题。

    需要注意的是,如果你的数据量不大,那就不要把起始偏移量搞的很大,这样也是占空间的,比如我们只需要存储几百条数据,但是其中的偏移量却很大,这就会造成了很大的内存空间浪费。

    应用场景

    实际项目开发中有很多业务都适合采用redis的bit来实现。

    用户签到场景

    每天的日期字符串作为一个key,用户Id作为offset,统计每天用户的签到情况,总的用户签到数

    活跃用户数统计

    用户日活、月活、留存率等均可以用redis位数组来存储,还是以每天的日期作为key,用户活跃了就写入offset为用户id的位值1。

    同理月活也是如此。

    用户是否在线以及总在线人数统计

    使用相同的位数组,将用户ID映射的位偏移量设置为1表示在线,设置为0表示离线。即可实现用户上下线查询和总在线人数的统计

    APP内用户的全局消息提示小红点

    现在大多数的APP里都有站内信的功能,当有消息的时候,则提示一个小红点,代表用户有新的消息。



    在现代的互联网时代,数据的处理效率成为了一个非常重要的问题。而Redis正是解决这个问题的有力工具之一。Redis提供了bit位操作,可以极大地提升数据的处理效率,在此分享一下Redis的bit位操作的使用方法和实战应用。
    一、Bit位操作简介
    Redis的bit位操作,可以用于节省内存空间、快速处理海量数据等场景。其中最常用的三个命令是setbit、getbit、bitcount。
    1、 setbit key offset value
    该命令用于设置 key 中第 offset 个二进制位的值为 value 。其中 offset 的范围是 0 到 2^32-1 ,并且可以为负数,表示从后往前数位。value 只能是0或1。
    2、getbit key offset
    该命令用于获取 key 中第 offset 个二进制位的值。其中 offset 的范围和 setbit 一样。
    3、bitcount key [start] [end]
    该命令用于统计 key 中所有的二进制位中值为1的位数。可以用于计算某个key对应的整数的二进制表示中1的个数。start和end主要用于指定非第一个字节和非最后一个字节的起止位置。
    二、Bit位操作的应用场景
    1、数据的处理和存储
    在一些海量数据的处理场景中,为了节省存储空间和提高数据的读写速度,我们可以使用Redis的bit位操作。比如我们可以根据用户id和日期,创建一个长度为31的二进制字符串,然后设置uid当天有没有浏览某页面,用1表示有,0表示没有,最后把这个二进制字符串存在Redis中。这样就可以使用setbit和getbit快速设置和读取每个用户每天的数据。
    2、布隆过滤器
    布隆过滤器是一种数据结构,它基于哈希函数将用于检索时可能不在集合中的项目过滤掉。Redis已经实现了布隆过滤器,在Redis中使用bit位操作可以方便地实现布隆过滤器。
    3、分布式锁
    在分布式系统中,需要统一控制某个共享资源的访问权限,这时候就需要使用分布式锁。而Redis的setnx命令可以方便地帮我们实现分布式锁,使用setbit设置一个标记位来表示锁的状态,此时可以保证锁在只能被一个客户端所持有,相当于对资源进行了加锁。
    三、结语
    Redis提供的位操作命令可以说是非常实用和强大,可以用于多种场合,提高数据处理效率和代码的可读性。同时,Redis还提供了大量的其他命令,如哈希、列表、zset等,每个命令都拥有其独特的实用价值。希望在日后的实际应用中,大家能够更好地利用Redis的各种命令,创造出更高效的解决方案。