怎么清理Redis内存碎片

什么是Redis内存碎片?

操作系统的剩余空间总量足够,但申请一块N字节连续地址的空间时,剩余内存空间中没有大小为N字节的连续空间,那么这些剩余内存空间中,小于N字节的连续内存空间就是内存碎片。

Redis内存碎片是如何形成的?

内存碎片形成有内部原因和外部原因:

  • 内部原因:内存分配器的分配策略决定操作系统无法做到“按需分配”。

    • 如何清理Redis内存碎片分布式缓存常见问题解决方案

      Redis使用libc、jemalloc、tcmalloc多种内存分配器来分配内存,默认使用jemalloc。

    • 内存分配器是按照固定大小来分配内存空间,不是完全按照应用程序申请的内存大小来分配。

    • 以jemalloc为例,是按照一系列固定的大小划分内存空间,例如8字节、16字节、32字节、...、2KB、4KB等。Jemalloc会分配与程序申请内存最接近的固定大小的空间。

  • 外部原因:键值对大小不一样,并且键值对可以被修改和删除。

    • Redis申请内存空间分配时,对于大小不一的内存空间需求,内存分配器按照固定大小分配内存空间,分配的内存空间一般都会比申请的内存空间大一些,这会产生一定的内存碎片。

    • 键值对会被修改和删除,会导致空间的扩容和释放。

如何判断Redis是否有内存碎片?

DAS通过Redis提供的INFO命令,查询内存使用的详细信息,命令如下:

INFO memory
# Memory
used_memory:350458970752
used_memory_human:326.39G
used_memory_rss:349066919936
used_memory_rss_human:325.09G

mem_fragmentation_ratio:1.00
  • used_memory:表示Redis为了保存数据实际申请使用的内存空间。

  • used_memory_rss:表示操作系统实际分配给Redis的物理内存空间,其中包含了内存空间碎片。

  • mem_fragmentation_ratio指当前Redis的内存碎片率。计算公式:mem_fragmentation_ratio=used_memory_rss/used_memory

    • mem_fragmentation_ratio大于等于1但小于等于1.5,这种情况是合理的。

    • mem_fragmentation_ratio大于1.5,表明内存碎片率已经超过了50%。

如何清理内存碎片?

一个“简单粗暴”的方法是重启Redis实例。但是这个方法会带来两个后果:

  • 如果Redis中的数据没有持久化,数据会丢失;

  • 无论Redis数据是否被持久化,恢复数据时都需采用AOF或RDB方式,而恢复所需时间取决于AOF或RDB文件的大小。并且如果只有一个Redis实例,恢复阶段无法提供服务。

那有没有更好的方法呢?有的,从4.0-RC3版本以后,Redis自身提供了一种内存碎片自动清理的方法。

内存碎片自动清理

内存碎片清理,简单来说,就是“搬家让位,合并空间”。

当有数据把一块连续的内存空间分割成好几块不连续的空间时,操作系统会把数据拷贝到另外,而原来不连续的内存空间就变成连续的内存空间了。

但是碎片清理是有代价的。移动多份数据到新位置并释放原有空间是操作系统必须做的,但这个过程会花费时间。另外在数据拷贝时,会阻塞Redis,降低性能。

如何缓解这个问题?

Redis专门为自动内存碎片清理机制提供参数设置。可以通过设置参数,来控制碎片清理的开始和结束时机,以及占用的CPU比例,从而减少碎片清理对Redis请求处理的性能影响。

首先,开启自动内存碎片清理:

config set activedefrag yes然后,设置触发内存清理的条件:

  • active-defrag-ignore-bytes 100mb:表示内存碎片的字节数达到100MB时,开始清理;

  • active-defrag-threshold-lower 10:表示内存碎片空间占操作系统分配给Redis的总空间比例达到10%时,开始清理。

最后,控制清理操作占用CPU时间比例的上、下限:

  • active-defrag-cycle-min 25: 表示自动清理过程所用CPU时间的比例不低于25%,保证清理能正常开展;

  • active-defrag-cycle-max 75:表示自动清理过程所用CPU时间的比例不高于75%,一旦超过,就停止清理,从而避免在清理时,大量的内存拷贝阻塞Redis,导致响应延迟升高。



Redis作为一种高效的分布式缓存,其常见问题中,内存碎片问题在实际应用中较为常见。当Redis的内存碎片堆积严重时,系统的性能会受到很大影响,如何清理Redis内存碎片成为了系统运维工作中的一项重要任务。
一、Redis内存碎片产生的原因及表现
1. 内存碎片产生原因
Redis使用jemalloc作为内存分配器,底层的内存管理是由jemalloc实现的。在Redis开启内存碎片检测时,如果发现内存碎片严重,就会持续输出以下日志信息:
```
[39286] 07 Jun 09:34:20.097 # [jep] fragmentation: 11815 jemalloc: 16591232 used, 30787584 active, 100940544 allocated, 14 spans, 2097151 pages, 2492920 fragmentation factor
```
这里的\"fragmentation factor\"就是内存碎片比例,该数值越大,表明Redis的碎片现象越严重。
2. 如何判断Redis内存碎片是否严重
Redis提供了一个名为“used_memory-rss”的指标来表示实际物理内存占用,该指标的大小反映了Redis当前内存碎片的水平。在Redis启动时,通过以下命令查看:
```
redis-cli info memory | grep used_memory_rss
```
当该指标占用内存过多时,表现为Redis进程的CPU利用率升高、命令执行速度变慢等。
二、解决Redis内存碎片的方法
1. 更新Redis版本
从Redis 4.0开始,Redis官方起初引入了jemalloc 5.0,它默认开启了的内存碎片优化功能。这使得Redis在内存管理的效率及内存碎片上有了大幅提升。同时,jemalloc5也新增了多线程模式,并且可以串行分配内存和并行的释放内存,有了这些优化,jemalloc5能够大幅减少内存碎片。
2. 关键参数调整
若Redis版本较旧,通过调整Redis maxmemory-reserved配置项,可以预留出大块连续的内存空间,来增加内存分配的连续性。常规建议为将该配置项设置为maxmemory的10%~20%。
如果分配内存的过程产生了过多的碎片,通过增加NoLRU-sizing-size参数大小来调整,这里我们举个例子,当tcmalloc的内部碎片率达到30%的时候(这是一个比较高的值),tcmalloc内部的cache size约为500M,因此我们建议在部署时配置如下参数:
```
maxmemory 6G
maxmemory-policy volatile-ttl
maxmemory-reserved 200mb
noeviction yes
activerehashing no
hash-max-ziplist-entries 512
hash-max-ziplist-value 64
```
3. 参数调优
Redis默认配置的参数在普通场景下运行没有问题,但是在实际应用中,仍需要根据业务特点进行针对性调优,特别是在内存占用量巨大的情况下,例如block-max-memory,默认配置较小,需增加其大小。注:这些调优参数均需谨慎调整。
三、结语
Redis作为分布式缓存技术的先锋,其性能一直备受关注,在使用的过程中遇到内存碎片问题,进行及时的处理,可以使Redis的性能更佳稳定。
总之,解决Redis内存碎片问题是一项综合性的工作,需要从不同的方面入手,权衡各种因素才能达到最优解。通过本篇文章,希望可以为大家提供一些关于清理Redis内存碎片的思路和参考,帮助大家尽快排除碎片问题,保证系统的稳定性。