关于Linux系统缓存的一些测试

最新推荐文章于 2025-04-01 11:11:34 发布
原创 最新推荐文章于 2025-04-01 11:11:34 发布 · 1.7k 阅读 · 2 ·
本内容遵循CC 4.0 BY-SA版权协议
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
标签
#drop_caches #缓存 #linux-fincore #目录缓存
本文详述了Linux系统缓存测试的过程，包括LRU缓存回收策略的验证，通过测试数据展示了缓存行为。第一组测试表明系统会记录文件访问次数并逐步替换缓存内容。第二组测试验证了不同访问频率下文件缓存的变化。此外，还探讨了`drop_caches`参数中1和2的区别，涉及数据缓存和目录缓存的清理，以及它们对性能的影响。

LRU缓存回收策略的验证

环境信息:

[root~]# uname -r
2.6.32-431.el6.x86_64
[root~]# cat /etc/redhat-release 
CentOS release 6.5 (Final)

[root~]# free -g
             total       used       free     shared    buffers     cached
Mem:            62         10         52          0          0          2
-/+ buffers/cache:          7         55
Swap:           31          0         31

准备工作：

[root]# ls -lhtr
total 64G
-rw-r--r-- 1 root root 32G May  3 14:36 file1.csv
-rw-r--r-- 1 root root 32G May  3 14:45 file2.csv

操作步骤：

第一组测试
  • 先多次执行time wc -l file1.csv，观察每次执行所用时间
  • 在不清理缓存情况下，多次执行time wc -l file2.csv，观察每次执行所用时间。
  • 同时使用linux-fincore工具查看file1和file2这两个文件的cache情况（关于这个工具也请参考上一篇博文的介绍）

测试数据:

  • 先多次(大约六七次) wc -l file1.csv， 可以看到file1.csv被完全cache住: 
    # 第一次执行耗时5分钟多  
    [root]# time wc -l file1.csv
    107746446 file1.csv

    real    5m8.501s
    user    0m5.280s
    sys 0m16.962s

    # 第二次执行只用了22秒
    [root]# time wc -l file1.csv
    107746446 file1.csv

    real    0m22.138s
    user    0m2.133s
    sys 0m8.252s

    # 第三次执行只用了9秒，且之后都是9秒左右。
    [root@192-168-19-124 cache_test]# time wc -l file1.csv
    107746446 file1.csv

    real    0m9.550s
    user    0m2.168s
    sys 0m6.785s

    # 第三次执行之后，查看file1的缓存情况：
    [root]# ./linux-fincore  --pages=false --summarize --only-cached /home/cache_test/*
    filename                                                                                       size        total_pages    min_cached page       cached_pages        cached_size        cached_perc
    --------                                                                                       ----        -----------    ---------------       ------------        -----------        -----------
    /home/cache_test/file1.csv                                                       33,792,286,436          8,250,070                  0          8,250,070     33,792,286,720             100.00
    ---
    total cached size: 33,792,286,720
  • 不清理缓存，直接执行 wc -l file2.csv 。同样耗时5分多。但通过fincore查看，直到命令被执行完、且通过free看到系统内存几乎耗尽，file2被cache的大小也只占到 33.8%，而file1.csv仍然被cache 98.7%
[root]# time wc -l file2.csv 
102468691 file2.csv

real    5m23.170s
user    0m4.718s
sys 0m20.965s

[root]# free -g                                                                                                                                                                                                  Fri May  4 15:11:54 2018

             total   used       free     shared    buffers     cached
Mem:            62         60          2          0          0         45
-/+ buffers/cache:         15         47
Swap:           31          0         31

[root]# ./linux-fincore  --pages=false --summarize --only-cached /home/cache_test/*
filename                                                                                       size        total_pages    min_cached page       cached_pages        cached_size        cached_perc
--------                                                                                       ----        -----------    ---------------       ------------        -----------        -----------
/home/cache_test/file1.csv                                                       33,792,286,436          8,250,070            106,991          8,143,079     33,354,051,584              98.70
/home/cache_test/file2.csv                                                       34,073,762,786          8,318,790          1,786,282          2,811,795     11,517,112,320              33.80
---
total cached size: 44,871,163,904
  • 第二次执行 wc -l file2.csv ，仍然耗时5分钟多，比第一次略快，完毕后可以看到file1的cache减少，file2的cache增加。 
[root]# time wc -l file2.csv 
102468691 file2.csv

real    5m19.290s
user    0m4.718s
sys 0m20.965s

[root]# ./linux-fincore  --pages=false --summarize --only-cached /home/cache_test/*
filename                                                                                       size        total_pages    min_cached page       cached_pages        cached_size        cached_perc
--------                                                                                       ----        -----------    ---------------       ------------        -----------        -----------
/home/cache_test/file1.csv                                                       33,792,286,436          8,250,070          1,226,576          6,611,513     27,080,757,248              80.14
/home/cache_test/file2.csv                                                       34,073,762,786          8,318,790          1,052,496          4,326,571     17,721,634,816              52.01
---
total cached size: 44,802,392,064
  • 第三次执行 wc -l file2.csv 
[root]# time wc -l file2.csv 
102468691 file2.csv

real    4m18.372s
user    0m4.540s
sys 0m19.338s

[root]# ./linux-fincore  --pages=false --summarize --only-cached /home/cache_test/*
filename                                                                                       size        total_pages    min_cached page       cached_pages        cached_size        cached_perc
--------                                                                                       ----        -----------    ---------------       ------------        -----------        -----------
/home/cache_test/file1.csv                                                       33,792,286,436          8,250,070          1,226,576          5,457,623     22,354,423,808              66.15
/home/cache_test/file2.csv                                                       34,073,762,786          8,318,790                  0          5,257,364     21,534,162,944              63.20
---
total cached size: 43,888,586,752
  • 大约六七次执行之后，可以看到file2已经完全在cache中。之后再次执行wc -l file2.csv速度就很快了 
[root]# time wc -l file2.csv 
102468691 file2.csv

real    1m56.612s
user    0m2.953s
sys 0m13.424s

[root]# ./linux-fincore  --pages=false --summarize --only-cached /home/cache_test/*
filename                                                                                       size        total_pages    min_cached page       cached_pages        cached_size        cached_perc
--------                                                                                       ----        -----------    ---------------       ------------        -----------        -----------
/home/cache_test/file1.csv                                                       33,792,286,436          8,250,070          1,226,576          2,328,421      9,537,212,416              28.22
/home/cache_test/file2.csv                                                       34,073,762,786          8,318,790                  0          8,318,790     34,073,763,840             100.00
---
total cached size: 43,610,976,256


[root]# time wc -l file2.csv 
102468691 file2.csv

real    0m8.339s
user    0m2.002s
sys 0m6.336s
第二组测试
  • 为了验证file1访问次数和后面file1的cache被淘汰速度之间的关系，我们执行echo 3 > /proc/sys/vm/drop_caches清理所有缓存后，重新做一次测试。 初始状态仅执行一次wc -l file1.csv,将file1完全加载到缓存。 
[root]# ./linux-fincore  --pages=false --summarize --only-cached /home/cache_test/*
filename                                                                                       size        total_pages    min_cached page       cached_pages        cached_size        cached_perc
--------                                                                                       ----        -----------    ---------------       ------------        -----------        -----------
/home/cache_test/file1.csv                                                       33,792,286,436          8,250,070             35,544          8,214,526     33,646,698,496              99.57
---
total cached size: 33,646,698,496
  • 然后执行一次wc -l file2.csv，可以看到file2已经被100% cache，而file1大部分内容已被逐出缓存。 
[root]# ./linux-fincore  --pages=false --summarize --only-cached /home/cache_test/*
filename                                                                                       size        total_pages    min_cached page       cached_pages        cached_size        cached_perc
--------                                                                                       ----        -----------    ---------------       ------------        -----------        -----------
/home/cache_test/file1.csv                                                       33,792,286,436          8,250,070          3,286,806          4,298,896     17,608,278,016              52.11
/home/cache_test/file2.csv                                                       34,073,762,786          8,318,790                  0          8,318,790     34,073,763,840             100.00
---
total cached size: 51,682,041,856
结论
  • 第一组测试与网上提到的修复方案描述一致： 即系统会记录file2对应页面的累积访问次数，尽管file1占据active缓存队列时，file2只能在inactive中，且由于无法全部加载到内存，file2加载到尾部时其头部的缓存页面已经被淘汰。但作为修复方案，系统仍然会记录其最近访问计数，并在计数达到一定次数后将其移动到active队列，并逐出file1对应的缓存页面。
  • 需要注意这与我们普通理解的LRU仍然有一些不同：并非file2被访问一次之后就完全被cache住！！！事实上，第一次访问后，file2仅有一小部分在cache2中，随着其访问次数的增加，在逐渐将file1逐出cache。
  • 第二组测试中，由于file1最初仅被访问一次，所以这和我们理解的LRU是一样的：file2访问一次之后就完全被cache，file1的大部分内容被从缓存中逐出，以给file2“腾”出空间。

/proc/sys/vm/drop_caches取值1和2的区别

  • echo 1 > /proc/sys/vm/drop_caches 是清理数据缓存。例如上面的例子中，echo
    1 和 echo 3 效果基本差不多，因为主要是数据缓存，元数据很少。

  • echo 2 > /proc/sys/vm/drop_caches 是清理目录和inode缓存。在目录、文件数量很多情况下，可以使用这个命令。

测试验证

准备条件
  • 创建一个/home/test目录，在test目录下创建约3.2万个子目录，每个子目录下100个文件。即总共约320万个文件
操作步骤
  • 执行find命令查找test目录下所有文件，第一次执行耗时5分多，之后由于缓存，只需要10秒以内。 
# 第一次执行 
[root@localhost home]# time find /home/cache_test -name file* | wc -l
3125400

real    5m30.465s
user    0m11.033s
sys 0m34.133s

# 第二次执行
[root@localhost home]# time find /home/cache_test -name file* | wc -l
3125400

real    0m18.615s
user    0m2.489s
sys 0m5.287s

# 第三次执行
[root@localhost home]# time find /home/cache_test -name file* | wc -l
3125400

real    0m3.374s
user    0m1.421s
sys 0m1.930s
  • 执行echo 1 > /proc/sys/vm/drop_caches之后再次执行find命令，速度仍然很快。可见目录和文件inode缓存仍在。
[root@localhost home]# echo 1 > /proc/sys/vm/drop_caches 
[root@localhost home]# time find /home/cache_test -name file* | wc -l
3125400

real    0m3.554s
user    0m1.424s
sys 0m1.949s
  • 执行echo 2 > /proc/sys/vm/drop_caches之后再次执行find命令,速度很慢。可见 缓存已经被清理掉了。但再次执行，由于前面已经缓存过，速度又变快。 
[root@localhost home]# echo 2 > /proc/sys/vm/drop_caches 
# 由于缓存被清理，这次执行耗时8分钟多
[root@localhost home]# time find /home/cache_test -name file* | wc -l
3125400

real    8m22.344s
user    0m11.845s
sys 0m51.035s
# 再次执行，又有了缓存，速度很快  
[root@localhost home]# time find /home/cache_test -name file* | wc -l
3125400

real    0m3.375s
user    0m1.361s
sys 0m1.913s
  • 执行echo 3 > /proc/sys/vm/drop_caches之后在测试，针对这个场景，效果和echo 2 一样： 
[root@localhost home]# echo 3 > /proc/sys/vm/drop_caches 
[root@localhost home]# time find /home/cache_test -name file* | wc -l
3125400

real    8m22.845s
user    0m11.121s
sys 0m49.958s
[root@localhost home]# time find /home/cache_test -name file* | wc -l
3125400

real    0m3.294s
user    0m1.422s
sys 0m1.852s
总结
  • 通过上面这些例子，echo 1 > /proc/sys/vm/drop_caches和echo 2 > /proc/sys/vm/drop_caches的区别已经很清晰了。
linux perf工具测试程序cpu cache刷回实验
SweeNeil
05-15 1322
一、perf安装 进入自己编译的内核，一般目录是： /usr/src/linux-x.x.x/tools/perf 编译安装之后，即可使用 make make install perf的使用可以查看本文参考文献1，下面介绍一下perf工具中与cache相关的内容 sudo perf list cache 可以看到与刷回有关的事件是：LLC-stores 下面结合一个程序，来了解perf对于应用程序cacheline刷回事件的追踪~ 二、测试程序 测试程序结合参考文献2、3进行.
linux操作系统缓存(cache)效果测试
liuhong的专栏
05-21 1877
测试文件大小：4.5GB； 第一次将该文件传输到另外一台机器： Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await  svctm  %util sda               0.00     0.00    0.01    0.00     0
linux cache memory测试,Linux基础教程：Linux CacheMemory(缓存内存)
weixin_34326484的博客
05-25 312
Linux与Windows不同，会存在缓存内存，通常叫做Cache Memory。有些时候你会发现没有什么程序在运行，但是使用top或free命令看到可用内存会很少，此时查看Linux系统 /proc/meminfo 文件，会发现有一项 Cached Memory：# >> cat /proc/meminfoMemTotal: 16414004 kBMemFree: 1...
缓存--测试
Michaelyq1229的博客
03-01 1362
缓存功能场景及如何测试
缓存怎么测试？
weixin_60664821的博客
08-31 3088
部分场景可能存在查询缓存时，如缓存无数据，可能会直接返回空数据给客户端，不再去查询。数据库，是高并发场景常用一款存储中间件，其主要用于：缓存热点数据，减少。验证缓存查询达到超时后，未返回指定的数据，对系统的影响；并发请求缓存中的有的数据，验证返回数据是否正确，性能指标是否正常。中也没有的数据，验证返回数据是否为空，性能指标是否正常；有的数据，验证返回数据是否正确，性能指标是否正常。和缓存中一定不存在的数据，验证返回数据为空；，数据返回是否正确，且缓存淘汰是否正确。，计数器，限流，消息队列，购物车等。...
linux下缓存命中测试,linux系统缓存命中率分析工具，linux命中率
weixin_29496661的博客
05-12 894
linux系统缓存命中率分析工具，linux命中率缓存是现在所有高并发系统必需的核心模块，主要作用就是把经常访问的数据(也就是热点数据)，提前读入到内存中。这样，下次访问时就可以直接从内存读取数据，而不需要经过硬盘，从而加快应用程序的响应速度。这些独立的缓存模块通常会提供查询接口，方便我们随时查看缓存的命中情况。不过 Linux 系统中并没有直接提供这些接口，所以这里我要介绍一下，cachesta...
linux下缓存命中测试,linux – 确定各种文件系统的缓存未命中数
weixin_42347357的博客
05-12 281
我有一个学校项目,我必须找出文件系统在重载和轻载下以及多处理器机器上会有多少缓存未命中.在与我的教授讨论之后,我想出了一个基本的执行计划：>创建一个程序,它会使文件系统陷入困境并填满缓冲区缓存.>使用系统基准测试工具记录缓存未命中数.>用新条件冲洗并重复.但作为操作系统设计的新手,我不确定如何继续.所以这里有一些我需要help的点：>理想程序执行哪些操作来填充缓冲区缓存？目...
（10） 如何获取 linux 系统上的 TCP 、 UDP 套接字的收发缓存的默认大小，以及代码范例，补充 windows 系统上的同样的测试
zhangzhangkeji的博客
02-04 748
【代码】（10） 如何获取 linux 系统上的 TCP 、 UDP 套接字的收发缓存的默认大小，以及代码范例。
缓存如何测试？
m0_60212972的博客
05-11 2316
缓存实质就是一个临时的存储数据的容器，数据在这个容器中可以提高读取速度。缓存分为硬件缓存和软件缓存，硬件缓存是位于CPU和内存之间的临时存储器，软件缓存又分为内存缓存、数据库缓存、网络缓存使用缓存主要的目的有两个：实现高性能、高并发。
Linux块设备读写测试-page cache/buffer cache
tugouxp的专栏
07-23 1095
一个O_DIRECT读写用例堆栈：用普通方式带有page cache(非DIRECT模式）操作文件的调用堆栈。
什么是缓存？ 如何测试缓存？ 以Redis为例
qq_40685200的博客
05-19 5021
什么是缓存？ 通俗来讲，缓存就是提前准备好的数据，存储在内存中，方便应用快速访问。比如一个固定的查询请求，没缓存的话，查询语句会直接打到数据库上，请求数不多的时候，没有什么影响，但是当并发请求很多时，就会造成数据库负载，影响结果返回时间。 如果采用缓存技术，将这个查询结果预先存在内存中，那当请求来时，直接调用该数据，不用再去查数据库，这样就能解决并发过大时出现的问题。 redis是什么？ Redis（Remote Dictionary Server，远程字典服务）是一个速度非常快的非关系数据库。 它可
聊聊缓存如何进行测试的
奇峰卧虎
06-19 1951
Redis：Redis 不仅是一个键值存储系统，还支持多种数据结构如列表、集合、排序集合、哈希表等，提供了更丰富的缓存场景支持，比如计数器、消息队列等。故意构造不存在于缓存中的查询，验证缓存如何处理这些情况，是否会导致频繁的数据库查询，以及是否有合理的策略（如缓存空值）来避免穿透。模拟极端情况，如热点数据失效导致的大量数据库访问（缓存击穿），大量缓存同时失效（缓存雪崩），以及频繁查询不存在的键（缓存穿透）。故意中断缓存服务或网络连接，然后恢复，观察数据是否丢失、服务能否正常恢复以及恢复所需的时间。
软件测试需要懂的架构知识-缓存
cae_520_ww的博客
03-17 1017
分布式缓存服务器 -其中一台服务器宕机的时候，也只会丢失一部分缓存数据，此时通过访问数据库来重建这些缓存数据的开销并不算太大。4、数据库中的“热点”数据，在应用服务器集群中有一级缓存，在缓存服务集群中有二级缓存；系统冷启动后，在缓存预热阶段的数据库访问压力是否会超过数据库实际可以承载的压力。1、对于前端的测试场景，需要分别考虑缓存命中和缓存不命中情况下的页面加载时间。3、反向代理服务器本质上同样也是缓存，属于用户数据中心最前端的缓存。2、CDN 本质也是缓存，属于部署在网络服务供应商机房中的缓存。
Cache架构以及X86&ARM @Linux平台cache eviction功能测试
tugouxp的专栏
03-11 1291
如果TLB失中，Page Table Walk(PTW)电路不走Cache,直接从物理内存中查找页表。一个8路组相联的高速缓存的结构示意图：组中有路，路中有组，一路中的行数等于组数，一组中的行数等于路数，缓存行是最小寻址单元。
Linux内存之Cache
热门推荐
wyttRain的博客
12-25 1万+
一、 Linux内存之Cache 1.1、Cache的基本介绍 Cache存储器，是位于CPU和主存储器DRAM之间的一块高速缓冲存储器，规模较小，但是速度很快，通常由SRAM（静态存储器）组成。 Cache的功能是提高CPU数据输入输出的速率。Cache容量小但速度快，内存速度较低但容量大，通过优化调度算法，可以让系统的性能大大改善，感觉就像是又有了主存储器的内存，又有了Cache的访问速度。 1.2、程序是如何运行的？ 我们先思考一个问题：我们的程序是如何运行起来的？ 我们应该知道，程序是运行在RAM之
Redis缓存测试
ztt1985的专栏
12-28 2326
缓存的主要作用： 缓存是将业务系统的数据处理结果，暂时在内存中保存，并且等待下次访问的时候，立马从内存中取出。 在日常开发场景中，因为服务器的性能或者自身业务对数据处理非常耗时的时候，当发现业务系统的数据请求量很大的时候，频繁的IO和频繁的逻辑处理会导致硬盘和CPU资源的瓶颈出现。 应用缓存系统，就是将这些数据保存在内存中，当有其他线程或者客户端，查询相同的数据资源时，直接从缓存的内存中返回数据。 这样不但可以提高系统的响应速度，同时也...
场景实练｜缓存测试关注点
“ 把自己活成一道光，因为你不知道，谁会借着你的光，走出黑暗。”
10-21 1131
本文会在大家熟知的通用测试方案的基础上，结合笔者最近遇到的一些新场景，主要是多环境下的兼容性问题，补充一些新的关注点。一个项目需要适配不同的环境，有的环境缓存是单节点配置，有的环境是集群配置，可类比web 系统对浏览器的兼容测试，这个就要求工程里面使用的方法必须具有普适性，不然换个环境就没办法运行了。一个项目需要适配不同的环境，有的环境缓存是单节点配置，有的环境是集群配置，可类比web 系统对浏览器的兼容测试，这个就要求工程里面使用的方法必须具有普适性，不然换个环境就没办法运行了。但是巧妇难为无米之炊呀。
聊一聊缓存如何进行测试
最新发布
奇峰卧虎
04-01 1351
在测试缓存之前需要了解缓存的作用都有哪些，缓存的好处是提高访问速度，减少资源消耗，提升用户体验，还能增强系统的扩展性。但缓存也有需要注意的地方，比如数据一致性。如果原始数据更新了，缓存里的数据可能还没变，这时候用户看到的就是旧数据。所以需要合适的缓存策略，比如设置过期时间，或者当数据更新时自动刷新缓存，最直观的可以体现在以下几个方面。加速数据访问减少延迟：将频繁访问的数据存储在访问速度更快的介质（如内存）中，避免每次从慢速存储（如磁盘或数据库）中读取。
对于缓存击穿,雪崩,穿透的测试
XCL1670的博客
12-15 962
性能测试
Redis缓存测试整理笔记(一)
qq_41044271的博客
07-18 525
如果遇到请求攻击，即使这个缓存有效期只有1秒，也是很有效的，能够挡住大量的请求。针对请求参数变化不大，返回的数据跟DB中存储的数据很接近的情况，适合在”里面“缓存数据，也就是在更新DB的同时更新缓存，这种情况最优的状态下，只需要读缓存就够了，不需要跟DB直接交互，能大大缓存DB压力，这种缓存有效期可以设置很长。内存缓存和数据库缓存类似，受技术栈限制，比如Java可以使用，并且非常频繁，但是PHP无法使用，内存缓存比数据库缓存更快，因为内存缓存不可能一直增加，所以限制更多，稍微不注意就会出现内存泄漏的问题.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值