本文探讨了服务启动时的抖动问题，并介绍了预热策略，包括JIT预热、测试用例预热和流量录制回放。服务预热涉及连接池、线程池等资源，而中间件预热如Redis和CDN也需要关注。数据库预热，特别是MySQL的InnoDB Buffer Pool预热，对于避免性能下降至关重要。定制路由策略也是一种有效的预热手段，逐步增加流量以确保系统稳定。
背景
随着流量增长，服务的节点越来越多，对服务性能要求也越来越大，在服务启动时经常会发现存在抖动，针对这些服务抖动，就需要采取一些预热措施，下面就简单介绍下系统相关的服务预热、中间件预热、数据库预热等
预热场景
服务预热
在《springcloud线上发布超时》系列文章中已经描述了一些微服务需要预热的服务资源，
- 连接池
- 线程池
- 限流池
- grpc连接
- jit
池资源相关预热我这里就不描述了，参考我的发布预热系列文章：springcloud线上发布超时
这里说一下jit，网上有两种方案，
方案一 定制化jdk
将jit过程信息保存到文件中，下次发布时自动加载，成熟方案是阿里的jwarmup，已经集成到阿里的jdk中，有兴趣的可以了解下
方案二 跑测试用例预热
一般都是采用测试用例预热，如果仅仅是jdk预热，可以直接跑几个测试用例循环n次就行，但是如果涉及到中间件预热，这里就可能不满足需求了。
我现在就是采用流量录制以及回放预热，如下图：
方案三 定制路由策略，通过tag配置来路由
这里的方案就是需要定制化路由策略，刚启动的服务注册时带上一些配置信息，网关或者服务调用段获取到配置后来根据配置来路由，先路由少量流量，慢慢增加直到路由100%，这样可以达到针对jit的预热效果
中间件预热
redis预热
先在很多服务为了提高吞吐量而使用redis，这就会导致服务启动后或者redis数据丢失后，会导致请求都打到db中去，从而导致db压力倍增，这就是常见的redis雪崩。
CDN预热
CDN经常是也承担了入口缓存，那么这里也会需要预热，可以录制生产流量回放来达到预热效果。
mysql预热
mysql重启后十几分钟的性能是非常差的,原因是因为InnoDB有innodb buffer pool，详细可以参考该链接：https://blog.csdn.net/u014236541/article/details/79870670
扫一扫
1478
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
