性能问题是程序员在开发软件的时候需要关注的核心问题之一,也是需要长期优化的一项工作内容,下面我们就通过案例分析来了解一下,微服务架构的性能优化方法都有哪些。
一、关键度量指标
制定测试目标,要求测试指标结果达到用户预期目标。
指标数据一般包括并发用户数、ResponseTime、TPS、通过率等。
系统的吞吐量要和响应时间关联(SLA),如至少90%以上的请求在正常合理响应时间内。
二、全链路调优测试策略
性能是一个逐步提升的过程,测试过程中需要找到扩容的模型,从不足50的TPS提升至万级
三、测试报告分析解读
如何从测试工具侧快速分析被测对象可能存在的问题
存在部分响应超时:
a)服务器繁忙,如某个服务节点CPU利用率高
b)网络IO超过VM/EIP带宽
c)等待后端微服务、数据库的超时时间设置过长
运行一段时间后全部响应超时或者检查点校验不通过:
a)大压力导致系统中某个微服务奔溃
b)后端数据库无响应
TPS未随着并发数增长而上升:
a)系统性能到达瓶颈,持续并发加压过程中响应时延增加(可观察响应区间统计)
b)可通过进一步加压是否会出现非正常响应验证
TP90响应时延较短,TP99时延高:
a)系统性能接近瓶颈
b)可通过进一步加压是否会出现非正常响应验证
四、一些常见的性能优化手段
1.扩容,链路中的某一应用可能出现cpu使用率较高或者连接池资源不够用(rpc、jdbc、redis连接池等)但本身对于拿到连接的请求处理又很快,这一类需要横向扩展资源。
2.应用逻辑优化,比如存在慢sql、逻辑的不合理如调用db或者redis次数过多、没有做读写分离造成写库压力过大。
3.超时时间的合理设置,对于应用之间的rpc调用或者应用与其他基础组件之间的调用,均需要设置合理的超时时间,否则过长的等待将造成整个链路的故障。
4.缓存的应用,请求尽可能从前端返回,而不是每一个都要让后端应用处理后再返回,减轻后端应用及数据库压力,提高系统吞吐能力。
5.限流,对于超出承载能力的QPS或并发,可以进行拦截并直接返回提示页面。
6.降级,对于非核心链路上的应用,允许故障关闭而不影响核心链路
7.扩容和优化也是有限度的,在评估容量内,保障核心交易链路正常是重中之重,对于非核心功能模块考虑降级场景
【免责声明】:本内容转载于网络,转载目的在于传递信息。文章内容为作者个人意见,本平台对文中陈述、观点保持中立,不对所包含内容的准确性、可靠性与完整性提供形式地保证。请读者仅作参考。