网站建设职业怎么样,专业网站托管,网站建设实训个人总结,建一个网站今天谈下业务系统性能问题分析诊断和性能优化方面的内容。这篇文章重点还是谈已经上线的业务系统后续出现性能问题后的问题诊断和优化重点。
系统性能问题分析流程 我们首先来分析下如果一个业务系统上线前没有性能问题#xff0c;而在上线后出现了比较严重的性能问题#x…
今天谈下业务系统性能问题分析诊断和性能优化方面的内容。这篇文章重点还是谈已经上线的业务系统后续出现性能问题后的问题诊断和优化重点。
系统性能问题分析流程 我们首先来分析下如果一个业务系统上线前没有性能问题而在上线后出现了比较严重的性能问题那么实际上潜在的场景主要来自于以下几个方面。
业务出现大并发的访问导致出现性能瓶颈 上线后的系统数据库数据日积月累数据量增加后出现性能瓶颈 其它关键环境改变比如我们常说的网络带宽影响 正是由于这个原因当我们发现性能问题的时候首先就需要判断是单用户非并发状态下本身就有性能问题还是说在并发状态才存在性能问题。对于单用户性能问题往往比较容易测试和验证对于并发性能问题我们可以在测试环境进行加压测试和验证以判断并发下的性能。
如果是单用户本身就存在性能问题那么大部分问题都出在程序代码和SQL需要进一步优化上面。如果是并发性能问题我们就需要进一步分析数据库和中间件本身的状态看是否需要对中间件进行性能调优。
在加压测试过程中我们还需要对CPU内存和JVM进行监控观察是否存在类似内存泄漏无法释放等情况即并发下性能问题本身也可能是代码本身原因导致性能异常。
性能问题影响因素分析 对于性能问题影响因素简单来说包括了硬件环境软件运行环境和软件程序三个方面的主要内容。下面分别再展开说明下。
硬件环境
硬件环境就是我们常说的计算存储和网络资源。
对于服务器的计算能力一般来说厂家都会提供TPMC参数作为一个参考数据但是我们实际看到相同TPMC能力下的X86服务器能力仍然低于小型机的能力。
除了服务器的计算能力参数另外一个重点就是我们说的存储设备影响到存储的重点又是IO读写性能问题。有时候我们监控发现CPU和内存居高不下而真正的瓶颈通过分析反而发现是由于IO瓶颈导致由于读写性能跟不上导致大量数据无法快速持久化并释放内存资源。 比如在Linux环境下本身也提供了性能监控工具方便进行性能分析。比如常用的iostat,ps,sar,top,vmstat等这些工具可以对CPU内存JVM磁盘IO等进行性能监控和分析以发现真正的性能问题在哪里。
比如我们常说的内存使用率持续告警你就必须发现是高并发调用导致还是JVM内存泄漏导致还是本身由于磁盘IO瓶颈导致。
对于CPU内存磁盘IO性能监控和分析的一个思路可以参考 运行环境-数据库和应用中间件
数据库和应用中间件性能调优是另外一个经常出现性能问题的地方。
数据库性能调优
拿Oracle数据库来说影响数据库性能的因素包括系统、数据库、网络。数据库的优化包括优化数据库磁盘I/O、优化回滚段、优化Rrdo日志、优化系统全局区、优化数据库对象。 要调整首先就需要对数据库性能进行监控
我们可以在init.ora参数文件中设置TIMED_STATISTICSTRUE 和在你的会话层设置ALTER SESSION SET STATISTICSTRUE 。运行svrmgrl 用 connect internal 注册在你的应用系统正常活动期间运行utlbstat.sql 开始统计系统活动达到一定的时间后执行utlestat.sql 停止统计。统计结果将产生在report.txt 文件中。
数据库性能优化应该是一个持续性的工作一个方面是本身的性能和参数巡检另外一个方面就是DBA也会经常提取最占用内存的低效SQL语句给开发人员进一步分析同时也会从数据库本身的以下告警KPI指标中发现问题。
比如我们可能会发现Oracle数据库出现内存使用率高的告警而通过检查会发现是产生了大量的Redo日志导致那么我们就需要从程序上进一步分析为何会产生如此多的回滚。
应用中间件性能分析和调优
应用中间件容器即我们常说的Weblogic, Tomcat等应用中间件容器或Web容器。应用中间件调优一个方面是本身的配置参数优化设置一个方面就是JVM内存启动参数调优。
对于应用中间件本身的参数设置主要包括了JVM启动参数设置线程池设置连接数的最小最大值设置等。如果是集群环境还涉及到集群相关的配置调优。
对于JVM启动参数调优往往也是应用中间件调优的一个关键点但是一般JVM参数调优会结合应用程序一起进行分析。 比如我们常见的JVM堆内存溢出如果程序代码没有内存泄漏问题的话我就需要考虑调整JVM启动时候堆内存设置。在32位操作系统下只能够设置到4G但是在64位操作系统下已经可以设置到8G甚至更大的值。 其中JVM启动的主要控制参数说明如下:
-Xmx #设置最大堆空间
-Xms #设置最小堆空间
-XX:MaxNewSize #设置最大新生代空间
-XX:NewSize #设置最小新生代空间
-XX:MaxPermSize #设置最大永久代空间(注新内存模型已经替换为Metaspace)
-XX:PermSize #设置最小永久代空间(注新内存模型已经替换为Metaspace)
-Xss #设置每个线程的堆栈大小那么这些值究竟设置多大合适具体来讲 Java整个堆大小设置Xmx 和 Xms设置为老年代存活对象的3-4倍即FullGC之后的老年代内存占用的3-4倍。永久代 PermSize和MaxPermSize设置为老年代存活对象的1.2-1.5倍。
年轻代Xmn的设置为老年代存活对象的1-1.5倍。
老年代的内存大小设置为老年代存活对象的2-3倍。
注意在新的JVM内存模型下已经没有PermSize而是变化为Metaspace因此需要考虑Heap内存和Metaspace大小的配比同时还需要考虑相关的垃圾回收机制是采用哪种类型等。
对于JVM内存溢出问题我前面写过一篇专门的分析文章可以参考。
从表象到根源-一个软件系统JVM内存溢出问题分析解决全过程 软件程序性能问题分析
在这里首先要强调的一点就是当我们发现性能问题后首先想到的就是扩展资源但是大部分的性能问题本身并不是资源能力不够导致而是我们程序实现上出现明显缺陷。
比如我们经常看到的大量循环创建连接资源使用了不释放SQL语句低效执行等。
为了解决这些性能问题最好的方法仍然是在事前控制。其中包括了事前的代码静态检查工具的使用也包括了开发团队对代码进行的Code Review来发现性能问题。
所有已知的问题都必须形成开发团队的开发规范要求避免重复再犯。
业务系统性能问题扩展思考 对于业务系统的性能优化除了上面谈到的标准分析流程和分析要素外再谈下其它一些性能问题引发的关键思考。
上线前的性能测试是否有用
有时候大家可能觉得奇怪为何我们系统上线前都做了性能测试为何上线后还是会出现系统性能问题。那么我们可以考虑下实际上我们上线前性能测试可能存在的一些无法真实模拟生产环境的地方具体为
硬件能否完全模拟真实环境最好的性能测试往往是直接在搭建完成的生产环境进行。
数据量能否模拟实际场景真实场景往往是多个业务表都已经存在大数据量的积累而非空表。
并发能否模拟真实场景一个是需要录制复合业务场景一个是需要多台压测机。
而实际上我们在做性能测试的时候以上几个点都很难真正做到因此要想完全模拟出生产真实环境是相当困难的这也导致了很多性能问题是在真正上线后才发现。
系统本身水平弹性扩展是否完全解决性能问题
第二个点也是我们经常谈的比较多的点就是我们的业务系统在进行架构设计的时候特别是面对非功能性需求我们都会谈到系统本身的数据库中间件都采用了集群技术能够做到弹性水平扩展。那么这种弹性水平扩展能力是否又真正解决了性能问题
实际上我们看到对于数据库往往很难真正做到无限的弹性水平扩展即使对于Oracle RAC集群往往也是最多扩展到单点的2到3倍性能。对于应用集群往往可以做到弹性水平扩展当前技术也比较成熟。
当中间件能够做到完全弹性扩展的时候实际上仍然可能存在性能问题即随着我们系统的运行和业务数据量的不断积累增值。实际上你可以看到往往非并发状态下的单用户访问本身就很慢而不是说并发上来后慢。因此也是我们常说的要给点即
单点访问性能正常的时候可以扩展集群来应对大并发状态下的同时访问 单点访问本身性能就有问题的时候要优先优化单节点访问性能
业务系统性能诊断的分类
对于业务系统性能诊断如果从静态角度我们可以考虑从以下三个方面进行分类
操作系统和存储层面 中间件层面包括了数据库应用服务器中间件 软件层面包括了数据库SQL和存储过程逻辑层前端展现层等 那么一个业务系统应用功能出现问题了我们当然也可以从动态层面来看实际一个应用请求从调用开始究竟经过了哪些代码和硬件基础设施通过分段方法来定位和查询问题。
比如我们常见的就是一个查询功能如果出现问题了首先就是找到这个查询功能对应的SQL语句在后台查询是否很慢如果这个SQL本身就慢那么就要优化优化SQL语句。如果SQL本身快但是查询慢那就要看下是否是前端性能问题或者集群问题等。
软件代码的问题往往是最不能忽视的一个性能问题点
对于业务系统性能问题我们经常想到的就是要扩展数据库的硬件性能比如扩展CPU和内存扩展集群但是实际上可以看到很多应用的性能问题并不是硬件性能导致的而是由于软件代码性能引起的。对于软件代码常见的性能问题我在以往的博客文章里面也谈过到比较典型的包括了。
循环中初始化大的结构对象数据库连接等 资源不释放导致的内存泄露等 没有基于场景需求来适度通过缓存等方式提升性能 长周期事务处理耗费资源 处理某一个业务场景或问题的时候没有选择最优的数据结构或算法 以上都是常见的一些软件代码性能问题点而这些往往需要通过我们进行Code Review或代码评审的方式才能够发现出来。因此如果要做全面的性能优化对于软件代码的性能问题排查是必须的。
通过IT资源监控或APM应用工具来发现性能问题 对于性能问题的发现一般有两条路径一个就是通过我们IT资源的监控APM的性能监控和预警来提前发现性能问题一个是通过业务用户在使用过程中的反馈来发现性能问题。
APM应用性能管理主要指对企业的关键业务应用进行监测、优化提高企业应用的可靠性和质量保证用户得到良好的服务降低IT总拥有成本(TCO)。
资源池-》应用层-》业务层
这个可以理解为APM的一个关键点原有的网管类监控软件更多的是资源和操作系统层面包括计算和存储资源的使用和利用率情况网络本身的性能情况等。但是当要分析所有的资源层问题如何对应到具体的应用对应到具体的业务功能的时候很难。
传统模式下当出现CPU或内存满负荷的时候如果要查找到具体是哪个应用哪个进程或者具体哪个业务功能哪个sql语句导致的往往并不是容易的事情。在实际的性能问题优化中往往也需要做大量的日志分析和问题定位最终才可能找到问题点。
比如在我们最近的项目实施中结合APM和服务链监控我们可以快速的发现究竟是哪个服务调用出现了性能问题或者快速的定位出哪个SQL语句有验证的性能问题。这个都可以帮助我们快速的进行性能问题分析和诊断。
资源上承载的是应用应用本身又包括了数据库和应用中间件容器同时也包括了前端在应用之上则是对应到具体的业务功能。因此APM一个核心就是要将资源-》应用-》功能之间进行整合分析和衔接。
而随着DevOps和自动化运维的思路推进我们更加希望是通过APM等工具主动监控来发现性能问题对于APM工具最大的好处就是可以进行服务全链路的性能分析方便我们发现性能问题究竟发生在哪里。比如我们提交一个表单很慢通过APM分析我们很容易发现究竟是调用哪个业务服务慢或者是处理哪个SQL语句慢。这样可以极大的提升我们性能问题分析诊断的效率。
最后感谢每一个认真阅读我文章的人礼尚往来总是要有的虽然不是什么很值钱的东西如果你用得到的话可以直接拿走 这些资料对于【软件测试】的朋友来说应该是最全面最完整的备战仓库这个仓库也陪伴上万个测试工程师们走过最艰难的路程希望也能帮助到你
