服务器性能如何优化？

  我们开发的软件服务需要在服务器上运行，所以服务器性能代表了软件的性能上限，因此服务器性能调优是个十分重要的环节，然而大部分同学对服务器性能调优关注的较少，今天从3个部分对服务器性能调优进行介绍，分别是：

  服务器一般是由CPU、内存、磁盘和网卡组成，因此选择服务器配置就是选择CPU核数、内存大小、磁盘大小及类型、网络带宽。但是，服务器配置的选择是很难标准化的，也就是说很难推断出“一台要达到1000TPS的后端服务器”的配置应该是怎样的。因为软件的最终运行性能与软件的实现方式是紧密相关的，即使是同一个后端应用程序中的两个接口，由于具体功能的差别，性能也会有所差别。

  因此，服务器配置的选择应该基于具体的测试结果。一开始能选用配置较低的服务器做调优和测试，并以该服务器的测试结果作为选择服务器的依据。

  以一个订单业务为例，经过测试后，一台配置为4核 CPU 、16GB内存、10Mbps带宽、50GB机械磁盘的服务器的测试结果为：支持50并发量和300TPS吞吐量（增大并发量后会出现超时报错）。而在压力测试过程中， CPU 的使用率接近75%，内存使用率在 50％以下，带宽使用率在50％以下，除去日志以外无磁盘操作。

  因此可以认为，一台配置为4核 CPU ( CPU 使用率需要在75％以下）、8GB内存（内存使用率可以接近100%)、 5Mbps 带宽（带宽使用率可以接近100%）的服务器，能够完全满足订单接口支持50并发量、300TPS吞吐量的压力。

  如果要达到200并发数、2400TPS吞吐量的目标的线Mbps带宽的服务器，或者1台配置为32核 CPU 、64GB内存、40Mbps带宽的服务器。当然，最终的服务器配置还要通过测试来验证。

  注意：在以上订单接口的例子中，后端服务器和数据库等服务器需要一起调试，避免后端服务器性能过剩，而数据库等服务器性能不足的情况出现。另外，以上选择服务器配置的方法不一定适用于所有场景，请斟酌参考。

  在性能调优时，需要先对服务器负载做多元化的分析，通常而言，我们主要分析CPU使用率、内存使用率、磁盘I/O，服务器负载和带宽使用情况。

  CPU使用率反应的是CPU的忙碌情况。当CPU达到100%时，部分进程会进入等待状态，CPU暂时不会对其做处理。在真实的情况下，为了应对一下突发性的请求压力，服务器CPU使用率通常要在75%以下。如果一台服务器的CPU使用率多次高于75%，这时候就考虑增加新的服务器。

  监控CPU使用率我推荐大家使用htop工具，可以非常直观看到CPU使用率、内存使用率、及负载等信息。

  输入htop命令后我们大家可以很直观的看到CPU负载情况，该命令的CPU使用率会以多个核作为单位做显示。操作系统机会自动分配多个核的负载，当所有核的CPU使用率都超过75%时才能认为服务器的CPU使用率已超越75%。

  如上图所示，这是一个4核CPU服务器，在截图的时候其中3核CPU使用率都超过了75%，再观察一会发现所有CPU的使用率都在85%左右徘徊，说明CPU负载很高了，需要仔细考虑增加新的服务器。

  内存使用率反应的是内存的使用情况。内存用于存放程序的代码及数据，大体上分为物理内存和虚拟内存，其中物理内存指的是服务器的内存，而虚拟内存指的是硬盘的一块空间。当物理内存使用率达到100%时将会使用虚拟内存。必须要格外注意的是，虚拟内存的读写速度远远低于物理内存，如果程序被放在了虚拟内存执行，那么程序的执行效率会变得很低。

  一般而言，服务器的物理内存应保持在80%以下，虚拟内存使用率保持在0%。

  上面显示了服务器的内存使用情况：总内存16G，使用了10G左右，内存使用率62%，能够继续使用，同时关闭了Swap虚拟内存。

  磁盘I/O指的是磁盘的读写，在软件系统中，日志、文件操作、数据库操作都会造成磁盘读写压力，其中又以数据库操作为甚，在高并发情况下往往数据库会首先成为系统的瓶颈。

  输入iostat命令后，磁盘总体读写情况如上所示。磁盘负载主要关注2个指标：%idle，%util

  平均负载指的是单位时间内平均的活跃进程数，是一个表示服务器负载的指标。正常的情况下需要保证平均负载的值小于当前服务器的CPU核数。

  在这里我们主要关注Load average指标，上图有3个数字，分别代表1分钟，5分钟，15分钟的平均负载。

  一般情况下服务器的平均负载需要小于当前服务器的CPU核数，为了应对突发状况，服务器的平均负载应该在75%即3 以下，很显然，上图这台服务器平均负载超过了75%，需要仔细考虑提升性能了。

  网络使用情况也是监控的重要指标。当带宽不足时会大幅度提升请求的响应时间。为避免突发性并发压力，应该保证服务器的带宽使用率在80%以上。这里必须要格外注意的是，物理网卡限制了服务器所能使用的最大宽带。

  输入nload命令后，网络使用情况如上图所示。其中，网络使用情况分为流入网卡的数据与流出网卡的数据。流入网卡的对应下行带宽的网速，流出网卡的数据对应上行带宽的网速。如果 “当前网速” 持续接近 “最大网速” 时，代表带宽使用率已经接近100%。

  光有强大的物理性能是不够的，还需要对内核参数进行调优，这样才可以在高并发压力下充足表现服务器应有的性能。当然，并不是所有的服务器都需要做高并发性能调优，一般来说，只需要对要处理高并发请求的服务器进行内核参数调优即可，常见的包括：前端服务器，后端服务器，数据库服务器。

  服务器常见的调优参数主要有两个：单个进程最大打开文件数 和 TCP相关设置。

  修改TCP相关参数，可以优化TCP高并发通信，编辑/etc/sysctl.conf文件，添加以下内容

  #开启TCP连接重用，允许处理TIME-WAIT状态的连接重新用于新的TCP连接

  ＃修改超时时间（s)，该值表示如果连接由本端关闭，则连接处于FIN-WAIT-2状态的时间为

  ＃当keepalive（长连接）启用的时候，TCP发送keepalive消息（探测包）的时间间隔（s),默认为2个小时

  ＃保持TIME_WAIT状态连接的最大数量，如果超过此值，TIME_WAIT将立刻被清除并打印警告信息，默认为180000

  ＃每个网络接口接收数据包的速率比内核处理这些包的速率快时，允许送到队列的数据包的最大数目

  ＃系统中最多有多少个TCP套接字不被关联到任何一个用户文件句柄上，如果超过这一个数字，连接将即刻被复位并打印警告信息，这个限制仅仅是为避免简单的DoS攻击

  LAMP服务器性能优化技巧之Apache服务器优化：由于LAMP的发展迅速，如今LAMP慢慢的变成了Web服务器的标准。怎么样才可以优化LAMP服务器的性能？本文分为几个步骤讲述了Linux主机的性能优化、Apache服务器检测和优化、加速PHP、Mysql优化。LAMP服务器性能优化技巧之Apache服务器优化

  LAMP服务器性能优化技巧之Mysql优化：由于LAMP的发展迅速，如今LAMP慢慢的变成了Web服务器的标准。怎么样才可以优化LAMP服务器的性能？本文分为几个步骤讲述了Linux主机的性能优化、Apache服务器检测和优化、加速PHP、Mysql优化。LAMP服务器性能优化技巧之Mysql优化。

  LAMP服务器性能优化技巧之Linux主机优化：由于LAMP的发展迅速，如今LAMP慢慢的变成了Web服务器的标准。怎么样才可以优化LAMP服务器的性能？本文分为几个步骤讲述了Linux主机的性能优化、Apache服务器检测和优化、加速PHP、Mysql优化。LAMP服务器性能优化技巧之Linux主机优化