Linux-Manual

常见日常监控

系统信息

• 查看 CentOS 版本号：cat /etc/redhat-release

---

综合监控

• nmon

---

系统负载

命令：w（判断整体瓶颈）

 12:04:52 up 16 days, 12:54,  1 user,  load average: 0.06, 0.13, 0.12
USER     TTY      FROM             LOGIN@   IDLE   JCPU   PCPU WHAT
root     pts/0    116.21.24.85     11:57    4.00s 16:18   0.01s w

• 第一行：
  • 12:04:52 表示当前系统时间
  • up 16 days 表示系统运行时间
  • 1 user 表示登录用户数
  • load average 表示平均负载，0.06 表示一分钟内系统的平均负载值，0.13 表示五分钟内系统的平均负载值，0.12 表示十五分钟内系统的平均负载值。一般这个字不要超过服务器的 CPU 线程数（process）就没有关系。
    • 查看 CPU 总的线程数：grep 'processor' /proc/cpuinfo | sort -u | wc -l
• 第二行：
  • 开始表示各个登录用户的情况，当前登录者是 root，登录者 IP 116.21.24.85
• 还有一个简化版本的命令：uptime

10:56:16 up 26 days, 20:05,  1 user,  load average: 0.00, 0.01, 0.05

命令：vmstat（判断 RAM 和 I/0 瓶颈）

• 命令：vmstat 5 10，每 5 秒采样一次，共 10 次。

procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu-----
 r  b   swpd   free   buff  cache   si   so    bi    bo   in   cs us sy id wa st
 2  0      0  72648      0 674564    0    0     0     7    0   26  1  1 99  0  0
 0  0      0  72648      0 674596    0    0     0     0  442  557  1  0 99  0  0
 0  0      0  72648      0 674596    0    0     0    12  438  574  0  1 99  0  0
 0  0      0  72648      0 674596    0    0     0     0  430  540  0  0 100  0  0
 0  0      0  72648      0 674596    0    0     0     0  448  567  0  1 99  0  0
 0  0      0  72648      0 674596    0    0     0     0  459  574  1  0 99  0  0
 0  0      0  72648      0 674596    0    0     0     0  425  543  0  1 99  0  0
 0  0      0  72276      0 674600    0    0     0     0  480  643  2  3 95  0  0

• 第二行：
  • r 表示运行和等待CPU时间片的进程数，该数字如果长期大于服务器CPU的进程数，则说明CPU不够用了。
  • b 表示等待资源的进程数，比如等I/O，内存等。该数字如果长时间大于 1，则需要关注一下。
  • si 表示由交换区写入到内存的数据量
  • so 表示由内存写入到交换区的数据量
  • 如果 si 和 so 的数字比较高，并且不断变化时，说明内存不够了。而且不断变化也表示对系统性能影响很大。
  • bi 表示从块设备读取数据的量（读磁盘）
  • bo 表示从块设备写入数据的量（写磁盘）
  • 如果bi和bo两个数字比较高，则说明，磁盘IO压力大。
  • in 每秒 CPU 的中断次数，包括时间中断
  • cs 每秒上下文切换次数，例如我们调用系统函数，就要进行上下文切换，线程的切换，也要进程上下文切换，这个值要越小越好，太大了，要考虑调低线程或者进程的数目
  • wa 表示I/O等待所占用CPU的时间比

命令：sar（综合）

• sar(system activity reporter 系统活动情况报告)
• sar 是目前 linux 上最为全面的系统性能分析工具之一，可以从多方面对系统的活动情况进行报告。包括（文件的读写、系统调用、磁盘I/O、cpu效率、内存使用、进程活动以及IPC有关的活动）
• 如果没安装，运行：yum install -y sysstat

sar 之 CPU 使用情况（判断 CPU 瓶颈）

• 命令：sar -u 5 10，每 5 秒采样一次，共 10 次

01:57:29 PM     CPU     %user     %nice   %system   %iowait    %steal     %idle
01:57:34 PM     all      1.81      0.00      0.40      0.00      0.00     97.78
01:57:39 PM     all      0.20      0.00      0.40      0.00      0.00     99.39
01:57:44 PM     all      0.40      0.00      0.60      0.00      0.00     98.99
01:57:49 PM     all      0.20      0.00      0.40      0.00      0.00     99.39
01:57:54 PM     all      0.80      0.00      1.41      0.00      0.00     97.79
01:57:59 PM     all      0.40      0.00      0.60      0.00      0.00     98.99
01:58:04 PM     all      0.20      0.00      0.40      0.00      0.00     99.39
01:58:09 PM     all      0.20      0.00      0.40      0.00      0.00     99.39
01:58:14 PM     all      0.40      0.00      0.61      0.00      0.00     98.99
01:58:19 PM     all      0.20      0.00      0.61      0.00      0.00     99.19
Average:        all      0.48      0.00      0.59      0.00      0.00     98.93

• 列说明：
  • CPU：all 表示统计信息为所有 CPU的平均值。
  • %user：显示在用户级别(application)运行使用 CPU 总时间的百分比。
  • %nice：显示在用户级别，用于nice操作，所占用 CPU总时间的百分比。
  • %system：在核心级别(kernel)运行所使用 CPU总时间的百分比。
  • %iowait：显示用于等待I/O操作占用 CPU总时间的百分比。
  • %steal：管理程序(hypervisor)为另一个虚拟进程提供服务而等待虚拟 CPU 的百分比。
  • %idle：显示 CPU空闲时间占用 CPU总时间的百分比。
• 总结：
  • 1.若 %iowait 的值过高，表示硬盘存在I/O瓶颈
  • 2.若 %idle 的值高但系统响应慢时，有可能是 CPU 等待分配内存，此时应加大内存容量，可以使用内存监控命令分析内存。
  • 3.若 %idle 的值持续低于1，则系统的 CPU 处理能力相对较低，表明系统中最需要解决的资源是 CPU。

sar 之 RAM 使用情况（判断内存瓶颈）

• 命令：sar -B 5 10，每 5 秒采样一次，共 10 次

02:32:15 PM  pgpgin/s pgpgout/s   fault/s  majflt/s  pgfree/s pgscank/s pgscand/s pgsteal/s    %vmeff
02:32:20 PM      0.00      0.81    258.47      0.00     27.22      0.00      0.00      0.00      0.00
02:32:25 PM      0.00      0.00    611.54      0.00    300.20      0.00      0.00      0.00      0.00
02:32:30 PM      0.00     26.61     10.08      0.00     11.90      0.00      0.00      0.00      0.00
02:32:35 PM      0.00      1.62      3.64      0.00      3.84      0.00      0.00      0.00      0.00
02:32:40 PM      0.00      0.00      3.42      0.00      4.43      0.00      0.00      0.00      0.00
02:32:45 PM      0.00      0.00      3.43      0.00      3.83      0.00      0.00      0.00      0.00
02:32:50 PM      0.00      1.62      3.84      0.00      5.86      0.00      0.00      0.00      0.00
02:32:55 PM      0.00      0.00      3.41      0.00      3.82      0.00      0.00      0.00      0.00
02:33:00 PM      0.00      2.42    763.84      0.00    208.69      0.00      0.00      0.00      0.00
02:33:05 PM      0.00     13.74   2409.70      0.00    929.70      0.00      0.00      0.00      0.00
Average:         0.00      4.68    406.50      0.00    149.69      0.00      0.00      0.00      0.00

• pgpgin/s：表示每秒从磁盘或SWAP置换到内存的字节数(KB)
• pgpgout/s：表示每秒从内存置换到磁盘或SWAP的字节数(KB)
• fault/s：每秒钟系统产生的缺页数,即主缺页与次缺页之和(major + minor)
• majflt/s：每秒钟产生的主缺页数
• pgfree/s：每秒被放入空闲队列中的页个数
• pgscank/s：每秒被kswapd扫描的页个数
• pgscand/s：每秒直接被扫描的页个数
• pgsteal/s：每秒钟从cache中被清除来满足内存需要的页个数
• %vmeff：每秒清除的页(pgsteal)占总扫描页(pgscank+pgscand)的百分比

sar 之 I/O 使用情况（判断 I/O 瓶颈）

• 命令：sar -b 5 10，每 5 秒采样一次，共 10 次

02:34:13 PM       tps      rtps      wtps   bread/s   bwrtn/s
02:34:18 PM      3.03      0.00      3.03      0.00     59.80
02:34:23 PM      0.00      0.00      0.00      0.00      0.00
02:34:28 PM      0.00      0.00      0.00      0.00      0.00
02:34:33 PM      0.00      0.00      0.00      0.00      0.00
02:34:38 PM      1.61      0.00      1.61      0.00     24.80
02:34:43 PM      0.00      0.00      0.00      0.00      0.00
02:34:48 PM      0.40      0.00      0.40      0.00      4.86
02:34:53 PM      0.00      0.00      0.00      0.00      0.00
02:34:58 PM      0.00      0.00      0.00      0.00      0.00
02:35:03 PM      0.00      0.00      0.00      0.00      0.00
Average:         0.50      0.00      0.50      0.00      8.94

• tps：每秒钟物理设备的 I/O 传输总量
• rtps：每秒钟从物理设备读入的数据总量
• wtps：每秒钟向物理设备写入的数据总量
• bread/s：每秒钟从物理设备读入的数据量，单位为块/s
• bwrtn/s：每秒钟向物理设备写入的数据量，单位为块/s

sar 之 DEV（网卡）流量查看（判断网络瓶颈）

• 命令：sar -n DEV，查看网卡历史流量（因为是按时间显示每棵的流量，所以有很多）
• 如果要动态显示当前的网卡流量：sar -n DEV 1
• 采样收集网卡流量：sar -n DEV 5 10，每 5 秒采样一次，共 10 次
• 如果要查看其他日期下的记录，可以到这个目录下：cd /var/log/sa 查看下记录的文件，然后选择一个文件，比如：sar -n DEV -f /var/log/sa/sa01）

01:46:24 PM     IFACE   rxpck/s   txpck/s    rxkB/s    txkB/s   rxcmp/s   txcmp/s  rxmcst/s
01:46:25 PM        lo      3.00      3.00      0.18      0.18      0.00      0.00      0.00
01:46:25 PM      eth0      4.00      4.00      0.55      0.56      0.00      0.00      0.00

• 01:46:25 PM 表示时间
• IFACE 表示网卡名称
• rxpck/s 每秒钟接收到的 包数目，一般如果这个数字大于 4000 一般是被攻击了。
• txpck/s 每秒钟发送出去的 包数目
• rxkB/s 每秒钟接收到的数据量(单位kb)，一般如果这个数字大于 5000 一般是被攻击了。
• txkB/s 每秒钟发送出去的数据量(单位kb)
• rxcmp/s：每秒钟接收到的压缩包数目
• txcmp/s：每秒钟发送出去的压缩包数目

• txmcst/s：每秒钟接收到的多播包的包数目

• 查看 TCP 相关的一些数据（每隔 1 秒采样一次，一共 5 次）：sar -n TCP,ETCP 1 5

Linux 3.10.0-693.2.2.el7.x86_64 (youmeek) 	07/17/2018 	_x86_64_	(2 CPU)

12:05:47 PM  active/s passive/s    iseg/s    oseg/s
12:05:48 PM      0.00      0.00      1.00      0.00

12:05:47 PM  atmptf/s  estres/s retrans/s isegerr/s   orsts/s
12:05:48 PM      0.00      0.00      0.00      0.00      0.00

12:05:48 PM  active/s passive/s    iseg/s    oseg/s
12:05:49 PM      0.00      0.00      1.00      1.00

12:05:48 PM  atmptf/s  estres/s retrans/s isegerr/s   orsts/s
12:05:49 PM      0.00      0.00      0.00      0.00      0.00

12:05:49 PM  active/s passive/s    iseg/s    oseg/s
12:05:50 PM      0.00      0.00      1.00      1.00

12:05:49 PM  atmptf/s  estres/s retrans/s isegerr/s   orsts/s
12:05:50 PM      0.00      0.00      0.00      0.00      0.00

12:05:50 PM  active/s passive/s    iseg/s    oseg/s
12:05:51 PM      0.00      0.00      3.00      3.00

12:05:50 PM  atmptf/s  estres/s retrans/s isegerr/s   orsts/s
12:05:51 PM      0.00      0.00      0.00      0.00      0.00

12:05:51 PM  active/s passive/s    iseg/s    oseg/s
12:05:52 PM      0.00      0.00      1.00      1.00

12:05:51 PM  atmptf/s  estres/s retrans/s isegerr/s   orsts/s
12:05:52 PM      0.00      0.00      0.00      0.00      0.00

Average:     active/s passive/s    iseg/s    oseg/s
Average:         0.00      0.00      1.40      1.20

Average:     atmptf/s  estres/s retrans/s isegerr/s   orsts/s
Average:         0.00      0.00      0.00      0.00      0.00

- active/s：每秒钟本地主动开启的 tcp 连接，也就是本地程序使用 connect() 系统调用
- passive/s：每秒钟从源端发起的 tcp 连接，也就是本地程序使用 accept() 所接受的连接
- retrans/s: 每秒钟的 tcp 重传次数

atctive 和 passive 的数目通常可以用来衡量服务器的负载：接受连接的个数（passive），下游连接的个数（active）。可以简单认为 active 为出主机的连接，passive 为入主机的连接；但这个不是很严格的说法，比如 loalhost 和 localhost 之间的连接。

来自：https://zhuanlan.zhihu.com/p/39893236

---

CPU 监控

CPU 的基本信息查看

• Demo CPU 型号：Intel® Xeon® Processor E5-2620 v2(15M Cache, 2.10 GHz)
• 该 CPU 显示的数据中有一项这个要注意：Intel® Hyper-Threading Technology 是 Yes。表示该 CPU 支持超线程
• cat /proc/cpuinfo，查看 CPU 总体信息
• grep 'physical id' /proc/cpuinfo | sort -u | wc -l，查看物理 CPU 个数
  • 结果：2
  • 物理 CPU：物理 CPU 也就是机器外面就能看到的一个个 CPU，每个物理 CPU 还带有单独的风扇
• grep 'core id' /proc/cpuinfo | sort -u | wc -l，查看每个物理 CPU 的核心数量
  • 结果：6，因为每个物理 CPU 是 6，所有 2 个物理 CPU 的总核心数量应该是：12
  • 核心数：一个核心就是一个物理线程，英特尔有个超线程技术可以把一个物理线程模拟出两个线程来用，充分发挥 CPU 性能，意思是一个核心可以有多个线程。
• grep 'processor' /proc/cpuinfo | sort -u | wc -l，查看 CPU 总的线程数，一般也叫做：逻辑 CPU 数量
  • 结果：24，正常情况下：CPU 的总核心数量 == CPU 线程数，但是如果该 CPU 支持超线程，那结果是：CPU 的总核心数量 X 2 == CPU 线程数
  • 线程数：线程数是一种逻辑的概念，简单地说，就是模拟出的 CPU 核心数。比如，可以通过一个 CPU 核心数模拟出 2 线程的 CPU，也就是说，这个单核心的 CPU 被模拟成了一个类似双核心 CPU 的功能。

CPU 监控

• Linux 的 CPU 简单监控一般简单
• 常用命令就是 top
  • 命令：top -bn1，可以完全显示所有进程出来，但是不能实时展示数据，只能暂时命令当时的数据。
• top 可以动态显示进程所占的系统资源，每隔 3 秒变一次，占用系统资源最高的进程放最前面。
• 在 top 命令状态下还可以按数字键 1 显示各个 CPU 线程使用状态
• 在 top 命令状态下按 shfit + m 可以按照 内存使用 大小排序
• 在 top 命令状态下按 shfit + p 可以按照 CPU 使用 大小排序
• 展示数据上，%CPU 表示进程占用的 CPU 百分比，%MEM 表示进程占用的内存百分比
• mac 下不一样：要先输入 o，然后输入 cpu 则按 cpu 使用量排序，输入 rsize 则按内存使用量排序。

CPU 其他工具

• htop 综合工具：yum install -y htop
  • 这几篇文章讲得很好，我没必要再贴过来了，大家自己看：
  • htop 命令完胜 top 命令
  • htop 命令详解
• mpstat 实时监控 CPU 状态：yum install -y sysstat
  • 可以具体到某个核心，比如我有 2 核的 CPU，因为 CPU 核心下标是从 0 开始，所以我要查看 0 的状况（间隔 3 秒获取一次指标，一共获取 5 次）：mpstat -P 0 3 5
  • 打印总 CPU 和各个核心指标：mpstat -P ALL 1
  • 获取所有核心的平均值：mpstat 3 5

Linux 3.10.0-693.2.2.el7.x86_64 (iZwz998aag1ggy168n3wg2Z) 	06/23/2018 	_x86_64_	(2 CPU)

11:44:52 AM  CPU    %usr   %nice    %sys %iowait    %irq   %soft  %steal  %guest  %gnice   %idle
11:44:53 AM    0    0.00    0.00    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00
11:44:54 AM    0    1.00    0.00    0.00    0.00    0.00    0.00    0.00    0.00    0.00   99.00
11:44:55 AM    0    0.00    0.00    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00
11:44:56 AM    0    0.00    0.00    1.00    0.00    0.00    0.00    0.00    0.00    0.00   99.00
11:44:57 AM    0    0.00    0.00    0.00    0.00    0.00    0.00    0.00    0.00    0.00  100.00
Average:       0    0.20    0.00    0.20    0.00    0.00    0.00    0.00    0.00    0.00   99.60

• %usr 用户进程消耗 CPU 情况
• %sys 系统进程消耗 CPU 情况
• %iowait 表示 CPU 等待 IO 时间占整个 CPU 周期的百分比
• %idle 显示 CPU 空闲时间占用 CPU 总时间的百分比

类似 top 的 pidstat

• 安装：yum install -y sysstat
• 每隔 2 秒采样一次，一共 5 次：pidstat 2 5

Linux 3.10.0-693.el7.x86_64 (youmeek) 	07/17/2018 	_x86_64_	(8 CPU)

11:52:58 AM   UID       PID    %usr %system  %guest    %CPU   CPU  Command
11:53:00 AM     0     16813    0.50    0.99    0.00    1.49     1  pidstat
11:53:00 AM     0     24757   50.99   12.87    0.00   63.86     0  java
11:53:00 AM     0     24799   60.40    3.47    0.00   63.86     5  java
11:53:00 AM     0     24841   99.50    7.43    0.00  100.00     0  java

11:53:00 AM   UID       PID    %usr %system  %guest    %CPU   CPU  Command
11:53:02 AM     0     24757   56.50    0.50    0.00   57.00     0  java
11:53:02 AM     0     24799  100.00    6.50    0.00  100.00     5  java
11:53:02 AM     0     24841   58.00    2.50    0.00   60.50     0  java

11:53:02 AM   UID       PID    %usr %system  %guest    %CPU   CPU  Command
11:53:04 AM     0     16813    0.00    1.00    0.00    1.00     2  pidstat
11:53:04 AM     0     24757   62.00    5.50    0.00   67.50     0  java
11:53:04 AM     0     24799   54.00   14.00    0.00   68.00     5  java
11:53:04 AM     0     24841   39.50    9.00    0.00   48.50     0  java

11:53:04 AM   UID       PID    %usr %system  %guest    %CPU   CPU  Command
11:53:06 AM     0     16813    0.50    0.50    0.00    1.00     2  pidstat
11:53:06 AM     0     24757   80.00   13.50    0.00   93.50     0  java
11:53:06 AM     0     24799   56.50    0.50    0.00   57.00     5  java
11:53:06 AM     0     24841    1.00    0.50    0.00    1.50     0  java

11:53:06 AM   UID       PID    %usr %system  %guest    %CPU   CPU  Command
11:53:08 AM     0     16813    0.00    0.50    0.00    0.50     2  pidstat
11:53:08 AM     0     24757   58.50    1.00    0.00   59.50     0  java
11:53:08 AM     0     24799   60.00    1.50    0.00   61.50     5  java
11:53:08 AM     0     24841    1.00    0.50    0.00    1.50     0  java

Average:      UID       PID    %usr %system  %guest    %CPU   CPU  Command
Average:        0     16813    0.20    0.60    0.00    0.80     -  pidstat
Average:        0     24757   61.58    6.69    0.00   68.26     -  java
Average:        0     24799   66.47    5.19    0.00   71.66     -  java
Average:        0     24841   39.92    3.99    0.00   43.91     -  java

---

内存监控

• Linux 的内存本质是虚拟内存，这样说是因为它的内存是：物理内存 + 交换分区。有一个内存模块来管理应用的内存使用。
• 如果所以你内存大，可以考虑把 swap 分区改得小点或者直接关掉。
• 但是，如果是用的云主机，一般是没交换分区的，free -g 中的 Swap 都是 0。
• 查看内存使用命令：
  • 以 M 为容量单位展示数据：free -m
  • 以 G 为容量单位展示数据：free -g
  • CentOS 6 和 CentOS 7 展示出来的数据有差别，CentOS 7 比较容易看，比如下面的数据格式是 CentOS 7 的 free -g：

              total        used        free      shared  buff/cache   available
Mem:             11           0          10           0           0          10
Swap:             5           0           5

• 在以上结果中，其中可以用的内存是看 available 列。
• 对于 CentOS 6 的系统可以使用下面命令：

[root@bogon ~]# free -mlt
             total       used       free     shared    buffers     cached
Mem:         16080      15919        160          0        278      11934
Low:         16080      15919        160
High:            0          0          0
-/+ buffers/cache:       3706      12373
Swap:            0          0          0
Total:       16080      15919        160

• 以上的结果重点关注是：-/+ buffers/cache，这一行代表实际使用情况。

pidstat 采样内存使用情况

• 安装：yum install -y sysstat
• 每隔 2 秒采样一次，一共 3 次：pidstat -r 2 3

Linux 3.10.0-693.el7.x86_64 (youmeek) 	07/17/2018 	_x86_64_	(8 CPU)

11:56:34 AM   UID       PID  minflt/s  majflt/s     VSZ    RSS   %MEM  Command
11:56:36 AM     0     23960    168.81      0.00  108312   1124   0.01  pidstat
11:56:36 AM     0     24757      8.42      0.00 9360696 3862788  23.75  java
11:56:36 AM     0     24799      8.91      0.00 10424088 4988468  30.67  java
11:56:36 AM     0     24841     11.39      0.00 10423576 4968428  30.54  java

11:56:36 AM   UID       PID  minflt/s  majflt/s     VSZ    RSS   %MEM  Command
11:56:38 AM     0     23960    169.50      0.00  108312   1200   0.01  pidstat
11:56:38 AM     0     24757      6.00      0.00 9360696 3862788  23.75  java
11:56:38 AM     0     24799      5.50      0.00 10424088 4988468  30.67  java
11:56:38 AM     0     24841      7.00      0.00 10423576 4968428  30.54  java

11:56:38 AM   UID       PID  minflt/s  majflt/s     VSZ    RSS   %MEM  Command
11:56:40 AM     0     23960    160.00      0.00  108312   1200   0.01  pidstat
11:56:40 AM     0     24757      6.50      0.00 9360696 3862788  23.75  java
11:56:40 AM     0     24799      6.00      0.00 10424088 4988468  30.67  java
11:56:40 AM     0     24841      8.00      0.00 10423576 4968428  30.54  java

Average:      UID       PID  minflt/s  majflt/s     VSZ    RSS   %MEM  Command
Average:        0     23960    166.11      0.00  108312   1175   0.01  pidstat
Average:        0     24757      6.98      0.00 9360696 3862788  23.75  java
Average:        0     24799      6.81      0.00 10424088 4988468  30.67  java
Average:        0     24841      8.80      0.00 10423576 4968428  30.54  java

---

硬盘监控

硬盘容量相关查看

• df -h：自动以合适的磁盘容量单位查看磁盘大小和使用空间
• df -m：以磁盘容量单位 M 为数值结果查看磁盘使用情况
• du -sh /opt/tomcat6：查看tomcat6这个文件夹大小 (h的意思human-readable用人类可读性较好方式显示，系统会自动调节单位，显示合适大小的单位)
• du /opt --max-depth=1 -h：查看指定录入下包括子目录的各个文件大小情况

命令：iostat（判断 I/0 瓶颈）

• 命令：iostat -x -k 3 3，每 3 秒采样一次，共 3 次。

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.55    0.00    0.52    0.00    0.00   98.93

Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
vda               0.00     0.04    0.02    0.62     0.44     6.49    21.65     0.00    1.42    1.17    1.42   0.25   0.02

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           0.34    0.00    0.00    0.00    0.00   99.66

Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
vda               0.00     0.00    0.00    0.00     0.00     0.00     0.00     0.00    0.00    0.00    0.00   0.00   0.00

avg-cpu:  %user   %nice %system %iowait  %steal   %idle
           2.02    0.00    0.34    0.00    0.00   97.64

Device:         rrqm/s   wrqm/s     r/s     w/s    rkB/s    wkB/s avgrq-sz avgqu-sz   await r_await w_await  svctm  %util
vda               0.00     0.00    0.00    1.68     0.00    16.16    19.20     0.00    0.20    0.00    0.20   0.20   0.03

• 列说明：
  • rrqm/s: 每秒对该设备的读请求被合并次数，文件系统会对读取同块(block)的请求进行合并
  • wrqm/s: 每秒对该设备的写请求被合并次数
  • r/s: 每秒完成的读次数
  • w/s: 每秒完成的写次数
  • rkB/s: 每秒读数据量(kB为单位)
  • wkB/s: 每秒写数据量(kB为单位)
  • avgrq-sz:平均每次IO操作的数据量(扇区数为单位)
  • avgqu-sz: 平均等待处理的IO请求队列长度（队列长度大于 1 表示设备处于饱和状态。）
  • await: 系统发往 IO 设备的请求的平均响应时间(毫秒为单位)。这包括请求排队的时间，以及请求处理的时间。超过经验值的平均响应时间表明设备处于饱和状态，或者设备有问题。
  • svctm: 平均每次IO请求的处理时间(毫秒为单位)
  • %util: 采用周期内用于IO操作的时间比率，即IO队列非空的时间比率（就是繁忙程度，值越高表示越繁忙）
• 总结
  • iowait% 表示CPU等待IO时间占整个CPU周期的百分比，如果iowait值超过50%，或者明显大于%system、%user以及%idle，表示IO可能存在问题。
  • %util （重点参数）表示磁盘忙碌情况，一般该值超过80%表示该磁盘可能处于繁忙状态

硬盘 IO 监控

• 安装 iotop：yum install -y iotop
• 查看所有进程 I/O 情况命令：iotop
• 只查看当前正在处理 I/O 的进程：iotop -o
• 只查看当前正在处理 I/O 的线程，每隔 5 秒刷新一次：iotop -o -d 5
• 只查看当前正在处理 I/O 的进程（-P 参数决定），每隔 5 秒刷新一次：iotop -o -P -d 5
• 只查看当前正在处理 I/O 的进程（-P 参数决定），每隔 5 秒刷新一次，使用 KB/s 单位（默认是 B/s）：iotop -o -P -k -d 5
• 使用 dd 命令测量服务器延迟：dd if=/dev/zero of=/opt/ioTest2.txt bs=512 count=1000 oflag=dsync
• 使用 dd 命令来测量服务器的吞吐率（写速度)：dd if=/dev/zero of=/opt/ioTest1.txt bs=1G count=1 oflag=dsync
  • 该命令创建了一个 10M 大小的文件 ioTest1.txt，其中参数解释：
  • if 代表输入文件。如果不指定 if，默认就会从 stdin 中读取输入。
  • of 代表输出文件。如果不指定 of，默认就会将 stdout 作为默认输出。
  • bs 代表字节为单位的块大小。
  • count 代表被复制的块数。
  • /dev/zero 是一个字符设备，会不断返回0值字节（\0）。
  • oflag=dsync：使用同步I/O。不要省略这个选项。这个选项能够帮助你去除 caching 的影响，以便呈现给你精准的结果。
  • conv=fdatasyn: 这个选项和 oflag=dsync 含义一样。
• 该命令执行完成后展示的数据：

[root@youmeek ~]# dd if=/dev/zero of=/opt/ioTest1.txt bs=1G count=1 oflag=dsync
记录了1+0 的读入
记录了1+0 的写出
1073741824字节(1.1 GB)已复制，5.43328 秒，198 MB/秒

• 利用 hdparm 测试硬盘速度：yum install -y hdparm
• 查看硬盘分区情况：df -h，然后根据分区测试：
• 测试硬盘分区的读取速度：hdparm -T /dev/sda
• 测试硬盘分区缓存的读取速度：hdparm -t /dev/sda
• 也可以以上两个参数一起测试：hdparm -Tt /dev/sda，结果数据如下：

/dev/sda:
Timing cached reads:   3462 MB in  2.00 seconds = 1731.24 MB/sec
Timing buffered disk reads: 806 MB in  3.00 seconds = 268.52 MB/sec

pidstat 采样硬盘使用情况

• 安装：yum install -y sysstat
• 每隔 2 秒采样一次，一共 3 次：pidstat -d 2 3

Linux 3.10.0-693.el7.x86_64 (youmeek) 	07/17/2018 	_x86_64_	(8 CPU)

11:57:29 AM   UID       PID   kB_rd/s   kB_wr/s kB_ccwr/s  Command

11:57:31 AM   UID       PID   kB_rd/s   kB_wr/s kB_ccwr/s  Command
11:57:33 AM     0     24757      0.00      2.00      0.00  java
11:57:33 AM     0     24799      0.00     14.00      0.00  java

11:57:33 AM   UID       PID   kB_rd/s   kB_wr/s kB_ccwr/s  Command
11:57:35 AM     0     24841      0.00      8.00      0.00  java

Average:      UID       PID   kB_rd/s   kB_wr/s kB_ccwr/s  Command
Average:        0     24757      0.00      0.66      0.00  java
Average:        0     24799      0.00      4.65      0.00  java
Average:        0     24841      0.00      2.66      0.00  java

• 输出指标含义：

kB_rd/s: 每秒进程从磁盘读取的数据量(以 kB 为单位)
kB_wr/s: 每秒进程向磁盘写的数据量(以 kB 为单位)
kB_ccwr/s：任务取消的写入磁盘的 KB。当任务截断脏的 pagecache 的时候会发生。

---

网络监控

网络监控常用

• 安装 iftop（需要有 EPEL 源）：yum install -y iftop
  • 如果没有 EPEL 源：yum install -y epel-release
• 常用命令：
  • iftop：默认是监控第一块网卡的流量
  • iftop -i eth0：监控 eth0
  • iftop -n：直接显示IP, 不进行DNS反解析
  • iftop -N：直接显示连接埠编号, 不显示服务名称
  • iftop -F 192.168.1.0/24 or 192.168.1.0/255.255.255.0：显示某个网段进出封包流量
  • iftop -nP：显示端口与 IP 信息

中间部分：外部连接列表，即记录了哪些ip正在和本机的网络连接

右边部分：实时参数分别是该访问 ip 连接到本机 2 秒，10 秒和 40 秒的平均流量

=> 代表发送数据，<= 代表接收数据

底部会显示一些全局的统计数据，peek 是指峰值情况，cumm 是从 iftop 运行至今的累计情况，而 rates 表示最近 2 秒、10 秒、40 秒内总共接收或者发送的平均网络流量。

TX:（发送流量）  cumm:   143MB   peak:   10.5Mb    rates:   1.03Mb  1.54Mb  2.10Mb
RX:（接收流量）          12.7GB          228Mb              189Mb   191Mb   183Mb
TOTAL:（总的流量）       12.9GB          229Mb              190Mb   193Mb   185MbW

端口使用情况（也可以用来查看端口占用）

lsof

• 安装 lsof：yum install -y lsof
• 查看 3316 端口是否有被使用（macOS 也适用）：lsof -i:3316，有被使用会输出类似如下信息，如果没被使用会没有任何信息返回

COMMAND     PID USER   FD   TYPE  DEVICE SIZE/OFF NODE NAME
java      12011 root   77u  IPv6 4506842      0t0  TCP JDu4e00u53f7:58560->116.196.110.69:aicc-cmi (ESTABLISHED)
java      12011 root   78u  IPv6 4506843      0t0  TCP JDu4e00u53f7:58576->116.196.110.69:aicc-cmi (ESTABLISHED)
java      12011 root   79u  IPv6 4506844      0t0  TCP JDu4e00u53f7:58578->116.196.110.69:aicc-cmi (ESTABLISHED)
java      12011 root   80u  IPv6 4506845      0t0  TCP JDu4e00u53f7:58574->116.196.110.69:aicc-cmi (ESTABLISHED)
java      12011 root   82u  IPv6 4506846      0t0  TCP JDu4e00u53f7:58562->116.196.110.69:aicc-cmi (ESTABLISHED)
java      12011 root   83u  IPv6 4506847      0t0  TCP JDu4e00u53f7:58564->116.196.110.69:aicc-cmi (ESTABLISHED)
java      12011 root   84u  IPv6 4506848      0t0  TCP JDu4e00u53f7:58566->116.196.110.69:aicc-cmi (ESTABLISHED)
java      12011 root   85u  IPv6 4506849      0t0  TCP JDu4e00u53f7:58568->116.196.110.69:aicc-cmi (ESTABLISHED)
java      12011 root   86u  IPv6 4506850      0t0  TCP JDu4e00u53f7:58570->116.196.110.69:aicc-cmi (ESTABLISHED)
java      12011 root   87u  IPv6 4506851      0t0  TCP JDu4e00u53f7:58572->116.196.110.69:aicc-cmi (ESTABLISHED)
docker-pr 13551 root    4u  IPv6 2116824      0t0  TCP *:aicc-cmi (LISTEN)

netstat

• 更多用法可以看：netstat 的10个基本用法
• 查看所有在用的端口（macOS 也适用）：netstat -ntlp

Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name    
tcp        0      0 0.0.0.0:111             0.0.0.0:*               LISTEN      1/systemd           
tcp        0      0 0.0.0.0:22              0.0.0.0:*               LISTEN      746/sshd            
tcp        0      0 127.0.0.1:32000         0.0.0.0:*               LISTEN      12011/java          
tcp6       0      0 :::9066                 :::*                    LISTEN      12011/java          
tcp6       0      0 :::6379                 :::*                    LISTEN      28668/docker-proxy  
tcp6       0      0 :::111                  :::*                    LISTEN      1/systemd           
tcp6       0      0 :::3316                 :::*                    LISTEN      13551/docker-proxy  
tcp6       0      0 :::22                   :::*                    LISTEN      746/sshd            
tcp6       0      0 :::35224                :::*                    LISTEN      12011/java          
tcp6       0      0 :::3326                 :::*                    LISTEN      14203/docker-proxy  
tcp6       0      0 :::1984                 :::*                    LISTEN      12011/java          
tcp6       0      0 :::8066                 :::*                    LISTEN      12011/java          
tcp6       0      0 :::43107                :::*                    LISTEN      12011/java 

• 查看当前连接80端口的机子有多少，并且是属于什么状态：netstat -an|grep 80|sort -r
• 查看已经连接的IP有多少连接数：netstat -ntu | awk '{print $5}' | cut -d: -f1 | sort | uniq -c | sort -n
• 查看已经连接的IP有多少连接数，只显示前 5 个：netstat -ntu | awk '{print $5}' | cut -d: -f1 | sort | uniq -c | sort -n | head -5
• 查看每个 ip 跟服务器建立的连接数：netstat -nat|awk '{print$5}'|awk -F : '{print$1}'|sort|uniq -c|sort -rn

262 127.0.0.1
118
103 172.22.100.141
 12 172.22.100.29
  7 172.22.100.183
  6 116.21.17.144
  6 0.0.0.0
  5 192.168.1.109
  4 172.22.100.32
  4 172.22.100.121
  4 172.22.100.108
  4 172.18.1.39
  3 172.22.100.2
  3 172.22.100.190

• 统计当前连接的一些状态情况：netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}' 或者 netstat -nat |awk '{print $6}'|sort|uniq -c|sort -rn

TIME_WAIT 96（是表示系统在等待客户端响应，以便再次连接时候能快速响应，如果积压很多，要开始注意了，准备阻塞了。这篇文章可以看下：http://blog.51cto.com/jschu/1728001）
CLOSE_WAIT 11（如果积压很多，要开始注意了，准备阻塞了。可以看这篇文章：http://blog.51cto.com/net881004/2164020）
FIN_WAIT2 17
ESTABLISHED 102（表示正常数据传输状态）

• TIME_WAIT 和 CLOSE_WAIT 说明：

Linux 系统下，TCP连接断开后，会以TIME_WAIT状态保留一定的时间，然后才会释放端口。当并发请求过多的时候，就会产生大量的TIME_WAIT状态 的连接，无法及时断开的话，会占用大量的端口资源和服务器资源。这个时候我们可以优化TCP的内核参数，来及时将TIME_WAIT状态的端口清理掉。

来源：http://zhangbin.junxilinux.com/?p=219

=================================

出现大量close_wait的现象，主要原因是某种情况下对方关闭了socket链接，但是另一端由于正在读写，没有关闭连接。代码需要判断socket，一旦读到0，断开连接，read返回负，检查一下errno，如果不是AGAIN，就断开连接。
Linux分配给一个用户的文件句柄是有限的，而TIME_WAIT和CLOSE_WAIT两种状态如果一直被保持，那么意味着对应数目的通道就一直被占着，一旦达到句柄数上限，新的请求就无法被处理了，接着就是大量Too Many Open Files异常，导致tomcat崩溃。关于TIME_WAIT过多的解决方案参见TIME_WAIT数量太多。

常见错误原因：
1.代码层面上未对连接进行关闭，比如关闭代码未写在 finally 块关闭，如果程序中发生异常就会跳过关闭代码，自然未发出指令关闭，连接一直由程序托管，内核也无权处理，自然不会发出 FIN 请求，导致连接一直在 CLOSE_WAIT 。
2.程序响应过慢，比如双方进行通讯，当客户端请求服务端迟迟得不到响应，就断开连接，重新发起请求，导致服务端一直忙于业务处理，没空去关闭连接。这种情况也会导致这个问题。一般如果有多个节点，nginx 进行负载，其中某个节点很高，其他节点不高，那可能就是负载算法不正常，都落在一台机子上了，以至于它忙不过来。

来源：https://juejin.im/post/5b59e61ae51d4519634fe257

• 查看网络接口接受、发送的数据包情况（每隔 3 秒统计一次）：netstat -i 3

Kernel Interface table
Iface      MTU    RX-OK RX-ERR RX-DRP RX-OVR    TX-OK TX-ERR TX-DRP TX-OVR Flg
eth0      1500 10903298      0      0 0      10847741      0      0      0 BMRU
lo       65536   453650      0      0 0        453650      0      0      0 LRU
eth0      1500 10903335      0      0 0      10847777      0      0      0 BMRU
lo       65536   453650      0      0 0        453650      0      0      0 LRU
eth0      1500 10903363      0      0 0      10847798      0      0      0 BMRU
lo       65536   453650      0      0 0        453650      0      0      0 LRU
eth0      1500 10903393      0      0 0      10847836      0      0      0 BMRU
lo       65536   453650      0      0 0        453650      0      0      0 LRU
eth0      1500 10903437      0      0 0      10847867      0      0      0 BMRU
lo       65536   453650      0      0 0        453650      0      0      0 LRU

• 接收（该值是历史累加数据，不是瞬间数据，要计算时间内的差值需要自己减）：
  • RX-OK 已接收字节数
  • RX-ERR 已接收错误字节数（数据值大说明网络存在问题）
  • RX-DRP 已丢失字节数（数据值大说明网络存在问题）
  • RX-OVR 由于误差而遗失字节数（数据值大说明网络存在问题）
• 发送（该值是历史累加数据，不是瞬间数据，要计算时间内的差值需要自己减）：
  • TX-OK 已发送字节数
  • TX-ERR 已发送错误字节数（数据值大说明网络存在问题）
  • TX-DRP 已丢失字节数（数据值大说明网络存在问题）
  • TX-OVR 由于误差而遗失字节数（数据值大说明网络存在问题）

网络排查

• ping 命令查看丢包、域名解析地址
  • ping 116.196.110.69
  • ping www.GitNavi.com
• telnet 测试端口的连通性（验证服务的可用性）
  • yum install -y telnet
  • telnet 116.196.110.68 3306
  • telnet www.youmeek.com 80
• tracert（跟踪路由）查看网络请求节点访问情况，用于确定 IP 数据报访问目标所采取的路径。
  • yum install -y traceroute
  • traceroute gitnavi.com
• nslookup 命令查看 DNS 是否可用
  • yum install -y bind-utils
  • 输入：nslookup，然后终端进入交互模式，然后输入：www.baidu.com，此时会展示类似这样的信息：

Server:		103.224.222.221（这个是你本机的信息）
Address:	103.224.222.221#53（这个是你本机的信息）

（下面是百度的信息）
Non-authoritative answer:
www.baidu.COM	canonical name = www.a.shifen.COM.
Name:	www.a.shifen.COM
Address: 220.181.112.244
Name:	www.a.shifen.COM
Address: 220.181.111.188

• 此时我们假设换个 DNS，我们在刚刚的交互阶段继续输入：server 8.8.8.8，表示我们此时用 8.8.8.8 的 DNS，然后我们在交互中再输入：www.baidu.com，此时会出现这个信息：

Server:		8.8.8.8
Address:	8.8.8.8#53

Non-authoritative answer:
www.baidu.com	canonical name = www.a.shifen.com.
Name:	www.a.shifen.com
Address: 180.97.33.108
Name:	www.a.shifen.com
Address: 180.97.33.107

• 以上表明，不同的 DNS 情况下，我们获取到的域名所属 IP 是不同的。

---

查看 Linux 内核版本

• 对于一些复杂的层面问题，一般都要先确认内核版本，好帮助分析：uname -r

3.10.0-693.2.2.el7.x86_64

dmesg 打印内核信息

• 开机信息存在：tail -500f /var/log/dmesg
• 查看尾部信息：dmesg -T | tail
  • 参数 -T 表示显示时间
• 只显示 error 和 warning 信息：dmesg --level=err,warn -T
• 有些 OOM 的错误会在这里显示，比如：

[1880957.563400] Out of memory: Kill process 18694 (perl) score 246 or sacrifice child
[1880957.563408] Killed process 18694 (perl) total-vm:1972392kB, anon-rss:1953348kB, file-rss:0kB

查看系统日志

• 查看系统日志：tail -400f /var/log/messages
• 可能会看到类似以下异常：

Out of memory: Kill process 19452 (java) score 264 or sacrifice child

---

服务器故障排查顺序

请求时好时坏

• 系统层面
  • 查看负载、CPU、内存、上线时间、高资源进程 PID：htop
  • 查看网络丢失情况：netstat -i 3，关注：RX-DRP、TX-DRP，如果两个任何一个有值，或者都有值，肯定是网络出了问题（该值是历史累加数据，不是瞬间数据）。
• 应用层面
  • 临时修改 nginx log 输出格式，输出完整信息，包括请求头

$request_body   请求体（含POST数据）
$http_XXX       指定某个请求头（XXX为字段名，全小写）
$cookie_XXX     指定某个cookie值（XXX为字段名，全小写）


类似用法：
log_format  special_main  '$remote_addr - $remote_user [$time_local] "$request" '
    '$status $body_bytes_sent "$request_body" "$http_referer" '
    '"$http_user_agent" $http_x_forwarded_for "appid=$http_appid,appver=$http_appver,vuser=$http_vuser" '
    '"phpsessid=$cookie_phpsessid,vuser_cookie=$cookie___vuser" ';


access_log  /home/wwwlogs/hicrew.log special_main;

CPU 高，负载高，访问慢（没有数据库）

• 记录负载开始升高的时间
• 常见场景
  • 虚拟机所在的宿主机资源瓶颈，多个虚拟机竞争资源
  • 定时任务大量的任务并发
  • 消息、请求堆积后恢复时的瞬时流量引起
  • 持久化任务引起
  • 更多可以看这篇：线上异常排查总结
• 系统层面
  • 查看负载、CPU、内存、上线时间、高资源进程 PID：htop
  • 查看磁盘使用情况：df -h
  • 查看磁盘当前情况：iostat -x -k 3 3。如果发现当前磁盘忙碌，则查看是哪个 PID 在忙碌：iotop -o -P -k -d 5
  • 查看 PID 具体在写什么东西：lsof -p PID
  • 查看系统日志：tail -400f /var/log/messages
  • 查看简化线程树：pstree -a >> /opt/pstree-20180915.log
  • 其他机子 ping（多个地区 ping），看下解析 IP 与网络丢包
  • 查看网络节点情况：traceroute www.youmeek.com
  • ifconfig 查看 dropped 和 error 是否在不断增加，判断网卡是否出现问题
  • nslookup 命令查看 DNS 是否可用
  • 如果 nginx 有安装：http_stub_status_module 模块，则查看当前统计
  • 查看 TCP 和 UDP 应用
    • netstat -ntlp
    • netstat -nulp
  • 统计当前连接的一些状态情况：netstat -nat |awk '{print $6}'|sort|uniq -c|sort -rn
  • 查看每个 ip 跟服务器建立的连接数：netstat -nat|awk '{print$5}'|awk -F : '{print$1}'|sort|uniq -c|sort -rn
  • 查看与后端应用端口连接的有多少：lsof -i:8080|grep 'TCP'|wc -l
  • 跟踪程序（按 Ctrl + C 停止跟踪）：strace -tt -T -v -f -e trace=file -o /opt/strace-20180915.log -s 1024 -p PID
  • 看下谁在线：w，last
  • 看下执行了哪些命令：history
• 程序、JVM 层面
  • 保存、查看 Nginx 程序 log
    • 通过 GoAccess 分析 log
  • 保存、查看 Java 程序 log
  • 使用内置 tomcat-manager 监控配置，或者使用类似工具：psi-probe
  • 使用 ps -ef | grep java，查看进程 PID
    • 根据高 CPU 的进程 PID，查看其线程 CPU 使用情况：top -Hp PID，找到占用 CPU 资源高的线程 PID
  • 保存堆栈情况：jstack -l PID >> /opt/jstack-tomcat1-PID-20180917.log
    • 把占用 CPU 资源高的线程十进制的 PID 转换成 16 进制：printf "%x\n" PID，比如：printf "%x\n" 12401 得到结果是：3071
    • 在刚刚输出的那个 log 文件中搜索：3071，可以找到：nid=0x3071
  • 使用 jstat -gc PID 10000 10，查看gc情况（截图）
  • 使用 jstat -gccause PID：额外输出上次GC原因（截图）
  • 使用 jstat -gccause PID 10000 10：额外输出上次GC原因，收集 10 次，每隔 10 秒
  • 使用 jmap -dump:format=b,file=/opt/dumpfile-tomcat1-PID-20180917.hprof PID，生成堆转储文件
    • 使用 jhat 或者可视化工具（Eclipse Memory Analyzer 、IBM HeapAnalyzer）分析堆情况。
  • 结合代码解决内存溢出或泄露问题。
  • 给 VM 增加 dump 触发参数：-XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/opt/tomcat-1.hprof

一次 JVM 引起的 CPU 高排查

• 使用 ps -ef | grep java，查看进程 PID
  • 根据高 CPU 的进程 PID，查看其线程 CPU 使用情况：top -Hp PID，找到占用 CPU 资源高的线程 TID
  • 也可以用：ps -mp PID -o THREAD,tid,time
• 保存堆栈情况：jstack -l TID >> /opt/jstack-tomcat1-TID-20181017.log
• 把占用 CPU 资源高的线程十进制的 TID 转换成 16 进制：printf "%x\n" TID，比如：printf "%x\n" 12401 得到结果是：3071
• 在刚刚输出的那个 log 文件中搜索：3071，可以找到：nid=0x3071
• 也可以在终端中直接看：jstack TID |grep 十六进制线程 -A 30，此时如果发现如下：

"GC task thread#0 (ParallelGC)" os_prio=0 tid=0x00007fd0ac01f000 nid=0x66f runnable 

• 这种情况一般是 heap 设置得过小，而又要频繁分配对象；二是内存泄露，对象一直不能被回收，导致 CPU 占用过高
• 使用：jstat -gcutil PID 3000 10：
• 正常情况结果应该是这样的：

S0     S1     E      O      M     CCS    YGC     YGCT    FGC    FGCT     GCT
0.00   0.00  67.63  38.09  78.03  68.82    124    0.966     5    0.778    1.744
0.00   0.00  67.68  38.09  78.03  68.82    124    0.966     5    0.778    1.744
0.00   0.00  67.68  38.09  78.03  68.82    124    0.966     5    0.778    1.744
0.00   0.00  67.68  38.09  78.03  68.82    124    0.966     5    0.778    1.744
0.00   0.00  67.68  38.09  78.03  68.82    124    0.966     5    0.778    1.744
0.00   0.00  67.68  38.09  78.03  68.82    124    0.966     5    0.778    1.744
0.00   0.00  67.68  38.09  78.03  68.82    124    0.966     5    0.778    1.744
0.00   0.00  67.68  38.09  78.03  68.82    124    0.966     5    0.778    1.744
0.00   0.00  67.71  38.09  78.03  68.82    124    0.966     5    0.778    1.744
0.00   0.00  67.71  38.09  78.03  68.82    124    0.966     5    0.778    1.744

• S0：SO 当前使用比例
• S1：S1 当前使用比例
• E：Eden 区使用比例（百分比）（异常的时候，这里可能会接近 100%）
• O：old 区使用比例（百分比）（异常的时候，这里可能会接近 100%）
• M：Metaspace 区使用比例（百分比）（异常的时候，这里可能会接近 100%）
• CCS：压缩使用比例
• YGC：年轻代垃圾回收次数
• FGC：老年代垃圾回收次数
• FGCT：老年代垃圾回收消耗时间（单位秒）
• GCT：垃圾回收消耗总时间（单位秒）
• 异常的时候每次 Full GC 时间也可能非常长，每次时间计算公式=FGCT值/FGC指）
• jmap -heap PID，查看具体占用量是多大
• 使用 jmap -dump:format=b,file=/opt/dumpfile-tomcat1-PID-20180917.hprof PID，生成堆转储文件（如果设置的 heap 过大，dump 下来会也会非常大）
  • 使用 jhat 或者可视化工具（Eclipse Memory Analyzer 、IBM HeapAnalyzer）分析堆情况。
  • 一般这时候就只能根据 jhat 的分析，看源码了
• 这里有几篇类似经历的文章推荐给大家：
  • 三个神奇bug之Java占满CPU
  • CPU 负载过高问题排查

CPU 低，负载高，访问慢（带数据库）

• 基于上面，但是侧重点在于 I/O 读写，以及是否有 MySQL 死锁，或者挂载了 NFS，而 NFS Server 出现问题
• mysql 下查看当前的连接数与执行的sql 语句：show full processlist;
• 检查慢查询日志，可能是慢查询引起负载高，根据配置文件查看存放位置：log_slow_queries
• 查看 MySQL 设置的最大连接数：show variables like 'max_connections';
  • 重新设置最大连接数：set GLOBAL max_connections=300

参考资料

• http://man.linuxde.net/dd
• https://linux.cn/article-6104-1.html
• http://www.cnblogs.com/ggjucheng/archive/2013/01/13/2858923.html
• http://coolnull.com/3649.html
• http://www.rfyy.net/archives/2456.html
• http://programmerfamily.com/blog/linux/sav.html
• https://www.jianshu.com/p/3991c0dba094
• https://www.jianshu.com/p/3667157d63bb
• https://www.cnblogs.com/yjd_hycf_space/p/7755633.html
• http://silverd.cn/2016/05/27/nginx-access-log.html