0
点赞
收藏
分享

微信扫一扫

系统故障分析常用方法


《性能之巅》第二章 2.5 方法

USE是utilization、saturation、erros三个词的缩写,应用于性能研究,用来识别系统瓶颈,一言以蔽之,就是:对于所有的资源,查看它的使用率、饱和度和错误。

这些术语定义如下:
资源:所有服务器物理元器件(CPU、总线。。。)。某些软件资源也能算在内,提供有用的指标。
使用率:在规定的时间间隔内,资源用于服务工作的时间百分比。
饱和度:资源不能再服务更多额外工作的程度,通常有等待队列。
错误:错误事件的个数。

例如:

U:

  • 硬件
  • CPU:利用率(TOP查看到的结果), 1秒内繁忙时间的比例
  • 内存:当前可用内存
  • 网卡:收包吞吐量/最大带宽, 发包吞吐量/最大带宽(网卡能力)
  • 存储设备I/O:设备繁忙时间/总时间
  • 软件
  • 互斥锁:锁被持有的时间/总时间
  • 线程池:线程池繁忙的时间/总时间
  • 进程/线程容量:系统中线程/进程的数量
  • 文件描述符容量:系统中描述符的数量

S:

  • 硬件
  • CPU:可运行队列的长度
  • 内存:匿名页、swap等以及oom事件
  • 存储设备I/O:等待队列的长度
  • 软件
  • 互斥锁:等待锁线程队列的长度
  • 线程池:等待线程池处理的请求队列的长度
  • 进程/线程容量:等待系统创建的线程/进程的数量
  • 文件描述符容量:等待系统创建的描述符的数量

E:

  • 硬件
  • 存储设备I/O:设备错误数
  • 软件
  • 进程/线程容量:创建失败的数量
  • 文件描述符容量:文件描述符分配失败的数量

常用命令:

# 以下命令部分依赖sysstat包
uptime # 对系统的全局状态有一个大致的了解

dmesg | tail # 显示最新的几条系统日志

df -h # 检查磁盘空间

top # 全面了解系统指标

vmstat 1 # 显示CPU,内存,虚拟内存相关信息

mpstat -P ALL 1 # 显示每个核具体消耗情况

pidstat 1 # 带历史信息的top

iostat -xz 1 # 查看块设备即io状况

free -m # 查看系统内存

sar -n DEV 1 # 查看网络接口的吞吐量

sar -n TCP,ETCP 1 # 检查TCP相关信息

uptime:

这个命令能很快地检查系统平均负载。在 Linux 系统里,这包含了想要或者正在使用 cpu 的任务,以及在 io 上被阻塞的任务。

这三个值是系统1 分钟,5 分钟,15 分钟的系统负载指数加权的动态平均值,可以简单地认为就是这个时间段内的平均值。根据这三个值,我们可以了解系统负载随时间的变化。比如,假设现在系统出了问题,你去查看这三个值,发现 1 分钟的负载值比 15 分钟的负载值要小很多,那么你很有可能已经错过了系统出问题的时间点。

何为系统负载呢?
系统平均负载被定义为在特定时间间隔内运行队列中的平均进程数。如果一个进程满足以下条件则其就会位于运行队列中:

它没有在等待I/O操作的结果
它没有主动进入等待状态(也就是没有调用'wait')
没有被停止(例如:等待终止)
一般来说,每个CPU内核当前活动进程数不大于3,则系统运行表现良好!当然这里说的是每个cpu内核,也就是如果你的主机是四核cpu的话,那么只要uptime最后输出的一串字符数值小于12即表示系统负载不是很严重.当然如果达到20,那就表示当前系统负载非常严重,估计打开执行web脚本非常缓慢。

 

dmesg:

需要加权限  sudo dmesg
这个命令显示了最新的几条系统日志。这里我们主要找一下有没有一些系统错误会导致性能的问题。

 

df -h:

查看磁盘使用情况

 

top

CPU状态(CPU states): 包括用户进程占用比率、系统进程占用比率、用户的nice 优先级进程占用比率及空闲CPU资源比率等;

内存状态 (Mem): 包括内存总量、使用量、空闲量等;

交换分区状态( Swap): 包括交换分区总量、使用量、空闲量等;

每个进程的状态:包括进程ID、 用户名、优先级、CPU和内存使用量,以及运行该进程时执行的命令行;

进入 top 后,按下如下按钮会有相应功能:

  • 【q】 退出 top 程序
  • 【c】扩展命令行信息, 显示完整的命令行;
  • 【P】 按 CPU使用量排序;
  • 【N】 按进程ID 排序;
  • 【M】 按内存使用量排序;
  • 【空格】 立即刷新显示信息;

执行 top 命令后,每隔5 秒,系统会自动刷新一次状态信息,如果要指定刷新间隔,在启动时加入“-d” 

 

vmstat 1:

把用户态 CPU 时间(us)和内核态 CPU 时间(sy)加起来,我们可以进一步确认 CPU 是否繁忙。等待 io 的时间 (wa)高的话,表示磁盘是瓶颈;这个也被包含在空闲时间里面(id), CPU 这个时候也是空闲的,任务此时阻塞在磁盘 IO 上了。可以把等待 io 的时间(wa)看做另一种形式的 CPU 空闲,它可以说明 CPU 为什么是空闲的。
系统处理 IO 的时候,肯定是会消耗内核态时间(sy)的。如果内核态时间较多的话,比如超过 20%,我们需要进一步分析,也许内核对 IO 的处理效率不高,或者代码有问题如多次异步循环调用,而不是批量操作。
需要查看的指标:

- r:处在 runnable 状态的任务,包括正在运行的任务和等待运行的任务。这个值比平均负载能更好地看出 CPU 是否饱和。这个值不包含等待 io 相关的任务。当 r 的值比当前 cpu 个数要大的时候,系统就处于饱和状态了。

- free:以 KB 计算的空闲内存大小。

- si, so:换入换出的内存页。如果这两个值非零,表示内存不够了。

- us, sy, id, wa, st:cpu 时间的各项指标(对所有 cpu 取均值),分别表示:用户态时间,内核态时间,空闲时间,等待 io , 偷取时间(在虚拟化环境下系统在其它租户上的开销)

vmstat 展示了虚拟内存、cpu 的一些情况。命令行的 1 表示每隔 1 秒钟显示一次。

 

mpstat -P ALL 1:

mpstat命令把每个 CPU 的时间都打印出来,可以查看 CPU 对任务的处理是否均匀。如果某一单个 CPU 使用率很高的话,说明这是一个单线程应用。

 

pidstat 1:

pidstat 和 top 很像,不同的是它可以每隔一个间隔打印一次,而不是像 top 那样每次都清屏。这个命令可以方便地查看进程可能存在的行为模式,你也可以直接 copy past,可以方便地记录随着时间的变化,各个进程运行状况的变化。

 

iostat -xz 1:

iostat 是理解块设备(磁盘)的当前负载和性能的重要工具。几个指标的含义:

- r/s, w/s, rkB/s, wkB/s:系统发往设备的每秒的读次数、每秒写次数、每秒读的数据量、每秒写的数据量。这几个指标反映的是系统的工作负载。系统的性能问题很有可能就是负载太大。

- await: 系统发往 IO 设备的请求的平均响应时间。这包括请求排队的时间,以及请求处理的时间。超过经验值的平均响应时间表明设备处于饱和状态,或者设备有问题。

- avgqu-sz:设备请求队列的平均长度。队列长度大于 1 表示设备处于饱和状态。

- %util:设备利用率。设备繁忙的程度,表示每一秒之内,设备处理 io 的时间占比。大于 60% 的利用率通常会导致性能问题(可以通过 await 看到),但是每种设备也会有有所不同。接近 100% 的利用率表明磁盘处于饱和状态

注意:

如果这个块设备是一个逻辑块设备,这个逻辑快设备后面有很多物理的磁盘的话,100% 利用率只能表明有些 IO 的处理时间达到了 100%;后端的物理磁盘可能远远没有达到饱和状态,可以处理更多的负载。

较差的磁盘 IO 性能并不一定意味着应用程序会有问题。应用程序可以有许多方法执行异步 IO,而不会阻塞在 IO 上面;应用程序也可以使用诸如预读取,写缓冲等技术降低 IO 延迟对自身的影响。

 

free -m

available:当前可用内存;我们想要看这个值是不是接近于零。这几个值接近零会导致更高的磁盘 IO 以及更差的性能。

 

sar -n DEV 1

查看网络接口的吞吐量:rxkB/s 和 txkB/s可以测量负载,也可以看是否达到网络流量限制了。在上面的例子里,eth2 的吞吐量达到了大约 8 Mbytes/s,差不多 64 Mbits/sec ,比 10 Gbit/sec 还要少很多。

 

sar -n TCP,ETCP 1

TCP 重要指标的一些概括:
- retrans/s: 每秒钟的 tcp 重传次数

- passive/s:每秒钟从源端发起的 tcp 连接,也就是本地程序使用 accept() 所接受的连接

- active/s:每秒钟本地主动开启的 tcp 连接,也就是本地程序使用 connect() 系统调用

注:

atctive 和 passive 的数目通常可以用来衡量服务器的负载:接受连接的个数(passive),下游连接的个数(active)。可以简单认为 active 为出主机的连接,passive 为入主机的连接;但这个不是很严格的说法,比如 loalhost 和 localhost 之间的连接。

重传表示网络或者服务器的问题。也许是网络不稳定了,也许是服务器负载过重开始丢包了。上面这个例子表示每秒只有 2次重传。
 

举报

相关推荐

0 条评论