Nodejs监控事件循环异常示例详解

时间:2021-05-26

开场白

最近在学习 libuv,也了解了一些 Node.js 中使用 libuv 的例子。当然,这篇文章不会去介绍 event loop,毕竟这些东西在各个论坛、技术圈里都被介绍烂了。本文介绍如何正确使用 Event loop,以及即使发现程序是否异常 block。

基础

event loop 的基础想必各位读者都比较熟悉了。这里我引用官方的图,简单介绍两句,作为前置准备:

event loop是作为单线程实现异步的方式之一。简而言之,就是在一个大的 while 循环中不断遍历这些 phase,执行对应的 callbacks。这样才实现了真正的异步调用:调用时不必等着响应,等调用的资源准备好了,回调我。
以上就是基础,接下来进入正题:

问题提出

开门见山,我们提出以下问题:

  • js 既然是单线程,那么总有办法 block 住整个程序,虽然用了 libuv,也可能会 block 住主程序。对吗?
  • 如何知道我们的程序 block 住了?
  • 对于问题1,答案是肯定的。任何 io 密集计算都会 block 主进程,调用任何耗时的同步系统 api(比如同步读取大文件等),也会 block。

    对于第2个问题,就需要对 libuv 有个基本认识了(想想我前面说的一个大 while)。event loop 既然是 loop,那么总有循环的概念吧?想到循环,能联想到循环次数吧?对~解决方案就是使用循环次数。

    方案

    这里我提一个思路(并不是说不写代码😄):如果我们正常逻辑下,一秒钟能进行100W 次事件循环(数据基于我本机),那么如果有一段时间,我得到的1秒钟时间循环次数只有50W,那么是不是说明程序中有哪些地方稍微 block 住了?或者夸张地说,由正常的100W 次变为了个数次。这就很严重了。因此及时监控event loop 非常重要。

    第一版代码

    // 环境准备const http = require('http');const path = require('path');const {execFile, execFileSync} = require('child_process');const max = 9999;const getComputedValueFromChildProcess = (max) => execFileSync('node', [path.join(__dirname, './childprocess.js'), max]);http.createServer((req, res) => { const k = getComputedValueFromChildProcess(max); res.write('origin-text: ' + k); res.end();}).listen(8888);// 第一版实现const MS_MULTI = 1000 * 1000;const blockDelta = 10 * MS_MULTI;let start;function meature() { start = process.hrtime(); setImmediate(function() { let seconds; [seconds, start] = process.hrtime(start); if (seconds * 1000 * MS_MULTI + start > blockDelta) { console.log(`node.eventloop_blocked for ${seconds}secs and ${(start / MS_MULTI).toFixed(2)}ms.`); } meature(); });}meature();// childprocess.js 文件#!/use/env nodeconst args = Number(process.argv[2]);function computeIo(args) { let k; for (let i = 0; i < args; ++i) { for (let j = 0; j < args; ++j) { k = i + j; } } return k;}console.log(computeIo(args));

    大环境是一个 web 服务器。我们选用了 check 这个 phase 来作为一个起点(这里不使用 timer phase的原因是,setTimeout 的 timeout 最低是1ms,在 event loop 空转时,1ms 可以跑好多好多次循环了,本机数据大概是100K次/ms)。应用一开始就调用 meature 方法开始暴力测试。旨在测试这次 check 到下次 check 的时间是否大于10ms:

    # 没有请求前# 等了很久出现一个15ms➜ test node blocked.jsnode.eventloop_blocked for 0secs and 15.71ms.# 当我执行几次curl http://localhost:8888# 出现:node.eventloop_blocked for 0secs and 175.60ms.node.eventloop_blocked for 0secs and 149.92ms.node.eventloop_blocked for 0secs and 147.25ms.

    是的,基本雏形出来了。可以根据这些数值进行数据上报、排查问题等。但是!

    如果读者有尝试了上面这个例子的话,会发现一个问题:电脑发烫,风扇不停转!

    我看了任务管理器,发现 Node 进程的 cpu 占用率是100%左右!当我把 meature 逻辑注释掉,cpu 占用率恢复到了0%左右。看来这个版本不行。我们来修改一下~具体原因是不断地执行 setImmediate 代码,不断添加 callback,导致 cpu 一直 run!

    第二版代码

    我们增加一个采样的概念:每10秒,采样一个至少2秒的循环数(为什么是至少2秒?因为 setTimeout 的 timeout 的定义本来也就是至少鸭,哈哈哈哈😏)

    const EVERY_SEC_MIN_LOOPS = 1000000; // 定义每秒最小循环数let times = 0; // 一次采样中的循环数let nowShowIncreaseTimes = false; // 当前是否应该增加 timeslet start = Date.now();const CD = 10 * 1000; // 间隔function meature(callback = () => {}) { setTimeout(function() { start = Date.now(); nowShowIncreaseTimes = true; _inter(); setTimeout(() => { endMeature(); meature(); // 开始预约下次采样 }, 2000); }, CD);}function _inter() { setImmediate(() => { if (nowShowIncreaseTimes) { ++times; return _inter(); } });}function endMeature() { const now = Date.now(); nowShowIncreaseTimes = false; const totalMsSpan = now - start; const everySecLoops = (times / (totalMsSpan / 1000)).toFixed(0); if (everySecLoops < EVERY_SEC_MIN_LOOPS) { console.log(`当前每秒循环数${everySecLoops}`); } times = 0; return everySecLoops}meature();

    测试结果:

    # 当我不断:
    curl http://localhost:8888
    # 出现
    ➜ test node blocked.js
    当前每秒循环数777574
    当前每秒循环数890565
    # 当我们搞事情时:
    ab -c 10 -n 200 http://localhost:8888/

    # 结果是这样的:
    ➜ test node blocked.js
    当前每秒循环数843594
    当前每秒循环数913329
    当前每秒循环数2
    当前每秒循环数2

    修改为了第2版后,电脑不再烫了,风扇不再转了。cpu 只有在采样时会上升到30、40样子,不错。

    但同时也发现了问题:一秒才2次循环!!这时基本处于拉闸了。为什么呢?

    因为我们的请求处理是同步的!同步地生成一个子进程,并且等到子进程运行完了,才把结果返回。可见,在 server 项目中启用耗时的同步操作,风险是多么大!!

    我们把同步换为异步试试:

    // non-blocked.jsconst max = 9999;const getComputedValueFromChildProcess = (max) => new Promise((res, rej) => { execFile('node', [path.join(__dirname, './childprocess.js'), max], (err, stdout) => { const valueFromChildProcess = Number(stdout); res(valueFromChildProcess); });});http.createServer(async (req, res) => { const k = await getComputedValueFromChildProcess(max); res.write('origin-text: ' + k); res.end();}).listen(8888);

    PS: 为了示范同步、异步的区别,本文用的是子进程这种方式。其实更好的应该是用 worker_thread 的方式、或者分片计算等。让我们用相同的 ab 进行测试,得到结果:

    ➜ test node non-blocked.js
    当前每秒循环数239920
    当前每秒循环数242286

    可以看到,虽然比空转时的100W同样低了不是一点点。但相对于同步的方式,这个数量级简直不能对比!!

    总结

    到现在,大家应该对监控 event loop 有个基本认识了。本来想搞一个 npm 包的,但最近比较忙,只能先抛砖,大家有玉的使劲砸。😬😬😬

    好了,以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对的支持。

    声明:本页内容来源网络,仅供用户参考;我单位不保证亦不表示资料全面及准确无误,也不保证亦不表示这些资料为最新信息,如因任何原因,本网内容或者用户因倚赖本网内容造成任何损失或损害,我单位将不会负任何法律责任。如涉及版权问题,请提交至online#300.cn邮箱联系删除。

    相关文章