cluster模塊概覽

node實例是單線程作業(yè)的。在服務(wù)端編程中，通常會創(chuàng)建多個node實例來處理客戶端的請求，以此提升系統(tǒng)的吞吐率。對這樣多個node實例，我們稱之為cluster（集群）。

借助node的cluster模塊，開發(fā)者可以在幾乎不修改原有項目代碼的前提下，獲得集群服務(wù)帶來的好處。

集群有以下兩種常見的實現(xiàn)方案，而node自帶的cluster模塊，采用了方案二。

方案一：多個node實例+多個端口

集群內(nèi)的node實例，各自監(jiān)聽不同的端口，再由反向代理實現(xiàn)請求到多個端口的分發(fā)。

1. 優(yōu)點：實現(xiàn)簡單，各實例相對獨立，這對服務(wù)穩(wěn)定性有好處。
2. 缺點：增加端口占用，進程之間通信比較麻煩。

方案二：主進程向子進程轉(zhuǎn)發(fā)請求

集群內(nèi)，創(chuàng)建一個主進程(master)，以及若干個子進程(worker)。由master監(jiān)聽客戶端連接請求，并根據(jù)特定的策略，轉(zhuǎn)發(fā)給worker。

1. 優(yōu)點：通常只占用一個端口，通信相對簡單，轉(zhuǎn)發(fā)策略更靈活。
2. 缺點：實現(xiàn)相對復(fù)雜，對主進程的穩(wěn)定性要求較高。

入門實例

在cluster模塊中，主進程稱為master，子進程稱為worker。

例子如下，創(chuàng)建與CPU數(shù)目相同的服務(wù)端實例，來處理客戶端請求。注意，它們監(jiān)聽的都是同樣的端口。

// server.js
var cluster = require('cluster');
var cpuNums = require('os').cpus().length;
var http = require('http');

if(cluster.isMaster){
 for(var i = 0; i < cpuNums; i++){
  cluster.fork();
 }
}else{
 http.createServer(function(req, res){
  res.end(`response from worker ${process.pid}`);
 }).listen(3000);

 console.log(`Worker ${process.pid} started`);
}

創(chuàng)建批處理腳本：./req.sh。

#!/bin/bash

# req.sh
for((i=1;i<=4;i++)); do  
 curl http://127.0.0.1:3000
 echo ""
done 

輸出如下?？梢钥吹?，響應(yīng)來自不同的進程。

response from worker 23735
response from worker 23731
response from worker 23729
response from worker 23730

cluster模塊實現(xiàn)原理

了解cluster模塊，主要搞清楚3個問題：

1. master、worker如何通信？
2. 多個server實例，如何實現(xiàn)端口共享？
3. 多個server實例，來自客戶端的請求如何分發(fā)到多個worker？

下面會結(jié)合示意圖進行介紹，源碼級別的介紹，可以參考 筆者的github。

問題1：master、worker如何通信

這個問題比較簡單。master進程通過 cluster.fork() 來創(chuàng)建 worker進程。cluster.fork() 內(nèi)部 是通過 child_process.fork() 來創(chuàng)建子進程。

也就是說：

1. master進程、worker進程是父、子進程的關(guān)系。
2. master進程、woker進程可以通過IPC通道進行通信。（重要）

問題2：如何實現(xiàn)端口共享

在前面的例子中，多個woker中創(chuàng)建的server監(jiān)聽了同個端口3000。通常來說，多個進程監(jiān)聽同個端口，系統(tǒng)會報錯。

為什么我們的例子沒問題呢？

秘密在于，net模塊中，對 listen() 方法進行了特殊處理。根據(jù)當(dāng)前進程是master進程，還是worker進程：

1. master進程：在該端口上正常監(jiān)聽請求。（沒做特殊處理）
2. worker進程：創(chuàng)建server實例。然后通過IPC通道，向master進程發(fā)送消息，讓master進程也創(chuàng)建 server 實例，并在該端口上監(jiān)聽請求。當(dāng)請求進來時，master進程將請求轉(zhuǎn)發(fā)給worker進程的server實例。

歸納起來，就是：master進程監(jiān)聽特定端口，并將客戶請求轉(zhuǎn)發(fā)給worker進程。

如下圖所示：

問題3：如何將請求分發(fā)到多個worker

每當(dāng)worker進程創(chuàng)建server實例來監(jiān)聽請求，都會通過IPC通道，在master上進行注冊。當(dāng)客戶端請求到達，master會負責(zé)將請求轉(zhuǎn)發(fā)給對應(yīng)的worker。

具體轉(zhuǎn)發(fā)給哪個worker？這是由轉(zhuǎn)發(fā)策略決定的?？梢酝ㄟ^環(huán)境變量NODE_CLUSTER_SCHED_POLICY設(shè)置，也可以在cluster.setupMaster(options)時傳入。

默認的轉(zhuǎn)發(fā)策略是輪詢（SCHED_RR）。

當(dāng)有客戶請求到達，master會輪詢一遍worker列表，找到第一個空閑的worker，然后將該請求轉(zhuǎn)發(fā)給該worker。

master、worker內(nèi)部通信小技巧

在開發(fā)過程中，我們會通過 process.on('message', fn) 來實現(xiàn)進程間通信。

前面提到，master進程、worker進程在server實例的創(chuàng)建過程中，也是通過IPC通道進行通信的。那會不會對我們的開發(fā)造成干擾呢？比如，收到一堆其實并不需要關(guān)心的消息？

答案肯定是不會？那么是怎么做到的呢？

當(dāng)發(fā)送的消息包含cmd字段，且改字段以NODE_作為前綴，則該消息會被視為內(nèi)部保留的消息，不會通過message事件拋出，但可以通過監(jiān)聽'internalMessage'捕獲。

以worker進程通知master進程創(chuàng)建server實例為例子。worker偽代碼如下：

// woker進程
const message = {
 cmd: 'NODE_CLUSTER',
 act: 'queryServer'
};
process.send(message);

master偽代碼如下：

worker.process.on('internalMessage', fn);

相關(guān)鏈接

官方文檔：https://nodejs.org/api/cluster.html

Node學(xué)習(xí)筆記：https://github.com/chyingp/nodejs-learning-guide

以上就是本文的全部內(nèi)容，希望對大家的學(xué)習(xí)有所幫助，也希望大家多多支持腳本之家。

最新評論