nodejs中sleep功能實(shí)現(xiàn)暫停幾秒的方法
我在網(wǎng)上了解了一下nodejs中sleep功能,搜索了很多關(guān)于nodejs中sleep功能介紹,下面我來(lái)記錄一下,有需要了解的朋友可參考。希望此文章對(duì)各位有所幫助。
一 背景
在使用nodejs爬蟲的時(shí)候,經(jīng)常會(huì)遇到別人的網(wǎng)站對(duì)頻率的反爬機(jī)制,這個(gè)時(shí)候如果不做處理程序就會(huì)掛掉,重新啟動(dòng)也會(huì)繼續(xù)被屏蔽.這個(gè)問(wèn)題怎么解決呢,我的想法就是程序暫停10分鐘或者更長(zhǎng)的時(shí)間,繼續(xù)爬取.
二 方法
其實(shí)使用setTimeout就可以實(shí)現(xiàn),只是nodejs異步已經(jīng)很金字塔了,再加一層會(huì)更恐怖,所以本文使用nodejs的第三方模塊async來(lái)實(shí)現(xiàn),async的目的就是讓多個(gè)異步的程序,按照開(kāi)發(fā)者想要的順序來(lái)執(zhí)行,代碼書寫符合同步風(fēng)格,其實(shí)運(yùn)行還是異步的,也解決了回調(diào)金字塔的問(wèn)題.
async基礎(chǔ)使用 :http://chabaoo.cn/article/118526.htm
三 正常代碼
訪問(wèn)3個(gè)網(wǎng)站,百度,優(yōu)酷,騰訊為例.不暫停的代碼.
var async = require('async'); var http = require('http'); var task = []; task.push(function(callback){ console.time('訪問(wèn)3個(gè)網(wǎng)站時(shí)間統(tǒng)計(jì)'); http.get('http://www.baidu.com/', function(res) { console.log("百度訪問(wèn)結(jié)果: " + res.statusCode); callback(null); }).on('error', function(e) { console.log("百度訪問(wèn)結(jié)果: " + e.message); callback(e); }); }) task.push(function(callback){ http.get('http://www.youku.com/', function(res) { console.log("優(yōu)酷訪問(wèn)結(jié)果: " + res.statusCode); callback(null); }).on('error', function(e) { console.log("優(yōu)酷訪問(wèn)結(jié)果: " + e.message); callback(e); }); }) task.push(function(callback){ http.get('http://www.qq.com/', function(res) { console.log("騰訊訪問(wèn)結(jié)果: " + res.statusCode); callback(null); }).on('error', function(e) { console.log("騰訊訪問(wèn)結(jié)果: " + e.message); callback(e); }); }) async.waterfall(task, function(err,result){ console.timeEnd('訪問(wèn)3個(gè)網(wǎng)站時(shí)間統(tǒng)計(jì)'); if(err) return console.log(err); console.log('全部訪問(wèn)成功'); })
四 測(cè)試
執(zhí)行訪問(wèn)網(wǎng)站需要時(shí)間,3個(gè)網(wǎng)站訪問(wèn)時(shí)間統(tǒng)計(jì)254ms.
五 暫停代碼
比如,訪問(wèn)第一個(gè)網(wǎng)站后暫停5秒,訪問(wèn)第二個(gè)網(wǎng)站后暫停10秒.
var async = require('async'); var http = require('http'); var task = []; task.push(function(callback){ console.time('訪問(wèn)3個(gè)網(wǎng)站時(shí)間統(tǒng)計(jì)'); http.get('http://www.baidu.com/', function(res) { console.log("百度訪問(wèn)結(jié)果: " + res.statusCode); setTimeout(function() { callback(null); }, 5000); }).on('error', function(e) { console.log("百度訪問(wèn)結(jié)果: " + e.message); callback(e); }); }) task.push(function(callback){ http.get('http://www.youku.com/', function(res) { console.log("優(yōu)酷訪問(wèn)結(jié)果: " + res.statusCode); setTimeout(function() { callback(null); }, 10000); }).on('error', function(e) { console.log("優(yōu)酷訪問(wèn)結(jié)果: " + e.message); callback(e); }); }) task.push(function(callback){ http.get('http://www.qq.com/', function(res) { console.log("騰訊訪問(wèn)結(jié)果: " + res.statusCode); callback(null); }).on('error', function(e) { console.log("騰訊訪問(wèn)結(jié)果: " + e.message); callback(e); }); }) async.waterfall(task, function(err,result){ console.timeEnd('訪問(wèn)3個(gè)網(wǎng)站時(shí)間統(tǒng)計(jì)'); if(err) return console.log(err); console.log('全部訪問(wèn)成功'); })
六 測(cè)試
從打印中能看得出,訪問(wèn)第二個(gè)網(wǎng)站等待了5秒,訪問(wèn)第三個(gè)網(wǎng)站等待了10秒.OK!
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
詳解Node.js amqplib 連接 Rabbit MQ最佳實(shí)踐
這篇文章主要介紹了詳解Node.js amqplib 連接 Rabbit MQ最佳實(shí)踐,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2019-01-01Node.JS循環(huán)刪除非空文件夾及子目錄下的所有文件
這篇文章主要介紹了Node.JS循環(huán)刪除非空文件夾及子目錄下的所有文件及node.js遞歸刪除非空文件夾的實(shí)例代碼,需要的朋友可以參考下2018-03-03nodejs開(kāi)發(fā)微信小程序?qū)崿F(xiàn)密碼加密
本文給大家分享的是在使用nodejs開(kāi)發(fā)微信小程序的過(guò)程中,實(shí)現(xiàn)密碼加密的示例代碼,非常簡(jiǎn)單,有需要的小伙伴可以參考下2017-07-07關(guān)于Sequelize連接查詢時(shí)inlude中model和association的區(qū)別詳解
這篇文章主要介紹了關(guān)于Sequelize連接查詢時(shí)inlude中model與association的區(qū)別,文中介紹的很詳細(xì),需要的朋友可以參考借鑒,下面來(lái)一起看看吧。2017-02-02Nodejs在局域網(wǎng)配置https訪問(wèn)的實(shí)現(xiàn)方法
做一個(gè)局域網(wǎng)WebRTC視頻聊天系統(tǒng),需要用到HTTPS。因此,配置Node.js使其支持HTTPS訪問(wèn)。這篇文章主要介紹了Nodejs在局域網(wǎng)配置https訪問(wèn)的實(shí)現(xiàn)方法,需要的朋友可以參考下2020-10-10NodeJS和BootStrap分頁(yè)效果的實(shí)現(xiàn)代碼
這篇文章主要介紹了NodeJS和BootStrap分頁(yè)效果的實(shí)現(xiàn)代碼的相關(guān)資料,非常不錯(cuò)具有參考借鑒價(jià)值,需要的朋友可以參考下2016-11-11初學(xué)者如何快速搭建Express開(kāi)發(fā)系統(tǒng)步驟詳解
這篇文章主要介紹了初學(xué)者如何快速搭建Express開(kāi)發(fā)系統(tǒng),結(jié)合實(shí)例形式詳細(xì)分析了express框架搭建的具體步驟與相關(guān)注意事項(xiàng),需要的朋友可以參考下2023-05-05node koa2實(shí)現(xiàn)上傳圖片并且同步上傳到七牛云存儲(chǔ)
這篇文章主要介紹了node koa2實(shí)現(xiàn)上傳圖片并且同步上傳到七牛云存儲(chǔ),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2017-07-07