深入nodejs中流(stream)的理解
nodejs的fs
模塊并沒有提供一個copy
的方法,但我們可以很容易的實現(xiàn)一個,比如:
var source = fs.readFileSync('/path/to/source', {encoding: 'utf8'}); fs.writeFileSync('/path/to/dest', source);
這種方式是把文件內(nèi)容全部讀入內(nèi)存,然后再寫入文件,對于小型的文本文件,這沒有多大問題,比如grunt-file-copy就是這樣實現(xiàn)的。但是對于體積較大的二進制文件,比如音頻、視頻文件,動輒幾個GB大小,如果使用這種方法,很容易使內(nèi)存“爆倉”。理想的方法應該是讀一部分,寫一部分,不管文件有多大,只要時間允許,總會處理完成,這里就需要用到流的概念。
如上面高大上的圖片所示,我們把文件比作裝水的桶,而水就是文件里的內(nèi)容,我們用一根管子(pipe)連接兩個桶使得水從一個桶流入另一個桶,這樣就慢慢的實現(xiàn)了大文件的復制過程。
Stream
在nodejs中是EventEmitter
的實現(xiàn),并且有多種實現(xiàn)形式,例如:
- http responses request
- fs read write streams
- zlib streams
- tcp sockets
- child process stdout and stderr
上面的文件復制可以簡單實現(xiàn)一下:
var fs = require('fs'); var readStream = fs.createReadStream('/path/to/source'); var writeStream = fs.createWriteStream('/path/to/dest'); readStream.on('data', function(chunk) { // 當有數(shù)據(jù)流出時,寫入數(shù)據(jù) writeStream.write(chunk); }); readStream.on('end', function() { // 當沒有數(shù)據(jù)時,關閉數(shù)據(jù)流 writeStream.end(); });
上面的寫法有一些問題,如果寫入的速度跟不上讀取的速度,有可能導致數(shù)據(jù)丟失。正常的情況應該是,寫完一段,再讀取下一段,如果沒有寫完的話,就讓讀取流先暫停,等寫完再繼續(xù),于是代碼可以修改為:
var fs = require('fs'); var readStream = fs.createReadStream('/path/to/source'); var writeStream = fs.createWriteStream('/path/to/dest'); readStream.on('data', function(chunk) { // 當有數(shù)據(jù)流出時,寫入數(shù)據(jù) if (writeStream.write(chunk) === false) { // 如果沒有寫完,暫停讀取流 readStream.pause(); } }); writeStream.on('drain', function() { // 寫完后,繼續(xù)讀取 readStream.resume(); }); readStream.on('end', function() { // 當沒有數(shù)據(jù)時,關閉數(shù)據(jù)流 writeStream.end(); });
或者使用更直接的pipe
// pipe自動調(diào)用了data,end等事件 fs.createReadStream('/path/to/source').pipe(fs.createWriteStream('/path/to/dest'));
下面是一個更加完整的復制文件的過程
var fs = require('fs'), path = require('path'), out = process.stdout; var filePath = '/Users/chen/Movies/Game.of.Thrones.S04E07.1080p.HDTV.x264-BATV.mkv'; var readStream = fs.createReadStream(filePath); var writeStream = fs.createWriteStream('file.mkv'); var stat = fs.statSync(filePath); var totalSize = stat.size; var passedLength = 0; var lastSize = 0; var startTime = Date.now(); readStream.on('data', function(chunk) { passedLength += chunk.length; if (writeStream.write(chunk) === false) { readStream.pause(); } }); readStream.on('end', function() { writeStream.end(); }); writeStream.on('drain', function() { readStream.resume(); }); setTimeout(function show() { var percent = Math.ceil((passedLength / totalSize) * 100); var size = Math.ceil(passedLength / 1000000); var diff = size - lastSize; lastSize = size; out.clearLine(); out.cursorTo(0); out.write('已完成' + size + 'MB, ' + percent + '%, 速度:' + diff * 2 + 'MB/s'); if (passedLength < totalSize) { setTimeout(show, 500); } else { var endTime = Date.now(); console.log(); console.log('共用時:' + (endTime - startTime) / 1000 + '秒。'); } }, 500);
可以把上面的代碼保存為copy.js
試驗一下
我們添加了一個遞歸的setTimeout
(或者直接使用setInterval)來做一個旁觀者,每500ms觀察一次完成進度,并把已完成的大小、百分比和復制速度一并寫到控制臺上,當復制完成時,計算總的耗費時間,效果如圖:
我們復制了一集1080p的權利的游戲第四季第7集,大概3.78G大小,由于使用了SSD,可以看到速度還是非常不錯的,哈哈哈~ 復制完成后,顯示總花費時間
結合nodejs的readline
, process.argv
等模塊,我們可以添加覆蓋提示、強制覆蓋、動態(tài)指定文件路徑等完整的復制方法,有興趣的可以實現(xiàn)一下,實現(xiàn)完成,可以
ln -s /path/to/copy.js /usr/local/bin/mycopy
這樣就可以使用自己寫的mycopy
命令替代系統(tǒng)的cp
命令
以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。
相關文章
NodeJS設計模式總結【單例模式,適配器模式,裝飾模式,觀察者模式】
這篇文章主要介紹了NodeJS設計模式,結合實例形式總結分析了nodejs單例模式,適配器模式,裝飾模式,觀察者模式的概念、原理與具體實現(xiàn)技巧,需要的朋友可以參考下2017-09-09node.js中的querystring.stringify方法使用說明
這篇文章主要介紹了node.js中的querystring.stringify方法使用說明,本文介紹了querystring.stringify的方法說明、語法、接收參數(shù)、使用實例和實現(xiàn)源碼,需要的朋友可以參考下2014-12-12Nodejs+express+html5 實現(xiàn)拖拽上傳
文件上傳是一個比較常見的功能,傳統(tǒng)的選擇方式的上傳比較麻煩,需要先點擊上傳按鈕,然后再找到文件的路徑,然后上傳。給用戶體驗帶來很大問題。html5開始支持拖拽上傳的需要的api。nodejs也是一個最近越來越流行的技術,這也是自己第一次接觸nodejs。2014-08-08