Nodejs進(jìn)階之服務(wù)端字符編解碼和亂碼處理
寫在前面
在web服務(wù)端開發(fā)中,字符的編解碼幾乎每天都要打交道。編解碼一旦處理不當(dāng),就會(huì)出現(xiàn)令人頭疼的亂碼問題。
不少從事node服務(wù)端開發(fā)的同學(xué),由于對(duì)字符編碼碼相關(guān)知識(shí)了解不足,遇到問題時(shí),經(jīng)常會(huì)一籌莫展,花大量的時(shí)間在排查、解決問題。
文本先對(duì)字符編解碼的基礎(chǔ)知識(shí)進(jìn)行簡(jiǎn)單介紹,然后舉例說明如何在node中進(jìn)行編解碼,最后是服務(wù)端的代碼案例。本文相關(guān)代碼示例可在這里找到。
關(guān)于字符編解碼
在網(wǎng)絡(luò)通信的過程中,傳輸?shù)亩际嵌M(jìn)制的比特位,不管發(fā)送的內(nèi)容是文本還是圖片,采用的語言是中文還是英文。
舉個(gè)例子,客戶端向服務(wù)端發(fā)送"你好"。
客戶端 --- 你好 ---> 服務(wù)端
這中間包含了兩個(gè)關(guān)鍵步驟,分別對(duì)應(yīng)的是編碼、解碼。
1.客戶端:將"你好"這個(gè)字符串,編碼成計(jì)算機(jī)網(wǎng)絡(luò)需要的二進(jìn)制比特位。
2.服務(wù)端:將接收到的二進(jìn)制比特位,解碼成"你好"這個(gè)字符串。
總結(jié)一下:
1.編碼:將需要傳送的數(shù)據(jù),轉(zhuǎn)成對(duì)應(yīng)的二進(jìn)制比特位。
2.解碼:將二進(jìn)制比特位,轉(zhuǎn)成原始的數(shù)據(jù)。
上面有些重要的技術(shù)細(xì)節(jié)沒有提到,答案在下一小節(jié)。
- 客戶端怎么知道"你好"這個(gè)字符對(duì)應(yīng)的比特位是多少?
- 服務(wù)端收到二進(jìn)制比特位之后,怎么知道對(duì)應(yīng)的字符串是什么?
關(guān)于字符集和字符編碼
上面提到字符、二進(jìn)制的轉(zhuǎn)換問題。既然兩者可以互相轉(zhuǎn)換,也就是說存在明確的轉(zhuǎn)換規(guī)則,可以實(shí)現(xiàn)字符<->二進(jìn)制的相互轉(zhuǎn)換。
這里提到的轉(zhuǎn)換規(guī)則,其實(shí)就是我們經(jīng)常聽到的字符集&字符編碼。
字符集是一系列字符(文字、標(biāo)點(diǎn)符號(hào)等)的集合。字符集有很多,常見的有ASCII、Unicode、GBK等。不同字符集主要的區(qū)別在于包含字符個(gè)數(shù)的不同。
了解了字符集的概念后,接下來介紹下字符編碼。
字符集告訴我們支持哪些字符,但具體字符怎么編碼,是由字符編碼決定的。比如Unicode字符集,支持的字符編碼有UTF8(常用)、UTF16、UTF32。
概括一下:
- 字符集:字符的集合,不同字符集包含的字符數(shù)不同。
- 字符編碼:字符集中字符的實(shí)際編碼方式。
- 一個(gè)字符集可能有多種字符編碼方式。
可以把字符編碼看成一個(gè)映射表,客戶端、服務(wù)端就是根據(jù)這個(gè)映射表,來實(shí)現(xiàn)字符跟二進(jìn)制的編解碼轉(zhuǎn)換。
舉個(gè)例子,"你"這個(gè)字符,在UTF8編碼中,占據(jù)三個(gè)字節(jié)0xe4 0xbd 0xa0,而在GBK編碼中,占據(jù)兩個(gè)字節(jié)0xc4 0xe3。
字符編解碼例子
上面已經(jīng)提到了字符編解碼所需的基礎(chǔ)知識(shí)。下面我們看一個(gè)簡(jiǎn)單的例子,這里借助了icon-lite這個(gè)庫來幫助我們實(shí)現(xiàn)編解碼的操作。
可以看到,在字符編碼時(shí),我們采用了gbk。在解碼時(shí),如果同樣采用gbk,可以得到原始的字符。而當(dāng)我們解碼時(shí)采用utf8時(shí),則出現(xiàn)了亂碼。
var iconv = require('iconv-lite'); var oriText = '你'; var encodedBuff = iconv.encode(oriText, 'gbk'); console.log(encodedBuff); // <Buffer c4 e3> var decodedText = iconv.decode(encodedBuff, 'gbk'); console.log(decodedText); // 你 var wrongText = iconv.decode(encodedBuff, 'utf8'); console.log(wrongText); // ��
實(shí)際例子:服務(wù)端編解碼
通常我們需要處理編解碼的場(chǎng)景有文件讀寫、網(wǎng)絡(luò)請(qǐng)求處理。這里距網(wǎng)絡(luò)請(qǐng)求的例子,介紹如何在服務(wù)端進(jìn)行編解碼。
假設(shè)我們運(yùn)行著如下http服務(wù),監(jiān)聽來自客戶端的請(qǐng)求??蛻舳藗鬏敂?shù)據(jù)時(shí)采用了gbk
編碼,而服務(wù)端默認(rèn)采用的是utf8
編碼。
如果此時(shí)采用默認(rèn)的utf8
對(duì)請(qǐng)求進(jìn)行解碼,就會(huì)出現(xiàn)亂碼,因此需要特殊處理。
服務(wù)端代碼如下(為簡(jiǎn)化代碼,這里跳過了請(qǐng)求方法、請(qǐng)求編碼的判斷)
var http = require('http'); var iconv = require('iconv-lite'); // 假設(shè)客戶端采用post方法,編碼為gbk var server = http.createServer(function (req, res) { var chunks = []; req.on('data', function (chunk) { chunks.push(chunk) }); req.on('end', function () { chunks = Buffer.concat(chunks); // 對(duì)二進(jìn)制進(jìn)行解碼 var body = iconv.decode(chunks, 'gbk'); console.log(body); res.end('HELLO FROM SERVER'); }); }); server.listen(3000);
對(duì)應(yīng)的客戶端代碼如下:
var http = require('http'); var iconv = require('iconv-lite'); var charset = 'gbk'; // 對(duì)字符"你"進(jìn)行編碼 var reqBuff = iconv.encode('你', charset); var options = { hostname: '127.0.0.1', port: '3000', path: '/', method: 'POST', headers: { 'Content-Type': 'text/plain', 'Content-Encoding': 'identity', 'Charset': charset // 設(shè)置請(qǐng)求字符集編碼 } }; var client = http.request(options, function(res) { res.pipe(process.stdout); }); client.end(reqBuff);
相關(guān)鏈接
Nodejs學(xué)習(xí)筆記:https://github.com/chyingp/nodejs-learning-guide
iconv-lite:https://github.com/ashtuchkin/iconv-lite
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Node.js查找當(dāng)前目錄下文件夾實(shí)例代碼
本篇文章主要介紹了Node.js查找當(dāng)前目錄下文件夾實(shí)例代碼,具有一定的參考價(jià)值,有興趣的可以了解一下。2017-03-03express框架中使用jwt實(shí)現(xiàn)驗(yàn)證的方法
這篇文章主要給大家介紹了關(guān)于express框架中使用jwt實(shí)現(xiàn)驗(yàn)證的相關(guān)資料,文中通過示例代碼介紹的非常詳細(xì),對(duì)大家學(xué)習(xí)或者使用express具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-08-08nodeJs項(xiàng)目在阿里云的簡(jiǎn)單部署
這篇文章主要為大家詳細(xì)介紹了nodeJs項(xiàng)目在阿里云的簡(jiǎn)單部署,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2020-11-11node.JS二進(jìn)制操作模塊buffer對(duì)象使用方法詳解
在ES6引入TypedArray之前,JavaScript語言沒有讀取或操作二進(jìn)制數(shù)據(jù)流的機(jī)制,本文為大家詳細(xì)介紹nodeJS中二進(jìn)制操作模塊buffer對(duì)象使用方法詳解2020-02-02關(guān)于npm主版本升級(jí)及其相關(guān)知識(shí)點(diǎn)總結(jié)
npm是Node.js默認(rèn)的包管理器,以javascript?編寫的軟件包管理系統(tǒng)用于分享和使用代碼,下面這篇文章主要給大家介紹了關(guān)于npm主版本升級(jí)及其相關(guān)知識(shí)點(diǎn)總結(jié)的相關(guān)資料,需要的朋友可以參考下2022-12-12Node 搭建一個(gè)靜態(tài)資源服務(wù)器的實(shí)現(xiàn)
這篇文章主要介紹了Node 搭建一個(gè)靜態(tài)資源服務(wù)器的實(shí)現(xiàn),文中通過示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-05-05