C++編寫高性能服務(wù)器實(shí)例教程
我將展示如何使用現(xiàn)代C++編寫一個(gè)Echo服務(wù)器,相當(dāng)于分布式系統(tǒng)開發(fā)中的“Hello World”。這個(gè)服務(wù)器會(huì)將接收的消息直接返回。我們同時(shí)需要一個(gè)可以向我們的服務(wù)器發(fā)動(dòng)消息的客戶端,在這里可以發(fā)現(xiàn)客戶端的源碼。
Wangle是一個(gè)用來搭建事件驅(qū)動(dòng)的現(xiàn)代異步C++服務(wù)的C/S應(yīng)用框架。Wangle最基本的抽象概念就是Pipeline(管線)。能夠理解這種抽象,將會(huì)很容易寫出各種復(fù)雜的現(xiàn)代C++服務(wù),另一個(gè)重要的概念是Service(服務(wù)),其可以看作一種更高級(jí)的Pipeline,不過超出了本文我們關(guān)注的范疇。
PipeLine
pipeline 是 Wangle 中最重要也是最強(qiáng)大的抽象,可以讓用戶在定制 request 和 response 的實(shí)現(xiàn)時(shí)擁有很大的自由。一個(gè)pipeline就是一系列request/response控制程序的嵌套。我試圖尋找一個(gè)真實(shí)世界中pipeline的類比,唯一我能想到的就是現(xiàn)實(shí)世界工廠中的生產(chǎn)線。一條生產(chǎn)線工作在一種順序模式下,所有的工人取得一個(gè)物體,并且只添加一種修改,再將其發(fā)送給上游的工人直到整個(gè)產(chǎn)品制造完成。這可能不是一個(gè)特別好的比喻,因?yàn)榱魉€上產(chǎn)品的流動(dòng)是單向的,而一個(gè)pipeline能控制反方向的數(shù)據(jù)流動(dòng)--就好像將成品分解成原材料。
一個(gè)Wangle handler可以同時(shí)掌控上游和下游的兩個(gè)方向的數(shù)據(jù)流動(dòng)。當(dāng)你把所有的handler連接在一起,就可以用一種靈活的方式將原始數(shù)據(jù)組裝為想要的數(shù)據(jù)類型或者將已有的數(shù)據(jù)拆分。
在我們的服務(wù)器的pipeline中大致將會(huì)有下面幾種handler:
1.Handler 1 (下文的上游下游是指對(duì)一同個(gè)handler而言,根據(jù)其在pipeline中的位置不同,輸入輸出相反) 上游:將從socket中接收的二進(jìn)制數(shù)據(jù)流寫入一個(gè)零拷貝(zero-copy,指省略了Applicaion context和Kernel context之間的上下文切換,避免了CPU對(duì)Buffer的冗余拷貝,直接在Kernel級(jí)別進(jìn)行數(shù)據(jù)傳輸?shù)募夹g(shù),詳情請(qǐng)參閱維基百科)的字節(jié)緩存中,發(fā)送給handler2
下游:接收一個(gè)零拷貝的字節(jié)緩存,將其內(nèi)容寫入socket中
2.Handler2 上游:接收handler1的緩存對(duì)象,解碼為一個(gè)string對(duì)象傳遞給handler3 下游:接收handler3的string對(duì)象,將其轉(zhuǎn)碼為一個(gè)零拷貝的字節(jié)緩存,發(fā)送給handler1
3.Handler3 上游:接收handler2中的string對(duì)象,再向下發(fā)送至pipeline等待寫回客戶端。string會(huì)發(fā)回handler2 下游:接收上游的string對(duì)象,傳遞給handler2
需要注意的一點(diǎn)是,每一個(gè)handler應(yīng)當(dāng)只做一件事并且只有一件,如果你有一個(gè)handler里做了多項(xiàng)任務(wù),比如從二進(jìn)制流離直接解碼出string,那么你需要學(xué)會(huì)將它拆分。這對(duì)提升代碼的可維護(hù)性和擴(kuò)展性非常重要。
另外,沒錯(cuò),handler不是線程安全的,所以不要輕易的在其中使用任何沒有經(jīng)過mutex,atomic lock保護(hù)的數(shù)據(jù),如果你確實(shí)需要一個(gè)線程安全的環(huán)境,F(xiàn)olly提供了一種免于加鎖的數(shù)據(jù)結(jié)構(gòu), Folly依賴于Wangle,你可以很容易的在項(xiàng)目中引入并使用它。
如果你還不是很明白所有的步驟,不用著急,在看到下面的具體實(shí)現(xiàn)時(shí)你會(huì)更加清楚。
Echo Server
下面我會(huì)展示服務(wù)器的具體實(shí)現(xiàn)。我假定您已經(jīng)安裝好Wangle。需要注意的是截至目前Wangle還不能在Mac OS上安裝,我建議您可以安裝虛擬機(jī),使用Ubuntu來安裝Wangle。
這就是echo handler:接收一個(gè)string,打印到stdout中,再發(fā)送回pipeline。要注意write語句中的定界符不可以省略,因?yàn)閜ipeline會(huì)按照字節(jié)解碼。
// the main logic of our echo server; receives a string and writes it straight // back class EchoHandler : public HandlerAdapter { public: virtual void read(Context* ctx, std::string msg) override { std::cout << "handling " << msg << std::endl; write(ctx, msg + "rn"); } };
Echohandler其實(shí)是我們pipeline的最后一個(gè)handler,現(xiàn)在我們需要?jiǎng)?chuàng)建一個(gè)PipelineFactory來控制所有的request和response。
// where we define the chain of handlers for each messeage received class EchoPipelineFactory : public PipelineFactory { public: EchoPipeline::Ptr newPipeline(std::shared_ptr sock) { auto pipeline = EchoPipeline::create(); pipeline->addBack(AsyncSocketHandler(sock)); pipeline->addBack(LineBasedFrameDecoder(8192)); pipeline->addBack(StringCodec()); pipeline->addBack(EchoHandler()); pipeline->finalize(); return pipeline; } };
pipeline中每一個(gè)handler的插入順序都需要嚴(yán)格注意,因?yàn)樗鼈兪前凑障群笈判虻模颂幬覀冇?個(gè)handler
1.AsyncSocketHandler: 上游:讀取scoket中的二進(jìn)制流轉(zhuǎn)換成零拷貝字節(jié)緩存 下游:將字節(jié)緩存內(nèi)容寫入底層socket
2. LineBasedFrameDecoder: 上游:接收字節(jié)緩存,按行分割數(shù)據(jù) 下游:將字節(jié)緩存發(fā)送給AsyncSocketHandler
3. StringCodec: 上游:接收字節(jié)緩存,解碼為std:string傳遞給EchoHandler 下游:接收std:string, 編碼為字節(jié)緩存,傳遞給LineBasedFrameDecoder
4. EchoHandler: 上游:接收std:string對(duì)象,將其寫入pipeline-將消息返回給Echohandler。 下游:接收一個(gè)std:string對(duì)象,轉(zhuǎn)發(fā)給StringCodec Handler。 現(xiàn)在我們所需要做的就是將pipeline factory關(guān)聯(lián)到ServerBootstrap,綁定一個(gè)端口,這樣我們已經(jīng)完成了 基本上所有的工作。
#include <gflags/gflags.h> #include <wangle/bootstrap/ServerBootstrap.h> #include <wangle/channel/AsyncSocketHandler.h> #include <wangle/codec/LineBasedFrameDecoder.h> #include <wangle/codec/StringCodec.h> using namespace folly; using namespace wangle; DEFINE_int32(port, 8080, "echo server port"); typedef Pipeline<IOBufQueue&, std::string> EchoPipeline; // the main logic of our echo server; receives a string and writes it straight // back class EchoHandler : public HandlerAdapter<std::string> { public: virtual void read(Context* ctx, std::string msg) override { std::cout << "handling " << msg << std::endl; write(ctx, msg + "\r\n"); } }; // where we define the chain of handlers for each messeage received class EchoPipelineFactory : public PipelineFactory<EchoPipeline> { public: EchoPipeline::Ptr newPipeline(std::shared_ptr<AsyncTransportWrapper> sock) { auto pipeline = EchoPipeline::create(); pipeline->addBack(AsyncSocketHandler(sock)); pipeline->addBack(LineBasedFrameDecoder(8192)); pipeline->addBack(StringCodec()); pipeline->addBack(EchoHandler()); pipeline->finalize(); return pipeline; } }; int main(int argc, char** argv) { google::ParseCommandLineFlags(&argc, &argv, true); ServerBootstrap<EchoPipeline> server; server.childPipeline(std::make_shared<EchoPipelineFactory>()); server.bind(FLAGS_port); server.waitForStop(); return 0; }
至此我們一共只寫了48行代碼就完成了一個(gè)高性能的異步C++服務(wù)器。
Echo Client
echo客戶端的實(shí)現(xiàn)與我們的服務(wù)端非常類似:
// the handler for receiving messages back from the server class EchoHandler : public HandlerAdapter { public: virtual void read(Context* ctx, std::string msg) override { std::cout << "received back: " << msg; } virtual void readException(Context* ctx, exception_wrapper e) override { std::cout << exceptionStr(e) << std::endl; close(ctx); } virtual void readEOF(Context* ctx) override { std::cout << "EOF received :(" << std::endl; close(ctx); } };
注意我們重載了readException和readEOF兩個(gè)方法,還有其他一些方法可以被重載。如果你需要控制某個(gè)特別的事件,只需要重載對(duì)應(yīng)的虛函數(shù)即可。
這是客戶端的pipeline factory的實(shí)現(xiàn),與我們的服務(wù)端結(jié)構(gòu)基本一致,只有EventBaseHandler這個(gè)handler在服務(wù)端代碼中不曾出現(xiàn),它可以確保我們可以從任意一個(gè)線程寫入數(shù)據(jù)。
// the handler for receiving messages back from the server class EchoHandler : public HandlerAdapter { public: virtual void read(Context* ctx, std::string msg) override { std::cout << "received back: " << msg; } virtual void readException(Context* ctx, exception_wrapper e) override { std::cout << exceptionStr(e) << std::endl; close(ctx); } virtual void readEOF(Context* ctx) override { std::cout << "EOF received :(" << std::endl; close(ctx); } };
客戶端所有的代碼如下圖所示
#include <gflags/gflags.h> #include #include <wangle/bootstrap/ClientBootstrap.h> #include <wangle/channel/AsyncSocketHandler.h> #include <wangle/channel/EventBaseHandler.h> #include <wangle/codec/LineBasedFrameDecoder.h> #include <wangle/codec/StringCodec.h> using namespace folly; using namespace wangle; DEFINE_int32(port, 8080, "echo server port"); DEFINE_string(host, "::1", "echo server address"); typedef Pipeline<folly::IOBufQueue&, std::string> EchoPipeline; // the handler for receiving messages back from the server class EchoHandler : public HandlerAdapter { public: virtual void read(Context* ctx, std::string msg) override { std::cout << "received back: " << msg; } virtual void readException(Context* ctx, exception_wrapper e) override { std::cout << exceptionStr(e) << std::endl; close(ctx); } virtual void readEOF(Context* ctx) override { std::cout << "EOF received :(" << std::endl; close(ctx); } }; // chains the handlers together to define the response pipeline class EchoPipelineFactory : public PipelineFactory { public: EchoPipeline::Ptr newPipeline(std::shared_ptr sock) { auto pipeline = EchoPipeline::create(); pipeline->addBack(AsyncSocketHandler(sock)); pipeline->addBack( EventBaseHandler()); // ensure we can write from any thread pipeline->addBack(LineBasedFrameDecoder(8192, false)); pipeline->addBack(StringCodec()); pipeline->addBack(EchoHandler()); pipeline->finalize(); return pipeline; } }; int main(int argc, char** argv) { google::ParseCommandLineFlags(&argc, &argv, true); ClientBootstrap client; client.group(std::make_shared(1)); client.pipelineFactory(std::make_shared()); auto pipeline = client.connect(SocketAddress(FLAGS_host, FLAGS_port)).get(); try { while (true) { std::string line; std::getline(std::cin, line); if (line == "") { break; } pipeline->write(line + "rn").get(); if (line == "bye") { pipeline->close(); break; } } } catch (const std::exception& e) { std::cout << exceptionStr(e) << std::endl; } return 0; }
程序用一個(gè)While循環(huán)不斷監(jiān)測(cè)用戶的輸入,并且依靠調(diào)用.get() 來同步等待一直到請(qǐng)求被響應(yīng)。
以上就是C++編寫高性能服務(wù)器實(shí)例教程的詳細(xì)內(nèi)容,更多關(guān)于C++高性能服務(wù)器的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
OpenCV實(shí)現(xiàn)無縫克隆算法的步驟詳解
借助無縫克隆算法,您可以從一張圖像中復(fù)制一個(gè)對(duì)象,然后將其粘貼到另一張圖像中,從而形成一個(gè)看起來無縫且自然的構(gòu)圖。本文將詳解OpenCV實(shí)現(xiàn)無縫克隆算法的步驟,需要的可以參考一下2022-06-06C++實(shí)現(xiàn)掃雷游戲(控制臺(tái)版)
這篇文章主要為大家詳細(xì)介紹了C++實(shí)現(xiàn)掃雷游戲,控制臺(tái)版的掃雷游戲,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2020-03-03C語言鏈表實(shí)現(xiàn)銷售管理系統(tǒng)
這篇文章主要為大家詳細(xì)介紹了C語言鏈表實(shí)現(xiàn)銷售管理系統(tǒng),文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2022-02-02VS Code 中搭建 Qt 開發(fā)環(huán)境方案分享
這篇文章主要介紹了VS Code 中搭建 Qt 開發(fā)環(huán)境方案分享的相關(guān)資料,需要的朋友可以參考下2022-12-12C語言 深入探究動(dòng)態(tài)規(guī)劃之區(qū)間DP
這幾天在做有關(guān)dp的題,看到一個(gè)石子合并的問題,本來以為是個(gè)貪心,后來仔細(xì)一想壓根不是貪心。貪心算法的思路是每次都取最大的,然而石子合并問題有個(gè)限制條件就是每次只能取相鄰的,這就決定了它不是個(gè)貪心2022-04-04快速解決boost庫(kù)鏈接出錯(cuò)的問題(分享)
下面小編就為大家?guī)硪黄焖俳鉀Qboost庫(kù)鏈接出錯(cuò)的問題(分享)。小編覺得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過來看看吧2017-05-05