C++ 多線程編程總結(jié)

在開發(fā)C++程序時(shí)，一般在吞吐量、并發(fā)、實(shí)時(shí)性上有較高的要求。設(shè)計(jì)C++程序時(shí)，總結(jié)起來可以從如下幾點(diǎn)提高效率：

● l 并發(fā)

● l 異步

● l 緩存

下面將我平常工作中遇到一些問題例舉一二，其設(shè)計(jì)思想無非以上三點(diǎn)。

1任務(wù)隊(duì)列

1.1 以生產(chǎn)者-消費(fèi)者模型設(shè)計(jì)任務(wù)隊(duì)列

生產(chǎn)者-消費(fèi)者模型是人們非常熟悉的模型，比如在某個(gè)服務(wù)器程序中，當(dāng)User數(shù)據(jù)被邏輯模塊修改后，就產(chǎn)生一個(gè)更新數(shù)據(jù)庫的任務(wù)（produce），投遞給IO模塊任務(wù)隊(duì)列，IO模塊從任務(wù)隊(duì)列中取出任務(wù)執(zhí)行sql操作（consume）。

設(shè)計(jì)通用的任務(wù)隊(duì)列，示例代碼如下：

詳細(xì)實(shí)現(xiàn)可參見：

http://ffown.googlecode.com/svn/trunk/fflib/include/detail/task_queue_impl.h

void task_queue_t::produce(const task_t& task_) {  
 lock_guard_t lock(m_mutex);  
 if (m_tasklist->empty()){//! 條件滿足喚醒等待線程  
 m_cond.signal();  
 }  
 m_tasklist->push_back(task_);  
 }  
 int task_queue_t::comsume(task_t& task_){  
 lock_guard_t lock(m_mutex);  
 while (m_tasklist->empty())//! 當(dāng)沒有作業(yè)時(shí)，就等待直到條件滿足被喚醒{  
 if (false == m_flag){  
 return -1;  
 }  
 m_cond.wait();  
 }  
 task_ = m_tasklist->front();  
 m_tasklist->pop_front();  
 return 0;  
 } 

1.2 任務(wù)隊(duì)列使用技巧

1.2.1 IO 與 邏輯分離

比如網(wǎng)絡(luò)游戲服務(wù)器程序中，網(wǎng)絡(luò)模塊收到消息包，投遞給邏輯層后立即返回，繼續(xù)接受下一個(gè)消息包。邏輯線程在一個(gè)沒有io操作的環(huán)境下運(yùn)行，以保障實(shí)時(shí)性。示例：

void handle_xx_msg(long uid, const xx_msg_t& msg){  
 logic_task_queue->post(boost::bind(&servie_t::proces, uid, msg));  
 } 

注意，此模式下為單任務(wù)隊(duì)列，每個(gè)任務(wù)隊(duì)列單線程。

1.2.2 并行流水線

上面的只是完成了io 和 cpu運(yùn)算的并行，而cpu中邏輯操作是串行的。在某些場合，cpu邏輯運(yùn)算部分也可實(shí)現(xiàn)并行，如游戲中用戶A種菜和B種菜兩種操作是完全可以并行的，因?yàn)閮蓚�(gè)操作沒有共享數(shù)據(jù)。最簡單的方式是A、B相關(guān)的操作被分配到不同的任務(wù)隊(duì)列中。示例如下：

void handle_xx_msg(long uid, const xx_msg_t& msg) {  
 logic_task_queue_array[uid % sizeof(logic_task_queue_array)]->post(  
 boost::bind(&servie_t::proces, uid, msg));  
 } 

注意，此模式下為多任務(wù)隊(duì)列，每個(gè)任務(wù)隊(duì)列單線程。

1.2.3 連接池與異步回調(diào)

比如邏輯Service模塊需要數(shù)據(jù)庫模塊異步載入用戶數(shù)據(jù)，并做后續(xù)處理計(jì)算。而數(shù)據(jù)庫模塊擁有一個(gè)固定連接數(shù)的連接池，當(dāng)執(zhí)行SQL的任務(wù)到來時(shí)，選擇一個(gè)空閑的連接，執(zhí)行SQL，并把SQL 通過回調(diào)函數(shù)傳遞給邏輯層。其步驟如下：

●n 預(yù)先分配好線程池，每個(gè)線程創(chuàng)建一個(gè)連接到數(shù)據(jù)庫的連接

●n 為數(shù)據(jù)庫模塊創(chuàng)建一個(gè)任務(wù)隊(duì)列，所有線程都是這個(gè)任務(wù)隊(duì)列的消費(fèi)者

●n 邏輯層想數(shù)據(jù)庫模塊投遞sql執(zhí)行任務(wù)，同時(shí)傳遞一個(gè)回調(diào)函數(shù)來接受sql執(zhí)行結(jié)果

示例如下：

void db_t:load(long uid_, boost::functionpost(boost::bind(&db_t:load, uid, func)); 

注意，此模式下為單任務(wù)隊(duì)列，每個(gè)任務(wù)隊(duì)列多線程。

2. 日志

本文主要講C++多線程編程，日志系統(tǒng)不是為了提高程序效率，但是在程序調(diào)試、運(yùn)行期排錯(cuò)上，日志是無可替代的工具，相信開發(fā)后臺程序的朋友都會使用日志。常見的日志使用方式有如下幾種：

●n 流式，如logstream << “start servie time[%d]” << time(0) << ” app name[%s]” << app_string.c_str() << endl;

●n Printf 格式如：logtrace(LOG_MODULE, “start servie time[%d] app name[%s]“, time(0), app_string.c_str());

二者各有優(yōu)缺點(diǎn)，流式是線程安全的，printf格式格式化字符串會更直接，但缺點(diǎn)是線程不安全，如果把a(bǔ)pp_string.c_str() 換成app_string （std::string），編譯被通過，但是運(yùn)行期會crash（如果運(yùn)氣好每次都crash，運(yùn)氣不好偶爾會crash）。我個(gè)人鐘愛printf風(fēng)格，可以做如下改進(jìn)：

●l 增加線程安全，利用C++模板的traits機(jī)制，可以實(shí)現(xiàn)線程安全。示例：

template 
 void logtrace(const char* module, const char* fmt, ARG1 arg1){  
 boost::format s(fmt);  
 f % arg1;  
 } 

這樣，除了標(biāo)準(zhǔn)類型+std::string 傳入其他類型將編譯不能通過。這里只列舉了一個(gè)參數(shù)的例子，可以重載該版本支持更多參數(shù)，如果你愿意，可以支持9個(gè)參數(shù)或更多。

●l 為日志增加顏色，在printf中加入控制字符，可以再屏幕終端上顯示顏色，Linux下示例：printf(“\033[32;49;1m [DONE] \033[39;49;0m")
更多顏色方案參見：

http://hi.baidu.com/jiemnij/blog/item/d95df8c28ac2815cb219a80e.html

●l 每個(gè)線程啟動時(shí)，都應(yīng)該用日志打印該線程負(fù)責(zé)什么功能。這樣，程序跑起來的時(shí)候通過top –H – p pid 可以得知那個(gè)功能使用cpu的多少。實(shí)際上，我的每行日志都會打印線程id，此線程id非pthread_id，而其實(shí)是線程對應(yīng)的系統(tǒng)分配的進(jìn)程id號。

3. 性能監(jiān)控

盡管已經(jīng)有很多工具可以分析c++程序運(yùn)行性能，但是其大部分還是運(yùn)行在程序debug階段。我們需要一種手段在debug和release階段都能監(jiān)控程序，一方面得知程序瓶頸之所在，一方面盡早發(fā)現(xiàn)哪些組件在運(yùn)行期出現(xiàn)了異常。

通常都是使用gettimeofday 來計(jì)算某個(gè)函數(shù)開銷，可以精確到微妙。可以利用C++的確定性析構(gòu)，非常方便的實(shí)現(xiàn)獲取函數(shù)開銷的小工具,示例如下：

struct profiler{  
 profiler(const char* func_name){  
 gettimeofday(&tv, NULL);  
 }  
 ~profiler(){  
 struct timeval tv2;  
 gettimeofday(&tv2, NULL);  
 long cost = (tv.tv_sec - tv.tv_sec) * 1000000 + (tv.tv_usec - tv.tv_usec);  
 //! post to some manager  
 }  
 struct timeval tv;  
 };  
 #define PROFILER() profiler(__FUNCTION__) 

Cost 應(yīng)該被投遞到性能統(tǒng)計(jì)管理器中，該管理器定時(shí)講性能統(tǒng)計(jì)數(shù)據(jù)輸出到文件中。

4 Lambda 編程

使用foreach 代替迭代器

很多編程語言已經(jīng)內(nèi)建了foreach，但是c++還沒有。所以建議自己在需要遍歷容器的地方編寫foreach函數(shù)。習(xí)慣函數(shù)式編程的人應(yīng)該會非常鐘情使用foreach，使用foreach的好處多多少少有些，如：

http://www.cnblogs.com/chsword/archive/2007/09/28/910011.html

但主要是編程哲學(xué)上層面的。

示例：

void user_mgr_t::foreach(boost::function func_){  
 for (iterator it = m_users.begin(); it != m_users.end() ++it){  
 func_(it->second);  
 }  
 } 

比如要實(shí)現(xiàn)dump 接口，不需要重寫關(guān)于迭代器的代碼

void user_mgr_t:dump(){  
 struct lambda {  
 static void print(user_t& user){  
 //! print(tostring(user);  
 }  
 };  
 this->foreach(lambda::print);  
 } 

實(shí)際上，上面的代碼變通的生成了匿名函數(shù)，如果是c++ 11 標(biāo)準(zhǔn)的編譯器，本可以寫的更簡潔一些：

this->foreach([](user_t& user) {} ); 

但是我大部分時(shí)間編寫的程序都要運(yùn)行在centos 上，你知道嗎它的gcc版本是gcc 4.1.2， 所以大部分時(shí)間我都是用變通的方式使用lambda函數(shù)。

Lambda 函數(shù)結(jié)合任務(wù)隊(duì)列實(shí)現(xiàn)異步

常見的使用任務(wù)隊(duì)列實(shí)現(xiàn)異步的代碼如下：

void service_t:async_update_user(long uid){  
 task_queue->post(boost::bind(&service_t:sync_update_user_impl, this, uid));  
 }  
 void service_t:sync_update_user_impl(long uid){  
 user_t& user = get_user(uid);  
 user.update()  
 } 

這樣做的缺點(diǎn)是，一個(gè)接口要響應(yīng)的寫兩遍函數(shù)，如果一個(gè)函數(shù)的參數(shù)變了，那么另一個(gè)參數(shù)也要跟著改動。并且代碼也不是很美觀。使用lambda可以讓異步看起來更直觀，仿佛就是在接口函數(shù)中立刻完成一樣。示例代碼：

void service_t:async_update_user(long uid){  
 struct lambda {  
 static void update_user_impl(service_t* servie, long uid){  
 user_t& user = servie->get_user(uid);  
 user.update();  
 }  
 };  
 task_queue->post(boost::bind(&lambda:update_user_impl, this, uid));  
 } 

這樣當(dāng)要改動該接口時(shí)，直接在該接口內(nèi)修改代碼，非常直觀。

5. 奇技淫巧

利用shared_ptr 實(shí)現(xiàn)map/reduce

Map/reduce的語義是先將任務(wù)劃分為多個(gè)任務(wù)，投遞到多個(gè)worker中并發(fā)執(zhí)行，其產(chǎn)生的結(jié)果經(jīng)reduce匯總后生成最終的結(jié)果。Shared_ptr的語義是什么呢？當(dāng)最后一個(gè)shared_ptr析構(gòu)時(shí)，將會調(diào)用托管對象的析構(gòu)函數(shù)。語義和map/reduce過程非常相近。我們只需自己實(shí)現(xiàn)講請求劃分多個(gè)任務(wù)即可。示例過程如下：

●l 定義請求托管對象，加入我們需要在10個(gè)文件中搜索“oh nice”字符串出現(xiàn)的次數(shù)，定義托管結(jié)構(gòu)體如下：

struct reducer{  
 void set_result(int index, long result) {  
 m_result[index] = result;  
 }  
 ~reducer(){  
 long total = 0;  
 for (int i = 0; i < sizeof(m_result); ++i){  
 total += m_result[i];  
 }  
 //! post total to somewhere  
 }  
 long m_result[10];  
 }; 

●l 定義執(zhí)行任務(wù)的 worker

void worker_t:exe(int index_, shared_ptr ret) {  
 ret->set_result(index, 100);  
 } 

●l 將任務(wù)分割后，投遞給不同的worker

shared_ptr ret(new reducer());  
 for (int i = 0; i < 10; ++i) { task_queue[i]->post(boost::bind(&worker_t:exe, i, ret));  
 } 

服務(wù)器租用/服務(wù)器托管中國五強(qiáng)！虛擬主機(jī)域名注冊頂級提供商！15年品質(zhì)保障！--億恩科技[ENKJ.COM]