原文鏈接：http://www.cnblogs.com/LBSer

前言

假設(shè)某銀行只有10個(gè)職員。該銀行的業(yè)務(wù)流程分為以下4個(gè)步驟：

我們看看銀行不同的工作方式對(duì)其工作效率到底有何影響。

1 BIO方式

每來一個(gè)顧客，馬上由一位職員來接待處理，并且這個(gè)職員需要負(fù)責(zé)以上4個(gè)完整流程。當(dāng)超過10個(gè)顧客時(shí)，剩余的顧客需要排隊(duì)等候。

我們算算這個(gè)銀行一個(gè)小時(shí)到底能處理多少顧客？一個(gè)職員處理一個(gè)顧客需要10分鐘（5+1+3+1）時(shí)間，一個(gè)小時(shí)（60分鐘）能處理6個(gè)顧客，一共10個(gè)職員，那就是只能處理60個(gè)顧客。

可以看到銀行職員的工作狀態(tài)并不飽和，比如在第1步，其實(shí)是處于等待中。

這種工作其實(shí)就是BIO，每次來一個(gè)請(qǐng)求（顧客），就分配到線程池中由一個(gè)線程（職員）處理，如果超出了線程池的最大上限（10個(gè)），就扔到隊(duì)列等待 。

2 NIO方式

如何提高銀行的吞吐量呢？

思路：分而治之，將任務(wù)拆分開來，由專門的人負(fù)責(zé)專門的任務(wù)。

具體來講，銀行專門指派一名職員A，A的工作就是每當(dāng)有顧客到銀行，他就遞上表格讓顧客填寫，每當(dāng)有顧客填好表后，A就將其隨機(jī)指派給剩余的9名職員完成后續(xù)步驟。

我們計(jì)算下這種工作方式下銀行一個(gè)小時(shí)到底能處理多少顧客？

假設(shè)顧客非常多，職員A的工作處于飽和中，他不斷的將填好表的顧客帶到柜臺(tái)處理，柜臺(tái)一個(gè)職員5分鐘能處理完一個(gè)顧客，一個(gè)小時(shí)9名職員能處理：9*（60/5）=108。

可見工作方式的轉(zhuǎn)變能帶來效率的極大提升。

這種工作方式其實(shí)就NIO的思路。下圖是非常經(jīng)典的NIO說明圖，mainReactor線程負(fù)責(zé)監(jiān)聽server socket，accept新連接，并將建立的socket分派給subReactor；subReactor可以是一個(gè)線程，也可以是線程池（一般可以設(shè)置為CPU核數(shù)），負(fù)責(zé)多路分離已連接的socket，讀寫網(wǎng)絡(luò)數(shù)據(jù)，這里的讀寫網(wǎng)絡(luò)數(shù)據(jù)可類比顧客填表這一耗時(shí)動(dòng)作，對(duì)具體的業(yè)務(wù)處理功能，其扔給worker線程池完成。

可以看到典型NIO有三類線程，分別是mainReactor線程、subReactor線程、work線程。不同的線程干專業(yè)的事情，最終每個(gè)線程都沒空著，系統(tǒng)的吞吐量自然就上去了。

3 異步方式

第二種工作方式有沒有什么可以提高的地方呢？

仔細(xì)查看可發(fā)現(xiàn)第3步驟這3分鐘柜臺(tái)職員是在等待中度過的，那怎么能讓柜臺(tái)職員保持滿負(fù)荷呢？

還是分而治之的思路，指派1個(gè)職員B來專門負(fù)責(zé)第3步驟。每當(dāng)柜臺(tái)員工完成第2步時(shí)，就通知職員B來負(fù)責(zé)與保安溝通取錢。這時(shí)候柜臺(tái)員工可以繼續(xù)處理下一個(gè)顧客。當(dāng)職員B拿到錢之后，他會(huì)怎么辦呢？他會(huì)通知顧客錢已經(jīng)到柜臺(tái)了，讓顧客重新排隊(duì)處理，當(dāng)柜臺(tái)職員再次服務(wù)該顧客時(shí)，發(fā)現(xiàn)該顧客前3步已經(jīng)完成，直接執(zhí)行第4步即可。

我們可以算算通過這種方法，銀行的吞吐量能提高到多少。

假設(shè)職員B的工作非常飽和，柜臺(tái)一個(gè)職員現(xiàn)在2分鐘能處理完一個(gè)顧客，一個(gè)小時(shí)8名職員能處理：8*（60/2）=240。

在當(dāng)今web服務(wù)中，經(jīng)常需要通過RPC或者Http等方式調(diào)用第三方服務(wù)，這里對(duì)應(yīng)的就是第3步，如果這步耗時(shí)較長(zhǎng)，通過異步方式將能極大降低資源使用率。

jetty Continuations 就實(shí)現(xiàn)了上述異步方式，有興趣的同學(xué)可以去嘗試下（http://wiki.eclipse.org/Jetty/Feature/Continuations）。

NIO+異步的方式能讓少量的線程（資源）做大量的事情，這適用于很多應(yīng)用場(chǎng)景，比如代理服務(wù)、api服務(wù)、長(zhǎng)連接服務(wù)等等，這些應(yīng)用如果用同步方式將耗費(fèi)大量機(jī)器資源。盡管NIO+異步能提高系統(tǒng)吞吐量，但其并不能讓一個(gè)請(qǐng)求的等待時(shí)間下降，相反可能會(huì)增加等待時(shí)間。

4 小結(jié)

總結(jié)就一句：“分而治之，將任務(wù)拆分開來，由專門的人負(fù)責(zé)專門的任務(wù)”，這不僅在計(jì)算機(jī)領(lǐng)域生效，在整個(gè)社會(huì)領(lǐng)域都生效。

特別推薦一個(gè)分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容，還沒關(guān)注的小伙伴，可以長(zhǎng)按關(guān)注一下：

長(zhǎng)按訂閱更多精彩▼
如有收獲，點(diǎn)個(gè)在看，誠(chéng)摯感謝