Java互聯網架構-分佈式系統消息隊列介紹與應用設計

Java 編程語言 Gecko DBA Java小毛驢 Java小毛驢 2017-11-01

概述

本文首先會闡述什麼時候你需要一個消息隊列,然後以Push模型為主,從零開始分析設計一個消息隊列時需要考慮到的問題,如RPC、高可用、順序和重複消息、可靠投遞、消費關係解析等。

也會分析以Kafka為代表的pull模型所具備的優點。最後是一些高級主題,如用批量/異步提高性能、pull模型的系統設計理念、存儲子系統的設計、流量控制的設計、公平調度的實現等。其中最後四個方面會放在下篇講解。

一丶何時需要消息隊列

當你需要使用消息隊列時,首先需要考慮它的必要性。可以使用mq的場景有很多,最常用的幾種,是做業務解耦/最終一致性/廣播/錯峰流控等。反之,如果需要強一致性,關注業務邏輯的處理結果,則RPC顯得更為合適。

解耦

解耦是消息隊列要解決的最本質問題。所謂解耦,簡單點講就是一個事務,只關心核心的流程。而需要依賴其他系統但不那麼重要的事情,有通知即可,無需等待結果。換句話說,基於消息的模型,關心的是“通知”,而非“處理”。

比如在美團旅遊,我們有一個產品中心,產品中心上游對接的是主站、移動後臺、旅遊供應鏈等各個數據源;下游對接的是篩選系統、API系統等展示系統。當上遊的數據發生變更的時候,如果不使用消息系統,勢必要調用我們的接口來更新數據,就特別依賴產品中心接口的穩定性和處理能力。

但其實,作為旅遊的產品中心,也許只有對於旅遊自建供應鏈,產品中心更新成功才是他們關心的事情。而對於團購等外部系統,產品中心更新成功也好、失敗也罷,並不是他們的職責所在。他們只需要保證在信息變更的時候通知到我們就好了。

而我們的下游,可能有更新索引、刷新緩存等一系列需求。對於產品中心來說,這也不是我們的職責所在。說白了,如果他們定時來拉取數據,也能保證數據的更新,只是實時性沒有那麼強。但使用接口方式去更新他們的數據,顯然對於產品中心來說太過於“重量級”了,只需要發佈一個產品ID變更的通知,由下游系統來處理,可能更為合理。

再舉一個例子,對於我們的訂單系統,訂單最終支付成功之後可能需要給用戶發送短信積分什麼的,但其實這已經不是我們系統的核心流程了。如果外部系統速度偏慢(比如短信網關速度不好),那麼主流程的時間會加長很多,用戶肯定不希望點擊支付過好幾分鐘才看到結果。那麼我們只需要通知短信系統“我們支付成功了”,不一定非要等待它處理完成。

最終一致性

最終一致性指的是兩個系統的狀態保持一致,要麼都成功,要麼都失敗。當然有個時間限制,理論上越快越好,但實際上在各種異常的情況下,可能會有一定延遲達到最終一致狀態,但最後兩個系統的狀態是一樣的。

業界有一些為“最終一致性”而生的消息隊列,如Notify(阿里)、QMQ(去哪兒)等,其設計初衷,就是為了交易系統中的高可靠通知。

以一個銀行的轉賬過程來理解最終一致性,轉賬的需求很簡單,如果A系統扣錢成功,則B系統加錢一定成功。反之則一起回滾,像什麼都沒發生一樣。

然而,這個過程中存在很多可能的意外:

A扣錢成功,調用B加錢接口失敗。

A扣錢成功,調用B加錢接口雖然成功,但獲取最終結果時網絡異常引起超時。

A扣錢成功,B加錢失敗,A想回滾扣的錢,但A機器down機。

可見,想把這件看似簡單的事真正做成,真的不那麼容易。所有跨VM的一致性問題,從技術的角度講通用的解決方案是:

強一致性,分佈式事務,但落地太難且成本太高,後文會具體提到。

最終一致性,主要是用“記錄”和“補償”的方式。在做所有的不確定的事情之前,先把事情記錄下來,然後去做不確定的事情,結果可能是:成功、失敗或是不確定,“不確定”(例如超時等)可以等價為失敗。成功就可以把記錄的東西清理掉了,對於失敗和不確定,可以依靠定時任務等方式把所有失敗的事情重新搞一遍,直到成功為止。

回到剛才的例子,系統在A扣錢成功的情況下,把要給B“通知”這件事記錄在庫裡(為了保證最高的可靠性可以把通知B系統加錢和扣錢成功這兩件事維護在一個本地事務裡),通知成功則刪除這條記錄,通知失敗或不確定則依靠定時任務補償性地通知我們,直到我們把狀態更新成正確的為止。

整個這個模型依然可以基於RPC來做,但可以抽象成一個統一的模型,基於消息隊列來做一個“企業總線”。

具體來說,本地事務維護業務變化和通知消息,一起落地(失敗則一起回滾),然後RPC到達broker,在broker成功落地後,RPC返回成功,本地消息可以刪除。否則本地消息一直靠定時任務輪詢不斷重發,這樣就保證了消息可靠落地broker。

broker往consumer發送消息的過程類似,一直髮送消息,直到consumer發送消費成功確認。我們先不理會重複消息的問題,通過兩次消息落地加補償,下游是一定可以收到消息的。然後依賴狀態機版本號等方式做判重,更新自己的業務,就實現了最終一致性。

最終一致性不是消息隊列的必備特性,但確實可以依靠消息隊列來做最終一致性的事情。另外,所有不保證100%不丟消息的消息隊列,理論上無法實現最終一致性。好吧,應該說理論上的100%,排除系統嚴重故障和bug。

像Kafka一類的設計,在設計層面上就有丟消息的可能(比如定時刷盤,如果掉電就會丟消息)。哪怕只丟千分之一的消息,業務也必須用其他的手段來保證結果正確。

廣播

消息隊列的基本功能之一是進行廣播。如果沒有消息隊列,每當一個新的業務方接入,我們都要聯調一次新接口。有了消息隊列,我們只需要關心消息是否送達了隊列,至於誰希望訂閱,是下游的事情,無疑極大地減少了開發和聯調的工作量。

比如本文開始提到的產品中心發佈產品變更的消息,以及景點庫很多去重更新的消息,可能“關心”方有很多個,但產品中心和景點庫只需要發佈變更消息即可,誰關心誰接入。

錯峰與流控

試想上下游對於事情的處理能力是不同的。比如,Web前端每秒承受上千萬的請求,並不是什麼神奇的事情,只需要加多一點機器,再搭建一些LVS負載均衡設備和Nginx等即可。但數據庫的處理能力卻十分有限,即使使用SSD加分庫分表,單機的處理能力仍然在萬級。由於成本的考慮,我們不能奢求數據庫的機器數量追上前端。

這種問題同樣存在於系統和系統之間,如短信系統可能由於短板效應,速度卡在網關上(每秒幾百次請求),跟前端的併發量不是一個數量級。但用戶晚上個半分鐘左右收到短信,一般是不會有太大問題的。如果沒有消息隊列,兩個系統之間通過協商、滑動窗口等複雜的方案也不是說不能實現。

但系統複雜性指數級增長,勢必在上游或者下游做存儲,並且要處理定時、擁塞等一系列問題。而且每當有處理能力有差距的時候,都需要單獨開發一套邏輯來維護這套邏輯。所以,利用中間系統轉儲兩個系統的通信內容,並在下游系統有能力處理這些消息的時候,再處理這些消息,是一套相對較通用的方式。

總而言之,消息隊列不是萬能的。對於需要強事務保證而且延遲敏感的,RPC是優於消息隊列的。

對於一些無關痛癢,或者對於別人非常重要但是對於自己不是那麼關心的事情,可以利用消息隊列去做。

支持最終一致性的消息隊列,能夠用來處理延遲不那麼敏感的“分佈式事務”場景,而且相對於笨重的分佈式事務,可能是更優的處理方式。

當上下游系統處理能力存在差距的時候,利用消息隊列做一個通用的“漏斗”。在下游有能力處理的時候,再進行分發。

如果下游有很多系統關心你的系統發出的通知的時候,果斷地使用消息隊列吧。

二丶如何設計一個消息隊列

綜述

我們現在明確了消息隊列的使用場景,下一步就是如何設計實現一個消息隊列了。

Java互聯網架構-分佈式系統消息隊列介紹與應用設計

基於消息的系統模型,不一定需要broker(消息隊列服務端)。市面上的的Akka(actor模型)、ZeroMQ等,其實都是基於消息的系統設計範式,但是沒有broker。

我們之所以要設計一個消息隊列,並且配備broker,無外乎要做兩件事情:

消息的轉儲,在更合適的時間點投遞,或者通過一系列手段輔助消息最終能送達消費機。

規範一種範式和通用的模式,以滿足解耦、最終一致性、錯峰等需求。

掰開了揉碎了看,最簡單的消息隊列可以做成一個消息轉發器,把一次RPC做成兩次RPC。發送者把消息投遞到服務端(以下簡稱broker),服務端再將消息轉發一手到接收端,就是這麼簡單。

一般來講,設計消息隊列的整體思路是先build一個整體的數據流,例如producer發送給broker,broker發送給consumer,consumer回覆消費確認,broker刪除/備份消息等。

利用RPC將數據流串起來。然後考慮RPC的高可用性,儘量做到無狀態,方便水平擴展。

之後考慮如何承載消息堆積,然後在合適的時機投遞消息,而處理堆積的最佳方式,就是存儲,存儲的選型需要綜合考慮性能/可靠性和開發維護成本等諸多因素。

為了實現廣播功能,我們必須要維護消費關係,可以利用zk/config server等保存消費關係。

在完成了上述幾個功能後,消息隊列基本就實現了。然後我們可以考慮一些高級特性,如可靠投遞,事務特性,性能優化等。

下面我們會以設計消息隊列時重點考慮的模塊為主線,穿插灌輸一些消息隊列的特性實現方法,來具體分析設計實現一個消息隊列時的方方面面。

三丶實現隊列基本功能

RPC通信協議

剛才講到,所謂消息隊列,無外乎兩次RPC加一次轉儲,當然需要消費端最終做消費確認的情況是三次RPC。既然是RPC,就必然牽扯出一系列話題,什麼負載均衡啊、服務發現啊、通信協議啊、序列化協議啊,等等。在這一塊,我的強烈建議是不要重複造輪子。

利用公司現有的RPC框架:Thrift也好,Dubbo也好,或者是其他自定義的框架也好。因為消息隊列的RPC,和普通的RPC沒有本質區別。當然了,自主利用Memchached或者Redis協議重新寫一套RPC框架並非不可(如MetaQ使用了自己封裝的Gecko NIO框架,卡夫卡也用了類似的協議)。但實現成本和難度無疑倍增。排除對效率的極端要求,都可以使用現成的RPC框架。

簡單來講,服務端提供兩個RPC服務,一個用來接收消息,一個用來確認消息收到。並且做到不管哪個server收到消息和確認消息,結果一致即可。當然這中間可能還涉及跨IDC的服務的問題。這裡和RPC的原則是一致的,儘量優先選擇本機房投遞。你可能會問,如果producer和consumer本身就在兩個機房了,怎麼辦?首先,broker必須保證感知的到所有consumer的存在。其次,producer儘量選擇就近的機房就好了。

高可用

其實所有的高可用,是依賴於RPC和存儲的高可用來做的。先來看RPC的高可用,美團的基於MTThrift的RPC框架,阿里的Dubbo等,其本身就具有服務自動發現,負載均衡等功能。而消息隊列的高可用,只要保證broker接受消息和確認消息的接口是冪等的,並且consumer的幾臺機器處理消息是冪等的,這樣就把消息隊列的可用性,轉交給RPC框架來處理了。

那麼怎麼保證冪等呢?最簡單的方式莫過於共享存儲。broker多機器共享一個DB或者一個分佈式文件/kv系統,則處理消息自然是冪等的。就算有單點故障,其他節點可以立刻頂上。另外failover可以依賴定時任務的補償,這是消息隊列本身天然就可以支持的功能。存儲系統本身的可用性我們不需要操太多心,放心大膽的交給DBA們吧!

對於不共享存儲的隊列,如Kafka使用分區加主備模式,就略微麻煩一些。需要保證每一個分區內的高可用性,也就是每一個分區至少要有一個主備且需要做數據的同步,關於這塊HA的細節,可以參考下篇pull模型消息系統設計。

服務端承載消息堆積的能力

消息到達服務端如果不經過任何處理就到接收者了,broker就失去了它的意義。為了滿足我們錯峰/流控/最終可達等一系列需求,把消息存儲下來,然後選擇時機投遞就顯得是順理成章的了。

只是這個存儲可以做成很多方式。比如存儲在內存裡,存儲在分佈式KV裡,存儲在磁盤裡,存儲在數據庫裡等等。但歸結起來,主要有持久化和非持久化兩種。

持久化的形式能更大程度地保證消息的可靠性(如斷電等不可抗外力),並且理論上能承載更大限度的消息堆積(外存的空間遠大於內存)。

但並不是每種消息都需要持久化存儲。很多消息對於投遞性能的要求大於可靠性的要求,且數量極大(如日誌)。這時候,消息不落地直接暫存內存,嘗試幾次failover,最終投遞出去也未嘗不可。

市面上的消息隊列普遍兩種形式都支持。當然具體的場景還要具體結合公司的業務來看。

存儲子系統的選擇

我們來看看如果需要數據落地的情況下各種存儲子系統的選擇。理論上,從速度來看,文件系統>分佈式KV(持久化)>分佈式文件系統>數據庫,而可靠性卻截然相反。還是要從支持的業務場景出發作出最合理的選擇,如果你們的消息隊列是用來支持支付/交易等對可靠性要求非常高,但對性能和量的要求沒有這麼高,而且沒有時間精力專門做文件存儲系統的研究,DB是最好的選擇。

但是DB受制於IOPS,如果要求單broker 5位數以上的QPS性能,基於文件的存儲是比較好的解決方案。整體上可以採用數據文件+索引文件的方式處理,具體這塊的設計比較複雜,可以參考下篇的存儲子系統設計。

分佈式KV(如MongoDB,HBase)等,或者持久化的Redis,由於其編程接口較友好,性能也比較可觀,如果在可靠性要求不是那麼高的場景,也不失為一個不錯的選擇。

消費關係解析

現在我們的消息隊列初步具備了轉儲消息的能力。下面一個重要的事情就是解析發送接收關係,進行正確的消息投遞了。

市面上的消息隊列定義了一堆讓人暈頭轉向的名詞,如JMS 規範中的Topic/Queue,Kafka裡面的Topic/Partition/ConsumerGroup,RabbitMQ裡面的Exchange等等。拋開現象看本質,無外乎是單播與廣播的區別。所謂單播,就是點到點;而廣播,是一點對多點。當然,對於互聯網的大部分應用來說,組間廣播、組內單播是最常見的情形。

消息需要通知到多個業務集群,而一個業務集群內有很多臺機器,只要一臺機器消費這個消息就可以了。

當然這不是絕對的,很多時候組內的廣播也是有適用場景的,如本地緩存的更新等等。另外,消費關係除了組內組間,可能會有多級樹狀關係。這種情況太過於複雜,一般不列入考慮範圍。所以,一般比較通用的設計是支持組間廣播,不同的組註冊不同的訂閱。組內的不同機器,如果註冊一個相同的ID,則單播;如果註冊不同的ID(如IP地址+端口),則廣播。

至於廣播關係的維護,一般由於消息隊列本身都是集群,所以都維護在公共存儲上,如config server、zookeeper等。維護廣播關係所要做的事情基本是一致的:

發送關係的維護。

發送關係變更時的通知。

四丶隊列高級特性設計

上面都是些消息隊列基本功能的實現,下面來看一些關於消息隊列特性相關的內容,不管可靠投遞/消息丟失與重複以及事務乃至於性能,不是每個消息隊列都會照顧到,所以要依照業務的需求,來仔細衡量各種特性實現的成本,利弊,最終做出最為合理的設計。

可靠投遞(最終一致性)

這是個激動人心的話題,完全不丟消息,究竟可不可能?答案是,完全可能,前提是消息可能會重複,並且,在異常情況下,要接受消息的延遲。

方案說簡單也簡單,就是每當要發生不可靠的事情(RPC等)之前,先將消息落地,然後發送。當失敗或者不知道成功失敗(比如超時)時,消息狀態是待發送,定時任務不停輪詢所有待發送消息,最終一定可以送達。

具體來說:

producer往broker發送消息之前,需要做一次落地。

請求到server後,server確保數據落地後再告訴客戶端發送成功。

支持廣播的消息隊列需要對每個待發送的endpoint,持久化一個發送狀態,直到所有endpoint狀態都OK才可刪除消息。

對於各種不確定(超時、down機、消息沒有送達、送達後數據沒落地、數據落地了回覆沒收到),其實對於發送方來說,都是一件事情,就是消息沒有送達。

重推消息所面臨的問題就是消息重複。重複和丟失就像兩個噩夢,你必須要面對一個。好在消息重複還有處理的機會,消息丟失再想找回就難了。

Anyway,作為一個成熟的消息隊列,應該儘量在各個環節減少重複投遞的可能性,不能因為重複有解決方案就放縱的亂投遞。

最後說一句,不是所有的系統都要求最終一致性或者可靠投遞,比如一個論壇系統、一個招聘系統。一個重複的簡歷或話題被髮布,可能比丟失了一個發佈顯得更讓用戶無法接受。不斷重複一句話,任何基礎組件要服務於業務場景。

消費確認

當broker把消息投遞給消費者後,消費者可以立即響應我收到了這個消息。但收到了這個消息只是第一步,我能不能處理這個消息卻不一定。或許因為消費能力的問題,系統的負荷已經不能處理這個消息;或者是剛才狀態機裡面提到的消息不是我想要接收的消息,主動要求重發。

把消息的送達和消息的處理分開,這樣才真正的實現了消息隊列的本質-解耦。所以,允許消費者主動進行消費確認是必要的。當然,對於沒有特殊邏輯的消息,默認Auto Ack也是可以的,但一定要允許消費方主動ack。

對於正確消費ack的,沒什麼特殊的。但是對於reject和error,需要特別說明。reject這件事情,往往業務方是無法感知到的,系統的流量和健康狀況的評估,以及處理能力的評估是一件非常複雜的事情。舉個極端的例子,收到一個消息開始build索引,可能這個消息要處理半個小時,但消息量卻是非常的小。所以reject這塊建議做成滑動窗口/線程池類似的模型來控制,消費能力不匹配的時候,直接拒絕,過一段時間重發,減少業務的負擔。

但業務出錯這件事情是隻有業務方自己知道的,就像上文提到的狀態機等等。這時應該允許業務方主動ack error,並可以與broker約定下次投遞的時間。

重複消息和順序消息

上文談到重複消息是不可能100%避免的,除非可以允許丟失,那麼,順序消息能否100%滿足呢? 答案是可以,但條件更為苛刻:

允許消息丟失。

從發送方到服務方到接受者都是單點單線程。

所以絕對的順序消息基本上是不能實現的,當然在METAQ/Kafka等pull模型的消息隊列中,單線程生產/消費,排除消息丟失,也是一種順序消息的解決方案。

一般來講,一個主流消息隊列的設計範式裡,應該是不丟消息的前提下,儘量減少重複消息,不保證消息的投遞順序。

談到重複消息,主要是兩個話題:

如何鑑別消息重複,並冪等的處理重複消息。

一個消息隊列如何儘量減少重複消息的投遞。

先來看看第一個話題,每一個消息應該有它的唯一身份。不管是業務方自定義的,還是根據IP/PID/時間戳生成的MessageId,如果有地方記錄這個MessageId,消息到來是能夠進行比對就

能完成重複的鑑定。數據庫的唯一鍵/bloom filter/分佈式KV中的key,都是不錯的選擇。由於消息不能被永久存儲,所以理論上都存在消息從持久化存儲移除的瞬間上游還在投遞的可能(上游因種種原因投遞失敗,不停重試,都到了下游清理消息的時間)。這種事情都是異常情況下才會發生的,畢竟是小眾情況。兩分鐘消息都還沒送達,多送一次又能怎樣呢?冪等的處理消息是一門藝術,因為種種原因重複消息或者錯亂的消息還是來到了,說兩種通用的解決方案:

版本號。

狀態機。

版本號

舉個簡單的例子,一個產品的狀態有上線/下線狀態。如果消息1是下線,消息2是上線。不巧消息1判重失敗,被投遞了兩次,且第二次發生在2之後,如果不做重複性判斷,顯然最終狀態是錯誤的。

但是,如果每個消息自帶一個版本號。上游發送的時候,標記消息1版本號是1,消息2版本號是2。如果再發送下線消息,則版本號標記為3。下游對於每次消息的處理,同時維護一個版本號。

每次只接受比當前版本號大的消息。初始版本為0,當消息1到達時,將版本號更新為1。消息2到來時,因為版本號>1.可以接收,同時更新版本號為2.當另一條下線消息到來時,如果版本號是3.則是真實的下線消息。如果是1,則是重複投遞的消息。

如果業務方只關心消息重複不重複,那麼問題就已經解決了。但很多時候另一個頭疼的問題來了,就是消息順序如果和想象的順序不一致。比如應該的順序是12,到來的順序是21。則最後會發生狀態錯誤。

參考TCP/IP協議,如果想讓亂序的消息最後能夠正確的被組織,那麼就應該只接收比當前版本號大一的消息。並且在一個session週期內要一直保存各個消息的版本號。

如果到來的順序是21,則先把2存起來,待2到來後,再處理1,這樣重複性和順序性要求就都達到了。

狀態機

基於版本號來處理重複和順序消息聽起來是個不錯的主意,但凡事總有瑕疵。使用版本號的最大問題是:

對發送方必須要求消息帶業務版本號。

下游必須存儲消息的版本號,對於要嚴格保證順序的。

還不能只存儲最新的版本號的消息,要把亂序到來的消息都存儲起來。而且必須要對此做出處理。試想一個永不過期的"session",比如一個物品的狀態,會不停流轉於上下線。那麼中間環節的所有存儲就必須保留,直到在某個版本號之前的版本一個不丟的到來,成本太高。

就剛才的場景看,如果消息沒有版本號,該怎麼解決呢?業務方只需要自己維護一個狀態機,定義各種狀態的流轉關係。例如,"下線"狀態只允許接收"上線"消息,“上線”狀態只能接收“下線消息”,如果上線收到上線消息,或者下線收到下線消息,在消息不丟失和上游業務正確的前提下。要麼是消息發重了,要麼是順序到達反了。這時消費者只需要把“我不能處理這個消息”告訴投遞者,要求投遞者過一段時間重發即可。而且重發一定要有次數限制,比如5次,避免死循環,就解決了。

舉例子說明,假設產品本身狀態是下線,1是上線消息,2是下線消息,3是上線消息,正常情況下,消息應該的到來順序是123,但實際情況下收到的消息狀態變成了3123。

那麼下游收到3消息的時候,判斷狀態機流轉是下線->上線,可以接收消息。然後收到消息1,發現是上線->上線,拒絕接收,要求重發。然後收到消息2,狀態是上線->下線,於是接收這個消息。

此時無論重發的消息1或者3到來,還是可以接收。另外的重發,在一定次數拒絕後停止重發,業務正確。

五丶中間件對於重複消息的處理

迴歸到消息隊列的話題來講。上述通用的版本號/狀態機/ID判重解決方案裡,哪些是消息隊列該做的、哪些是消息隊列不該做業務方處理的呢?其實這裡沒有一個完全嚴格的定義,但回到我們的出發點,我們保證不丟失消息的情況下儘量少重複消息,消費順序不保證。那麼重複消息下和亂序消息下業務的正確,應該是由消費方保證的,我們要做的是減少消息發送的重複。

我們無法定義業務方的業務版本號/狀態機,如果API裡強制需要指定版本號,則顯得過於綁架客戶了。況且,在消費方維護這麼多狀態,就涉及到一個消費方的消息落地/多機間的同步消費狀態問題,複雜度指數級上升,而且只能解決部分問題。

減少重複消息的關鍵步驟:

broker記錄MessageId,直到投遞成功後清除,重複的ID到來不做處理,這樣只要發送者在清除週期內能夠感知到消息投遞成功,就基本不會在server端產生重複消息。

對於server投遞到consumer的消息,由於不確定對端是在處理過程中還是消息發送丟失的情況下,有必要記錄下投遞的IP地址。決定重發之前詢問這個IP,消息處理成功了嗎?如果詢問無果,再重發。

事務

持久性是事務的一個特性,然而只滿足持久性卻不一定能滿足事務的特性。還是拿扣錢/加錢的例子講。滿足事務的一致性特徵,則必須要麼都不進行,要麼都能成功。

解決方案從大方向上有兩種:

兩階段提交,分佈式事務。

本地事務,本地落地,補償發送。

分佈式事務存在的最大問題是成本太高,兩階段提交協議,對於仲裁down機或者單點故障,幾乎是一個無解的黑洞。對於交易密集型或者I/O密集型的應用,沒有辦法承受這麼高的網絡延遲,系統複雜性。

並且成熟的分佈式事務一定構建與比較靠譜的商用DB和商用中間件上,成本也太高。

那如何使用本地事務解決分佈式事務的問題呢?以本地和業務在一個數據庫實例中建表為例子,與扣錢的業務操作同一個事務裡,將消息插入本地數據庫。如果消息入庫失敗,則業務回滾;如果消息入庫成功,事務提交。

然後發送消息(注意這裡可以實時發送,不需要等定時任務檢出,以提高消息實時性)。以後的問題就是前文的最終一致性問題所提到的了,只要消息沒有發送成功,就一直靠定時任務重試。

這裡有一個關鍵的點,本地事務做的,是業務落地和消息落地的事務,而不是業務落地和RPC成功的事務。這裡很多人容易混淆,如果是後者,無疑是事務嵌套RPC,是大忌,會有長事務死鎖等各種風險。

而消息只要成功落地,很大程度上就沒有丟失的風險(磁盤物理損壞除外)。而消息只要投遞到服務端確認後本地才做刪除,就完成了producer->broker的可靠投遞,並且當消息存儲異常時,業務也是可以回滾的。

本地事務存在兩個最大的使用障礙:

配置較為複雜,“綁架”業務方,必須本地數據庫實例提供一個庫表。

對於消息延遲高敏感的業務不適用。

總結

到這裡,分佈式系統消息隊列介紹與應用設計就結束了,,不足之處還望大家多多包涵!!覺得收穫的話可以點個關注收藏轉發一波喔,謝謝大佬們支持。(吹一波,233~~)

下面和大家交流幾點編程的經驗:

1、多寫多敲代碼,好的代碼與紮實的基礎知識一定是實踐出來的

2丶 測試、測試再測試,如果你不徹底測試自己的代碼,那恐怕你開發的就不只是代碼,可能還會聲名狼藉。

3丶 簡化編程,加快速度,代碼風騷,在你完成編碼後,應回頭並且優化它。從長遠來看,這裡或那裡一些的改進,會讓後來的支持人員更加輕鬆。

最後,每一位讀到這裡的網友,感謝你們能耐心地看完。希望在成為一名更優秀的Java程序員的道路上,我們可以一起學習、一起進步。

內部交流群469717771 歡迎各位前來交流和分享, 驗證:(007)

Java小毛驢,頭條出品,每天一篇乾貨,喜歡就收藏+關注

Java互聯網架構-分佈式系統消息隊列介紹與應用設計

相關推薦

推薦中...