作者：蘑菇先生
出處：www.cnblogs.com/mushroom/p/13788039.html

介紹

在分布式系統(tǒng)、微服務(wù)架構(gòu)大行其道的今天，服務(wù)間互相調(diào)用出現(xiàn)失敗已經(jīng)成為常態(tài)。如何處理異常，如何保證數(shù)據(jù)一致性，成為微服務(wù)設(shè)計(jì)過程中，繞不開的一個(gè)難題。 

在不同的業(yè)務(wù)場景下，解決方案會(huì)有所差異，常見的方式有：

1. 阻塞式重試；
2. 2PC、3PC 傳統(tǒng)事務(wù)；
3. 使用隊(duì)列，后臺(tái)異步處理；
4. TCC 補(bǔ)償事務(wù)；
5. 本地消息表（異步確保）；
6. MQ 事務(wù)。

本文側(cè)重于其他幾項(xiàng)，關(guān)于 2PC、3PC 傳統(tǒng)事務(wù)，網(wǎng)上資料已經(jīng)非常多了，這里不多做重復(fù)。

阻塞式重試

在微服務(wù)架構(gòu)中，阻塞式重試是比較常見的一種方式。

偽代碼示例：

m := db.Insert(sql)

err := request(B-Service,m)

func request(url string,body interface{}){
  for i:=0; i<3; i ++ {
    result, err = request.POST(url,body)
    if err == nil {
        break 
    }else {
      log.Print()
    }
  }
}

如上，當(dāng)請(qǐng)求 B 服務(wù)的 API 失敗后，發(fā)起最多三次重試。如果三次還是失敗，就打印日志，繼續(xù)執(zhí)行下或向上層拋出錯(cuò)誤。

這種方式會(huì)帶來以下問題：

1. 調(diào)用 B 服務(wù)成功，但由于網(wǎng)絡(luò)超時(shí)原因，當(dāng)前服務(wù)認(rèn)為其失敗了，繼續(xù)重試，這樣 B 服務(wù)會(huì)產(chǎn)生 2 條一樣的數(shù)據(jù)。
2. 調(diào)用 B 服務(wù)失敗，由于 B 服務(wù)不可用，重試 3 次依然失敗，當(dāng)前服務(wù)在前面代碼中插入到 DB 的一條記錄，就變成了臟數(shù)據(jù)。
3. 重試會(huì)增加上游對(duì)本次調(diào)用的延遲，如果下游負(fù)載較大，重試會(huì)放大下游服務(wù)的壓力。

第一個(gè)問題：通過讓 B 服務(wù)的 API 支持冪等性來解決。

第二個(gè)問題：可以通過后臺(tái)定時(shí)腳步去修正數(shù)據(jù)，但這并不是一個(gè)很好的辦法。

第三個(gè)問題：這是通過阻塞式重試提高一致性、可用性，必不可少的犧牲。

阻塞式重試適用于業(yè)務(wù)對(duì)一致性要求不敏感的場景下。如果對(duì)數(shù)據(jù)一致性有要求的話，就必須要引入額外的機(jī)制來解決。

異步隊(duì)列

在解決方案演化的過程中，引入隊(duì)列是個(gè)比較常見也較好的方式。如下示例：

m := db.Insert(sql)

err := mq.Publish("B-Service-topic",m)

在當(dāng)前服務(wù)將數(shù)據(jù)寫入 DB 后，推送一條消息給 MQ，由獨(dú)立的服務(wù)去消費(fèi) MQ 處理業(yè)務(wù)邏輯。和阻塞式重試相比，雖然 MQ 在穩(wěn)定性上遠(yuǎn)高于普通的業(yè)務(wù)服務(wù)，但在推送消息到 MQ 中的調(diào)用，還是會(huì)有失敗的可能性，比如網(wǎng)絡(luò)問題、當(dāng)前服務(wù)宕機(jī)等。這樣還是會(huì)遇到阻塞式重試相同的問題，即 DB 寫入成功了，但推送失敗了。

理論上來講，分布式系統(tǒng)下，涉及多個(gè)服務(wù)調(diào)用的代碼都存在這樣的情況，在長期運(yùn)行中，調(diào)用失敗的情況一定會(huì)出現(xiàn)。這也是分布式系統(tǒng)設(shè)計(jì)的難點(diǎn)之一。另外，MQ 系列面試題和答案全部整理好了，微信搜索互聯(lián)網(wǎng)架構(gòu)師，在后臺(tái)發(fā)送：2T，可以在線閱讀。

TCC 補(bǔ)償事務(wù)

在對(duì)事務(wù)有要求，且不方便解耦的情況下，TCC 補(bǔ)償式事務(wù)是個(gè)較好的選擇。

TCC 把調(diào)用每個(gè)服務(wù)都分成 2 個(gè)階段、 3 個(gè)操作：

• 階段一、Try 操作：對(duì)業(yè)務(wù)資源做檢測、資源預(yù)留，比如對(duì)庫存的檢查、預(yù)扣。
• 階段二、Confirm 操作：提交確認(rèn) Try 操作的資源預(yù)留。比如把庫存預(yù)扣更新為扣除。
• 階段二、Cancel 操作：Try 操作失敗后，釋放其預(yù)扣的資源。比如把庫存預(yù)扣的加回去。

TCC 要求每個(gè)服務(wù)都實(shí)現(xiàn)上面 3 個(gè)操作的 API，服務(wù)接入 TCC 事務(wù)前一次調(diào)用就完成的操作，現(xiàn)在需要分 2 階段完成、三次操作來完成。

比如一個(gè)商城應(yīng)用需要調(diào)用 A 庫存服務(wù)、B 金額服務(wù)、C 積分服務(wù)，如下偽代碼：

m := db.Insert(sql)
aResult, aErr := A.Try(m)
bResult, bErr := B.Try(m)
cResult, cErr := C.Try(m)
if cErr != nil {
    A.Cancel()
    B.Cancel()
 C.Cancel()
} else {
    A.Confirm()
    B.Confirm()
    C.Confirm()
}

代碼中分別調(diào)用 A、B、C 服務(wù) API 檢查并保留資源，都返回成功了再提交確認(rèn)（Confirm）操作；如果 C 服務(wù) Try 操作失敗后，則分別調(diào)用 A、B、C 的 Cancel API 釋放其保留的資源。

TCC 在業(yè)務(wù)上解決了分布式系統(tǒng)下，跨多個(gè)服務(wù)、跨多個(gè)數(shù)據(jù)庫的數(shù)據(jù)一致性問題。但 TCC 方式依然存在一些問題，實(shí)際使用中需要注意，包括上面章節(jié)提到的調(diào)用失敗的情況。

空釋放

上面代碼中如果 C.Try() 是真正調(diào)用失敗，那下面多余的 C.Cancel() 調(diào)用會(huì)出現(xiàn)釋放并沒有鎖定資源的行為。這是因?yàn)楫?dāng)前服務(wù)無法判斷調(diào)用失敗是不是真的鎖定 C 資源了。如果不調(diào)用，實(shí)際上成功了，但由于網(wǎng)絡(luò)原因返回失敗了，這會(huì)導(dǎo)致 C 的資源被鎖定，一直得不到釋放。

空釋放在生產(chǎn)環(huán)境經(jīng)常出現(xiàn)，服務(wù)在實(shí)現(xiàn) TCC 事務(wù) API 時(shí)，應(yīng)支持空釋放的執(zhí)行。

時(shí)序

上面代碼中如果 C.Try() 失敗，接著調(diào)用 C.Cancel() 操作。因?yàn)榫W(wǎng)絡(luò)原因，有可能會(huì)出現(xiàn) C.Cancel() 請(qǐng)求會(huì)先到 C 服務(wù)，C.Try() 請(qǐng)求后到，這會(huì)導(dǎo)致空釋放問題，同時(shí)引起 C 的資源被鎖定，一直得不到釋放。

所以 C 服務(wù)應(yīng)拒絕釋放資源之后的 Try() 操作。具體實(shí)現(xiàn)上，可以用唯一事務(wù)ID來區(qū)分第一次 Try() 還是釋放后的 Try()。

調(diào)用失敗

Cancel 、Confirm 在調(diào)用過程中，還是會(huì)存在失敗的情況，比如常見的網(wǎng)絡(luò)原因。

Cancel() 或 Confirm() 操作失敗都會(huì)導(dǎo)致資源被鎖定，一直得不到釋放。這種情況常見解決方案有：

1. 阻塞式重試。但有同樣的問題，比如宕機(jī)、一直失敗的情況。
2. 寫入日志、隊(duì)列，然后有單獨(dú)的異步服務(wù)自動(dòng)或人工介入處理。但一樣會(huì)有問題，寫日志或隊(duì)列時(shí)，會(huì)存在失敗的情況。

理論上來講非原子性、事務(wù)性的二段代碼，都會(huì)存在中間態(tài)，有中間態(tài)就會(huì)有失敗的可能性。

本地消息表

本地消息表最初是 ebay 提出的，它讓本地消息表與業(yè)務(wù)數(shù)據(jù)表處于同一個(gè)數(shù)據(jù)庫中，這樣就能利用本地事務(wù)來滿足事務(wù)特性。

具體做法是在本地事務(wù)中插入業(yè)務(wù)數(shù)據(jù)時(shí)，也插入一條消息數(shù)據(jù)。然后在做后續(xù)操作，如果其他操作成功，則刪除該消息；如果失敗則不刪除，異步監(jiān)聽這個(gè)消息，不斷重試。

本地消息表是一個(gè)很好的思路，可以有多種使用方式：

配合MQ

示例偽代碼：

messageTx := tc.NewTransaction("order")
messageTxSql := tx.TryPlan("content")

m,err := db.InsertTx(sql,messageTxSql)
if err!=nil {
 return err
}

aErr := mq.Publish("B-Service-topic",m)
if aErr!=nil { // 推送到 MQ 失敗
 messageTx.Confirm() // 更新消息的狀態(tài)為 confirm
}else {
 messageTx.Cancel() // 刪除消息
}

// 異步處理 confirm 的消息，繼續(xù)推送
func OnMessage(task *Task){
   err := mq.Publish("B-Service-topic", task.Value())
   if err==nil {
     messageTx.Cancel()
   }
}

上面代碼中其 messageTxSql 是插入本地消息表的一段 SQL ：

insert into `tcc_async_task` (`uid`,`name`,`value`,`status`) 
values ('?','?','?','?')

它和業(yè)務(wù) SQL 在同一個(gè)事務(wù)中去執(zhí)行，要么成功，要么失敗。

成功則推送到隊(duì)列，推送成功，則調(diào)用 messageTx.Cancel() 刪除本地消息；推送失敗則標(biāo)記消息為 confirm。本地消息表中 status 有 2 種狀態(tài) try、confirm， 無論哪種狀態(tài)在 OnMessage 都可以監(jiān)聽到，從而發(fā)起重試。

本地事務(wù)保障消息和業(yè)務(wù)一定會(huì)寫入數(shù)據(jù)庫，此后的執(zhí)行無論宕機(jī)還是網(wǎng)絡(luò)推送失敗，異步監(jiān)聽都可以進(jìn)行后續(xù)處理，從而保障了消息一定會(huì)推到 MQ。

而 MQ 則保障一定會(huì)到達(dá)消費(fèi)者服務(wù)中，利用 MQ 的 QOS 策略，消費(fèi)者服務(wù)一定能處理，或繼續(xù)投遞到下一個(gè)業(yè)務(wù)隊(duì)列中，從而保障了事務(wù)的完整性。

配合服務(wù)調(diào)用

示例偽代碼：

messageTx := tc.NewTransaction("order")
messageTxSql := tx.TryPlan("content")

body,err := db.InsertTx(sql,messageTxSql)
if err!=nil {
    return err
}

aErr := request.POST("B-Service",body)
if aErr!=nil { // 調(diào)用 B-Service 失敗
 messageTx.Confirm() // 更新消息的狀態(tài)為 confirm
}else {
 messageTx.Cancel() // 刪除消息
}

// 異步處理 confirm 或 try 的消息，繼續(xù)調(diào)用 B-Service 
func OnMessage(task *Task){
  // request.POST("B-Service",body)
}

這是本地消息表 + 調(diào)用其他服務(wù)的例子，沒有 MQ 的引入。這種使用異步重試，并用本地消息表保障消息的可靠性，解決了阻塞式重試帶來的問題，在日常開發(fā)中比較常見。

如果本地沒有要寫 DB 的操作，可以只寫入本地消息表，同樣在 OnMessage中處理：

messageTx := tc.NewTransaction("order")
messageTx := tx.Try("content")
aErr := request.POST("B-Service",body)
// ....

消息過期

配置本地消息表的 Try 和 Confirm 消息的處理器：

TCC.SetTryHandler(OnTryMessage())
TCC.SetConfirmHandler(OnConfirmMessage())

在消息處理函數(shù)中要判斷當(dāng)前消息任務(wù)是否存在過久，比如一直重試了一小時(shí)，還是失敗，就考慮發(fā)郵件、短信、日志告警等方式，讓人工介入。

func OnConfirmMessage(task *tcc.Task) {
if time.Now().Sub(task.CreatedAt) > time.Hour {
    err := task.Cancel()  // 刪除該消息，停止重試。
   // doSomeThing() 告警，人工介入
    return
 }
}

在 Try 處理函數(shù)中，還要單獨(dú)判斷當(dāng)前消息任務(wù)是否存在過短，因?yàn)?nbsp;Try狀態(tài)的消息，可能才剛剛創(chuàng)建，還沒被確認(rèn)提交或刪除。這會(huì)和正常業(yè)務(wù)邏輯的執(zhí)行重復(fù)，意味著成功的調(diào)用，也會(huì)被重試；為盡量避免這種情況，可以檢測消息的創(chuàng)建時(shí)間是否很短，短的話可以跳過。

重試機(jī)制必然依賴下游 API 在業(yè)務(wù)邏輯上的冪等性，雖然不處理也可行，但設(shè)計(jì)上還是要盡量避免干擾正常的請(qǐng)求。

獨(dú)立消息服務(wù)

獨(dú)立消息服務(wù)是本地消息表的升級(jí)版，把本地消息表抽離成一個(gè)獨(dú)立的服務(wù)。所有操作之前先在消息服務(wù)添加個(gè)消息，后續(xù)操作成功則刪除消息，失敗則提交確認(rèn)消息。

然后用異步邏輯去監(jiān)聽消息，做對(duì)應(yīng)的處理，和本地消息表的處理邏輯基本一致。但由于向消息服務(wù)添加消息，無法和本地操作放到一個(gè)事務(wù)里，所以會(huì)存在添加消息成功，后續(xù)失敗，則此時(shí)的消息就是個(gè)無用消息。

如下示例場景：

err := request.POST("Message-Service",body)
if err!=nil {
  return err
}
aErr := request.POST("B-Service",body)
if aErr!=nil {
  return aErr
}

這個(gè)無用的消息，需要消息服務(wù)去確認(rèn)這個(gè)消息是否執(zhí)行成功，沒有則刪除，有繼續(xù)執(zhí)行后續(xù)邏輯。相比本地事務(wù)表 try 和 confirm ，消息服務(wù)在前面多了一種狀態(tài) prepare。

MQ 事務(wù)

有些 MQ 的實(shí)現(xiàn)支持事務(wù)，比如 RocketMQ 。MQ 的事務(wù)可以看作獨(dú)立消息服務(wù)的一種具體實(shí)現(xiàn)，邏輯完全一致。

所有操作之前先在 MQ 投遞個(gè)消息，后續(xù)操作成功則 Confirm 確認(rèn)提交消息，失敗則Cancel刪除消息。MQ 事務(wù)也會(huì)存在 prepare狀態(tài)，需要 MQ 的消費(fèi)處理邏輯來確認(rèn)業(yè)務(wù)是否成功。

總結(jié)

從分布式系統(tǒng)實(shí)踐中來看，要保障數(shù)據(jù)一致性的場景，必然要引入額外的機(jī)制處理。

TCC 的優(yōu)點(diǎn)是作用于業(yè)務(wù)服務(wù)層，不依賴某個(gè)具體數(shù)據(jù)庫、不與具體框架耦合、資源鎖的粒度比較靈活，非常適用于微服務(wù)場景下。缺點(diǎn)是每個(gè)服務(wù)都要實(shí)現(xiàn) 3 個(gè) API，對(duì)于業(yè)務(wù)侵入和改動(dòng)較大，要處理各種失敗異常。開發(fā)者很難完整處理各種情況，找個(gè)成熟的框架可以大大降低成本，比如阿里的 Fescar。

本地消息表的優(yōu)點(diǎn)是簡單、不依賴其他服務(wù)的改造、可以很好的配合服務(wù)調(diào)用和 MQ 一起使用，在大多業(yè)務(wù)場景下都比較實(shí)用。缺點(diǎn)是本地?cái)?shù)據(jù)庫多了消息表，和業(yè)務(wù)表耦合在一起。文中本地消息表方式的示例，來源于作者寫的一個(gè)庫，有興趣的同學(xué)可以參考下 https://github.com/mushroomsir/tcc

MQ 事務(wù)和獨(dú)立消息服務(wù)的優(yōu)點(diǎn)是抽離出一個(gè)公共的服務(wù)來解決事務(wù)問題，避免每個(gè)服務(wù)都有消息表和服務(wù)耦合在一起，增加服務(wù)自身的處理復(fù)雜性。缺點(diǎn)是支持事務(wù)的 MQ 很少；且每次操作前都先調(diào)用 API 添加個(gè)消息，會(huì)增加整體調(diào)用的延遲，在絕大多數(shù)正常響應(yīng)的業(yè)務(wù)場景下，是一種多余的開銷。

最后，關(guān)注公眾號(hào)互聯(lián)網(wǎng)架構(gòu)師，在后臺(tái)回復(fù)：2T，可以獲取我整理的 MQ 系列面試題和答案，非常齊全。

TCC 參考：https://www.sofastack.tech/blog/seata-tcc-theory-design-realization/

MQ 事務(wù)參考：https://www.jianshu.com/p/eb571e4065ec

推薦閱讀：
世界的真實(shí)格局分析，地球人類社會(huì)底層運(yùn)行原理
企業(yè)IT技術(shù)架構(gòu)規(guī)劃方案
論數(shù)字化轉(zhuǎn)型——轉(zhuǎn)什么，如何轉(zhuǎn)？
企業(yè)10大管理流程圖，數(shù)字化轉(zhuǎn)型從業(yè)者必備！
【中臺(tái)實(shí)踐】華為大數(shù)據(jù)中臺(tái)架構(gòu)分享.pdf
華為的數(shù)字化轉(zhuǎn)型方法論
華為如何實(shí)施數(shù)字化轉(zhuǎn)型（附PPT）
超詳細(xì)280頁Docker實(shí)戰(zhàn)文檔！開放下載
華為大數(shù)據(jù)解決方案（PPT）