云原生體系下 Serverless 彈性探索與實踐
?Serverless 時代的來臨

全托管的計算服務(wù),客戶只需要編寫代碼構(gòu)建應(yīng)用,無需關(guān)注同質(zhì)化的、負(fù)擔(dān)繁重的基于服務(wù)器等基礎(chǔ)設(shè)施的開發(fā)、運維、安全、高可用等工作; 通用性,能夠支撐云上所有重要類型的應(yīng)用; 自動的彈性伸縮,讓用戶無需為資源使用提前進(jìn)行容量規(guī)劃; 按量計費,讓企業(yè)使用成本得有效降低,無需為閑置資源付費。


Serverless 彈性探索




?


互聯(lián)網(wǎng)企業(yè)往往由于其內(nèi)部應(yīng)用具有顯著流量特征,應(yīng)用啟動依賴多,速度慢,且對整體資源池容量水位,庫存財務(wù)管理,離在線混部有組織上的諸多訴求,因而更多的是以容量畫像提前彈性擴容為主,基于 Metrics 計算的容量數(shù)據(jù)作為實時修正,其目標(biāo)是容量畫像足夠精準(zhǔn)以至于資源利用率達(dá)到預(yù)期目標(biāo)。 公有云廠商服務(wù)于外部客戶,提供更為通用,普適的能力,并通過可拓展性滿足不同用戶的差異化需求。尤其在 Serverless 場景,更強調(diào)應(yīng)用應(yīng)對突發(fā)流量的能力,其目標(biāo)在于無需容量規(guī)劃,通過指標(biāo)監(jiān)控配合極致彈性能力實現(xiàn)應(yīng)用資源的近乎按需使用且整個過程服務(wù)可用。
Serverless 彈性落地









定時彈性:在已知應(yīng)用流量負(fù)載周期的情況下進(jìn)行配置,應(yīng)用實例數(shù)可以按照時間,星期,日期周期進(jìn)行規(guī)律化擴縮,如在早 8 點到晚 8 點的時間段保持 10 個實例數(shù)應(yīng)對白天流量,而在其余時間由于流量較低則維持在 2 個實例數(shù)甚至縮 0。適用于資源使用率有周期性規(guī)律的應(yīng)用場景,多用于證券、醫(yī)療、政府和教育等行業(yè)。 指標(biāo)彈性:可以配置期望的監(jiān)控指標(biāo)規(guī)則,SAE 會時應(yīng)用的指標(biāo)穩(wěn)定在所配置的指標(biāo)規(guī)則內(nèi),并且默認(rèn)采用快擴慢縮的模式來保證穩(wěn)定性。如將應(yīng)用的cpu指標(biāo)目標(biāo)值設(shè)置為 60%,qps 設(shè)置為 1000,實例數(shù)范圍為 2-50。這種適用于突發(fā)流量和典型周期性流量的應(yīng)用場景,多用于互聯(lián)網(wǎng)、游戲和社交平臺等行業(yè)。 混合彈性:將定時彈性與指標(biāo)彈性相結(jié)合,可以配置不同時間,星期,日期下的指標(biāo)規(guī)則,進(jìn)而更加靈活的應(yīng)對復(fù)雜場景的需求。如早 8 點到晚 8 點的時間段 CPU 指標(biāo)目標(biāo)值設(shè)置為 60%,實例數(shù)范圍為 10-50,而其余時間則將實例數(shù)范圍降為 2-5,適用于兼?zhèn)滟Y源使用率有周期性規(guī)律和有突發(fā)流量、典型周期性流量的應(yīng)用場景,多用于互聯(lián)網(wǎng)、教育和餐飲等行業(yè)。 自適應(yīng)彈性:SAE 針對流量突增場景進(jìn)行了優(yōu)化,借助流量激增窗口,計算當(dāng)前指標(biāo)在這個時刻上是否出現(xiàn)了流量激增問題,并會根據(jù)流量激增的強烈程度在計算擴容所需的實例時會增加一部分的冗余,并且在激增模式下,不允許縮容。

一級平滑:對指標(biāo)獲取周期,單次指標(biāo)獲取的時間窗口,指標(biāo)計算聚和邏輯進(jìn)行配置 二級平滑:對指標(biāo)數(shù)值容忍度,區(qū)間彈性進(jìn)行配置 三級平滑:對單位時間擴縮步長,百分比,上下限進(jìn)行配置 四級平滑:對擴縮冷卻窗口,實例預(yù)熱時間進(jìn)行配置
Serverless 彈性最佳實踐

軟件包優(yōu)化:優(yōu)化應(yīng)用啟動時間,減少因類加載、緩存等外部依賴導(dǎo)致的應(yīng)用啟動過長
鏡像優(yōu)化:精簡鏡像大小,減少創(chuàng)建實例時鏡像拉取耗時,可借助開源工具 Dive,分析鏡像層信息,有針對性的精簡變更
Java 應(yīng)用啟動優(yōu)化:借助 SAE 聯(lián)合 Dragonwell 11 ,為 Java 11 用戶提供了應(yīng)用啟動加速功能

可用性優(yōu)化策略 配置指標(biāo)值為 40%
可用性成本平衡策略 配置指標(biāo)值為 50%
成本優(yōu)化策略 配置指標(biāo)值為 70%



社區(qū)網(wǎng)址一覽
評論
圖片
表情
