Lars負載均衡遠程服務器調度系統(tǒng)
Lars 是一個簡單、易用、高性能的服務間遠程調用管理、調度、負載均衡系統(tǒng)。
(Load balance And Remote service schedule System)
一、系統(tǒng)開發(fā)環(huán)境:
Linux : Ubuntu18.04
protobuf : libprotoc 3.6.1版本及以上
mysql: mysql Ver 14.14 Distrib 5.7.27 版本及以上
g++: (Ubuntu 7.4.0-1ubuntu1~18.04.1) 7.4.0 版本及以上
二、開發(fā)技術文檔及教程
PC端文檔
《Lars-基于C++負載均衡遠程服務器調度系統(tǒng)教程》
三、概述：
Lars 是一個簡單、易用、高性能的服務間遠程調用管理、調度、負載均衡系統(tǒng)。
1) 優(yōu)勢
-
性能強悍
集群支持千萬并發(fā)鏈接，滿足用戶的海量業(yè)務訪問需求。
-
高可用
采用集群化部署，支持多可用區(qū)的容災，無縫實時切換。
-
靈活擴展
自動分發(fā)，與彈性伸縮無縫集成，靈活擴展用戶用于的對外服務能力。
-
簡單易用
快速部署、實時生效，支持多種協(xié)議，多種調度算法，用戶可以高效的管理和調整服務分發(fā)策略等。
2) 應用場景
(1)、大型門戶網站
? 針對大型門戶網站訪問量高的特點，通過彈性負載均衡將用戶的訪問流量均勻的分發(fā)到多個后端云服務器上，確保業(yè)務快速平穩(wěn)的運行
優(yōu)勢
-
靈活擴展
可根據實際的用戶訪問量，自動擴展負載分發(fā)能力
-
高性能
集群支持高并發(fā)連接，滿足海量訪問量訴求
(2)、跨可用區(qū)同城容災
? 彈性負載均衡可將流量跨可用區(qū)進行分發(fā)，建立實時的同城容災機制，滿足銀行貿易等企業(yè)對系統(tǒng)的高可用性要求。
優(yōu)勢
-
靈活擴展
可根據實際的用戶訪問量，自動擴展負載分發(fā)能力
-
同城容災
支持跨可用區(qū)的雙活容災，實現(xiàn)無縫實時切換
(3)、電商搶購
? 電商業(yè)務呈現(xiàn)出較強的潮汐效應。Lars通過和彈性伸縮等服務的無縫集成，自動創(chuàng)建后端云服務器，將流量自動分發(fā)到新的云服務器，緩解了促銷高峰時期的系統(tǒng)壓力。
優(yōu)勢
-
彈性伸縮
根據業(yè)務流量實時創(chuàng)建或移除云服務器
-
高可用
通過健康檢查快速屏蔽異常云服務器，確保業(yè)務高可用
-
高性能
集群支持高并發(fā)連接，滿足海量訪問量訴求
3) Lars系統(tǒng)總體架構
? 對于一個部門的后臺，為增強靈活性，一個服務可以被抽象為命令字：modid+cmdid的組合，稱為一個模塊，而這個服務往往有多個服務節(jié)點，其所有服務節(jié)點的地址集合被稱為這個模塊下的路由，節(jié)點地址簡稱為節(jié)點
-
modid：標識業(yè)務的大類，如：“直播列表相關” -
cmdid：標識具體服務內容，如：“批量獲取直播列表”? 業(yè)務代碼利用modid,cmdid，就可以調用對應的遠程服務一個Lars系統(tǒng)包含一個DNSService，一個Report Service，以及部署于每個服務器的LoadBalance Agent，業(yè)務代碼通過API與Lars系統(tǒng)進行交互
API ：根據自身需要的modid,cmdid，向Lars系統(tǒng)獲取節(jié)點、匯報節(jié)點調用結果；提供C++、Golang(開發(fā)中...)、Python(開發(fā)中...)接口
LoadBalance Agent：運行于每個服務器上，負責為此服務器上的業(yè)務提供節(jié)點獲取、節(jié)點狀態(tài)匯報、路由管理、負載調度等核心功能
DNSService ： 運行于一臺服務器上（也可以用LVS部署多實例防單點），負責modid,cmdid到節(jié)點路由的轉換
Report Service ： 運行于DNSService同機服務器上，負責收集各modid,cmdid下各節(jié)點調用狀況，可用于觀察、報警
modid,cmdid數(shù)據由Mysql管理，具體SQL腳本在common/sql路徑下 至于modid,cmdid的注冊、刪除可以利用Web端操作MySQL。
如圖，每個服務器（虛線）部署了一臺LoadBalance Agent，以及多個業(yè)務服務
- 開發(fā)者在Web端注冊、刪除、修改
modid,cmdid的路由信息，信息被寫入到MySQL數(shù)據庫； - 服務器上每個業(yè)務biz都把持著自己需要通信的遠程服務標識
modid+cmdid，每個biz都向本機LoadBalance Agent獲取遠程節(jié)點，進而可以和遠程目標服務通信，此外業(yè)務模塊會匯報本次的節(jié)點調用結果給LoadBalance Agent； - LoadBalance Agent負責路由管理、負載均衡等核心任務，并周期性向DNSService獲取最新的路由信息，周期性把各
modid,cmdid的各節(jié)點一段時間內的調用結果傳給Report Service - DNSService監(jiān)控MySQL，周期性將最新路由信息加載出來；
- Report Service將各
modid,cmdid的各節(jié)點一段時間內的調用結果寫回到MySQL，方便Web端查看、報警。
四、快速開始
(1) 編譯及安裝
代碼下載
git clone https://github.com/aceld/Lars.git
編譯
cd ./Lars
make
(2) 數(shù)據庫配置
創(chuàng)建表
cd ./Lars/base/sql
進入`mysql`，導入表`lars_dns.sql`文件
mysql -u root -p
#輸入密碼
mysql> source ./lars_dns.sql
(3) 各子系統(tǒng)配置文檔
lars reporter
./Lars/lars_reporter/conf/lars_reporter.conf
[reactor]
maxConn = 1024
threadNum = 5
ip = 127.0.0.1
port = 7779
[mysql]
db_host = 127.0.0.1
db_port = 3306
db_user = root
db_passwd = **Your PassWord**
db_name = lars_dns
[repoter]
db_thread_cnt = 3
lars dns
./Lars/lars_dns/conf/lars_dns.conf
[reactor]
maxConn = 1024
threadNum = 5
ip = 127.0.0.1
port = 7778
[mysql]
db_host = 127.0.0.1
db_port = 3306
db_user = root
db_passwd = **Your PassWord**
db_name = lars_dns
lars LoadBalance Agent
./Lars/lars_loadbalance_agent/conf/lars_lb_agent.conf
[reporter]
ip = 127.0.0.1
port = 7779
[dnsserver]
ip = 127.0.0.1
port = 7778
[loadbalance]
;經過若干次獲取請求host節(jié)點后，試探選擇一次overload過載節(jié)點
probe_num=10
;初始化host_info主機信息訪問成功的個數(shù)，防止剛啟動時少量失敗就認為過載
init_succ_cnt=180
;當idle節(jié)點切換至over_load時的初始化失敗次數(shù)，主要為了累計一定成功次數(shù)才能切換會idle
init_err_cnt=5
;當idle節(jié)點失敗率高于此值，節(jié)點變overload狀態(tài)
err_rate=0.1
;當overload節(jié)點成功率高于此值，節(jié)點變成idle狀態(tài)
succ_rate=0.5
;當idle節(jié)點連續(xù)失敗次數(shù)超過此值，節(jié)點變成overload狀態(tài)
contin_err_limit=15
;當overload節(jié)點連續(xù)成功次數(shù)超過此值, 節(jié)點變成idle狀態(tài)
contin_succ_limit=15
;整個窗口的真實失敗率閾值
window_err_rate=0.7
;對于某個modid/cmdid下的某個idle狀態(tài)的host，需要清理一次負載信息的周期
idle_timeout=15
;對于某個modid/cmdid/下的某個overload狀態(tài)的host，在過載隊列等待的最大時間
overload_timeout=15
;對于每個NEW狀態(tài)的modid/cmdid，多久更新一下本地路由,秒
update_timeout=15
(4)啟動
啟動 lars reporter serivce
cd ./Lars
./run_lars reporter
啟動 lars dns service
cd ./Lars
./run_lars dns
啟動 lars lbagent service
cd ./Lars
./run_lars lbagent
啟動 lars web service
cd ./Lars
./run_lars web
(5) Web管理端操作
打開瀏覽器,輸入web 服務的ip地址+端口號
配置主機
查看所有主機配置
(6) 模擬效果測試
啟動模擬器測試
cd ./Lars
./run_lars test simulator 1 1
更多測試工具
cd ./Lars
./run_lars help
=======啟動子系統(tǒng)========== Usage ./run_lars [reporter|dns|lbagent|web|test] =======測試工具============ Usage ./run_lars test gethost ModID CmdID Usage ./run_lars test getroute ModID CmdID Usage ./run_lars test report ModID CmdID IP Port 0|1 --- 0:SUCC, 1:OVERLOAD Usage ./run_lars test simulator ModID CmdID [errRate(0-10)] [queryCnt(0-999999)] Usage ./run_lars test qps ThreadNum Usage ./run_lars test example ModID CmdID
(7)Web查看主機調用狀態(tài)
五、Lars QPS性能測試
主機1
CPU個數(shù)：2個 ， 內存: 2GB , 系統(tǒng)：Ubuntu18.04虛擬機
| 線程數(shù) | QPS |
|---|---|
| 1 | 0.5w/s |
| 2 | 2.2w/s |
| 10 | 5.5w/s |
| 100 | 5.3w/s |
主機2
CPU個數(shù): 24個 , 內存:128GB， 系統(tǒng): 云主機
| 線程數(shù) | QPS |
|---|---|
| 1 | 8.36w/s |
| 3 | 28.06w/s |
| 5 | 55.18w/s |
| 8 | 56.74w/s |