【277期】面試官：說幾種常用的分布式 ID 解決方案

一、分布式ID概念

說起ID，特性就是唯一，在人的世界里，ID就是身份證，是每個人的唯一的身份標(biāo)識。在復(fù)雜的分布式系統(tǒng)中，往往也需要對大量的數(shù)據(jù)和消息進(jìn)行唯一標(biāo)識。

舉個例子，數(shù)據(jù)庫的ID字段在單體的情況下可以使用自增來作為ID，但是對數(shù)據(jù)分庫分表后一定需要一個唯一的ID來標(biāo)識一條數(shù)據(jù)，這個ID就是分布式ID。對于分布式ID而言，也需要具備分布式系統(tǒng)的特點(diǎn)：高并發(fā)，高可用，高性能等特點(diǎn)。

二、分布式ID實(shí)現(xiàn)方案

下表為一些常用方案對比：

目前流行的分布式ID解決方案有兩種：「號段模式」和「雪花算法」。

「號段模式」依賴于數(shù)據(jù)庫，但是區(qū)別于數(shù)據(jù)庫主鍵自增的模式。假設(shè)100為一個號段100，200，300，每取一次可以獲得100個ID，性能顯著提高。

「雪花算法」是由符號位+時間戳+工作機(jī)器id+序列號組成的，如圖所示：

符號位為0，0表示正數(shù)，ID為正數(shù)。

時間戳位不用多說，用來存放時間戳，單位是ms。

工作機(jī)器id位用來存放機(jī)器的id，通常分為5個區(qū)域位+5個服務(wù)器標(biāo)識位。

序號位是自增。

雪花算法能存放多少數(shù)據(jù)？時間范圍：2^41 / (3652460601000) = 69年 工作進(jìn)程范圍：2^10 = 1024 序列號范圍：2^12 = 4096，表示1ms可以生成4096個ID。

根據(jù)這個算法的邏輯，只需要將這個算法用Java語言實(shí)現(xiàn)出來，封裝為一個工具方法，那么各個業(yè)務(wù)應(yīng)用可以直接使用該工具方法來獲取分布式ID，只需保證每個業(yè)務(wù)應(yīng)用有自己的工作機(jī)器id即可，而不需要單獨(dú)去搭建一個獲取分布式ID的應(yīng)用。下面是推特版的Snowflake算法：

public class SnowFlake {

    /**
     * 起始的時間戳
     */
    private final static long START_STMP = 1480166465631L;

    /**
     * 每一部分占用的位數(shù)
     */
    private final static long SEQUENCE_BIT = 12; //序列號占用的位數(shù)
    private final static long MACHINE_BIT = 5;   //機(jī)器標(biāo)識占用的位數(shù)
    private final static long DATACENTER_BIT = 5;//數(shù)據(jù)中心占用的位數(shù)

    /**
     * 每一部分的最大值
     */
    private final static long MAX_DATACENTER_NUM = -1L ^ (-1L << DATACENTER_BIT);
    private final static long MAX_MACHINE_NUM = -1L ^ (-1L << MACHINE_BIT);
    private final static long MAX_SEQUENCE = -1L ^ (-1L << SEQUENCE_BIT);

    /**
     * 每一部分向左的位移
     */
    private final static long MACHINE_LEFT = SEQUENCE_BIT;
    private final static long DATACENTER_LEFT = SEQUENCE_BIT + MACHINE_BIT;
    private final static long TIMESTMP_LEFT = DATACENTER_LEFT + DATACENTER_BIT;

    private long datacenterId;  //數(shù)據(jù)中心
    private long machineId;     //機(jī)器標(biāo)識
    private long sequence = 0L; //序列號
    private long lastStmp = -1L;//上一次時間戳

    public SnowFlake(long datacenterId, long machineId) {
        if (datacenterId > MAX_DATACENTER_NUM || datacenterId < 0) {
            throw new IllegalArgumentException("datacenterId can't be greater than MAX_DATACENTER_NUM or less than 0");
        }
        if (machineId > MAX_MACHINE_NUM || machineId < 0) {
            throw new IllegalArgumentException("machineId can't be greater than MAX_MACHINE_NUM or less than 0");
        }
        this.datacenterId = datacenterId;
        this.machineId = machineId;
    }

    /**
     * 產(chǎn)生下一個ID
     *
     * @return
     */
    public synchronized long nextId() {
        long currStmp = getNewstmp();
        if (currStmp < lastStmp) {
            throw new RuntimeException("Clock moved backwards.  Refusing to generate id");
        }

        if (currStmp == lastStmp) {
            //相同毫秒內(nèi)，序列號自增
            sequence = (sequence + 1) & MAX_SEQUENCE;
            //同一毫秒的序列數(shù)已經(jīng)達(dá)到最大
            if (sequence == 0L) {
                currStmp = getNextMill();
            }
        } else {
            //不同毫秒內(nèi)，序列號置為0
            sequence = 0L;
        }

        lastStmp = currStmp;

        return (currStmp - START_STMP) << TIMESTMP_LEFT //時間戳部分
                | datacenterId << DATACENTER_LEFT       //數(shù)據(jù)中心部分
                | machineId << MACHINE_LEFT             //機(jī)器標(biāo)識部分
                | sequence;                             //序列號部分
    }

    private long getNextMill() {
        long mill = getNewstmp();
        while (mill <= lastStmp) {
            mill = getNewstmp();
        }
        return mill;
    }

    private long getNewstmp() {
        return System.currentTimeMillis();
    }

    public static void main(String[] args) {
        SnowFlake snowFlake = new SnowFlake(2, 3);

        for (int i = 0; i < (1 << 12); i++) {
            System.out.println(snowFlake.nextId());
        }

    }
}

三、分布式ID開源組件

3.1 如何選擇開源組件

選擇開源組件首先需要看軟件特性是否滿足需求，主要包括兼容性和擴(kuò)展性。

其次需要看目前的技術(shù)能力，根據(jù)目前自己或者團(tuán)隊的技術(shù)棧和技術(shù)能力，能否可以平滑的使用。

第三，要看開源組件的社區(qū)，主要關(guān)注更新是否頻繁、項目是否有人維護(hù)、遇到坑的時候可以取得聯(lián)系尋求幫助、是否在業(yè)內(nèi)被廣泛使用等。

3.2 美團(tuán)Leaf

Leaf是美團(tuán)基礎(chǔ)研發(fā)平臺推出的一個分布式ID生成服務(wù)，名字取自德國哲學(xué)家、數(shù)學(xué)家萊布尼茨的一句話：“There are no two identical leaves in the world.”Leaf具備高可靠、低延遲、全局唯一等特點(diǎn)。

目前已經(jīng)廣泛應(yīng)用于美團(tuán)金融、美團(tuán)外賣、美團(tuán)酒旅等多個部門。具體的技術(shù)細(xì)節(jié)，可參考美團(tuán)技術(shù)博客的一篇文章：《Leaf美團(tuán)分布式ID生成服務(wù)》。

目前，Leaf項目已經(jīng)在Github上開源：

https://github.com/Meituan-Dianping/Leaf。

Leaf在特性如下：

• 全局唯一，絕對不會出現(xiàn)重復(fù)的ID，且ID整體趨勢遞增。
• 高可用，服務(wù)完全基于分布式架構(gòu)，即使MySQL宕機(jī)，也能容忍一段時間的數(shù)據(jù)庫不可用。
• 高并發(fā)低延時，在CentOS 4C8G的虛擬機(jī)上，遠(yuǎn)程調(diào)用QPS可達(dá)5W+，TP99在1ms內(nèi)。
• 接入簡單，直接通過公司RPC服務(wù)或者HTTP調(diào)用即可接入。

3.3 百度UidGenerator

UidGenerator百度開源的一款基于Snowflake算法的分布式高性能唯一ID生成器。采用官網(wǎng)的一段描述：UidGenerator以組件形式工作在應(yīng)用項目中, 支持自定義workerId位數(shù)和初始化策略, 從而適用于docker等虛擬化環(huán)境下實(shí)例自動重啟、漂移等場景。

在實(shí)現(xiàn)上, UidGenerator通過借用未來時間來解決sequence天然存在的并發(fā)限制; 采用RingBuffer來緩存已生成的UID, 并行化UID的生產(chǎn)和消費(fèi), 同時對CacheLine補(bǔ)齊，避免了由RingBuffer帶來的硬件級「偽共享」問題. 最終單機(jī)QPS可達(dá)600萬。

UidGenerator的GitHub地址：

https://github.com/baidu/uid-generator

3.4 開源組件對比

百度UidGenerator是Java語言的；最近一次提交記錄是兩年前，基本無人維護(hù)；只支持雪花算法。

美團(tuán)Leaf也是Java語言的；最近維護(hù)為2020年；支持號段模式和雪花算法。

綜上理論和兩款開源組件的對比，還是美團(tuán)Leaf稍勝一籌。