1. <strong id="7actg"></strong>
    2. <table id="7actg"></table>

    3. <address id="7actg"></address>
      <address id="7actg"></address>
      1. <object id="7actg"><tt id="7actg"></tt></object>

        深度學(xué)習(xí)需要掌握的13個(gè)概率分布

        共 2585字,需瀏覽 6分鐘

         ·

        2020-08-18 12:10

        點(diǎn)擊藍(lán)字


        ?關(guān)注我們



        作者丨Sophia@知乎
        來源丨h(huán)ttps://zhuanlan.zhihu.com/p/158801020
        本文僅用于學(xué)術(shù)分享,著作權(quán)歸作者所有。如有侵權(quán),請聯(lián)系后臺作刪文處理。

        極市導(dǎo)讀

        ?

        本文總結(jié)了深度學(xué)習(xí)工作中需要掌握的13種概率分布,并整理出了相應(yīng)的代碼,方便學(xué)習(xí)和使用。>>極市直播預(yù)告:明天下午,CSIG-ECCV2020 論文預(yù)交流會,29位ECCV2020一作聯(lián)合直播


        在逛Github時(shí)發(fā)現(xiàn)了一個(gè)不錯(cuò)的總結(jié),對深度學(xué)習(xí)的概率分布進(jìn)行了總結(jié)。

        作者的Github開源地址:https://github.com/graykode/distribution-is-all-you-needgithub.com

        1.均勻分布(連續(xù))代碼https://github.com/graykode/distribution-is-all-you-need/blob/master/uniform.py

        均勻分布在 [a,b] 上具有相同的概率值,是簡單概率分布。

        2.伯努利分布(離散)代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/bernoulli.py

        先驗(yàn)概率 p(x)不考慮伯努利分布。因此,如果我們對最大似然進(jìn)行優(yōu)化,那么我們很容易被過度擬合。
        利用二元交叉熵對二項(xiàng)分類進(jìn)行分類。它的形式與伯努利分布的負(fù)對數(shù)相同。

        3.二項(xiàng)分布(離散)代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/binomial.py

        參數(shù)為 n 和 p 的二項(xiàng)分布是一系列 n 個(gè)獨(dú)立實(shí)驗(yàn)中成功次數(shù)的離散概率分布。
        二項(xiàng)式分布是指通過指定要提前挑選的數(shù)量而考慮先驗(yàn)概率的分布。

        4.多伯努利分布/分類分布(離散)代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/categorical.py

        多伯努利稱為分類分布。
        交叉熵和采取負(fù)對數(shù)的多伯努利分布具有相同的形式。

        5.多項(xiàng)式分布(離散)代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/multinomial.py

        多項(xiàng)式分布與分類分布的關(guān)系與伯努爾分布與二項(xiàng)分布的關(guān)系相同。

        6.β分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/beta.py

        β分布與二項(xiàng)分布和伯努利分布共軛。
        利用共軛,利用已知的先驗(yàn)分布可以更容易地得到后驗(yàn)分布。
        當(dāng)β分布滿足特殊情況(α=1,β=1)時(shí),均勻分布是相同的。

        7.Dirichlet 分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/dirichlet.py

        dirichlet 分布與多項(xiàng)式分布是共軛的。
        如果 k=2,則為β分布。

        8.伽馬分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/gamma.py

        如果 gamma(a,1)/gamma(a,1)+gamma(b,1)與 beta(a,b)相同,則 gamma 分布為β分布。
        指數(shù)分布和卡方分布是伽馬分布的特例。

        9.指數(shù)分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/exponential.py

        指數(shù)分布是 α 為 1 時(shí) γ 分布的特例。

        10.高斯分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/gaussian.py

        高斯分布是一種非常常見的連續(xù)概率分布。

        11.正態(tài)分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/normal.py

        正態(tài)分布為標(biāo)準(zhǔn)高斯分布,平均值為0,標(biāo)準(zhǔn)差為1。

        12.卡方分布(連續(xù))代碼:https://github.com/graykode/distribution-is-all-you-need/blob/master/chi-squared.py

        k 自由度的卡方分布是 k 個(gè)獨(dú)立標(biāo)準(zhǔn)正態(tài)隨機(jī)變量的平方和的分布。
        卡方分布是 β 分布的特例。

        13.t 分布(連續(xù))代碼https://github.com/graykode/distribution-is-all-you-need/blob/master/student-t.py

        t分布是對稱的鐘形分布,與正態(tài)分布類似,但尾部較重,這意味著它更容易產(chǎn)生遠(yuǎn)低于平均值的值。

        推薦閱讀


        添加極市小助手微信(ID : cvmart2),備注:姓名-學(xué)校/公司-研究方向-城市(如:小極-北大-目標(biāo)檢測-深圳),即可申請加入極市目標(biāo)檢測/圖像分割/工業(yè)檢測/人臉/醫(yī)學(xué)影像/3D/SLAM/自動(dòng)駕駛/超分辨率/姿態(tài)估計(jì)/ReID/GAN/圖像增強(qiáng)/OCR等技術(shù)交流群:每月大咖直播分享、真實(shí)項(xiàng)目需求對接、求職內(nèi)推、算法競賽、干貨資訊匯總、與?10000+來自港科大、北大、清華、中科院、CMU、騰訊、百度等名校名企視覺開發(fā)者互動(dòng)交流~

        △長按添加極市小助手

        △長按關(guān)注極市平臺,獲取最新CV干貨

        覺得有用麻煩給個(gè)在看啦~??
        瀏覽 49
        點(diǎn)贊
        評論
        收藏
        分享

        手機(jī)掃一掃分享

        分享
        舉報(bào)
        評論
        圖片
        表情
        推薦
        點(diǎn)贊
        評論
        收藏
        分享

        手機(jī)掃一掃分享

        分享
        舉報(bào)
        1. <strong id="7actg"></strong>
        2. <table id="7actg"></table>

        3. <address id="7actg"></address>
          <address id="7actg"></address>
          1. <object id="7actg"><tt id="7actg"></tt></object>
            国产精品婬乱一级毛片奶孩 | 欧美做爰猛烈床戏大尺度电影网盘 | 色资源在线观看 | 国产激情直播 | 久久久久成人片免费观看蜜芽 | 天天摸天天碰天天看 | 又黄又免费的动漫 | 爆乳尤物一区二区三区 | 我爱avav色av爱avav亚洲 | 欧美肉大捧一进一出 |