搜索黄色电影,亚洲第一区国产精品,高清无码免费手机在线看,91看片,黄污视频在线看,青青草人妻,一级黄色录像免费,www一级片

知乎專欄：數(shù)據(jù)拾光者
公眾號(hào)：數(shù)據(jù)拾光者

摘要：本篇從理論到實(shí)踐介紹了當(dāng)前很火的對(duì)比學(xué)習(xí)模型。首先介紹了背景，主要是對(duì)比學(xué)習(xí)大火的原因以及如何應(yīng)用到我們的實(shí)際業(yè)務(wù)中；然后從理論方面重點(diǎn)介紹了對(duì)比學(xué)習(xí)，包括對(duì)比學(xué)習(xí)的由來和目標(biāo)、對(duì)比學(xué)習(xí)的指導(dǎo)原則以及構(gòu)建模型的三個(gè)關(guān)鍵問題、對(duì)比學(xué)習(xí)分類，其中重點(diǎn)介紹了基于負(fù)例的對(duì)比學(xué)習(xí)方法中的SimCLR模型；最后介紹了微博將對(duì)比學(xué)習(xí)應(yīng)用到自然語言處理場(chǎng)景和多模態(tài)場(chǎng)景項(xiàng)目實(shí)踐。對(duì)于希望將對(duì)比學(xué)習(xí)應(yīng)用到實(shí)際項(xiàng)目中的小伙伴可能有所幫助。

下面主要按照如下思維導(dǎo)圖進(jìn)行學(xué)習(xí)分享：

背景介紹

1.1 當(dāng)前風(fēng)頭正勁的對(duì)比學(xué)習(xí)

最近一段時(shí)間對(duì)比學(xué)習(xí)(Contrastive Learning)風(fēng)頭正勁，不管是一線大神還是一線大廠，大家似乎都在討論對(duì)比學(xué)習(xí)，最直觀的現(xiàn)象就是關(guān)注的很多機(jī)器學(xué)習(xí)相關(guān)的公眾號(hào)都有發(fā)表對(duì)比學(xué)習(xí)相關(guān)的文章。緊跟技術(shù)前沿，我調(diào)研了很多對(duì)比學(xué)習(xí)相關(guān)的文章以及大廠關(guān)于對(duì)比學(xué)習(xí)的項(xiàng)目實(shí)踐整理成這篇文章，希望不僅可以了解對(duì)比學(xué)習(xí)的原理，而且可以將對(duì)比學(xué)習(xí)落地到我們的項(xiàng)目實(shí)踐并產(chǎn)出價(jià)值，讓技術(shù)為業(yè)務(wù)賦能。也希望機(jī)器學(xué)習(xí)相關(guān)的小伙伴能注重這種技術(shù)賦能業(yè)務(wù)的思維，技術(shù)尤其是機(jī)器學(xué)習(xí)相關(guān)的技術(shù)如果不能落地產(chǎn)生實(shí)際業(yè)務(wù)價(jià)值，那么這項(xiàng)技術(shù)的價(jià)值本身就會(huì)大打折扣。

1.2 對(duì)比學(xué)習(xí)大火的原因

對(duì)比學(xué)習(xí)突然在工業(yè)界和學(xué)術(shù)界大火主要原因在于：對(duì)比學(xué)習(xí)作為一種無監(jiān)督訓(xùn)練模型，在很多場(chǎng)景中效果已經(jīng)超過有監(jiān)督訓(xùn)練模型。在此之前先提一句有監(jiān)督學(xué)習(xí)模型和無監(jiān)督學(xué)習(xí)模型。有監(jiān)督學(xué)習(xí)模型需要一定的標(biāo)注數(shù)據(jù)，比如識(shí)別貓狗圖片的任務(wù)，需要提前標(biāo)注一批貓和狗的圖片提供給模型訓(xùn)練。而無監(jiān)督學(xué)習(xí)模型則不需要標(biāo)注數(shù)據(jù)。通常情況下有監(jiān)督學(xué)習(xí)模型的效果要優(yōu)于無監(jiān)督學(xué)習(xí)模型，因?yàn)榭梢酝ㄟ^標(biāo)注數(shù)據(jù)學(xué)習(xí)到有價(jià)值的信息。而有監(jiān)督學(xué)習(xí)模型的缺點(diǎn)在于模型的普適性效較差。而無監(jiān)督學(xué)習(xí)模型因?yàn)椴恍枰獦?biāo)注數(shù)據(jù)，所以模型的普適性較好，但是效果稍微差點(diǎn)。然后這時(shí)候作為無監(jiān)督學(xué)習(xí)模型的對(duì)比學(xué)習(xí)竟然在多個(gè)任務(wù)中模型效果要優(yōu)于有監(jiān)督學(xué)習(xí)模型，這種有點(diǎn)“反?！钡牟僮髯匀痪拖褚活w炸彈引爆了機(jī)器學(xué)習(xí)圈。這就是對(duì)比學(xué)習(xí)大火的主要原因。

1.3 在我們業(yè)務(wù)中應(yīng)用對(duì)比學(xué)習(xí)

對(duì)比學(xué)習(xí)最早是應(yīng)用在圖像領(lǐng)域，后來又快速擴(kuò)展到自然語言處理領(lǐng)域。對(duì)于我們實(shí)際項(xiàng)目中，可以利用對(duì)比學(xué)習(xí)更好的理解文本、圖片、視頻等item數(shù)據(jù)源，從而更好的為數(shù)據(jù)源打標(biāo)(item-tag任務(wù))，召回相似搜索(item-相似item任務(wù))，獲取更有價(jià)值的embedding向量用于下游擴(kuò)量任務(wù)等等。

詳解對(duì)比學(xué)習(xí)

2.1 對(duì)比學(xué)習(xí)的由來和目標(biāo)

說起對(duì)比學(xué)習(xí)，還必須先講講自然語言處理領(lǐng)域具有里程碑意義的BERT模型。BERT模型是典型的預(yù)訓(xùn)練和微調(diào)兩階段模型，因?yàn)樾Ч煤蛻?yīng)用范圍廣而大火，其中最重要的原因就是預(yù)訓(xùn)練階段通過海量的文本數(shù)據(jù)進(jìn)行無監(jiān)督訓(xùn)練學(xué)習(xí)語言學(xué)知識(shí)，然后通過遷移學(xué)習(xí)將預(yù)訓(xùn)練學(xué)到的知識(shí)應(yīng)用到下游任務(wù)中。所以通過無監(jiān)督學(xué)習(xí)利用海量的無標(biāo)簽數(shù)據(jù)非常重要。而圖像領(lǐng)域中的預(yù)訓(xùn)練主要是有監(jiān)督的預(yù)訓(xùn)練方式，一般是用有標(biāo)簽的數(shù)據(jù)集用ImageNet來進(jìn)行預(yù)訓(xùn)練。這里有監(jiān)督的預(yù)訓(xùn)練和無監(jiān)督的預(yù)訓(xùn)練最大的區(qū)別就在于數(shù)據(jù)集是否有標(biāo)簽，而這也是最重要的。深度學(xué)習(xí)之所以能取得如此傲人的戰(zhàn)績(jī)，在于可以使用更多的數(shù)據(jù)集。從BERT、GPT、RoBERTa到T5再到GPT2、GPT3等模型不斷的刷新很多任務(wù)的SOTA，一次次的說明使用更多的數(shù)據(jù)集可以有效提升模型的效果。對(duì)于無監(jiān)督學(xué)習(xí)模型來說使用更多的數(shù)據(jù)集根本不是問題，而對(duì)于有監(jiān)督學(xué)習(xí)模型來說簡(jiǎn)直就是噩夢(mèng)，因?yàn)闃?biāo)注成本是昂貴的，基本就限制了模型可用的數(shù)據(jù)規(guī)模。圖像領(lǐng)域的研究者們?yōu)榱讼馚ERT一樣構(gòu)建基于無監(jiān)督學(xué)習(xí)的預(yù)訓(xùn)練模型提出了對(duì)比學(xué)習(xí)，這就是對(duì)比學(xué)習(xí)的由來。

說完了對(duì)比學(xué)習(xí)的由來，那對(duì)比學(xué)習(xí)的目標(biāo)也就清楚了：和BERT模型類似，通過無監(jiān)督學(xué)習(xí)的方式利用海量的數(shù)據(jù)構(gòu)建預(yù)訓(xùn)練模型，從而獲取圖像的先驗(yàn)知識(shí)。然后通過遷移學(xué)習(xí)將獲取的圖像知識(shí)應(yīng)用到下游任務(wù)中。

2.2 圖像領(lǐng)域中的無監(jiān)督學(xué)習(xí)

前面也說過無監(jiān)督學(xué)習(xí)就是使用無標(biāo)簽的數(shù)據(jù)集來學(xué)習(xí)知識(shí)。圖像領(lǐng)域中的無監(jiān)督學(xué)習(xí)主要分成兩種：生成式無監(jiān)督學(xué)習(xí)和判別式無監(jiān)督學(xué)習(xí)。生成式無監(jiān)督學(xué)習(xí)主要包括變分自編碼器VAE和生成對(duì)抗網(wǎng)絡(luò)GAN，在圖像領(lǐng)域聽的比較多，他們的一個(gè)重要特征是要求模型重建圖像或者圖像的一部分。這類任務(wù)難度很高，需要像素級(jí)的重構(gòu)，中間的圖像編碼需要包含很多細(xì)節(jié)信息。相比于生成式無監(jiān)督學(xué)習(xí)來說，判別式無監(jiān)督學(xué)習(xí)則簡(jiǎn)單很多，對(duì)比學(xué)習(xí)就屬于判別式無監(jiān)督學(xué)習(xí)。

2.3 對(duì)比學(xué)習(xí)的指導(dǎo)原則以及構(gòu)建模型的三個(gè)關(guān)鍵問題

上面說過，對(duì)比學(xué)習(xí)屬于判別式無監(jiān)督學(xué)習(xí)，對(duì)比學(xué)習(xí)核心的指導(dǎo)原則是：通過構(gòu)造相似實(shí)例和不相似實(shí)例獲得一個(gè)表示學(xué)習(xí)模型，通過這個(gè)模型可以讓相似的實(shí)例在投影的向量空間中盡可能的接近，而不相似的實(shí)例盡可能的遠(yuǎn)離。

明確了對(duì)比學(xué)習(xí)的指導(dǎo)原則，要構(gòu)建對(duì)比學(xué)習(xí)模型就需要解決三個(gè)關(guān)鍵問題：第一個(gè)問題是如何構(gòu)造相似實(shí)例和不相似實(shí)例；第二個(gè)問題是如何構(gòu)造滿足對(duì)比學(xué)習(xí)指導(dǎo)原則的表示學(xué)習(xí)模型；第三個(gè)問題是如何防止模型坍塌(Modal Collapse)。至于這個(gè)防止模型坍塌就是要讓相似的實(shí)例在投影的空間中盡可能接近，不相似的盡可能遠(yuǎn)離。如果模型坍塌了，那么可能所有的實(shí)例都映射到了一個(gè)點(diǎn)，也就是一個(gè)常數(shù)。

2.4 對(duì)比學(xué)習(xí)分類

為了構(gòu)建滿足對(duì)比學(xué)習(xí)指導(dǎo)原則的模型，從防止模型坍塌的角度來說可以把現(xiàn)有的對(duì)比學(xué)習(xí)方法分成以下幾類：

基于負(fù)例的對(duì)比學(xué)習(xí)方法
基于對(duì)比聚類的對(duì)比學(xué)習(xí)方法
基于不對(duì)稱網(wǎng)絡(luò)結(jié)構(gòu)的對(duì)比學(xué)習(xí)方法
基于冗余消除損失函數(shù)的對(duì)比學(xué)習(xí)方法

2.5 基于負(fù)例的對(duì)比學(xué)習(xí)中的SimCLR

整體來看對(duì)比學(xué)習(xí)目前百花齊放，我們選一種最容易理解并且效果還不錯(cuò)的SimCLR模型進(jìn)行講解。SimCLR模型是Hinton在論文《A Simple Framework for Contrastive Learning of Visual Representations》中提出來的，屬于基于負(fù)例的對(duì)比學(xué)習(xí)方法。SimCLR模型容易理解主要是因?yàn)槟Ｐ筒捎脤?duì)稱結(jié)構(gòu)，整體簡(jiǎn)單清晰，奠定了對(duì)比學(xué)習(xí)模型的標(biāo)準(zhǔn)結(jié)構(gòu)。不僅如此，SimCLR模型效果還非常不錯(cuò)。后續(xù)很多的對(duì)比學(xué)習(xí)模型也是基于SimCLR進(jìn)行改造的。要講清楚SimCLR模型，最重要的是看它如何解決構(gòu)建對(duì)比學(xué)習(xí)的三個(gè)關(guān)鍵問題。

2.5.1 SimCLR構(gòu)造正例和負(fù)例

圖1 SimCLR構(gòu)造正例和負(fù)例

對(duì)于圖像領(lǐng)域來說，構(gòu)造正例和負(fù)例的方法是對(duì)一張圖片t進(jìn)行圖像增強(qiáng)，這里圖像增強(qiáng)可以是旋轉(zhuǎn)、亮度、灰度等操作，然后從增強(qiáng)之后的圖像數(shù)據(jù)集里面選擇兩張圖片t1和t2，訓(xùn)練的時(shí)候?qū)?shù)據(jù)對(duì)<t1,t2>作為正例，將batch里面其他的圖片s和t1(或者t2)構(gòu)建負(fù)例對(duì)<t1,s>。因?yàn)閷?duì)比學(xué)習(xí)的指導(dǎo)原則是希望得到一個(gè)表示學(xué)習(xí)模型，讓圖片映射到向量空間，使正例距離拉近，負(fù)例距離拉遠(yuǎn)。通過這種構(gòu)建正負(fù)例的方式可以讓模型學(xué)習(xí)到圖片內(nèi)在一致結(jié)構(gòu)信息，也就是某些類型的不變性，比如旋轉(zhuǎn)不變性、亮度不變性等等。同時(shí)SimCLR模型證明了使用更加復(fù)雜的圖像增強(qiáng)技術(shù)或者融合多種圖像增強(qiáng)技術(shù)可以提升對(duì)比學(xué)習(xí)任務(wù)的難度，從而有效提升模型的效果。

2.5.2 SimCLR構(gòu)造表示學(xué)習(xí)模型

上面已經(jīng)構(gòu)造好正負(fù)例，下面就是根據(jù)對(duì)比學(xué)習(xí)的指導(dǎo)原則來構(gòu)建表示學(xué)習(xí)模型，這個(gè)模型可以樣本映射到向量空間，并且使得相似的樣本距離盡可能近，不相似的樣本距離盡可能的遠(yuǎn)。下面是SimCLR模型結(jié)構(gòu)：

圖2 SimCLR模型結(jié)構(gòu)

SimCLR模型結(jié)構(gòu)基本上就是標(biāo)準(zhǔn)的雙塔結(jié)構(gòu)DSSM，關(guān)于雙塔結(jié)構(gòu)之前寫過一篇文章，感興趣的小伙伴可以去看看《廣告行業(yè)中那些趣事系列10：推薦系統(tǒng)中不得不說的DSSM雙塔模型》。從無標(biāo)簽訓(xùn)練集中隨機(jī)獲取N個(gè)數(shù)據(jù)集作為一個(gè)batch，對(duì)于batch里的任意圖片進(jìn)行圖像增強(qiáng)，根據(jù)上述方法構(gòu)造正負(fù)例，并形成兩個(gè)增強(qiáng)視圖Aug1和Aug2，增強(qiáng)視圖Aug1和Aug2分別包含N個(gè)增強(qiáng)的數(shù)據(jù)。因?yàn)樯舷聝蓚€(gè)塔是標(biāo)準(zhǔn)對(duì)稱的，所以只需要說明塔1就可以了。圖像數(shù)據(jù)會(huì)經(jīng)過一個(gè)編碼器encoder，一般情況是ResNet模型，經(jīng)過CNN操作之后會(huì)得到隱層向量hi；然后經(jīng)過另一個(gè)非線性變換結(jié)構(gòu)projector得到向量zi，其中projector結(jié)構(gòu)是由[FC->BN->ReLU->FC]兩層MLP構(gòu)成。也就是經(jīng)過兩次非線性變換先將圖片樣本轉(zhuǎn)換成hi，再轉(zhuǎn)換成zi，就將圖片映射到了表示空間。

2.5.3 SimCLR防止模型坍塌

將圖片映射到向量空間之后，下一步就是讓正例的距離盡量拉近，負(fù)例的距離盡量拉遠(yuǎn)，也就是SimCLR模型如何防止模型坍塌，這里需要通過定義損失函數(shù)來實(shí)現(xiàn)。SimCLR使用InfoNCE loss作為損失函數(shù)，對(duì)于單個(gè)實(shí)例i來說InfoNCE loss計(jì)算公式如下：

圖3 InfoNCE損失函數(shù)計(jì)算公式

通過InfoNCE損失函數(shù)公式可以看出，分子正例樣本對(duì)<zi,zi+>的距離越近loss越小，對(duì)應(yīng)的分母負(fù)例樣本對(duì)<zi,zj>距離越大loss越小。通過這種方式可以滿足對(duì)比學(xué)習(xí)拉近正例疏遠(yuǎn)負(fù)例的指導(dǎo)原則。具體計(jì)算向量之間的距離主要是對(duì)表示向量進(jìn)行L2正則化后進(jìn)行點(diǎn)擊相乘，下面是計(jì)算兩個(gè)向量之間距離的公式：

圖4 計(jì)算兩個(gè)向量之間的距離

通過上述介紹我們了解了對(duì)比學(xué)習(xí)實(shí)現(xiàn)了通過無監(jiān)督學(xué)習(xí)的方式利用海量的數(shù)據(jù)用于模型預(yù)訓(xùn)練流程，并且學(xué)習(xí)得到的向量可以滿足對(duì)比學(xué)習(xí)讓正例距離盡量相近，負(fù)例距離盡量拉遠(yuǎn)的指導(dǎo)原則。

2.5.4 SimCLR最大的貢獻(xiàn)

說到SimCLR最大的貢獻(xiàn)，要先提下SimCLR的模型結(jié)構(gòu)。SimCLR將圖片樣本經(jīng)過特征編碼器encoder得到隱層向量hi，然后再經(jīng)過一次非線性變化projector將hi向量轉(zhuǎn)化成向量zi，相當(dāng)于做了兩次非線性變換。但是了解BERT的小伙伴都知道，我們將BERT作為編碼器進(jìn)行編碼之后會(huì)直接接入下游任務(wù)相關(guān)的網(wǎng)絡(luò)層。關(guān)于SimCLR模型為什么要加入projector，SimCLR論文中對(duì)encoder和projecter的編碼差異化進(jìn)行了實(shí)驗(yàn)，結(jié)論是encoder之后的特征向量中包含很多圖像增強(qiáng)信息。經(jīng)過projector之后可以將一部分圖像增強(qiáng)的信息過濾掉。相當(dāng)于為了構(gòu)建無監(jiān)督學(xué)習(xí)模型，SimCLR需要通過圖像增強(qiáng)來構(gòu)建正負(fù)例，而這種方法引入了額外的圖像增強(qiáng)相關(guān)的信息。為了過濾掉這些信息，會(huì)在encoder之后添加projector，從而將這些額外增加的信息過濾掉。最后的實(shí)驗(yàn)結(jié)果也證明添加projector結(jié)構(gòu)可以提升模型的效果。

介紹projector結(jié)構(gòu)的原因是SimCLR模型最大的貢獻(xiàn)之一就是添加了projector結(jié)構(gòu)，除此之外還證明了復(fù)合圖像增強(qiáng)可以有效提升模型的效果。

小結(jié)下，本節(jié)首先介紹了對(duì)比學(xué)習(xí)的由來和目標(biāo)，然后介紹了圖像領(lǐng)域中兩種無監(jiān)督學(xué)習(xí)方式，分別是生成式無監(jiān)督學(xué)習(xí)和判別式無監(jiān)督學(xué)習(xí)；接著介紹了對(duì)比學(xué)習(xí)的指導(dǎo)原則以及構(gòu)建模型的三個(gè)關(guān)鍵問題，分別是如何構(gòu)造相似實(shí)例和不相似實(shí)例、如何構(gòu)造表示學(xué)習(xí)模型以及如何防止模型坍塌；最后介紹了對(duì)比學(xué)習(xí)分類，并詳細(xì)介紹了其中最經(jīng)典的基于負(fù)例的對(duì)比學(xué)習(xí)中的SimCLR模型。

大廠關(guān)于對(duì)比學(xué)習(xí)實(shí)踐

上一節(jié)重點(diǎn)介紹了對(duì)比學(xué)習(xí)相關(guān)的理論知識(shí)，下面從實(shí)踐的角度講下一線大廠關(guān)于對(duì)比學(xué)習(xí)的實(shí)踐。微博將對(duì)比學(xué)習(xí)落地到自然語言處理領(lǐng)域和多模態(tài)領(lǐng)域，并產(chǎn)生了不錯(cuò)的線上效果。

3.1 自然語言處理場(chǎng)景

微博在自然語言處理場(chǎng)景中利用對(duì)比學(xué)習(xí)構(gòu)建了CD-TOM模型(Contrastive Document-Topic Model)。將同一微博中的<文檔,話題>數(shù)據(jù)對(duì)作為訓(xùn)練數(shù)據(jù)通過對(duì)比學(xué)習(xí)構(gòu)建表示學(xué)習(xí)模型，將微博正文和話題映射到同一表示空間中，從而使得語義相近的正文和話題距離拉近，語義不相近的距離拉遠(yuǎn)。通過這種方式可以獲得微博正文和話題的高質(zhì)量embedding用于下游任務(wù)中。CD-TOM模型結(jié)構(gòu)如下圖所示：

圖5 CD-TOM模型結(jié)構(gòu)

可以看出CD-TOM模型結(jié)構(gòu)和SimCLR相似，采用了典型的batch內(nèi)負(fù)例的對(duì)比學(xué)習(xí)方法。使用BERT作為encoder，之后會(huì)對(duì)句中每個(gè)單詞對(duì)應(yīng)Embedding累加后求均值（TAP, Token Average Pooling）操作。因?yàn)槲⒉┑乃惴üこ處熣J(rèn)為在文本表示時(shí)BERT的[CLS]向量表征文本內(nèi)容的效果不佳，使用TAP操作或者將第一層Transformer和最后最一層Transformer得到的字向量累加之后再進(jìn)行TAP操作效果可能更好(這里原因猜測(cè)是第一層Transformer之后的embedding向量包含更多的詞向量信息，最后一層Transformer之后的embedding向量包含更多語句向量信息，將兩者累加之后可以最大程度上保留詞和語句的向量信息)。這個(gè)有一定的借鑒意義，之前在文本分類場(chǎng)景汽車分類器的優(yōu)化實(shí)驗(yàn)中其實(shí)有對(duì)比過[CLS]向量和最后一層Transformer之后得到的向量進(jìn)行Average、Sum等Pooling操作對(duì)文本分類效果的影響，當(dāng)時(shí)的實(shí)驗(yàn)結(jié)論是影響不大，可能因?yàn)楫?dāng)時(shí)訓(xùn)練數(shù)據(jù)集規(guī)模不大，后面可以進(jìn)行更加深入的嘗試。

和SimCLR模型不同的是CD-TOM并沒有使用projector結(jié)構(gòu)，根據(jù)微博算法工程師的解釋說添加projector結(jié)構(gòu)對(duì)模型導(dǎo)致負(fù)向效果。這里是否需要使用projector結(jié)構(gòu)應(yīng)該和實(shí)際項(xiàng)目相關(guān)，通過實(shí)驗(yàn)的方式來決定會(huì)更加合理，并不一定需要完全照搬SimCLR模型。

3.2 多模態(tài)場(chǎng)景

微博在多模態(tài)場(chǎng)景中構(gòu)建了多模態(tài)模型W-CLIP(Weibo-CLIP)，模型結(jié)構(gòu)基本和CD-TOM保持一致，只不過是用于構(gòu)建微博正文和圖片的對(duì)比表示學(xué)習(xí)模型。W-CLIP模型結(jié)構(gòu)如下圖所示：

圖6 W-CLIP模型結(jié)構(gòu)

從上圖中可以看出W-CLIP模型結(jié)構(gòu)涉及兩種模態(tài)數(shù)據(jù)：微博正文和圖片。微博正文塔還是使用BERT作為編碼器encoder，圖片塔則使用ResNet作為encoder，其他基本不變。通過W-CLIP模型可以將微博正文和圖片映射到同一表示空間，得到微博正文和圖片的高質(zhì)量embedding向量用于下游任務(wù)。

關(guān)于對(duì)比學(xué)習(xí)的實(shí)踐主要是介紹了微博的項(xiàng)目，后續(xù)我們也會(huì)將對(duì)比學(xué)習(xí)應(yīng)用到實(shí)際業(yè)務(wù)場(chǎng)景中，比如item數(shù)據(jù)源打標(biāo)、相似item召回以及應(yīng)用到下游擴(kuò)量模型的實(shí)踐等。

總結(jié)和反思

本篇從理論到實(shí)踐介紹了當(dāng)前很火的對(duì)比學(xué)習(xí)模型。首先介紹了背景，主要是對(duì)比學(xué)習(xí)大火的原因以及如何應(yīng)用到我們的實(shí)際業(yè)務(wù)中；然后從理論方面重點(diǎn)介紹了對(duì)比學(xué)習(xí)，包括對(duì)比學(xué)習(xí)的由來和目標(biāo)、對(duì)比學(xué)習(xí)的指導(dǎo)原則以及構(gòu)建模型的三個(gè)關(guān)鍵問題、對(duì)比學(xué)習(xí)分類，其中重點(diǎn)介紹了基于負(fù)例的對(duì)比學(xué)習(xí)方法中的SimCLR模型；最后介紹了微博將對(duì)比學(xué)習(xí)應(yīng)用到自然語言處理場(chǎng)景和多模態(tài)場(chǎng)景項(xiàng)目實(shí)踐。對(duì)于希望將對(duì)比學(xué)習(xí)應(yīng)用到實(shí)際項(xiàng)目中的小伙伴可能有所幫助。

參考文獻(xiàn)

[1] A Simple Framework for ContrastiveLearning of Visual Representations

[2] 對(duì)比學(xué)習(xí)（ContrastiveLearning）:研究進(jìn)展精要

[3] 如何利用噪聲數(shù)據(jù)：對(duì)比學(xué)習(xí)在微博場(chǎng)景的應(yīng)用

碼字不易，歡迎小伙伴們點(diǎn)贊和分享。

国产秋霞理论久久久电影-婷婷色九月综合激情丁香-欧美在线观看乱妇视频-精品国avA久久久久久久-国产乱码精品一区二区三区亚洲人-欧美熟妇一区二区三区蜜桃视频

風(fēng)頭正勁的對(duì)比學(xué)習(xí)和項(xiàng)目實(shí)踐