文 | 七月在線
編 | 小七

搜索帶著 query 來的，結(jié)果與之相關(guān)性越高越好，不用太關(guān)心結(jié)果的多樣性
推薦頁用戶沒有明確的目的，但是有興趣偏好和對結(jié)果的多樣性需求，推薦既要準確又要多樣化。

主要包括兩大部分：離線部分、在線部分，其中離線部分目標主要是訓(xùn)練出可用模型，而在線部分則考慮模型上線后，性能可能隨時間而出現(xiàn)下降，弱出現(xiàn)這種情況，可選擇使用Online-Learning來在線更新模型

1. 樣本歸一化。即在樣本維度上進行歸一化（除以樣本的模），否則容易造成數(shù)據(jù)溢出，梯度計算失?。?br>2. 特征歸一化。為了消除不同特征取值范圍不同，量綱不同造成的問題，需要對特征進行歸一化，即在每個特征維度上進行歸一化，使得各特征的取值范圍都在0到1之間；
3. Early stopping。一定要設(shè)置早停策略，F(xiàn)FM很容易過擬合；
4. 省略零值特征。零值特征對模型沒有任何貢獻，無論是1次項還是2次項都為0，這也是稀疏樣本采用FFM的顯著優(yōu)勢。

解析：

DSSM（Deep Structured Semantic Models）的原理很簡單，通過搜索引擎里 Query 和 Title 的海量的點擊曝光日志，用 DNN 把 Query 和 Title 表達為低緯語義向量，并通過 cosine 距離來計算兩個語義向量的距離，最終訓(xùn)練出語義相似度模型。該模型既可以用來預(yù)測兩個句子的語義相似度，又可以獲得某句子的低緯語義向量表達。

優(yōu)點:DSSM 用字向量作為輸入既可以減少切詞的依賴，又可以提高模型的范化能力，因為每個漢字所能表達的語義是可以復(fù)用的。另一方面，傳統(tǒng)的輸入層是用 Embedding 的方式（如 Word2Vec 的詞向量）或者主題模型的方式（如 LDA 的主題向量）來直接做詞的映射，再把各個詞的向量累加或者拼接起來，由于 Word2Vec 和 LDA 都是無監(jiān)督的訓(xùn)練，這樣會給整個模型引入誤差，DSSM 采用統(tǒng)一的有監(jiān)督訓(xùn)練，不需要在中間過程做無監(jiān)督模型的映射，因此精準度會比較高。

缺點：DSSM 采用詞袋模型（BOW），因此喪失了語序信息和上下文信息。另一方面，DSSM 采用弱監(jiān)督、端到端的模型，預(yù)測結(jié)果不可控。