DLRM深度學(xué)習(xí)推薦模型

DLRM（Deep Learning Recommendation Model）是深度學(xué)習(xí)推薦模型的實(shí)現(xiàn)，用于個(gè)性化推薦。

該模型輸入有密集和稀疏的特性，前者是浮點(diǎn)值的向量，后者是嵌入表的稀疏索引列表，嵌入表由浮點(diǎn)值向量組成。所選擇的矢量被傳遞到由三角形表示的 mlp 網(wǎng)絡(luò)，在一些情況下，矢量通過(guò)操作符（Ops）進(jìn)行交互。

output:
                    probability of a click
model:                        |
                             /\
                            /__\
                              |
      _____________________> Op  <___________________
    /                         |                      \
   /\                        /\                      /\
  /__\                      /__\           ...      /__\
   |                          |                       |
   |                         Op                      Op
   |                    ____/__\_____           ____/__\____
   |                   |_Emb_|____|__|    ...  |_Emb_|__|___|
input:
[ dense features ]     [sparse indices] , ..., [sparse indices]

更精確的模型層定義：

1. 完全連接的 mlp 層

   z = f(y)

   y = Wx + b

2. 嵌入查找（對(duì)于稀疏索引列表 p=[p1,...,pk]）

   z = Op(e1,...,ek)

   obtain vectors e1=E[:,p1], ..., ek=E[:,pk]

3. Operator Op 可以是以下之一

   Sum(e1,...,ek) = e1 + ... + ek

   Dot(e1,...,ek) = [e1'e1, ..., e1'ek, ..., ek'e1, ..., ek'ek]

   Cat(e1,...,ek) = [e1', ..., ek']'

   其中，' 表示轉(zhuǎn)置操作

要求：

• pytorch-nightly (6/10/19)
• onnx (可選)
• torchviz (可選)