推荐：特征交叉

1 Factorized Machine (FM) 因式分解机

线性模型对输入的特征取加权和，作为对目标的预估。如果先做特征交叉，再用线性模型，通常可以取得更好的效果。如果做二阶特征交叉，那么参数量为O(特征数量平方)，计算量大，而且容易造成过拟合。因式分解机（Factorized Machine, FM）用低秩矩阵分解的方式降低参数量，加速计算。任何可以用线性模型（比如线性回归、逻辑回归）解决的问题，都可以用 FM 解决。

2 DCN 深度交叉网络

Deep & Cross Networks (DCN) 译作“深度交叉网络”，可以用于召回双塔模型、粗排三塔模型、精排模型。DCN 由一个深度网络和一个交叉网络组成，交叉网络的基本组成单元是交叉层 (Cross Layer)。这节课最重点的部分就是交叉层。

交叉层

交叉网络

DCN

3 LHUC (PPNet)

这节课介绍 LHUC 这种神经网络结构，可以用于精排。LHUC 的起源是语音识别，后来被应用到推荐系统，快手将其称为 PPNet，现在已经在业界广泛落地。
视频中遗漏一个细节：将LHUC用于推荐系统，门控神经网络（2 x sigmoid）的梯度不要传递到用户ID embedding特征，需要对其做 stop gradient。

4 SENet 和 Bilinear 交叉

这节课介绍几种方法：
SENet 是计算机视觉中的一种技术，可以用在推荐系统中对特征做动态加权。
双线性（bilinear）特征交叉可以提升排序模型的表现。有很多种 bilinear 交叉的方法。
FiBiNet 是将 SENet 与 Bilinear 模型结合。

SENet

Field间交叉

FiBiNet