微信搜索:“微新工具”(新做了一个微信小程序,欢迎大家试用,提建议)

Wide&Deep的右边就是DNN部分,左边的FM Function用的是线性回归,其特征组合需要人去设计。
Wide&Deep模型。它混合了一个线性模型(Wide part)和Deep模型(Deep part)。这两部分模型需要不同的输入,而Wide part部分的输入,依旧依赖人工特征工程。
Wide&Deep模型
推荐系统和类似的通用搜索排序问题共有的一大挑战为同时具备记忆能力与泛化能力(同时获得推荐结果准确性和扩展性)。记忆能力可以解释为学习那些经常同时出现的特征,发掘历史数据中存在的共现性。泛化能力则基于迁移相关性,探索之前几乎没有出现过的新特征组合。基于记忆能力的推荐系统通常偏向学习历史数据的样本,直接与用户己经采取的动作相关;泛化能力相比记忆能力则更趋向于提升推荐内容的多样性。推荐的内容都是精准内容,用户兴趣收敛,无新鲜感,不利于长久的用户留存;推荐内容过于泛化,用户的精准兴趣无法得到满足,用户流失风险很大。相比较推荐的准确性,扩展性倾向与改善推荐系统的多样性。
例如:人脑可以记忆下每天发生的事情(麻雀可以飞,鸽子可以飞)然后泛化这些知识到之前没有看到过的东西(有翅膀的动物都能飞)。但是泛化的规则有时候不是特别的准,有时候会出错(有翅膀的动物都能飞吗),记忆可以修正泛化的规则。

1.3 Cross-product transformation
Wide中不断提到这样一种变换用来生成组合特征,也必须搞懂才行哦。它的定义如下:
k表示第k个组合特征。i表示输入X的第i维特征。C_ki表示这个第i维度特征是否要参与第k个组合特征的构造。d表示输入X的维度。那么到底有哪些维度特征要参

Wide&Deep模型结合了线性模型的记忆能力和深度学习的泛化能力,解决推荐系统中的准确性和扩展性问题。Wide部分利用交叉特征实现记忆,Deep部分通过嵌入学习未见过的特征组合。

1171

被折叠的 条评论
为什么被折叠?



