推荐系统排序阶段与DeepFM
解释推荐系统排序阶段的常见模型,重点介绍DeepFM如何自动学习特征交互。
回答
Yahuda
排序(Ranking) 阶段对召回候选精细打分,预估CTR/CVR。
经典模型演进:
- FM (Factorization Machine):二阶特征交互,公式
ŷ = w₀ + Σwᵢxᵢ + ΣΣ<vᵢ,vⱼ>xᵢxⱼ - Wide & Deep (Google, 2016):Wide部分记忆低频特征组合,Deep部分泛化未见过组合
- DeepFM (Huawei, 2017):统一Wide&Deep,用FM替代Wide侧
DeepFM架构:
- FM部分:一阶+二阶特征交互(共享Embedding)
- Deep部分:DNN学习高阶特征交互
- 联合训练:
ŷ = sigmoid(y_FM + y_DNN),端到端
优势:
- 无需手工特征工程
- FM捕获低阶交互,DNN捕获高阶交互
- 共享Embedding减少参数量
后续发展:
- xDeepFM:引入Compressed Interaction Network (CIN) 显式学习向量级交互
- DIN (Deep Interest Network):引入注意力机制,关注用户历史行为中与候选物品相关的部分
- DIEN:用GRU建模用户兴趣演化
- 多目标排序:MMOE/PLE处理多种目标(点击、时长、互动等)