推荐系统 - DIN模型

2021-07-19  本文已影响0人  nlpming

1. 简介

Deep Interest Network(DIN)模型由阿里巴巴2018年发表在KDD 2018会议上。本文的主要动机是,将NLP中机器翻译的Attention机制引入CTR预估模型中,即在计算用户兴趣向量的时候,根据候选广告的不同从而动态的改变用户兴趣向量的值:计算候选广告A与用户历史交互的H个商品计算Attention权重,然后将H个商品向量加权平均得到用户兴趣向量。 本文的改进基于以下思考:
(1)兴趣多样性: 用户的兴趣是多样化的,比如对于一个电商系统,用户可能同时对很多东西感兴趣;
(2)局部聚焦性: 在预测用户是否点击某个广告/商品的时候,是根据用户历史与某类商品进行了交互;比如,一个用户是否会点击泳衣,是因为用户历史购买过泳镜,而不是因为她购买过外套。

2. DIN模型结构

2.1 Base Model

Base Model.png 特征集合.png

2.2 DIN Model

DIN Model.png

3. 训练优化

3.1 Mini-batch Aware Regularization [小批量感知正则化]

加入正则后参数更新公式.png

3.2 Data Adaptive Activation Function [数据自适应激活函数 - Dice]

PRelu激活函数.png Dice激活函数.png PRelu&Dice激活函数.png

4. 评价指标

RelaImpr计算公式.png

参考资料:

上一篇 下一篇

猜你喜欢

热点阅读