仅少量视频观看数据,即可精准推断用户习惯:迁移学习架构PeterRec( 三 )


(a)冷用户推荐对比(b)人生状态预测
仅少量视频观看数据,即可精准推断用户习惯:迁移学习架构PeterRec
本文插图
图 4 PeterRec 在有无预训练下的预测效果 。 PeterZero 为无预训练初始化的 PeterRec
实验 2
以下是几种微调方式比较 , 如图 5 所示 。 图中证实 PeterRec 仅仅微调模型补丁和 softmax 层参数达到了跟微调所有参数一样的效果 , 但是由于仅有少数参数参与优化 , 可以很好的抗过拟合现象 。
(a)冷用户推荐对比(b)年龄状态预测
仅少量视频观看数据,即可精准推断用户习惯:迁移学习架构PeterRec
本文插图
图 5 各种微调方式 。 FineAll 微调所有参数 , FineCLS 只微调最后 softmax 层 , FineLast1 微调最后一个空洞卷积层 , FineLast2 微调最后两个空洞卷积层 。
实验 3
这一实验将 PeterRec 与常规的比较知名的 baseline 进行比较 , 包括冷启动推荐效果和用户画像预测效果 。 具体分析可参见原文分析 。
仅少量视频观看数据,即可精准推断用户习惯:迁移学习架构PeterRec
本文插图

仅少量视频观看数据,即可精准推断用户习惯:迁移学习架构PeterRec
本文插图
实验 4
在少量标签有效的情况下 PeterRec 效果 。 可以发现 PeterRec 不仅超过 FineAll , 而且相对于 FineAll 微调过程几乎不会出现过拟合现象 。
仅少量视频观看数据,即可精准推断用户习惯:迁移学习架构PeterRec
本文插图
图 6:少量 target 数据标签下 PeterRec vs. FineAll
研究团队同时也提到 , PeterRec 不仅可用于户论文中的实验 , 还能应用在很多领域 , 比如用来提前感知青少年心理健康 。 举个例子 , 通过 PeterRec , 仅需要知道少量青少年每天观看浏览视频的标签数据 , 就可以预测出该少年是否心理健康 , 是否存在暴力倾向阴郁等问题 , 从而提前告知父母以便提前采取措施 。
参考链接:
[1] A simple convolutional generative network for next item recommendation. Yuan, Fajie and Karatzoglou, Alexandros and Arapakis, Ioannis and Jose, Joemon M and He, Xiangnan, WSDM2019. [2] Future Data Helps Training: Modeling Future Contexts for Session-based Recommendation. Yuan, Fajie and He, Xiangnan and Jiang, Haochuan and Guo, Guibing and Xiong, Jian and Xu, Zhezhao and Xiong, Yilin. WWW2020