标签:MAMO 用户 start Meta 记忆 冷启动 embedding Recommendation 物品
动机
本文是2020年KDD上的一篇论文。当时的工作已经有不少方法使用元学习来缓解推荐系统冷启动问题,它们大部分都是基于MAML的,这种方法通常是为所有冷启动用户(物品)生成一个初始化向量,然后让这些冷启动用户(物品)经过少量训练就可以快速收敛到一个不错的值。但是上述这种方法会导致部分用户局部收敛,泛化性能较差。针对以上问题,本文作者提出了一种MAMO方法。
方法
本文提出的方法主要是额外引入了几个额外的记忆模块\(M=\{M_U,M_P,M_{U,I}\}\),分别表示用户embedding记忆、用户个人信息的记忆以及特定任务记忆。
以下是本方法的训练过程。
首先我们需要对训练集中的每个用户计算出一个个性化偏置项\(b_u\),这个偏置项可以帮助当前用户更快速适应推荐系统,由以下方法计算得出
之后是得到本地参数,这里用于计算物品embedding的参数和推荐部分的参数直接从全局参数获取,用于计算物品embedding的参数需要进行个性化处理
然后获取用户对应的特定任务记忆信息
接着进入本地更新,推荐模型首先需要获取用户和物品的embedding,这里\(p_u\)和\(p_i\)分别表示用户和物品的信息,将这些信息输入进全连接层获取embedding
之后将物品与用户embedding和用户对应的特定任务记忆信息输入进全连接层获取用户对物品的评分
更新本地参数。
训练集中所有用户进行本地更新后,再进行全局更新。
实验结果
作者在四种情况下进行实验,分别是:1.正常用户正常物品。2.正常用户冷启动物品。3.冷启动用户正常物品。4.冷启动用户冷启动物品。在冷启动场景下,MAMO表现优异。
总结
本文提出的MAMO关键在于使用了多个记忆模块,使得模型可以为每个用户生成更合适的初始值,增强了模型的泛化能力。这里可以从实验结果看出模型的效果有些情况下并没有基准模型好,还有一定的优化空间。
标签:MAMO,用户,start,Meta,记忆,冷启动,embedding,Recommendation,物品 来源: https://www.cnblogs.com/ambition-hhn/p/16578194.html
本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。