【论文阅读】Equivariant Contrastive Learning for Sequential Recommendation-CSDN博客

1. 来源

• 2023-RecSys
• https://github.com/Tokkiu/ECL

2. 介绍

对比学习CL有利于对具有信息性自我监督信号的顺序推荐模型的训练。

• 现有的解决方案应用一般的顺序数据增强策略来生成正对并鼓励它们的表示是不变的。
• 然而由于用户行为序列的固有属性一些增强策略如项目替代可能会导致用户意图的改变。对所有增强策略学习不加选择的不变表示可能是次优的。

因此作者提出了顺序推荐的等变对比学习ECL-SR它赋予SR模型具有强大的鉴别能力使学习到的用户行为表征对侵入性增强例如项目替代敏感而对轻度增强例如特征水平的退出掩蔽不敏感。详细地说作者使用条件鉴别器来捕获由于项目替代而导致的行为差异这鼓励了用户行为编码器与侵入性增强是等变的。在四个基准数据集上的综合实验表明所提出的ECL-SR框架与最先进的SR模型相比具有具有竞争力的性能。

顺序推荐的目的是通过从用户与项目的交互序列中了解用户的动态偏好来预测给定用户可能感兴趣的下一个项目。顺序推荐作为一种重要的推荐范式在电子商务、社交媒体、视频网站等多个Web服务领域中发挥着至关重要的作用。尽管近年来有了广泛的研究和重大的进展但顺序推荐仍然面临着一个重大的挑战

• 数据的稀疏性。

这个问题的出现是因为作为顺序推荐基础的用户-项目交互数据与大量的用户和项目即数百万个用户或项目相比通常是有限的。为了解决这一挑战自监督学习SSL近年来通过从原始用户-项交互数据中挖掘自监督信号来缓解数据稀疏性问题从而引起了越来越多的关注。因此近年来各种研究通过将SSL纳入顺序推荐来开发更准确的顺序推荐系统。这些研究一般都集中于探索各种数据增强策略以丰富和增强推荐系统的输入数据从而提高其推荐性能。例如

• S3Rec 是第一个利用项目掩蔽和裁剪技术来增强用户的顺序交互数据并为顺序的模型预训练设计相应的借口任务推荐。
• CL4SRec 应用三种基于序列的操作来进行数据增强以提高顺序推荐的性能项屏蔽、序列重新排序和序列裁剪。
• DuoRec 进一步结合了无监督和有监督的数据增强方法以减轻顺序推荐中的表示退化。

根据增强对象现有的增强策略可以分为两类

• 序列级增强如图1(a)所示的项目裁剪
• 特征级增强如图1(b)所示的辍学

前者直接作用于用户-项目交互序列而后者作用于潜在特征空间。直观地说序列级别上的增强更有可能导致显著的语义转移即导致与原始用户行为的意外偏差因此作者将它们定义为“侵入性的”增强。相比之下与序列级的增强相比特征级别的增强对语义的影响更容易控制因此特征级的增强被认为是“温和的”。这两类增强在现有的对比学习框架中被不加区分地使用它鼓励学习到的用户行为表示对增强策略引起的变化是不变的。在这里“不变”是指从原始实例中学习到的代表以及通过对比学习从相应的增强实例中学习到的代表是相似的。然而这种顺序推荐的不变对比学习范式的基本原理仍需进一步研究。事实上作者观察到使用侵入性增强策略从相同的原始实例中产生的不同的积极实例在语义上可能不是“相同的”。其主要原因是

• 侵入性的增强方法如项目裁剪、插入和替换可能会打破原始用户-项目交互序列中存在的项目之间的关键关联。
• 例如如图1 (a)所示当作者将随机项目裁剪应用于用户行为序列(即“智能手机耳机、口红、衬衫、袜子、运动鞋”)这两个产生了积极的实例“智能手机、耳机、口红”和“口红、衬衫、袜子、运动鞋”没有相同的语义。前者主要关注数字产品而后者主要关注服装。由于短的交互序列的更脆弱这个问题可能会变得更糟。

为了实证验证上述观察结果作者研究了一种典型的不变对比学习ICL称为CL4SRec 的方法它的主要目的是学习由不同的增强策略生成的积极实例的不变表示。使用 CL4SRec 为骨干作者比较了不同序列级侵入性增强和特征级轻度增强的不变对比学习的性能。

• 关于增强功能的详细介绍可以在Sec 2.2中找到。
• 如图1 ©所示带有附加特征级增强黄条的CL4SRec [50]的性能始终优于基本模型用虚线表示。然而当CL4SRec中使用的特性级增强被序列级增强所取代时性能绿条就不那么令人满意了1。序列级的增强不能持续地提高推荐性能有时甚至会降低推荐性能。实证研究表明当前的不变对比学习范式更适合于在特征水平上进行的轻度增强。

因此一个自然的问题出现了

• 作者如何构建一个更可靠的对比学习框架受益于温和的特征级增强和侵入性的序列级增强以进一步提高顺序推荐的性能

为了弥补这一重大差距本文提出了一个新的框架称为顺序推荐的等变对比学习ECL-SR。ECL-SR 能够基于温和的特征级增强和侵入性的序列级增强构建强大的对比学习以学习更多的信息表示。ECL-SR 背后的核心思想是学习序列表示可以识别侵入性序列级增强引起的差异的不变性同时保留不变性学习。在数学上ECL-SR 在一个统一的框架内利用温和的和侵入性的增强以鼓励对比学习的不变性和等方差特性来学习信息更丰富的表示。不变性使表征对非必要的变化不敏感而等方差则鼓励表征在响应增强时发生可预测的变化。具体来说ECL-SR分别通过对轻度增强和侵袭性增强采用对比性损失等预测损失来学习不变性和等方差。图2说明了等变对比学习和不变约束学习之间的联系。事实上不变约束学习可以看作是等变对比学习的一种特殊情况作者在第3.1节对此进行详细讨论。

在四个基准数据集上的实验表明ECL-SR 有效地利用了温和增强和等变对比学习的侵入性增强之间的互补性优于基本SR模型和基于不变对比学习的SR模型。此外作者还探讨了各种增强策略的有效性以及ECL-SR中成分和超参数的影响。

作者的主要贡献可以总结如下

• 作者提出了ECL-SR框架它有效地利用温和和侵入性的增强来丰富用户的行为表示。
• 作者进一步实例化了ECL-SR框架将退出作为轻度增强将掩盖项目替代作为侵入性增强说明了这两种增强之间的协同效应。
• 作者使用了一种生成器-鉴别器架构来实现屏蔽项替代并捕获原始交互序列与其增强的对应序列之间的用户行为差异从而促进了侵入性增强的等方差的学习。
• 作者在4个基准SR数据集上进行了全面的实验证明了ECL-SR比经典SR模型和最先进的基于对比学习的SR模型的优势。

3. 前置工作

3.1 序列推荐的目标

3.2 数据增强策略

1给定原始用户序列 $S_u$可以采用几种随机序列级侵入性增强策略

• 插入
  • 它首先在 $S_u$ 中随机选择一个位置然后将从其他用户的交互历史中随机选择的一个项目插入到该位置中。该策略在序列上执行多次以生成一个增强版本。增强的例子可以表示为
    
• 删除
  • 它随机删除原始序列中的一个项目并重新运行该操作形成一个增广序列
    
• 替换
  • 它从 $S_u$ 中随机选择一部分项目被替换为 𝑙𝑟。𝑙𝑟 中的项目是从 $S_u$ 的所有阴性样本中随机选择的。替代比率根据经验设置为0.2。被替换序列的一个例子如下
    
• 裁剪
  • 它从 $S_u$ 中随机选择一个从位置 𝑖 到 𝑖+𝑙𝑐 的连续子序列并删除它。作物长度𝑙𝑐由 𝑙𝑐 = 𝛼 |$S_u$| 定义其中经验为𝛼= 0.8。裁剪序列的一个例子如下所示
    
• 重新排序
  • 它从 $S_u$ 的 𝑖 到 𝑖+𝑙𝑐 位置随机选择一个连续的子序列并对其进行洗牌。重排序的长度𝑙𝑐由 𝑙𝑐 = 𝛼 |$S_u$| 定义其中经验为𝛼= 0.2。重新排序序列的一个例子如下图所示
    

2给定用户表示 ℎ𝑢可以应用以下温和的增强策略

• 扰动

  • 根据表示 ℎ𝑢 得到随机噪声进行增强。形式上给定在𝑑维嵌入空间中的 ℎ𝑢扰动操作可以通过以下方式实现
    
    噪声向量Δ受以下约束条件
    
    正如在SimGCL 中所阐述的这些约束有助于控制 Δ 的大小和偏差 ℎ𝑢这有助于保留来自原始表示的大部分信息同时保持一些方差。注意对于每一种表示添加的随机噪声是不同的。

• 规范化

  • 它直接在ℎ𝑢上应用规范化操作。该操作保留了原始表示的大部分信息同时也以一种温和的方式调整了整个表示空间以生成正样本。与此同时它有助于减轻人气流行偏见正如之前的 NISER 所示。该操作的实施方式如下
    

3.3 序列推荐的不变对比学习

在本节中作者将描述现有的工作如何将不变对比学习应用于顺序推荐。这些方法背后的基本思想是引入一个辅助任务和一个CL损失例如InfoNCE 损失来帮助挖掘自我监督信号。具体来说如图2所示不同的数据增强方法(侵入性或轻度如Sec 1)应用于原始序列以生成正视图2。相应地来自不同序列的视图被认为是负的。然后利用CL损失将正视图拉近将负视图与嵌入空间分开。这从本质上鼓励了用户序列编码器对各种数据增强方法不敏感从而导致更一般化的用户行为表示。推荐任务和辅助任务通常联合训练如下

---

4. 方法介绍

4.1顺序推荐的等变对比学习

基于不变对比学习的SR方法鼓励所有对用户序列增强方法不敏感的表示。其有效性的一个关键前提是所选择的增强方法只在原始序列中引入非必要的变化而不改变语义。

• 然而一些侵入性增强方法如随机作物和替代容易违反这一前提从而影响不变对比学习对SR的有效性。

在本文中作者提出训练一个神经网络来敏感地检测由侵入性增强引起的差异。为了实现这一点作者将不变对比学习推广到SR的等变对比学习ECL中。作者在图2中展示了该框架的高级结构。上部用于学习轻度增强的不变性下部分用于预测学习等方差的侵入性增强。

等变的概念可以定义为

𝑔∈𝐴是一组侵入性数据增强方法T𝑔𝕊𝑢表示的函数𝑔增强输入用户交互序列𝕊𝑢𝑓𝜃用户行为编码器编码动态用户兴趣行为表示𝑓𝜃𝕊𝑢和T𝑔”表示一个固定的转换3。值得注意的是ICL方法本质上是ECL-SR的一个子例其中标识函数用于T𝑔‘因此

最后ECL-SR对用户序列𝕊𝑢的优化目标如下4

其中ˆ𝕊1𝑢和ˆ𝕊2𝑢是使用温和增强方法生成的两个积极视图𝑔从侵入性增强方法中采样𝜙𝜁·表示识别侵入性增强的预测头𝛼和𝛽是平衡超参数的。L𝐸𝐶𝐿的目标是使用预测头部输出𝜙𝜁𝑓𝜃T𝑔𝕊𝑢来预测侵入性增强𝑔这鼓励共享编码器与侵入性增强等变。

在下面的章节中作者将详细解释ECL-SR框架以及如何实现它。图3显示了实例化的ECL-SR的总体结构它由三个主要组件组成

• 用户行为编码器UBE
• 生成器(G)
• 条件鉴别器CD。

UBE的主要目标是从用户交互中捕获关键模式并向用户推荐最合适的项目。

• 作者在UBE中引入了ICL它有助于学习不变的特征以进行温和的增强。鼓励使用G和CD来学习等方差。
• 在实现中作者用SASRec分别为𝑓𝜃·和𝑓D·实例化 UBE 和 CDG与BERT4Rec分别为𝑓G·它由几个堆叠的自注意块组成。
• 基于之前的研究作者分别选择退出掩蔽和项目替代作为轻度和侵入性增强的例子。
• 作者还进行了综合性的实验并分析该框架中更多的增强组合。

4.2 轻度增强的学习不变性

为了鼓励从 UBE 生成的表征对轻度增强不敏感作者对UBE采用了不变对比学习如图3的左分支所示。具体来说作者通过应用特征级的辍学屏蔽作为默认的轻度增强来生成正实例 𝕊+𝑢。该批次中的其他样品被视为阴性实例。首先利用用户行为序列 𝕊𝑢 的潜在表示 h𝑢𝑡=𝑓𝜃{𝑣𝑢𝑗}𝑡𝑗=1受前人的启发作者取最后一个𝑘表示的平均值得到一个聚合表示h𝑢与窗口大小𝑘如下

类似地作者使用相同的策略来获得 𝕊+𝑢 的聚合表示 h+𝑢。然后采用InfoNCE损失将正实例更近将负实例推到语义空间中可以表示为

其中𝑀𝑢为包含𝑢的小批处理中的用户𝑠𝑖𝑚··为余弦相似度函数𝜏为温度。

4.3 侵入式增强的学习等变性

预测侵入性增强的一个简单解决方案是在方程3中使用一个简单的线性层作为预测头𝜙𝜁·当被破坏的序列容易重构时这可能是次优的。为了提高模型学习等方差的能力作者采用了一种受启发的生成器-鉴别器结构来获得硬侵入性增广视图。

生成器的目标是产生“硬”正序列与原始序列相比有微小的差异而鉴别器的目标是准确地检测到由生成器引入的最轻微的变化。为此采用替换项目检测损失RIDL作为预测损失关于掩码项目的替代以促进等方差的学习。下面是一个如何学习使用生成器-鉴别器结构的项目替换的等方差的例子

• 给定一个用户行为序列 𝕊𝑢=[𝑣𝑢1𝑣𝑢2……𝑣𝑢𝐿]作者首先用掩码比率 𝛾 随机屏蔽 𝕊𝑢 的几个项目。掩蔽的交互序列可以表示为𝕊‘𝑢=𝑚𝑢·𝕊𝑢其中 𝑚𝑢 =[𝑚𝑢1𝑚𝑢2…𝑚𝑢𝐿]和 𝑚𝑢𝑡 ∈{0,1}。
• 然后作者使用 BERT4Rec [40]作为生成器 𝑓G·恢复𝕊‘𝑢 中的随机掩码项以获得部分替换的用户交互序列 𝕊𝑢’‘=𝑓G𝕊’𝑢。利用该方法作者构造了具有较小语义扰动的假交互序列这对鉴别器正确识别被替代的条目提出了挑战。生成器接受的训练带有以下损失
  
  其中𝕊𝑚𝑢 是𝕊‘𝑢中的掩蔽项集合𝑣𝑚* 表示掩蔽项 𝑣𝑚 的地面真实项𝑝·是与式1相同的函数。
• 条件鉴别器CD的目的是针对UBE h𝑢𝑡=𝑓𝜃{𝑣𝑢𝑗}𝑡𝑗=1的输出表示作为条件执行替换项目检测RID任务。通过这种方式CD的梯度传播回UBE这鼓励UBE生成更多信息的用户行为表示因此CD可以区分𝕊𝑢和𝕊𝑢之间的微小差异。在作者的实现中作者使用SASRec [24]块和一个额外的MLP层来实例化CD表示为𝑓D·。作者使用连接等聚合函数将条件信息注入到区分建模过程中。对于用户序列中的每个项CD需要预测它是否已被替换。作者计算交叉熵损失如下
  
  其中w是一个可学习的参数矩阵𝜎表示s型函数𝑣𝑡𝑢‘’∈𝕊𝑢‘’。

为什么所提出的ECL-SR可以实现等方差

• 等变性是当一个群变换T𝑔应用于输入序列𝕊𝑢时得到的输出特征也经过相应的变换T𝑔‘。
• 在ECL-SR等变性是因为设计生成器和条件鉴别器可以鼓励用户行为编码器检测语义变化即区别T𝑔𝕊𝒖和原始序列𝕊𝑢造成的侵入性增强而不是忽略它们理论上支持最近的工作在计算机视觉。需要注意的是我们提出的 ECL-SR 不同于之前关于变性的工作因为它只通过选择损失函数RIDL来鼓励等变性质而不是强制执行严格的等变性。为此ECL-SR将每种类型的侵入性增强视为一个组并使用一个条件鉴别器来预测输入序列中的增强例如项目替代的存在。

4.4 优化

4.4.1 模型训练和推理

• 在训练阶段项目嵌入是跨所有三个模块共享的。用户行为编码器和鉴别器的参数除了RID的额外线性层外也被共享以避免过拟合。ECL-SR模型的所有组件都以端到端的方式进行训练。因此对整个ECL-SR框架采用组合损失函数进行了优化
  
  其中𝜆·控制每个辅助损失的贡献。

• 在推理阶段作者同时去除生成器和条件鉴别器只使用UBE来完成下一个项目预测任务。

4.4.2 模型复杂度

模型复杂度实例化的ECLSR的复杂性来自于3个部分

• 用户行为编码器UBE
• 生成器(G)
• 条件鉴别器CD。

它们都共享相同的嵌入表其中包含了大部分参数。UBE+CD的复杂性接近于SASRec因为它们的参数被共享以提高训练的稳定性和效率。G的复杂性仍然接近于BERT4Rec 。因此ECL-SR的整体复杂性与SASRec结合BERT4Rec共享嵌入表的复杂性相当。为了确保与SASRec相似的计算效率作者保持UBE和G的总层数与实验中使用的其他自注意方法相同。此外为了最小化计算开销作者固定了10个时代训练后G的参数。在推理过程中ECL-SR的速度与SASRec相当因为只使用了UBE。作者在Tab 4中总结了模型复杂度的比较。

5. 实验

5.1 数据集

5.2 总的结果

5.3 时间复杂度分析

更多实验参考原文。

6. 总结

在本文中作者提出了ECL-SR框架它有效地利用温和的和侵入性的增强来增强用户的行为表示。具体地说作者引入了一个条件鉴别器来捕获原始交互序列与其编辑版本之间的用户行为差异这已被证明是一个有用的目标鼓励用户行为编码器是等变的屏蔽项目替代增强。作者在四个基准SR数据集上的实验证明了ECL-SR的有效性与经典SR模型和基于不变对比学习的SR模型相比它具有良好的性能。在未来作者计划探索更多使用ECL-SR框架的数据增强方法的组合。