Awesome Deep Learning Papers for Search Recommendation Advertising下载 - Awesome Deep Learning Papers for Search Recommendation Advertising源码下载

Awesome Deep Learning Papers for Search Recommendation Advertising

其他源码

1.0.0

下载

用于工业搜索、推荐和广告的精彩深度学习论文。他们专注于嵌入、匹配、排名（CTR/CVR 预测）、后排名、大型模型（生成式推荐，LLM）、迁移学习、强化学习等。

00_嵌入

2013 (Google) (NIPS) [Word2vec] 单词和短语的分布式表示及其组合性
2014 (KDD) [DeepWalk] DeepWalk - 社会表征的在线学习
2015 (WWW) [LINE] LINE大规模信息网络嵌入
2016 (KDD) [Node2vec] node2vec - 网络的可扩展特征学习
2017 (ICLR) [GCN] 图卷积网络半监督分类
2017 (KDD) [Struc2vec] struc2vec - 从结构恒等式学习节点表示
2017 (NIPS) [GraphSAGE] 大图上的归纳表示学习
2018 (Airbnb) (KDD) *[Airbnb Embedding] 使用嵌入进行 Airbnb 搜索排名的实时个性化
2018（阿里巴巴）（KDD）*【阿里巴巴嵌入】阿里巴巴亿级电商推荐商品嵌入
2018 (ICLR) [GAT] 图注意力网络
2018 (Pinterest) (KDD) *[PinSage] 用于网络规模推荐系统的图卷积神经网络
2018 (WSDM) [NetMF] 网络嵌入作为矩阵分解 - 统一 deepwalk、line、pte 和 node2vec
2019（阿里巴巴）（KDD）*[GATNE] 属性多重异构网络的表示学习

01_配套

2013 (Microsoft) (CIKM) [DSSM] 使用点击数据学习网络搜索的深度结构化语义模型
2015 (KDD) [Sceptre] 推断可替代和互补产品的网络
2016 (Google) (RecSys) **[Youtube DNN] 用于 YouTube 推荐的深度神经网络
2018 (阿里巴巴) (KDD) * [TDM] 学习推荐系统的基于树的深度模型
2018 (Pinterest) (KDD) *[PinSage] 用于网络规模推荐系统的图卷积神经网络
2019 (阿里巴巴) (CIKM) **[MIND] 多兴趣网络与动态路由在天猫推荐
2019 (阿里巴巴) (CIKM) *[SDM] SDM - 在线大规模推荐系统的序列深度匹配模型
2019（阿里巴巴）（NIPS）*[JTM] 推荐系统的树基索引和深度模型的联合优化
2019（亚马逊）（KDD）语义产品搜索
2019 (百度) (KDD) *[MOBIUS] MOBIUS - 迈向百度赞助搜索中的下一代查询广告匹配
2019 (Google) (RecSys) **[双塔]大型语料库项目推荐的采样偏差校正神经建模
2019 (Google) (WSDM) *[Top-K Off-Policy] REINFORCE 推荐系统的 Top-K Off-Policy 修正
2019 [腾讯] (KDD) 腾讯以用户为中心的查询和文档理解概念挖掘系统
2020 (阿里巴巴) (ICML) [OTM] 学习Beam Search下的最优树模型
2020（阿里巴巴）（KDD）*[ComiRec] 可控多利益推荐框架
2020 (Facebook) (KDD) **[Facebook 搜索嵌入] Facebook 搜索中基于嵌入的检索
2020 (Google) (WWW) *[MNS] 用于学习推荐中的两塔神经网络的混合负采样
2020 (JD) (CIKM) *[DecGCN] 用于推断可替代和互补项的解耦图卷积网络
2020 (JD) (SIGIR) [DPSR] 迈向个性化和语义检索 - 通过嵌入学习实现电子商务搜索的端到端解决方案
2020 (Microsoft) (Arxiv) TwinBERT - 将知识提炼为双结构 BERT 模型以实现高效检索
2021 (阿里巴巴) (KDD) * [MGDSPR] 淘宝搜索中基于嵌入的商品检索
2021（亚马逊）（KDD）产品搜索中语义匹配的极限多标签学习
2021 (Bytedance) (Arxiv) [DR] 深度检索 - 学习大规模推荐的可检索结构
2022 (阿里巴巴) (CIKM) **[NANN] [二向箔] 大规模推荐的神经相似度度量下的近似最近邻搜索
2022 (阿里巴巴) (CIKM) [CLE-QR] 淘宝搜索查询重写
2022 (阿里巴巴) **(CIKM) [MOPPR] 淘宝搜索多目标个性化商品检索
2024（字节跳动）（KDD）【Trinity】三位一体 - 融合多元：长尾：长期利益合而为一

神经网络

2017 (Arxiv) (Meta) [FAISS] 使用 GPU 进行十亿级相似性搜索
2020 (PAMI) [HNSW] 使用分层可导航小世界图进行高效且稳健的近似最近邻搜索
2021 (TPAMI) [IVF-PQ] 最近邻搜索的产品量化

图神经网络

2017 (ICLR) [GCN] 图卷积网络半监督分类
2018 (ICLR) [GAT] 图注意力网络
2018 (Pinterest) (KDD) [PinSage] 用于网络规模推荐系统的图卷积神经网络
2019 (阿里巴巴) (KDD) [IntentGC] IntentGC - 融合异构信息推荐的可扩展图卷积框架
2019 (阿里巴巴) (KDD) [MEIRec] 用于意图推荐的元路径引导异构图神经网络
2019 (阿里巴巴) (SIGIR) [GIN] 赞助搜索中点击率预测的图意向网络
2020（阿里巴巴）（SIGIR）[ATBRG] ATBRG - 用于有效推荐的自适应目标行为关系图网络

02_预排位

2020（阿里巴巴）（DLP-KDD）[COLD] COLD - 迈向下一代预排名系统
2023（阿里巴巴）（CIKM）[COPR] COPR - 面向一致性的在线广告预排名
2023 (阿里巴巴) (KDD) [ASMOL] 重新思考预排名在大型电子商务搜索系统中的作用

03_排行榜

2014 (ADKDD) (Facebook) Facebook 广告点击预测的实践课程
2016 (Google) (DLRS) **[广度和深度] 推荐系统的广度和深度学习
2016 (Google) (RecSys) **[Youtube DNN] 用于 YouTube 推荐的深度神经网络
2018（阿里巴巴）（KDD）**[DIN] 用于点击率预测的深度兴趣网络
2019 (阿里巴巴) (AAAI) **[DIEN] 用于点击率预测的深度兴趣进化网络
2019 (Facebook) (Arxiv) [DLRM] (Facebook) 个性化和推荐系统的深度学习推荐模型，Facebook
2019 (Google) (Recsys) ** [Youtube 多任务] 推荐接下来观看的视频 - 多任务排名系统
2020（阿里巴巴）（Arxiv）** [SIM] 基于搜索的用户兴趣建模，使用终生序列行为数据进行点击率预测
2020 (JD) (CIKM) **[DMT] 用于大规模电子商务推荐系统中多目标排名的深度多面变压器
2020 (腾讯) (Recsys) ** [PLE] 渐进分层提取 (PLE) - 一种用于个性化推荐的新型多任务学习 (MTL) 模型
2021（阿里巴巴）（CIKM）* [ZEUS]电子商务多场景排名的用户自发行为自监督学习
2021（阿里巴巴）（CIKM）[STAR] One Model to Service All - 用于多域点击率预测的星形拓扑自适应推荐器
2022（阿里巴巴）（Arxiv）** [ETA] 用于点击率预测的高效长序列用户数据建模
2022（阿里巴巴）（WSDM）对用户的上下文化页面反馈进行建模，以预测电子商务搜索中的点击率
2022（元）[DHEN] DHEN - 用于大规模点击率预测的深度分层集成网络
2022 (WWW) [FMLP] 过滤器增强 MLP 是顺序推荐所需的全部
2023 (阿里巴巴) (Arxiv) [ESLM] 全空间学习框架 - 推荐系统全阶段无偏差转化率预测
2023 (Google) (Arxiv) 在工厂车间 - 工业规模广告推荐模型的机器学习工程
2023 (快手) (Arixiv) [TWIN] TWIN - 快手点击率预测中终身用户行为建模的两阶段兴趣网络
2023 (快手) (KDD) [PEPNet] PEPNet - 用于注入个性化先验信息的参数和嵌入个性化网络
2024（快手）（CIKM）[TWINv2] TWIN V2 - 扩展超长用户行为序列模型以增强快手的点击率预测
2024 (腾讯) (KDD) [LCN] 用于在线点击率预测的跨域终身序列模型

经典的

2003 (Amazon) (IEEE) [CF] Amazon.com 推荐 - 项目到项目协同过滤
2009 (计算机) [MF] 推荐系统的矩阵分解技术
2016 (ICLR) [GRU4Rec] 循环神经网络的基于会话的建议
2017 (Amazon) (IEEE) Amazon.com 的推荐系统二十年

深度神经网络

2019 (KDD) (Airbnb) 将深度学习应用于 Airbnb 搜索
2020 (Airbnb) (KDD) 改进 Airbnb 搜索的深度学习

延迟反馈问题

2008 (KDD) 仅从正面和未标记数据中学习分类器
2014 (Criteo) (KDD) [DFM] 展示广告中的延迟反馈建模
2018 (Arxiv) [NoDeF] 用于转化率预测的非参数延迟反馈模型
2019 (Twitter) (RecSys) 解决点击率预测中神经网络连续训练的延迟反馈问题
2020 (AdKDD) 多次转换的负二项回归延迟反馈模型
2020 (JD) (IJCAI) [TS-DL] 通过点击后校准进行延迟反馈的基于注意力的转化率预测模型
2020 (SIGIR) [DLA-DF] 延迟转换的双重学习算法
2020 (WWW) [FSIW] 延迟反馈下预测转化率的反馈偏移校正
2021（阿里巴巴）（AAAI）[ES-DFM] 通过经过时间采样捕获转化率预测中的延迟反馈
2021（阿里巴巴）（AAAI）[ESDF]全空间转化率预测的延迟反馈建模
2021（阿里巴巴）（Arxiv）[Defer] Real Negatives Matter - 使用真实负数进行延迟反馈建模的持续训练
2021 (Google) (Arxiv) 在建模延迟反馈中处理每次点击的许多转化
2021（腾讯）（SIGIR）延迟反馈流媒体推荐的反事实奖励修改
2022（阿里巴巴）（WWW）[DEFUSE] 通过标签校正进行延迟反馈建模的渐近无偏估计

特征交叉

2010 (ICDM) [FM] 因式分解机
2013 (Google) (KDD) [LR] 广告点击预测 - 来自战壕的观点
2016 (Arxiv) [PNN] 用于用户响应预测的基于产品的神经网络
2016 (Criteo) (Recsys) [FFM] 用于 CTR 预测的现场感知分解机
2016 (ECIR) [FNN] 多领域分类数据的深度学习 – 用户响应预测案例研究
2016 (KDD) [Deepintent] Deepintent - 使用循环神经网络学习在线广告的注意力
2016 (Microsoft) (KDD) [Deep Crossing] Deep Crossing - 无需手动制作组合特征的 Web 规模建模
2017 (Google) (ADKDD) [DCN] 用于广告点击预测的 Deep & CrossNetwork
2017 (华为) (IJCAI) [DeepFM] DeepFM - 基于因子分解机的点击率预测神经网络
2017 (IJCAI) [AFM] 注意力分解机通过注意力网络学习特征交互的权重
2017 (SIGIR) [NFM] 用于稀疏预测分析的神经分解机
2017 (WWW) [NCF] 神经协同过滤
2018 (CVPR) * [SENet] 挤压和激励网络
2018 (Google) (WSDM) [Latent Cross] 在循环推荐系统中利用上下文的潜在交叉
2018 (KDD) [xDeepFM] xDeepFM - 结合推荐系统的显式和隐式特征交互
2018 (TOIS) [PNN] 基于产品的神经网络，用于多字段分类数据的用户响应预测
2019 (CIKM) ** [AutoInt] AutoInt - 通过自注意力神经网络进行自动特征交互学习
2019 (华为) (WWW) [FGCNN] 用于点击率预测的卷积神经网络特征生成
2019 (新浪) (Arxiv) [FAT-DeepFFM] FAT-DeepFFM - Field Attentive Deep Field-aware Factorization Machine
2019 (新浪) (Recsys) [FiBiNET] FiBiNET - 结合特征重要性和双线性特征交互进行点击率预测
2019 (腾讯) (AAAI) [IFM] 推荐系统的交互感知分解机
2020 (百度) (KDD) [CAN] 百度视频广告组合注意力网络
2021 (Google) (WWW) * [DCN V2] DCN V2 - 改进的深度和跨网络以及网络规模学习排名系统的实践课程
2022（阿里巴巴）（WSDM）* [CAN] CAN - 用于点击率预测的特征协同网络
2023 (CIKM) * [GDCN] 迈向更深、更轻、可解释的交叉网络以进行点击率预测
2023 (新浪) (CIKM) [FiBiNet++] FiBiNet++ - 通过低阶特征交互层减少模型大小以进行点击率预测
2023 (新浪) (CIKM) [MemoNet] MemoNet - 通过多哈希码本网络有效记忆所有交叉特征的表示以进行点击率预测

长期序列建模

2019（阿里巴巴）（KDD）[MIMN]点击率预测的长序列用户行为建模实践
2019 (Google) (WWW) 针对长程依赖用户序列的神经混合推荐
2020（阿里巴巴）（Arxiv）** [SIM] 基于搜索的用户兴趣建模，使用终生序列行为数据进行点击率预测
2020 (ICLR) Reformer - 高效变压器
2020 (SIGIR) [UBR4CTR] 用于点击率预测的用户行为检索
2021（阿里巴巴）（Arxiv）[ETA] 点击率预测模型中的端到端用户行为检索
2022（阿里巴巴）（Arxiv）** [ETA] 用于点击率预测的高效长序列用户数据建模
2022（美团）（CIKM）[SDIM] 采样即可为长期用户行为建模以进行点击率预测
2023 (快手) (Arixiv) [TWIN] TWIN - 快手点击率预测中终身用户行为建模的两阶段兴趣网络
2023（快手）（CIKM）[QIN]大规模搜索排名的查询主导的用户兴趣网络
2024（快手）（CIKM）[TWINv2] TWIN V2 - 扩展超长用户行为序列模型以增强快手的点击率预测
2024 (腾讯) (KDD) [LCN] 用于在线点击率预测的跨域终身序列模型

损失

2024（腾讯）（KDD）了解稀疏用户反馈的推荐排名损失
2024 (腾讯) (KDD) [BBP] 超越二元偏好 - 利用贝叶斯方法进行排名和校准的联合优化

多式联运

2018 (阿里巴巴) (CIKM) [Image CTR] Image Matters - 使用高级模型服务器对用户行为进行可视化建模
2020（阿里巴巴）（WWW）[MARN] 用于点击率预测的对抗性多模态表示学习

多领域多场景

2014 (TASLP) * [LHUC] 学习隐藏单元对无监督声学模型适应的贡献
2015 (Microsoft) (WWW) 推荐系统中跨域用户建模的多视图深度学习方法
2018 (Google) (KDD) ** [MMoE] 使用多门混合专家对多任务学习中的任务关系进行建模
2019 (阿里巴巴) (CIKM) [WE-CAN] 电子商务搜索中使用 Wasserstein 正则化器的跨域注意力网络
2020（阿里巴巴）（Arxiv）[SAML]电子商务中多场景推荐的场景感知和基于相互的方法
2020（阿里巴巴）（CIKM）[HMoE] 通过利用标签空间中的任务关系改进电子商务中的多场景学习排名
2020 (阿里巴巴)(CIKM) [MiNet] MiNet - 用于跨域点击率预测的混合兴趣网络
2020 (腾讯) (Recsys) ** [PLE] 渐进分层提取 (PLE) - 一种用于个性化推荐的新型多任务学习 (MTL) 模型
2021（阿里巴巴）（CIKM）* [ZEUS]电子商务多场景排名的用户自发行为自监督学习
2021（阿里巴巴）（CIKM）** [STAR] One Model to Service All - 用于多域点击率预测的星形拓扑自适应推荐器
2022（阿里巴巴）（CIKM）AdaSparse - 学习自适应稀疏结构以进行多域点击率预测
2022（阿里巴巴）（NIPS）** [APG] APG - 用于点击率预测的自适应参数生成网络
2023（阿里巴巴）（CIKM）[HC2]多场景广告排名的混合对比约束
2023 (阿里巴巴) (CIKM) [MMN] Masked Multi-Domain Network - 单模型多类型、多场景转化率预测
2023（阿里巴巴）（CIKM）[Rec4Ad] Rec4Ad - 减轻淘宝广告点击率预测样本选择偏差的免费午餐
2023（阿里巴巴）（SIGIR）[MARIA] 自适应特征学习的多场景排名
2023 (CIKM) [HAMUR] HAMUR - 用于多域推荐的超级适配器
2023（华为）（CIKM）[DFFM] DFFM - 用于 CTR 预测的领域促进特征建模
2023（快手）（KDD）* [PEPNet] PEPNet - 用于注入个性化先验信息的参数和嵌入个性化网络
2023（腾讯）（KDD）场景自适应特征交互点击率预测
2024（阿里巴巴）（CIKM）* [MultiLoRA] MultiLoRA - 用于多域推荐的多向低秩自适应
2024（阿里巴巴）（RecSys）* [MLoRA] MLoRA - 用于点击率预测的多域低秩自适应网络
2024 (快手) (SIGIR) [M3oE] M3oE - 多领域多任务专家混合推荐框架
2024 (腾讯) (KDD) [LCN] 用于在线点击率预测的跨域终身序列模型
2024 (WSDM) 探索基于适配器的推荐系统迁移学习 - 实证研究和实践见解

多任务

(2018) (ICML) GradNorm - 深度多任务网络中自适应损失平衡的梯度归一化
2014 (TASLP) [LHUC] 学习隐藏单元对无监督声学模型适应的贡献
2017 (Google) (ICLR) [稀疏门控 MOE] 极其庞大的神经网络 - 稀疏门控混合专家层
2018（阿里巴巴）（KDD）[DUPN] 深入感知你的用户 - 从多个电子商务任务中学习通用用户表示
2018 (阿里巴巴) (SIGIR) [ESMM] 全空间多任务模型 - 估算点击后转化率的有效方法
2018 (CVPR) 多任务学习利用不确定性来权衡场景几何和语义的损失
2018 (Google) (KDD) ** [MMoE] 使用多门混合专家对多任务学习中的任务关系进行建模
2019（阿里巴巴）（CIKM）基于多任务的在线促销销售预测
2019（阿里巴巴）（Recys）电子商务推荐中多目标优化的帕累托有效算法
2019 (Google) (AAAI) SNR 子网路由，用于多任务学习中灵活的参数共享
2019 (Google) (Recsys) ** [Youtube 多任务] 推荐接下来观看的视频 - 多任务排名系统
2019 (NIPS) Pareto 多任务学习
2020（阿里巴巴）（SIGIR）[ESM2] 通过点击后行为分解进行全空间多任务建模以预测转化率
2020（阿里巴巴）（WWW）通过多任务学习消除点击后转化率估计的大规模因果方法
2020（亚马逊）（WWW）使用随机标签聚合的产品搜索多目标排名优化
2020 (Google) (KDD) [MoSE] 用户活动流的顺序专家多任务混合
2020 (JD) (CIKM) *[DMT] 用于大规模电子商务推荐系统中多目标排名的深度多面变压器
2020 (腾讯) (Recsys) ** [PLE] 渐进分层提取 (PLE) - 一种用于个性化推荐的新型多任务学习 (MTL) 模型
2021（阿里巴巴）（SIGIR）[HM3]通过多任务学习对微观和宏观行为进行分层建模以进行转化率预测
2021（阿里巴巴）（SIGIR）[MSSM] MSSM - 用于高效多任务学习的多级稀疏共享模型
2021 (百度) (SIGIR) [GemNN] GemNN - 用于 CTR 预测的具有特征交互学习的门控增强多任务神经网络
2021 (Google) (Arxiv) [DSelect-k] 专家混合中的 DSelect-k 可微分选择及其在多任务学习中的应用
2021 (Google) (ICLR) HyperGrid Transformers - 迈向用于多个任务的单一模型
2021 (Google) (KDD) 理解和提高多任务学习中的公平性与准确性的权衡
2021 (JD) (ICDE) 具有类别层次结构软约束的专家对抗性混合
2021 (Kwai) (Arxiv) [POSO] POSO - 用于大规模推荐系统的个性化冷启动模块
2021（美团）（KDD）利用定向展示广告中的多任务学习对受众多步骤转换进行顺序依赖建模
2021（腾讯）（Arxiv）混合虚拟内核专家进行多目标用户画像建模
2021（腾讯）（WWW）个性化近似帕累托有效推荐
2022 (Google) (WWW) 小头能帮忙吗？理解和改进多任务泛化
2023 (Airbnb) (KDD) 通过多任务学习优化 Airbnb 搜索之旅
2023 (阿里巴巴) (CIKM) [DTRN] 用于多任务推荐的深度任务特定底层表示网络
2023（Google）（CIKM）沉浸式提要和无更多点击的多任务排名系统 - 短视频推荐案例研究
2023 (Google) (KDD) 提高推荐系统中多任务排名模型的训练稳定性
2023（元）（KDD）AdaTT - 用于推荐中多任务学习的自适应任务到任务融合网络
2024 (Airbnb) (KDD) 多目标学习通过模型蒸馏进行排名
2024（快手）（KDD）[GradCraft] GradCraft - 通过整体梯度制作提升多任务推荐
2024（快手）[HoME] HoME - 快手多任务学习的多门专家层级
2024 (Shopee) (KDD) [ResFlow] 用于应用排名的残差多任务学习器
2024（腾讯）（KDD）【STEM】崩坏纠结世界的广告推荐

预训练

2019（阿里巴巴）（IJCAI）[DeepMCP] 表示学习辅助点击率预测
2019 (SIGIR) [BERT4Rec] (阿里巴巴) (SIGIR2019) BERT4Rec - 来自 Transformer 的双向编码器表示的顺序推荐

序列建模

2016 (Google) (RecSys) **[Youtube DNN] 用于 YouTube 推荐的深度神经网络
2017 (Google) (NIPS) ** 您所需要的就是关注
2018（阿里巴巴）（KDD）**[DIN] 用于点击率预测的深度兴趣网络
2018（阿里巴巴）（KDD）[DUPN] 深入感知你的用户 - 从多个电子商务任务中学习通用用户表示
2019 (阿里巴巴) (AAAI) **[DIEN] 用于点击率预测的深度兴趣进化网络
2019（阿里巴巴）（IJCAI）[DSIN] 用于点击率预测的深度会话兴趣网络
2019 (阿里巴巴) (KDD) [BST] 阿里巴巴电商推荐行为序列转换器
2019（阿里巴巴）（KDD）[DSTN] 用于点击率预测的深度时空神经网络
2019 (阿里巴巴) (WWW) [TiSSA] TiSSA - 用于建模顺序用户行为的时间片自注意力方法
2019 (腾讯) (KDD) [RALM] 基于实时注意力的推荐系统相似模型
2020（阿里巴巴）（SIGIR）[DHAN] Deep Interest with Hierarchical Attention Network for Click-Through Rate Prediction
2020 (Google) (KDD) [Google Drive] 提高 Google Drive 中的推荐质量
2020 (JD) (CIKM) **[DMT] 用于大规模电子商务推荐系统中多目标排名的深度多面变压器
2020 (JD) (NIPS) [KFAtt] CTR 预测中用户行为建模的卡尔曼滤波注意力
2020 (JD) (WSDM) [HUP] 电子商务推荐系统的分层用户分析
2022（阿里巴巴）（WSDM）对用户的上下文化页面反馈进行建模，以预测电子商务搜索中的点击率
2022 (JD) (WWW) 通过候选项目进行隐式用户认知建模，用于搜索广告中的点击率预测
2023 (JD) (CIKM) [IUI] IUI - 用于点击率预测的意图增强用户兴趣建模
2023（美团）（CIKM）[DCIN]用于点击率预测的深度上下文兴趣网络
2023 (Pinterest) (KDD) TransAct - 基于 Transformer 的 Pinterest 推荐实时用户操作模型

扳机

2022（阿里巴巴）（WWW）深度兴趣亮点网络，用于触发诱导推荐中的点击率预测

04_排名后

1998 (SIGIR) ** [MRR] 使用 MMR、基于多样性的重新排序来重新排序文档和生成摘要
2005 (WWW) 通过主题多样化改进推荐列表
2008 (SIGIR) [α-NDCG] 信息检索评估的新颖性和多样性
2009 (Microsoft) (WSDM) 多样化搜索结果
2010 (WWW) 利用查询重构实现 Web 搜索结果多样化
2016（亚马逊）（RecSys）视觉发现的自适应、个性化多样性
2017 (Hulu) (NIPS) [DPP] 行列式点过程的快速贪婪 MAP 推理以提高推荐多样性
2018（阿里巴巴）（IJCAI）电商搜索全球优化相互影响力感知排名
2018（阿里巴巴）（IJCAI）【阿里巴巴GMV】全球优化电商搜索相互影响力感知排名
2018 (Google) (CIKM) [DPP] YouTube 上具有行列式点过程的实用多样化推荐
2018 (SIGIR) [DLCM] 学习用于排名细化的深度列表上下文模型
2019 (阿里巴巴) (WWW) [Value-based RL] 基于强化利润最大化的价值感知推荐
2019（阿里巴巴）（KDD）[GAttN] 通过最大派系优化的 Exact-K 推荐
2019（阿里巴巴）（RecSys）** [PRM] 个性化推荐重排
2019 (Google) (Arxiv) 基于 Slate 的推荐系统的强化学习 - 一种易于处理的分解和实用方法
2019 (Google) (Arxiv) Seq2slate - 使用 rnns 进行重新排名和板岩优化
2019 (Google) (IJCAI) [SlateQ] SLATEQ - 使用推荐集进行强化学习的可处理分解
2019 (Google) (WSDM) [Top-K Off-Policy] REINFORCE 推荐系统的 Top-K Off-Policy 修正
2020 (Airbnb) (KDD) 管理 Airbnb 搜索的多样性
2020 (阿里巴巴) (CIKM) [EdgeRec] EdgeRec - 手机淘宝边缘推荐系统
2020（华为）（Arxiv）个性化重新排名以提高实时推荐系统的多样性
2021（阿里巴巴）（Arxiv）[PRS] 重新审视排列前景中的推荐系统
2021 (Google) (WSDM) 用于改进 REINFORCE 推荐系统的用户响应模型
2021 (微软) 随时随地的多样性！最大诱导基数目标下的流式行列式点过程
2023 (Amazon) (KDD) RankFormer - 使用列表范围标签进行列表学习排名
2023（美团）（KDD）PIER - 电子商务中基于排列水平兴趣的端到端重排序框架
2024（快手）（KDD）[NAR4Rec]用于重排序推荐的非自回归生成模型

序列2Slate

2015 (Google) (Arxiv) 大型离散动作空间中的深度强化学习
2015 (Google) (Arxiv) 深度强化学习，关注具有高维状态和动作的 Slate 马尔可夫决策过程
2017 (KDD) [DCM] 使用指针网络进行航空公司行程预测的深度选择模型
2018 (Microsoft) (EMNLP) [RL4NMT] 神经机器翻译强化学习研究
2019 (Google) (Arxiv) Seq2slate - 使用 rnns 进行重新排名和板岩优化

05_相关性

2020 (ICLR) [StructBERT] StructBERT - 将语言结构纳入深度语言理解的预训练中
2021（阿里巴巴）（WWW）从电子商务中的点击数据学习产品相关性模型
2023 (Meituan) (CIKM) [SPM] SPM - 美团搜索中相关性建模的结构化预训练和匹配架构

06_级联

2023（阿里巴巴）（CIKM）[COPR] COPR - 面向一致性的在线广告预排名
2023 (阿里巴巴) (KDD) [ASMOL] 重新思考预排名在大型电子商务搜索系统中的作用

07_大_模型

2019 (CIKM) [AutoInt] AutoInt - 通过自注意力神经网络自动特征交互学习
2020 (Arxiv) 神经语言模型的缩放定律
2022 (Arxiv) (Meta) DHEN - 用于大规模点击率预测的深度分层集成网络
2024 (Arxiv) (Bytedance) [HLLM] HLLM - 通过用于项目和用户建模的分层大型语言模型增强顺序推荐
2024 (Arxiv) **（元）[GR] 行动胜于雄辩 - 用于生成建议的万亿参数序列传感器
2024 (PMLR) (Meta) [Wukong] Wukong - 迈向大规模推荐的缩放法则

简历

2014 (ICML) [VAE] 自动编码变分贝叶斯
2014 (NIPS) [GAN] 生成对抗网络
2017 (NIPS) [VQ-VAE] 神经离散表示学习
2020 (NIPS) [扩散] 去噪扩散概率模型

深度学习

2012 (NIPS) [CNN] 使用深度卷积神经网络进行 ImageNet 分类
2014 (JMLR) [Dropout] Dropout - 防止神经网络过拟合的简单方法
2015 (Google) (JMLR) [BatchNorm] 批量归一化 - 通过减少内部协变量偏移加速深度网络训练
2015 (OpenAI) (ICLR) [Adam] Adam - 随机优化方法
2016 (CVPR) [ResNet] 图像识别的深度残差学习
2016 (OpenAI) (NIPS) [权重规范] 权重归一化 - 加速深度神经网络训练的简单重新参数化
2017 (Arxiv) [LayerNorm] 层标准化
2017 (Google) (NIPS) [Transformer] 注意力就是你所需要的

法学硕士

2013 (Google) (NIPS) [Word2vec] 单词和短语的分布式表示及其组合性
2014 (Google) (NIPS) [Seq2Seq] 使用神经网络进行序列到序列学习
2017 (Google) (NIPS) [Transformer] 注意力就是你所需要的
2017 (OpenAI) (NIPS) [RLHF] 根据人类偏好进行深度强化学习
2018 (OpenAI) (Arxiv) [GPT] 通过生成预训练提高语言理解
2019 (Google) (NAACL) [Bert] BERT - 用于语言理解的深度双向变压器的预训练
2019 (OpenAI) (Arxiv) [GPT2] 语言模型是无监督的多任务学习者
2020 (Arxiv) 神经语言模型的缩放定律
2020 (OpenAI) (Arxiv) [GPT3] 语言模型是少样本学习者
2021 (Microsoft) (Arxiv) [LoRA] LoRA - 大型语言模型的低阶适应
2022 (Google) (JMLR) [SwitchTransfomers] Switch Transformers - 通过简单高效的稀疏性扩展到万亿参数模型
2022 (Google) (NIPS) [ChainOfThought] 思维链提示引发大型语言模型中的推理
2022 (Google) (TMLR) [Emergent] 大型语言模型的应急能力
2022 (OpenAI) (Arxiv) [InstructGPT] 训练语言模型以遵循人类反馈的指令
2023（元）（Arxiv）[LLaMA] LLaMA - 开放高效的基础语言模型
2023 (OpenAI) (Arxiv) [GPT4] GPT-4 技术报告

教育部

2017 (Google) (ICLR) [稀疏门控 MOE] 极其庞大的神经网络 - 稀疏门控混合专家层
2018 (Google) (KDD) ** [MMoE] 使用多门混合专家对多任务学习中的任务关系进行建模
2022 (Google) (JMLR) [SwitchTransfomers] Switch Transformers - 通过简单高效的稀疏性扩展到万亿参数模型
2022（元）（EMNLP）专家混合的高效大规模语言建模
2024 (Google) (ICLR) 从专家的稀疏到软的混合

多式联运

2020 (Google) (ICLR) [ALBERT] ALBERT - 用于语言表示自监督学习的 Lite BERT
2021 (Google) (ICLR) [VIT] An Image is Worth 16x16 Words - 用于大规模图像识别的 Transformers
2021 (OpenAI) (ICML) [CLIP] 从自然语言监督中学习可迁移的视觉模型